LLMをノートPCで動かしたら結構動く！とってもプライベートな相談をしまくってみた

「AORUS 16X (2024)」でローカルLLMを動かすレビューの第2回です。「LM Studio」を使い、マイクロソフトの軽量モデル「Phi-3-mini」に日本語で恋愛相談をしたところ回答の精度が低かったものの、英語でのプロンプトでは6パターンの対応策を含む2000文字の的確なアドバイスが得られたと報告しています。続いて日本語性能を強化した「Llama-3-Swallow-8B-instruct-v0.1」に同じ質問をしたところ、コミュニケーションの深め方や自分磨きなど具体的で質の高い回答が返ってきたとのこと。

新規事業の壁打ちや未公開の決算分析といった他言無用の相談にも対応でき、クラウドサービスより高速に応答し、気兼ねなく「Regenerate」で再生成できる点を評価しています。ローカルAIなら情報漏洩の心配なく安心して感情や考えを書き留める「ジャーナリング」用途にも今後需要が高まると述べています。

この要約は生成AIで作成しました。

記事はこちら

LLMをノートPCで動かしたら結構動く！とってもプライベートな相談をしまくってみた

柳谷智宣

ITライター

FacebookContact

1972年生まれ、東京育ち。ITやビジネスといったカテゴリーで執筆しているライターです。キャリアは27年目で、雑紙やムック、単行本、新聞といった紙媒体から、ウェブ記事、メールマガジン、プレスリリースなども手掛けています。現在は、執筆だけでなく、企画提案から執筆・編集までを行っております。主に一般ビジネスユーザーをターゲットに、易しく解説する記事が多いですが、エンタープライズ向けの記事やメーカーや企業のウェブサイトのコンテンツ制作も請け負っています。可能な限り、様々な案件に対応できますので、まずは打診いただけると幸いです。