新たに軽量AI「Gemma 3 270M」が登場、ローカル環境でも即答してくれるのが凄い！

8月14日にGoogle DeepMindが発表した軽量AIモデル「Gemma 3 270M」を紹介しています。パラメータ数は約2億7000万と小さいものの、総パラメータの6割以上を25万6000語の語彙を持つ「埋め込み層」に割き、6兆トークン以上のデータで訓練することで知識密度の高い基盤モデルに仕上げており、あらゆる質問に答える万能型ではなく特定業務に特化した「専門家」としての利用を想定しています。評価軸も一般知識より「指示追従能力（IFEval）」を重視し、同規模モデルで最高水準のスコアを記録したとのこと。

学習段階から量子化を想定しているため、4ビット精度ならメモリ使用量は約240MBに抑えられ、スマートフォンで25回対話してもバッテリー消費は0.75%にとどまったといいます。実際に「LM Studio」でローカル動作させたところ応答速度が非常に速く、感情分析などの簡単なタスクは即答できたが、複雑なタスクではすぐに破綻したとしています。

この要約は生成AIで作成しました。

記事はこちら

新たに軽量AI「Gemma 3 270M」が登場、ローカル環境でも即答してくれるのが凄い！

柳谷智宣

ITライター

FacebookContact

1972年生まれ、東京育ち。ITやビジネスといったカテゴリーで執筆しているライターです。キャリアは27年目で、雑紙やムック、単行本、新聞といった紙媒体から、ウェブ記事、メールマガジン、プレスリリースなども手掛けています。現在は、執筆だけでなく、企画提案から執筆・編集までを行っております。主に一般ビジネスユーザーをターゲットに、易しく解説する記事が多いですが、エンタープライズ向けの記事やメーカーや企業のウェブサイトのコンテンツ制作も請け負っています。可能な限り、様々な案件に対応できますので、まずは打診いただけると幸いです。