スマホの写真フォルダをさかのぼって運動会の一枚を探すだけで指が疲れた経験はない？
ボイスメモも似たようなものだ。日付しか付いていない録音から「あの会議の声」を当てる作業はほぼくじ引きになる。
Googleが10月6日に公開したEmbeddingGemma 2はその手の探し物を端末の中で片付けるためのAIだ。740Mパラメータの中身はスマホやノートPCでの実行を前提に組まれている。新しいAIでスマホが賢くなる日を待っていた人ほど次の事実に拍子抜けするはずだ。
こいつは話しかけても一文も返してこない。
740Mもあるのに無口すぎるｗ
答えない740Mの正体
このモデルの仕事は、文字・画像・動画・音声を同じ数字の並びへ変換するところまで。意味の近いデータは近い数字になるので、「運動会」の一言で写真を引けるし文章から録音も拾える。声のメモから動画の場面を探す使い方まで想定されている。
答える係ではなく、答えるAIに資料を運ぶ係なのである。
チャットAIのように返事が欲しいなら、文章を作る生成モデルを後ろにもう一台つなぐしかない。拾う係と話す係の二人組で、やっと会話が成り立つ。
無口なのは仕様だったわけだ。
でも僕はこの無口な係の方に惚れている。回答文に拍手するのは簡単だけど、毎日困っているのは探す方じゃない？
ファイル名も撮影日も忘れたデータに、意味という入口が一本増える。しかも探す対象のファイルを外のサーバーへ送らない構成も選べる。家族の写真や仕事の録音をクラウドに預けたくない人には、その一点だけで十分な値打ちがあると思う。
全部入りは載せなくていい
740Mという数字を見て、スマホに丸ごと詰め込む話だと思ったなら早とちり。
中身は部品の組み合わせで、必要な分だけ読み込める。
文字だけなら270M、文字と画像なら440M、文字と音声なら570M、全部入りなら740Mだ。
写真を探すアプリなら、音声担当の300Mを背負う理由はどこにもない。目と耳を付け外しできる作りには設計の必然が見えて、素直にうれしくなる。
量子化してPixel 11 Proで動かした実行例だと全部入りが約567MBで、文字だけなら約191MBに収まった。一台での実測なので、端末やアプリが変われば数字も動く。
ライセンスはApache 2.0で、モデル自体にお金はかからない。代わりに払う通貨はスマホのメモリになる。
写真を探したいだけの人が払う価値のある分は440Mまで。残りの300Mは使わない耳の代金で、740Mだけを見出しに掲げる紹介は雑すぎる。
6分の1に縮める代償
検索に使う数字の列は768個が基本で、512・256・128まで短くできる。128まで縮めれば保存量は6分の1。
スマホの容量を食わないなら最高じゃない？
ところが公式の成績も一緒に沈む。多言語の文字検索は61.36から57.89へ、画像検索は64.64から59.06へ落ちる。
軽さと引き換えに、探し物の外れくじが増える計算になる。
256まで縮めた場合は保存量が3分の1で、成績は60.41と63.13。写真検索のアプリを作るなら、僕は256で止めると思う。
しかもモデルを落としてきただけでは公式の点は出ない。
実装時は半精度のfloat16だと計算がおかしくなったり精度が落ちたりする可能性があるので、bfloat16かfloat32を使う。文字検索では目的ごとに決まった前置きの文字列が必要で、画像・動画・音声・文字は8,192トークンの枠を分け合う。
同じモデルでも、組み込む側の腕で賢さが変わってしまう。
勝ち負けが混ざる成績表
前の世代は308Mのテキスト専用モデルだった。コード検索の点は68.76から78.68へ大きく伸びたのに、多言語の文字検索は61.15から61.36。
ほぼ足踏みじゃないか。
他社の小型モデルjina-embeddings-v5-omni-nanoと並べると、画像検索では64.6対49.4で圧勝する。なのに多言語の文字検索は61.4対65.5、音声は49.4対50.1で負けている。
画像なら一強、文字と音声は二番手。
写真が中心の検索アプリならこのモデルが候補になる。録音探しが主役なら、ほかの小型モデルと自分のデータで比べた方がいい。
100以上の言語に対応していても、言語ごとの出来に差があることは制限欄に明記されている。公式の点数は日本語での実力までは約束してくれない。
モデルは開発者向けの配布サイトで配られ、Googleの試用アプリに検索デモが入った段階にある。国内でどの端末まで試せるかは、まだはっきりしない。
スマホの写真を勝手に賢く探してくれる日を待つ人は、今日はまだメモリも期待も差し出さなくていい。740Mの全部入りは設計の上限で、払う価値があるのは探したいデータに合わせて削った部品の分だけ。
無口な740Mは、目と耳を選んだ作り手にだけ仕事をする。
