「ベクトル埋め込み（エンベディング）」とは？

ベクトル埋め込みとは、意味を数値に変換したもの。モデルがテキストや画像や音声を長い数値の並びに変換し、意味の近いものが数値としても近くに配置されるようにする。これによって、コンピュータは単語を照合するのではなく、考えを比較できるようになる。

埋め込みモデルは、それぞれのテキストを数百から数千次元の空間内の一点に対応づける。その空間での距離が意味の近さを表すので、「車」と「自動車」は文字を一つも共有していないのに近くに着地し、川の土手と銀行は文脈が違えば遠くに離れる。この一つの性質が現代のAIの多くを動かしている。入力した単語を含む文書ではなく、入力の意味に一致する文書を見つける意味検索、レコメンド、重複検出、クラスタリング、そしてRAGの検索工程がそれだ。埋め込みはベクトルデータベースに保存され、類似度の指標で比較される。実務上の注意が二つある。埋め込みは学習データが持っていた偏りや盲点をそのまま受け継ぐこと、そして汎用の埋め込みは専門分野のニュアンスを取りこぼしやすく、法務や医療のテキストにはその分野向けに調整したモデルが必要になることが多い。

あらゆる料理に座標が割り当てられた巨大な味の地図だ。寿司は刺身の近くに、ブラウニーからは遠くに置かれ、レモンタルトはデザートと柑橘の中間あたりに落ち着く。座標そのものを味わえる人はいないが、二つの料理の距離を測れば、似ているかどうかが即座に分かる。