本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

埋め込み(エンベディング/Embedding)とは・意味、仕組み・主なモデル・注意点

埋め込み(エンベディング)とは?

埋め込み(エンベディング/Embedding)とは、文章や画像などのデータを、意味の近いもの同士が近くに並ぶように数値を並べたベクトルへ変換したもの、またはその変換のこと。英語の embedding の訳で、日本語の文書では Microsoft が「埋め込み」、Google Cloud が「エンベディング」と表記している。

OpenAI は開発者向けの文書で、埋め込みを小数の値を並べたベクトルと説明している。2つのベクトルの距離が短ければ元の文章どうしの関連が強く、長ければ弱いとみなせる。同社は使い道として、検索、似た文章をまとめるクラスタリング、推薦、異常の検知、分類などを挙げている。

社内の資料などを検索して生成AIの回答に使うRAG(検索拡張生成)も、代表的な使い道の1つだ。Google は、RAGのシステムを作ることはAI製品でよくある使い方だとし、埋め込みはモデルの出力の事実の正確さなどを大きく高めるうえで重要な役割を果たすとしている。

埋め込みの仕組み

文章を1,536個や3,072個の数値の並びに変える

OpenAI の text-embedding-3-small は、既定で1,536個の数値を並べた埋め込みを返す。上位の text-embedding-3-large は3,072個だ。並べる数値の個数は次元数と呼ばれ、Google の gemini-embedding-001 と gemini-embedding-2 も、既定は3,072次元だ。

Google Cloud の文章の埋め込みは、「密なベクトル」の表現を使う。単語をそのまま数値に置き換える性質の強い「スパースベクトル」と違い、密なベクトルは文章の意味をよりよく表すように作られている。このため、質問と同じ語を使っていない文章でも、意味が合えば検索で見つけられると、Google Cloud は説明している。

ベクトルどうしの近さで意味の近さを測る

Microsoft は、Azure OpenAI の埋め込みでは、文書と質問の類似度の計算に多くの場合コサイン類似度を使うとしている。コサイン類似度は2つのベクトルがなす角度のコサインで、文書の大きさの違いで2つのベクトルの直線の距離が離れていても、角度が小さければ値は高くなりうる。OpenAI の文書の文章検索の例も、質問と各文書の埋め込みのコサイン類似度を計算し、値の高い文書を返している。

Preferred Networks(PFN)は、自社の埋め込みモデルで「ディープラーニング」と「深層学習」をそれぞれベクトルにして比べたところ、コサイン類似度は0.9以上と高かったと紹介している。

語の一致で探す検索は表記の揺れに弱いと、PFN は説明している。一方で埋め込みを使う検索は、ベクトルの学習がうまくいっていれば、こうした揺れも吸収して検索できるという。ただし同社は、語の一致で探す検索も非常に強力だとし、両者を組み合わせる方法がよい検索の仕組みを作る定石の1つになりつつあるとしている。

次元を減らして保存の量を抑える

OpenAI の第3世代の埋め込みモデルは、ベクトルの末尾の数値を削って短くしても、意味を表す性質が保たれるように学習されている。開発者は dimensions のパラメーターで次元数を指定できる。たとえば1,024次元までしか扱えないベクトルデータベースでも、3,072次元の text-embedding-3-large を1,024次元に短くして使える。ただし、精度は少し下がる。

Google の gemini-embedding-001 と gemini-embedding-2 は、Matryoshka Representation Learning(MRL)と呼ぶ手法で学習されており、次元数を128〜3,072の範囲で選べる。同社は、768・1,536・3,072次元を勧めている。

画像や音声も同じ空間に並べるモデル

文章だけでなく、画像や動画、音声も同じ空間のベクトルに変える埋め込みモデルも出ている。AWS は2025年10月、文章・文書・画像・動画・音声を1つのモデルで扱う Amazon Nova Multimodal Embeddings の一般提供を Amazon Bedrock で始めた。

Google の gemini-embedding-2 も、文章・画像・動画・音声・PDF を1つの埋め込みの空間に変える。異なる種類のデータをまたいで検索や分類ができ、100を超える言語に対応する。

埋め込みの主なモデルと提供状況

OpenAI と Google は、自社の埋め込みモデルを API で提供している。Anthropic は自社の埋め込みモデルを提供しておらず、開発者向けの文書で、埋め込みの提供元の1つとして MongoDB の Voyage AI を紹介している。

提供元 モデル 入力の種類と上限 次元数 料金(100万トークンあたり)
OpenAI text-embedding-3-small 文章(8,192トークン) 既定で1,536 0.02ドル
OpenAI text-embedding-3-large 文章(8,192トークン) 既定で3,072 0.13ドル
Google gemini-embedding-2 文章・画像・動画・音声・PDF(合わせて8,192トークン) 128〜3,072、既定で3,072 文章の入力は0.20ドル。無料枠がある
Google gemini-embedding-001 文章(2,048トークン) 128〜3,072、既定で3,072 0.15ドル。無料枠がある
Voyage AI(MongoDB) voyage-4-large・voyage-4・voyage-4-lite 文章(32,000トークン) 既定で1,024。256・512・2,048も選べる 順に0.12ドル・0.06ドル・0.02ドル。どのアカウントも最初の2億トークンは無料

※2026年11月時点

埋め込みが広まった経緯

単語をベクトルで表す研究は、今の生成AIより前から続いている。2011年3月に arXiv で公開された Ronan Collobert 氏らの論文は、ニューラルネットワークが表の形で持つ単語ごとのベクトルを「word embeddings」と呼んでいる。

2013年1月には Tomas Mikolov 氏らが、非常に大きなデータから単語の連続したベクトル表現を求める2つのモデルの構造を提案する論文を arXiv で公開した。

2022年1月には Arvind Neelakantan 氏らが、ラベルのない大量のデータでの対照学習で文章とプログラムのコードの埋め込みを作る論文を arXiv で公開した。

OpenAI は2024年1月に第3世代の埋め込みモデルを公開し、次元数を指定する dimensions のパラメーターも足した。

Google は2025年7月、Gemini API と Vertex AI で文章の埋め込みモデル gemini-embedding-001 の一般提供を始めた。2026年3月には、画像や音声も扱う gemini-embedding-2 のパブリックプレビューを始め、4月に一般提供へ移した。

埋め込みに関する主な出来事・ニュース

埋め込みに関する事例・研究

国内の企業も日本語向けの埋め込みモデルを提供

PFN は2025年4月、自社の大規模言語モデル PLaMo をもとに作った日本語のテキスト向けの埋め込みモデル PLaMo-Embedding-1B を発表し、Hugging Face から重みを入手できるようにした。ライセンスは Apache 2.0 で、商用にも使える。同社は、埋め込みモデルは情報検索で広く使われ、RAGを組むうえでも重要だと説明している。

ソフトバンクの子会社の SB Intuitions は2026年10月13日、国産生成AI「Sarashina」の6つのモデルを API で使える「Sarashinaサービス」の無償ベータ版の提供を始めた。6つのうちの「Sarashina3 embedding」は、文章や FAQ などを検索する RAG での活用を想定したモデルだ。

次元数が検索で返せる文書の組み合わせを限るという研究

Google DeepMind と米ジョンズ・ホプキンス大学の Orion Weller 氏らは、1つのベクトルで文章を表す埋め込みの検索について、理論上の限界を論文で示した。2026年の国際会議 ICLR に採録された論文で、arXiv では2025年8月に初版が公開された。

論文の示した限界は、ある質問の検索結果として上位に返せる文書の組み合わせの数に、埋め込みの次元数で上限が決まるというものだ。同氏らはこの理論をもとに、5万件の文書と「誰が〇〇を好きか」という単純な質問1,000件からなる、埋め込みモデルを試すためのデータセット LIMIT を作った。

埋め込みの英語での言い方

英語表記 意味 使用主体
embedding データを数値の並びで表したもの OpenAI、Google
vector embedding ベクトルとしての埋め込み OpenAI、Weller 氏ら
text embedding 文章の埋め込み OpenAI、Google
multimodal embedding 画像・音声などを含むデータの埋め込み Google、AWS
embedding space 埋め込みのベクトルが並ぶ空間 Google
word embeddings 単語の埋め込み Collobert 氏ら

埋め込みを使うときの注意点

モデルを替えると埋め込みを作り直す必要がある

gemini-embedding-001 と gemini-embedding-2 の埋め込みの空間には、互換性がない。このため、一方のモデルで作った埋め込みと、もう一方で作った埋め込みは直接比べられない。gemini-embedding-2 へ移る利用者は、保存してあるデータをすべて埋め込みに変え直す必要がある。

学習データの時点より後の出来事は反映されない

OpenAI によると、text-embedding-3-large と text-embedding-3-small は2021年9月より後の出来事を知らない。文章を生成するモデルほどの制約には一般にならないものの、一部の場面では性能が下がることがあるという。

埋め込みからも元の文章を推し量られるおそれ

セキュリティの国際団体 OWASP の GenAI Security Project は、LLMアプリのセキュリティリスクをまとめた一覧の2026年版で、保存した埋め込みから元の文章を復元される攻撃を挙げている。

ベクトルデータベースのバックアップ、外部のサービスに送った埋め込み、クラウドの保存先の設定の誤りで外から見えている埋め込みは、元の文書が漏れたのと同じに扱うべきだと、同プロジェクトは指摘している。

Gemini API の無料枠では入力が製品の改善に使われる

Google は Gemini API の料金のページで、埋め込みモデルの無料枠では入力を製品の改善に使い、有料枠では使わないとしている。

埋め込みに関連する用語

  • RAG(検索拡張生成):生成AIが社内の資料やWebなどの外部の情報源を検索し、見つけた情報を根拠に回答を生成する仕組み。
  • エージェンティックRAG:AIエージェントが検索の進め方を自分で決め、結果を確かめながら回答を作るRAGの仕組み。
  • 大規模言語モデル(LLM):大量の文章のデータで学習し、文章の生成や翻訳、要約といった言語にかかわる作業を行うAIモデルのこと。
  • AI-Ready化:データや文書、組織などを、AIが学習や利用に使える状態へ整えること。

埋め込みに関する出典

Microsoft「Microsoft Foundry Models の埋め込み(クラシック)における Azure OpenAI」(2026年6月11日更新)
Google Cloud「テキスト エンベディングを取得する」(2026年11月11日更新)
OpenAI「Vector embeddings」
Google「Embeddings | Gemini API」
Kaito Suzuki「テキスト埋め込みモデルPLaMo-Embedding-1Bの開発」(2025年4月16日、Preferred Networks の Tech Blog)
AWS「Announcing Amazon Nova Multimodal Embeddings」(2025年10月28日)
Google「Gemini Embedding 2: Our first natively multimodal embedding model」(2026年3月10日)
Anthropic「Embeddings」
OpenAI「Pricing」
Google「Gemini Developer API pricing」
Voyage AI「Pricing」
Ronan Collobert ほか「Natural Language Processing (almost) from Scratch」(2011年3月2日、arXiv)
Tomas Mikolov ほか「Efficient Estimation of Word Representations in Vector Space」(2013年1月16日、9月7日改訂、arXiv)
Arvind Neelakantan ほか「Text and Code Embeddings by Contrastive Pre-Training」(2022年1月24日、arXiv)
OpenAI「Changelog」
Google「Gemini API で Gemini エンベディングが一般公開に」(2025年7月14日)
Google「Gemini Embedding 2 is now generally available」(2026年4月22日)
SB Intuitions「国産生成AI「Sarashina」を利用できる「Sarashinaサービス」の無償ベータ版を提供開始」(2026年10月13日)
Orion Weller ほか「On the Theoretical Limitations of Embedding-Based Retrieval」(2025年8月28日、2026年3月12日改訂、arXiv)
OWASP GenAI Security Project「OWASP GenAI LLM Top 10 2026」(2026年8月3日)

埋め込みに関連する記事