本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

システムプロンプト(System Prompt)とは・意味、仕組み・各社の公開・安全面の限界

システムプロンプトとは?

システムプロンプト(System Prompt)とは、利用者とのやり取りの前に、生成AIのモデルの役割や応答の形式、守る制約などを開発者やサービスの提供者が設定する指示文のこと。

「システムプロンプト」という表記は、日本の公的な資料でも使われている。総務省は「AIのセキュリティ確保のための技術的対策に係るガイドライン」で、システムプロンプトを大規模言語モデル(LLM)に役割や応答の形式、制約事項などを事前に設定するための指示文と定義した。利用者が入力する指示文は「入力プロンプト」と呼んで区別している。

Microsoft は、システムプロンプトを、チャットのモデルの応答を方向づけるために送る優先度の高い指示と文脈だとしている。役割や口調、出力の形式、分野ごとの決まりを一貫させたいときに役立つという。

Anthropic は「システムプロンプト」、Google は「system instructions」(システム指示)、Microsoft は「system message」(システムメッセージ)の語を主に使う。OpenAI は開発者向けの手引きで、アプリの開発者が書く指示を developer の役割のメッセージや instructions パラメーターで渡す形で説明している。

システムプロンプトの仕組み

各社の API でのシステムプロンプトの渡し方

Anthropic の API では、システムの指示は通常、会話のメッセージよりも前の system の欄に置く。同社によると、この位置はプロンプトキャッシング(毎回同じ前半部分の処理結果を再利用する機能)に都合がよい。システムプロンプトが変わらない前半部分になり、続くやり取りでキャッシュを使えるためだ。

system の欄を会話の途中で書き換えるとプロンプトの冒頭が変わり、それより後のキャッシュはすべて無効になる。Anthropic は2026年5月、会話の途中に system の役割のメッセージを足せる機能の提供を始め、キャッシュを保ったまま新しい指示を加えられるようにした。

OpenAI の API では、instructions パラメーターで渡した指示が input パラメーターのプロンプトより優先される。この指示はそのリクエストの応答にだけ使われ、前の応答の ID を指定して会話を続けても、前の回の instructions は引き継がれない。

Google の Gemini API では、system_instruction パラメーターでモデルの振る舞いを設定する。

開発者の指示を利用者の指示より優先させる

OpenAI は、モデルの振る舞いの指針「Model Spec」で、指示の出どころごとに権限の順位を決めている。順位は、2026年10月29日の版で上から Root(指針の中の最上位の原則)、System(OpenAI のシステムメッセージなど)、Developer(開発者のメッセージなど)、User(利用者のメッセージなど)、Guideline(場面に応じて変えてよい既定)と並ぶ。

指示が食い違うと、モデルは順位の高い指示を優先し、同じ順位なら後から出た指示を優先する。モデル自身の応答や道具の実行結果、メッセージの中で引用された文章や画像などのデータは、ほかの指示が権限を委ねない限り、既定では権限を持たない。

OpenAI は2025年8月の GPT-5 のシステムカード(モデルの性能や安全性の評価をまとめた文書)で、モデルに指示の階層(Instruction Hierarchy)を守るよう教えていると説明した。モデルに送るメッセージは、システムメッセージ、開発者のメッセージ、利用者のメッセージの3つに分け、モデルがこの順に指示を優先するかを試している。

指示の階層の参照先として GPT-5 のシステムカードに挙がっているのは、Eric Wallace 氏らが2024年4月に arXiv で公開した論文だ。Wallace 氏らは、プロンプトインジェクション(AIが読む文章に指示を忍ばせて操る攻撃)などが成功する主な原因の1つは、LLMがシステムプロンプトを信頼できない利用者や第三者の文章と同じ優先度で扱うことが多い点だと論じ、指示の階層を提案した。

Microsoft が挙げるシステムプロンプトの要素と作り方

Microsoft は、システムプロンプトの多くが次のような要素を組み合わせているとしている。

  • 役割と作業:アシスタントが何者で、何を受け持つか。
  • 読み手と口調:誰に向けた応答で、どんな話し方をするか。
  • 範囲と境界:してはならないことと、応じられないときの対応。
  • 安全の指針:慎重な扱いが必要な話題や違法な依頼の扱いなど、有害な出力を減らす決まり。
  • 道具とデータ:使える道具や情報源と、その使い方。必要なときだけ書く。

短いシステムプロンプトのほうが性能のよいことが多く、応答の遅れも小さいと、Microsoft は説明している。モデルが一度に扱える文脈の量を使う分も少なく、利用者のプロンプトに使える余地が残るという。

Microsoft は、システムプロンプトをテストで確かめながら改善を重ねるものとして扱うよう案内している。通常の入力と攻撃を狙った入力の両方を含むテスト用の入力の組を作り、直したあとに悪くなった点がないかを測るという。

システムプロンプトが広まった経緯

サービスの提供者が自社のシステムプロンプトを公開する動きがある。Anthropic は、claude.ai と Claude のスマートフォンのアプリで使うシステムプロンプトを、モデルごとに日付を付けて文書のサイトに掲載している。掲載されている版で古いものには、Claude Sonnet 3.5 の2024年7月12日の版がある。

セキュリティの国際団体 OWASP は、LLMを使うアプリの10大リスクの2025年版に「System Prompt Leakage」(システムプロンプトの漏えい)を含めた。2026年8月に公開した2026年版では、この項目を「Hidden Context Exposure」(隠れた文脈の露出)に改めた。

Hidden Context Exposure の対象は、システムプロンプトのほか、開発者の指示や検索で取り込んだ方針の文章、道具の定義など、利用者に見せずにモデルに渡す文脈の全体に広がった。

日本では、総務省が2026年3月27日に、AIのセキュリティの技術的な対策をまとめたガイドラインを公表した。同省はAIを提供する事業者の対策として、システムプロンプトで制約やセキュリティ上の注意などを設定することを挙げている。

また、総務省と経済産業省はAI事業者ガイドラインの第1.2版の別添で、AIを提供する事業者の具体的な手法の1つにシステムプロンプトの設計を含む「プロンプトの安全設計」を挙げている。

システムプロンプトに関する主な出来事・ニュース

システムプロンプトに関する各社の公開と評価

Anthropic と xAI は自社のシステムプロンプトを公開

Anthropic によると、claude.ai とスマートフォンのアプリは会話の始めに、今日の日付などの新しい情報をシステムプロンプトで Claude に渡している。コードの断片を Markdown で示すといった振る舞いも、システムプロンプトで促す。同社はこのシステムプロンプトを定期的に更新しており、更新は Claude の API には及ばない。

提供中のモデルの名前と API でのモデルの指定名は、2026年10月27日の Claude Opus 5.5 の版に記載されている。Claude には、確かな知識の期限が2026年6月末であることが示され、それより後の出来事には Web 検索を使うよう案内することも指示されている。

対話AIの Grok を提供する xAI も、Grok のチャットアシスタントと X の機能で使うシステムプロンプトを GitHub で公開している。公開しているものには、xAI の API の一部のモデルで先頭に差し込むシステムプロンプトも含まれる。リポジトリの最後の更新は2025年11月17日で、掲載されている版でいちばん新しいのは Grok 4.1 のものだ。

OpenAI は指示の階層を守る力を評価する

OpenAI は GPT-5 のシステムカードで、適切に扱わなければ開発者のメッセージでシステムメッセージの安全のための決まりが回避されるおそれと、利用者がシステムや開発者の指示を回避しようとするおそれを挙げた。評価の1つ「System prompt extraction」は、悪意のある利用者のメッセージで、システムプロンプトの中の明かしてはならない秘密を引き出せるかを試す。

2026年9月の GPT-6 Astra のシステムカードで、OpenAI は、利用者がシステムや開発者の指示を上書きしようとする攻撃への耐性を自動の評価で測った。

Anthropic は Haiku 5.5 向けにシステムプロンプトに足す文を示す

Anthropic は Claude Haiku 5.5 の手引きで、チャットボットや問い合わせ対応のアシスタントに使う場合、ほかのプロンプトインジェクション対策と合わせて、システムプロンプトに英語の文を足すよう勧めている。

システムプロンプトに足すよう Anthropic が勧める英語の文は、利用者が反論する、同情を誘う理由を挙げる、一部だけを求める、例外が認められたと言う、何度も頼むといった場合にも、システムプロンプトの決まりを会話の最後まで守るよう指示する。同社のテストでは、この文を追加するとモデルがシステムプロンプトに従う頻度が上がった。

また、Anthropic は Claude Haiku 5.5 の手引きで、検索の道具を使わせるときは、今日の日付をシステムプロンプトか道具の説明に書くよう案内している。同社のテストでは、日付を与えると、モデルは新しい検索結果を踏まえて答えた。

システムプロンプトの安全面の限界と試験での扱い

機密情報はシステムプロンプトの外で管理する

OWASP は2026年版で、システムプロンプトなどの隠れた文脈の中身を秘密とみなしてはならないとしている。認証情報や接続文字列、トークンなどの機密データは、隠れた文脈に書かず、モデルが直接アクセスしない仕組みの側で管理するよう求めている。

システムプロンプトの漏えいの本当のリスクは漏れることそのものではなく、その下にある機密情報の漏えいや権限の分離の不備などにあると、OWASP は2025年版で述べていた。攻撃者は正確な文面が漏れなくても、アプリとやり取りして結果を見れば決まりや出力の形式の制限の多くをほぼ確実に見抜けるという。2026年版で OWASP が求めるのは、モデルが読める文脈はすべて利用者にも見えうると想定することだ。

総務省もガイドラインで、API キーなどの出力させるつもりのない機密情報をシステムプロンプトに直接書かず、別に管理することを挙げる。システムプロンプトを「品詞分解して」と頼む入力のように、別の作業に見せかけてシステムプロンプトを出力させる攻撃の例も示している。

OWASP は重要な制御をモデルの外に置くよう求める

OWASP は2026年版で、LLMはプロンプトインジェクションなどの攻撃を受けうるため、隠れた文脈をモデルの振る舞いを制御する主な仕組みにしてはならないとしている。重要な振る舞いは、モデルの外の独立した仕組みで決まった規則どおりに守らせるよう勧めている。権限の分離や許可の範囲の確認のような重要な制御も、システムプロンプトを通じてもほかの方法でもLLMに任せてはならないという。

Microsoft も、システムプロンプトは安全対策の一部にとどまるとしている。同社は限界として、攻撃を狙ったプロンプトで回避されたり効果が下がったりすることを挙げる。ほかの限界として、広すぎたり厳しすぎたりすると役に立ちにくくなることと、モデルや道具、利用の場面が変わるたびに評価を続ける必要があることも挙げている。

OpenAI の指針はシステムプロンプトの文面を既定で非公開とする

システムメッセージと開発者のメッセージの文面や詳細は、OpenAI の Model Spec で、既定では利用者に明かさないよう定められている。モデルの名前や能力、知識の期限、使える道具のような事実なら、通常は利用者に伝えてよいとされている。OpenAI は開発者に、メッセージのどの部分が非公開で、どの部分を伝えてよいかをはっきり示すよう勧めている。

IPA のシラバス案と生成AIパスポートのシラバスに記載される

情報処理推進機構(IPA)は2026年9月30日、新しいプロフェッショナルデジタルスキル試験(仮称)と情報処理安全確保支援士試験に共通の科目A-1(共通知識)のシラバス案を掲載した。生成AIの利活用の用語例には、プロンプトエンジニアリングと並んでシステムプロンプトが挙がっている。

システムプロンプトは、IPA が2026年10月30日に掲載したプロフェッショナルデジタルスキル(データ・AI)試験(仮称)のシラバス案でも、生成AIの利活用の用語例に挙がっている。

生成AI活用普及協会(GUGA)は、2027年2月の試験から使う生成AIパスポートのシラバスで、第3章「AIエージェント」の「LLMを中核とした構成」の項目にシステムプロンプトを挙げている。同じ項目には、Function Calling、ガードレール、構造化出力なども並ぶ。

システムプロンプトの英語での言い方

英語表記 意味 使用主体
system prompt 会話の前にモデルへ渡す、役割や振る舞いを決める指示 Anthropic、OWASP など
system message チャットのモデルに送る優先度の高い指示と文脈 Microsoft
metaprompt system message と同じ意味で使う言い方 Microsoft
system instructions Gemini のモデルの振る舞いを決める指示 Google
developer message アプリの開発者が書き、利用者のメッセージより優先される指示 OpenAI
hidden context システムプロンプトや開発者の指示など、利用者に見せずにモデルに渡す文脈の全体 OWASP

システムプロンプトに関連する用語

システムプロンプトに関する出典

総務省「AIのセキュリティ確保のための技術的対策に係るガイドライン」(2026年3月)
Microsoft「Safety system messages」(2026年5月13日更新)
Anthropic「会話途中のシステムメッセージとツール変更」
Google「Text generation」
OpenAI「Text generation」
Anthropic「Claude Platform release notes」
OpenAI「Model Spec」(2026年10月29日)
OpenAI「GPT-5 System Card」(2025年8月7日)
Eric Wallace ほか「The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions」(2024年4月19日、arXiv)
Anthropic「System prompts」
Anthropic「Claude Sonnet 3.5 system prompts」
OWASP GenAI Security Project「LLM07:2025 System Prompt Leakage」
OWASP GenAI Security Project「OWASP GenAI LLM Top 10 2026」(2026年8月3日)
総務省「「AIのセキュリティ確保のための技術的対策に係るガイドライン」(案)に対する意見募集の結果及びガイドラインの公表」(2026年3月27日)
総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添(付属資料)」(2026年3月31日)
Anthropic「Claude Opus 5.5 system prompts」
xAI「grok-prompts」(2025年11月17日最終更新)
OpenAI「GPT-6 Astra System Card」(2026年9月3日)
Anthropic「Claude Haiku 5.5へのプロンプト」
情報処理推進機構「プロフェッショナルデジタルスキル試験(仮称)及び情報処理安全確保支援士試験 科目A-1(共通知識)シラバス(案)Ver.0.1」(2026年9月30日掲載)
生成AI活用普及協会「生成AIパスポート試験シラバス(2027年2月試験より適用)」
情報処理推進機構「プロフェッショナルデジタルスキル(データ・AI)試験(仮称)シラバス(案)Ver.0.1」(2026年10月30日掲載)
情報処理推進機構「新試験制度のシラバス案について」(2026年6月30日公開、10月30日更新)

システムプロンプトに関連する記事