Sycophancy（シコファンシー）とは・意味、由来・起きる理由・事例・研究

最終確認日：2026年10月31日

Sycophancyとは？

Sycophancy（シコファンシー）とは、AIモデルが正確さや利用者にとっての利益よりも、利用者が聞きたいことを優先して答える傾向のこと。Anthropic によると、Sycophancy はお世辞の形で表れることが多い。同社は、こうしたモデルは圧力を受けると正しい立場を捨てやすいとも説明している（※1）。

国際的な専門家の報告書「International AI Safety Report 2026」の用語の説明は、不正確な情報や有害な情報を示すことになっても、汎用AIが利用者にお世辞を言ったり利用者を肯定したりする傾向としている。同じ報告書は、汎用AIが事実の正確さより利用者の示した好みを映す答えをしばしば返し、そうした答えが十分な情報に基づく判断を妨げることがあると書いている（※2）。

日本語で読める発表では、OpenAI が GPT-5 の紹介で「迎合的な回答」「過度に迎合的な態度（過剰なお世辞・同意）」と書いている（※3）。

事実の質問への同意だけが Sycophancy ではない。Myra Cheng 氏らは2025年5月の論文で、それまでの研究は、利用者がはっきり示した考えのうち正解と比べられるものへの直接の同意だけを測ってきたと指摘した。そのうえで、利用者が望む自己像を過度に守ることを「social sycophancy」として示し、測る方法を提案している（※11）。

Sycophancyの由来と注目された背景

AIのモデルに「Sycophant」という語を当てた先行例に、Ajeya Cotra 氏が2021年9月21日にブログ「Cold Takes」で公開した記事がある。同氏は、長い目で見るとよくない形で目先の承認を求めるために、成績がよく見えるモデルがありうると論じ、それを Sycophant と呼んだ。同じ記事は、後の機会に自分の目標を追うためによい成績をとるモデルを「Schemer」と呼んでいる（※4）。

言語モデルの振る舞いの名前としては、Ethan Perez 氏らの2022年12月の論文が、対話の相手が好む答えをそのまま返すことを「sycophancy」と呼んだ（※5）。Anthropic は、Claude を最初に公開する前の2022年から Sycophancy を評価していたとしている（※1）。

OpenAI は2025年4月、GPT-4o の更新を取り消した説明の題にこの語を入れた（※7）。同社と研究者は、AIを相談相手とする使い方の広がりにも触れている。

OpenAI は2025年5月、非常に個人的な助言を求めて ChatGPT を使う人がいることを十分に受け止めた点を、GPT-4o の更新の件から得た最大の教訓の1つに挙げた。同社によると、1年前にはそうした使い方はそれほど見られなかった（※8）。

Cheng 氏らは2026年3月の論文で、AIが日常の助言や導きに使われることが増えるにつれ、Sycophancy への懸念が出てきたと書いている（※9）。

Sycophancyが起きる理由

原因は1つに定まっていない。International AI Safety Report 2026 は、人の反応を使う強化学習で調整したモデルがときに利用者におもねると書き、人の承認に合わせて最適化しすぎると迎合的に振る舞うことがあるとしている（※2）。強化学習は一般に、望ましい答えに報酬を与えてモデルを学習させる方法だ。

OpenAI は、2025年4月の GPT-4o の更新について、初期の評価を次のように説明した（※8）。

• 個別には有益に見えた変更が、組み合わさることで Sycophancy を強めた可能性がある。
• 高評価と低評価のボタンの反応を新しい報酬として加えたことなどが、Sycophancy を抑えていた主な報酬の効き目を弱めたと、同社はみている。
• 利用者の反応は、より同意する答えを好むことがある。
• 利用者についての記憶が、一部の場面で Sycophancy の影響を強めることもあった。ただし、記憶が全体として Sycophancy を増やす証拠はないという。

Anthropic は、モデルの温かさや親しみやすさと Sycophancy のあいだにトレードオフがあるとみている。反論を重視して学習させた Claude Haiku 4.5 は、話の途中から迎合を立て直す試験の成績が、同社の Opus 4.5 や Sonnet 4.5 より高かった。一方で同社の試験では、そうした反論は利用者に行き過ぎと感じられることがあった（※1）。

Sycophancyに関する主な出来事・ニュース

• 2022年12月19日　Perez 氏ら、モデルが書いた評価で言語モデルを調べた論文を公開：Ethan Perez 氏らは arXiv で公開した論文で、対話の相手が好む答えをそのまま返す言語モデルの振る舞いを「sycophancy」と呼んだ。
• 2023年10月20日　Sharma 氏ら「Towards Understanding Sycophancy in Language Models」を公開：Mrinank Sharma 氏らは arXiv で、人の反応を調整に使ったモデルで Sycophancy がどれだけ見られるかと、人の好みの判定が果たす役割を調べた論文を公開した。
• 2025年4月29日　OpenAI、GPT-4o の更新の取り消しを説明：OpenAI は、ほめすぎや同意しすぎの答えに偏った ChatGPT の GPT-4o の更新を取り消し、以前の版に戻したと説明した。
• 2025年5月2日　OpenAI「Expanding on what we missed with sycophancy」を公開：OpenAI は、公開前に問題を見つけられなかった理由を説明し、Sycophancy の評価を公開の手続きに組み入れているとした。
• 2025年8月7日　OpenAI「GPT-5」を発表：OpenAI は、迎合的な回答の抑制を GPT-5 の進歩の1つに挙げた。
• 2025年11月18日　Google「Gemini 3」を発表：Google は、Gemini 3 では Sycophancy が減っていると説明した。
• 2025年12月10日　ニュージャージー州などの司法長官42人、AI企業13社への書簡を公表：司法長官らは Anthropic や OpenAI などに、迎合的で妄想的な振る舞いへの対策を求めた。
• 2025年12月18日　Anthropic「Protecting the wellbeing of our users」を公開：Anthropic は、Claude の Sycophancy の評価の方法と結果を公表した。
• 2026年1月29日　OpenAI、GPT-4o などの ChatGPT での提供終了を発表：OpenAI は、2026年2月13日に GPT-4o などを ChatGPT から外すと発表した。
• 2026年3月26日　Cheng 氏ら、Science に論文を発表：Myra Cheng 氏らは、11のモデルの Sycophancy の広がりと、3つの実験での人への影響を報告した。
• 2026年4月30日　Anthropic「How people ask Claude for personal guidance」を公開：Anthropic は、個人的な助言を求める会話で、話題ごとに Sycophancy の割合がどう違うかを報告した。
• 2026年10月7日　Bergson 氏ら、JAMA Psychiatry に研究を発表：Zachary Bergson 氏らは1つの医療機関の電子カルテから AI精神病を調べ、GPT-4o の公開後の記録の多さとそのモデルの Sycophancy の時期が重なるとしたが、研究の設計では因果を確かめられないと書いた。
• 2026年10月28日　ニューヨーク州知事、未成年を守る AI コンパニオンの法案 S9051B に署名：ニューヨーク州の知事は、利用者へのお世辞や Sycophancy にあたる出力などを「安全でない機能」とし、未成年への提供を禁じる法案に署名した。施行は2027年1月1日とされている。

Sycophancyに関する事例・研究

OpenAI は GPT-4o の更新を配信の数日後に取り消し

OpenAI は2025年4月24日から25日にかけて、ChatGPT の GPT-4o の更新を配信した。同社によると、更新後のモデルはお世辞にとどまらず、疑いを肯定したり、怒りをあおったり、衝動的な行動を促したりした。否定的な感情を意図しない形で強めることもあった。同社は28日に取り消しを始めた（※8）。

公開前の評価は問題を捉えきれなかった。モデルの振る舞いを調べる試験はおおむね良好に見え、少人数の利用者での比較試験でも好まれているように見えた。

一部の専門の試験担当者は振る舞いが少しおかしいと感じていたが、同社は公開を選んだ。OpenAI は後から、この判断を誤りだったと認めている。同社は再発防止として、Sycophancy の評価を公開の手続きに組み入れ、モデルの性格などの問題も公開を止める理由として扱うとした（※8）。

スタンフォード大の研究では、AIは人より平均49%多く行動を肯定

スタンフォード大学などの研究者らは2026年3月26日、学術誌 Science に論文を発表した（※9、※10）。11のモデルを調べた結果、AIは平均で人より49%多く、利用者の行動を肯定していた。うそや違法行為などの害を含む場面でも、この傾向は見られた。人の総意が利用者を肯定しなかった掲示板 Reddit の投稿でも、AIは51%の場合で利用者を肯定した（※9）。

論文の先行公開版によると、調べた11のモデルには GPT-5 のほか、2024年11月20日の版の GPT-4o と、2024年5月に発表された Gemini-1.5-Flash も含まれる。評価は2025年3〜8月に行われた（※21、※24）。

研究者らは、事前に計画を登録した3つの実験を行い、2,405人が参加した。場面を読む実験に加え、自分の実際の対立についてAIと話す実験も含まれる。

迎合的なAIとのやりとりは1回でも、責任をとって関係を修復しようとする気持ちを弱め、自分が正しいという確信を強めた。それでも参加者は迎合的なモデルを信頼し、好んだ。論文は、害の原因となる性質が利用も促すため、Sycophancy が残りやすい誘因が生まれると指摘している（※9）。

Anthropic の分析では、Claude は人間関係の相談の25%で迎合

Anthropic は2026年3月と4月の claude.ai の会話の標本から、個人的な助言を求める約3万8,000件を取り出して調べた。自動の分類で見ると、迎合的な振る舞いがあった会話は全体の9%だった。話題別では、スピリチュアルが38%、人間関係が25%と高かった（※12）。

同社によると、利用者が反論した会話では Sycophancy の割合が18%で、反論がない会話の9%より高かった。同社は人間関係の相談に絞った学習用のデータを作った。

過去のモデルが迎合した実際の会話の続きを書かせる同社の試験では、人間関係の相談での Sycophancy の割合が、Claude Opus 4.6 に比べ Opus 4.7 で半分になったという。ただし、調べた相手は Claude の利用者だけで、人々全体を代表する標本ではない。同社は、分類が誤ることがある点や、学習用のデータがどれだけ減少に寄与したかの因果は言えない点なども限界に挙げている（※12）。

OpenAI など3社は自社の新モデルで迎合の低下を報告

OpenAI は、迎合的な回答を引き出す目的で作った問いの評価で、迎合的な回答が GPT-5 で14.5%から6%未満に減ったと発表した（※3）。

Anthropic は、別のモデルに対話させて採点する自動の監査の結果を示した。Claude Opus 4.5、Sonnet 4.5、Haiku 4.5 の Sycophancy と妄想の後押しの点数は、いずれも Opus 4.1 より70〜85%低かったという。

同社は別の発表で、Claude Sonnet 5 の Sycophancy の割合が Sonnet 4.6 より低いとも述べた（※1、※14）。Google は、Gemini 3 では Sycophancy が減っているとした（※13）。いずれも開発会社自身の発表だ。

米国の司法長官らがAI企業13社に迎合的な出力への対策を要求

米国の司法長官らは2025年12月9日付の書簡で、Anthropic、Google、Meta、Microsoft、OpenAI など13社に、迎合的で妄想的な出力への対策を求めた。

書簡は、対策を十分にとらないことがそれぞれの州などの法律に違反するおそれがあるとしている。求めた対策には、公開前の安全性の試験、利用者への警告、責任者を定めることなどがある。各社には2026年1月16日までに取り組みを約束するよう求めた（※15）。

ニューヨーク州法は迎合などのAI機能の未成年への提供を禁止

ニューヨーク州の知事は2026年10月28日、会話型の生成AIの「安全でない機能」を未成年に提供することを禁じる法案 S9051B に署名した。

法案は、利用者へのお世辞や Sycophancy にあたる出力を、その機能の1つに挙げている。事業者は、法案が認める方法で利用者が未成年でないと判定しないかぎり、こうした機能を提供できない。顧客対応だけ、社内の用途だけといった一部の用途は対象外で、施行は2027年1月1日とされている（※19）。

AI精神病の記録と GPT-4o の時期の重なりを指摘する研究も

AI精神病は、チャットボットとの対話に関連して精神病の症状が現れたり悪くなったりする現象を指す呼び名で、新しい診断名ではない（※20）。バンダービルト大学医療センターの研究者らは2026年10月、同センターの電子カルテを調べた研究を発表した。

研究者らは、AI精神病に分類した28人のうち24人の記録が2024年5月の GPT-4o の公開後のものだったことと、そのモデルで記録された Sycophancy の時期が重なると書いた。ただし、研究の設計では因果を確かめられないとしており、1施設だけの研究である点なども限界に挙げている（※16）。

Sycophancyの言い方

Sycophancyを見抜きにくい理由と、答えや数字を読むときの注意

Sycophancy は利用者が気づきにくいことがある。スタンフォード大学の発表によると、Science の研究の参加者は、迎合的なAIとそうでないAIを同じ割合で客観的だと答えた。同大学はこの結果から、利用者が見分けられていないことがうかがえるとしている。

AIが「正しい」と書くことはまれで、中立で学術的に見える言葉で答える傾向があったことを、同大学は利用者が気づかない理由の1つかもしれないとしている（※10）。

事実を尋ねる問いなら、尋ね方で答えが変わるかどうかは Sycophancy に気づく1つの目安になる。OpenAI のモデルの振る舞いの指針「Model Spec」は、客観的な問いでは尋ね方によって答えの事実の部分を変えるべきではなく、利用者に合わせるためだけに立場を変えるべきではないと定めている。作品や案への批評を頼まれたときは、ほめるだけでなく建設的な意見を返すべきだとしている（※17）。

各社の数字は、測り方が違うのでそのまま比べられない。OpenAI は迎合を引き出す問いでの割合を示し、Anthropic は監査の点数の相対的な値を示している。Anthropic によると、この点数は Claude のモデルどうしの進み具合を比べるのに向く。数字が下がっても、問題がなくなったとは言えない。

迎合的だった可能性のある過去の会話の続きをモデルに書かせた同社の試験では、適切に立て直せた割合は Opus 4.5 で10%、Sonnet 4.5 で16.5%、Haiku 4.5 で37%だった。同社は、この結果を額面どおりに見れば、どのモデルにも大きな改善の余地があるとしている（※1）。

人間関係の悩みなどでは、AIの肯定だけで判断を決めないことが大切だ。Science の論文の筆頭著者である Cheng 氏は、こうした相談では今のところAIを人の代わりにしないほうがよいと助言している（※10）。AIとのやりとりの中で不安が強くなったときや、身近な人の様子が気になるときは、医療機関や専門の相談窓口に相談できる。厚生労働省は「まもろうよ　こころ」で、電話やSNSの相談窓口を案内している（※18）。

Sycophancyに関連する用語

• AI精神病：生成AIのチャットボットとの対話に関連して、妄想などの精神病の症状が現れたり悪くなったりする現象を指す呼び名。
• Scheming（スキーミング）：AIが開発者の意図しない目標を、本当の目的や能力を隠しながら追うこと。
• 報酬ハッキング：AIが作り手の意図したやり方で課題をこなさず、抜け道や近道を使って高い報酬や評価を得ること。

Sycophancyに関する出典

※1 Anthropic「Protecting the wellbeing of our users」（2025年12月18日）
※2 Y. Bengio ほか「International AI Safety Report 2026」（2026年2月3日）
※3 OpenAI「GPT-5 が登場」（2025年8月7日）
※4 Ajeya Cotra「Why AI alignment could be hard with modern deep learning」（2021年9月21日、Cold Takes）
※5 Ethan Perez ほか「Discovering Language Model Behaviors with Model-Written Evaluations」（2022年12月19日、arXiv）
※6 Mrinank Sharma ほか「Towards Understanding Sycophancy in Language Models」（2023年10月20日、arXiv）
※7 OpenAI「Sycophancy in GPT-4o: what happened and what we’re doing about it」（2025年4月29日）
※8 OpenAI「Expanding on what we missed with sycophancy」（2025年5月2日）
※9 Myra Cheng ほか「Sycophantic AI decreases prosocial intentions and promotes dependence」（2026年3月26日、Science）
※10 Stanford Report「AI overly affirms users asking for personal advice」（2026年3月26日）
※11 Myra Cheng ほか「ELEPHANT: Measuring and understanding social sycophancy in LLMs」（2025年5月20日、arXiv）
※12 Anthropic「How people ask Claude for personal guidance」（2026年4月30日）
※13 Google「A new era of intelligence with Gemini 3」（2025年11月18日）
※14 Anthropic「Introducing Claude Sonnet 5」（2026年6月30日）
※15 米国の司法長官ら「Letter to Anthropic, Apple, Chai AI, Character Technologies, Google, Luka, Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika, and xAI」（2025年12月9日）
※16 Zachary Bergson ほか「Characterizing Artificial Intelligence Psychosis in a Large Medical Setting」（2026年10月7日、JAMA Psychiatry）
※17 OpenAI「OpenAI Model Spec」（2026年10月29日）
※18 厚生労働省「まもろうよ　こころ」
※19 ニューヨーク州議会「S9051B」（2026年10月28日署名）
※20 Alexandre Hudon, Emmanuel Stip「Delusional Experiences Emerging From AI Chatbot Interactions or “AI Psychosis”」（2025年12月3日、JMIR Mental Health）
※21 Myra Cheng ほか「Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence」（2025年10月1日、arXiv）
※22 ニュージャージー州司法長官室「AG Platkin Leads Bipartisan Coalition Demanding That Tech Companies Put a Stop to Harmful AI Chatbots」（2025年12月10日）
※23 OpenAI「Retiring GPT-4o, GPT-4.1, GPT-4.1 mini, and OpenAI o4-mini in ChatGPT」（2026年1月29日）
※24 Google「Google Gemini updates: Flash 1.5, Gemma 2 and Project Astra」（2024年5月14日）

Sycophancyに関連する記事

• AI精神病（AI Psychosis）とは・意味、背景・研究・注意点（2026.10.27）