本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

パッケージハルシネーション(Package Hallucination)とは・意味、スロップスクワッティング・事例

パッケージハルシネーションとは?

パッケージハルシネーション(Package Hallucination)とは、AIがプログラムのコードを生成するときに、実在しないパッケージの名前を示す現象のこと。パッケージは一般に、ほかの人が作って公開の置き場で配っているプログラムの部品を指す。英語では「package hallucination」と表記する。

情報処理推進機構(IPA)も新しい試験のシラバス案で、プロフェッショナルデジタルスキル試験(仮称)などの科目A-1(共通知識)の用語の例にこの語を挙げている。

Joseph Spracklen 氏らは2024年の論文で、コードを生成するLLM(大規模言語モデル)の登場によってソフトウェアのサプライチェーンに生まれた新しい種類の脅威を、「package hallucinations」と呼んだ。同氏らは、Python や JavaScript の開発が中央のパッケージの置き場とオープンソースのソフトウェアに頼っていることも、その下地に挙げている。

サプライチェーンは一般に、ソフトウェアが部品の調達から配布までにたどる道筋を指す。

カナダのサイバーセキュリティセンターは2026年10月の指針で、バイブコーディングの限界の1つにハルシネーションを挙げた。AIの道具が存在しないパッケージやライブラリを作り出すことがあり、コードが動かないだけでなく悪用にもつながりうるという。

パッケージハルシネーションとスロップスクワッティングの違い

スロップスクワッティング(slopsquatting)は、AIが示しがちな架空のパッケージ名を攻撃者が先に登録し、悪意のあるコードを仕込んで開発者のインストールを待つ攻撃を指す。

パッケージハルシネーションはAIの誤りそのもので、スロップスクワッティングはその誤りを突く攻撃だ。カナダのサイバーセキュリティセンターも、予測できる架空のパッケージを攻撃者が登録してマルウェアを仕込む手口を slopsquatting と呼ぶ。

OWASP も2026年版のリスクの一覧で、この2つを別の項目で扱っている。存在しないパッケージを示す誤りは誤情報(Misinformation)の項に、架空の名前を登録して攻撃に使うことはサプライチェーン(Supply Chain)の項に入っている。

似た名前の攻撃に、人の打ち間違いにつけ込むタイポスクワッティングがある。

語 意味 つけ込む誤り・誤りの主
パッケージハルシネーション AIが実在しないパッケージの名前を示す現象 AIの誤り
スロップスクワッティング AIが示しがちな架空の名前を登録し、悪意のあるコードを仕込む攻撃 AIの誤り
タイポスクワッティング 打ち間違いにつけ込む攻撃 人の誤り

パッケージハルシネーションとスロップスクワッティングの由来

Lasso Security の Bar Lanyado 氏は、2024年3月の同社のブログで、前の勤め先の Vulcan Cyber で行った調査で「AI Package Hallucination」という攻撃手法を明らかにしたと記している。この記事は、その調査から半年後に、範囲を広げて調べ直した報告だ。

2024年6月には、Spracklen 氏らが「package hallucinations」を題に含めた論文を arXiv で公開した。2025年8月のセキュリティの国際会議 USENIX Security では、同じ題の論文が発表され、Distinguished Paper Award を受けた。

スロップスクワッティングの語は、2025年4月に広まった。オープンソースのソフトウェアを調べる ecosyste.ms に取り組む Andrew Nesbitt 氏は4月8日の Mastodon の投稿で、LLMが存在しないパッケージ名を作り、悪意のある者がそれを登録することを「Slopsquatting」と呼んだ。

Nesbitt 氏はこれをタイポスクワッティングの「AIの兄弟」と表し、名前は Seth Larson 氏によるものだと添えている。スロップ(slop)は一般に、質の低いものを指す英語だ。

その後、Lanyado 氏は Nesbitt 氏の投稿に、この攻撃手法は「package hallucination」と呼ばれていると返信した。Python のセキュリティに携わる Larson 氏はこれに答え、「Package hallucination」のほうがずっとよい名前だと記した。会話の中で作った語がこれほど早く広まるとは思わなかったという。

パッケージハルシネーションに関する主な出来事・ニュース

パッケージハルシネーションに関する事例・研究

エージェントのスキルを通じて架空のnpxコマンドが広がった

Charlie Eriksen 氏は、2026年1月の Aikido Security のブログで、npm に存在しなかったパッケージ名 react-codeshift を1月14日に自ら登録したと報告した。登録の時点で、237以上の GitHub のリポジトリがこの名前を参照していたという。

同氏によると、名前はLLMが作ったものだ。実在する jscodeshift と react-codemod の2つを、LLMが混ぜたとみている。出どころをたどると、2025年10月17日の1回のコミットに行き着いた。このコミットはLLMが作った47のエージェントスキルを加えたもので、誰かが見直した様子はなかったという。

このうち少なくとも2つのスキルに、react-codeshift を npx(npm のパッケージを取得して実行する命令)で動かす指示があった。スキルはフォークやコピーで広がり、日本語に訳したものまであった。

登録のあとも、react-codeshift には1日に1〜4回のダウンロードが続いた。Eriksen 氏は、スキルの指示に従うAIエージェントが実際に動かそうとしているとみている。同氏によると、記事の時点でこのパッケージは安全な仮の置き場で、乗っ取られた人もいない。同氏が先に登録していなければ、攻撃者が登録して悪用できたという。

2026年に試した5つのモデルでも名前の4.6〜6.1%が架空だった

独立の研究者 Aleksandr Churilov 氏は、2026年5月の論文で Spracklen 氏らと同じ方法を新しいモデルで試した。対象は Claude Sonnet 4.6、Claude Haiku 4.5、GPT-5.4-mini、Gemini 2.5 Pro、DeepSeek V3.2 の5つで、Python と JavaScript の約20万件の生成を調べた。

コードに含まれるパッケージ名のうち、PyPI と npm の名前の一覧にないものの割合は、Claude Haiku 4.5 の4.62%から GPT-5.4-mini の6.10%までだった。5つのモデルがそろって作った名前は127あった。PyPI のセキュリティの担当と Socket.dev に伝えて確かめた結果、2026年4月の時点で攻撃者が登録できる名前は、そのうち53だったという。

数字には測り方の条件がある。測ったのは2026年4月22〜28日の時点で、モデルは告知なく更新されることがある。同じ質問の集まりがモデルの学習に入っていれば、割合は低く出る可能性があると著者は書いている。

GPT-5.4-mini は推論を最も軽くした設定で試し、回答を断った割合がほかの4つより高かった。Churilov 氏は、この論文で道具を使うエージェントの形を試していない。

コーディングエージェントでも架空の名前は残った

トレンドマイクロの調査部門は2025年の調査で、Claude Code CLI と OpenAI Codex CLI のコーディングエージェントでも、架空のパッケージ名がどの程度出るかを試した。

同社は、基盤モデルで架空の名前が特に多かった10の依頼に絞り、エージェントを手作業で試した。推論の機能やWeb検索を備えたエージェントでも、依頼が複雑なときは架空の名前が1〜2件出た。同社は典型的な型として、要求に合わせて関連する語をつなげた名前や、実在するパッケージの名前の付け方をまねた名前を挙げている。

パッケージハルシネーションへの備えとシラバス案での扱い

名前が実在しても安全とは限らない

AIが示したパッケージが置き場にあるかを確かめるだけでは、安全とは言えない。トレンドマイクロは、攻撃者がAIの作りがちな架空の名前を先に登録して待っている可能性があるので、存在の確認だけでは足りないと注意している。

OWASP は2026年版の一覧で、AIが勧めた依存先(コードが使うほかのパッケージ)を取り入れる前の確認を対策の1つに挙げる。そのパッケージが実在し、意図したものかを確かめるという。Eriksen 氏はスキルやAIの道具を管理する人に向けて、パッケージが実在し、思っている相手が公開したものかを確かめるよう勧めている。

インストールの前に止めて確かめる対策

カナダのサイバーセキュリティセンターは、スロップスクワッティングへの対策に次の4つを挙げている。

  • AIエージェントによるパッケージの自動のインストールを禁じる。
  • 許可した一覧か、担当者が見直す関門を設ける。
  • ビルドの工程で依存先の版を固定し、パッケージのハッシュ(中身から計算する値)を確かめる。
  • SBOM(ソフトウェアの部品の一覧)を使う。

トレンドマイクロも、使い捨てのコンテナや仮想マシンの中でインストールを試すことや、新しいパッケージや見慣れないパッケージを担当者が承認することを勧めている。

IPAの2つのシラバス案に語が入った

IPAが2027年度から始める予定の新しい試験制度で、2つの語はシラバス案に用語の例として入った。プロフェッショナルデジタルスキル試験(仮称)などの科目A-1(共通知識)は、「AI駆動開発」の項目でパッケージハルシネーションを挙げ、「AIのリスク・脅威」の項目でスロップスクワッティングを挙げる。

基本情報技術者試験も、「AIのリスク・脅威」の項目でスロップスクワッティングを挙げる。IPAは、シラバス案の内容は変わる可能性があるとしている。

パッケージハルシネーションに関連する用語

  • バイブコーディング:作りたいものを普段の言葉でAIに伝え、AIが生成したコードでアプリやプログラムを作る開発のやり方。
  • エージェントスキル:仕事の手順や専門の知識をファイルにまとめ、AIエージェントが必要なときに読み込んで使えるようにする仕組み。
  • MCP:AIのアプリを外部のデータや道具、決まった作業の手順とつなぐための、オープンソースの共通の規格。
  • プロフェッショナルデジタルスキル試験(仮称):応用情報技術者試験と高度試験を組み直して設けられる予定の、3つの国家試験。

パッケージハルシネーションに関する出典

情報処理推進機構「プロフェッショナルデジタルスキル試験(仮称)及び情報処理安全確保支援士試験 科目A-1(共通知識)シラバス(案)Ver.0.1」(2026年9月30日掲載)
情報処理推進機構「基本情報技術者試験 シラバス(案)Ver.0.1」(2026年9月30日掲載)
情報処理推進機構「新試験制度のシラバス案について」(2026年6月30日公開、10月30日更新)
Joseph Spracklen ほか「We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs」(2024年6月12日、2025年3月2日改訂、arXiv)
Bar Lanyado「Diving Deeper into AI Package Hallucinations」(2024年3月28日、Lasso Security のブログ)
Andrew Nesbitt「Slopsquatting – when an LLM hallucinates a non-existent package name…」(2025年4月8日、Mastodon)
Seth Larson「Nice! “Package hallucination” is a much better name…」(2025年4月29日、Mastodon)
Canadian Centre for Cyber Security「Managing security risks in vibe coding (ITSM.60.043)」(2026年10月29日)
OWASP GenAI Security Project「OWASP GenAI LLM Top 10 2026」(2026年8月3日)
Trend Micro Research「スロップスクワッティング:AIエージェントのハルシネーションにつけ込む攻撃手法」(2025年7月4日)
Charlie Eriksen「Agent Skills Are Spreading Hallucinated npx Commands」(2026年1月21日、3月17日更新、Aikido Security のブログ)
Aleksandr Churilov「The Range Shrinks, the Threat Remains: Re-evaluating LLM Package Hallucinations on the 2026 Frontier-Model Cohort」(2026年5月16日、8月9日改訂、arXiv)
USENIX「We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs」(2025年8月、34th USENIX Security Symposium)

パッケージハルシネーションに関連する記事