本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

AI Near-Miss Reporting(AIのニアミス報告)とは・意味、定義の違い・米英の法案

AI Near-Miss Reportingとは?

AI Near-Miss Reporting(AIのニアミス報告)とは、AIの開発や利用がもとで害が出かけたものの、偶然や途中の介入で害に至らなかった出来事を報告し、記録すること。英語では「reporting near misses」「near-miss reporting」と表記する。

安全保障と新しい技術の政策を研究する米国の CSET(Center for Security and Emerging Technology)は、2025年1月の報告書でAIのニアミスを定義した。CSET のいうニアミスは、害につながりえたものの偶然に避けられたか途中で止められた出来事だ。

CSET は例に、自動運転車が一時停止の標識で止まらなかったものの、交差点にほかの車がいなかったために事故を避けられた場合を挙げている。

AI Agent Incident(AIエージェント・インシデント)は、AIエージェントの行動がもとで害が出たか、出かけた出来事そのものを指す。AIのニアミス報告は、エージェントに限らず、害に至らなかった出来事を対象にする。

英国政府は2026年10月、重大なAIのインシデントと並べて、ニアミスをどう見つけて報告するかを検討するとした。米国の上院に9月に出た法案も、同じAIの欠陥から生じたとみられるインシデントとニアミスを、共通の欠陥の番号でひもづける仕組みを盛り込んでいる。

AI Near-Miss Reportingの定義の違い

ニアミスに数える範囲は、資料によって違う。違いの1つは、まだ出来事になっていない危険な状態と、害に至らなかった実際の出来事を分けるかどうかだ。

資料 原文の表記 定義
OECD の報告書(2024年5月) AI hazard AIの開発・利用・誤作動が、AIインシデントにつながると合理的に考えられる出来事。ニアミスは、AIインシデントにつながりえた出来事として、この定義に含めると説明している
CSET の報告書(2025年1月) AI near miss AIの開発・利用・誤作動が害につながりえたが、偶然に避けられたか、途中で止められた出来事。まだ実際の出来事になっていない危険な状態(hazard)とは分ける
米国の NIST・NSA・CISA の文書(2026年10月) SI control near-miss 超知能(SI)の制御のインシデントには至らなかったものの、そうなる危険が合理的に予見できたか、差し迫っていた出来事
AI Incident Database の編集の手引き(2026年10月) near harm AIが一因となって、容易に害につながりえた一連の出来事が起きたが、AIから独立した外部の要因が結果を防いだ出来事。組み込みの安全装置が設計どおりに働いただけのものは、外部の要因に当たらないとする

CSET は、OECD がニアミスを AIハザードにまとめていることに対し、2つを分けることが重要だとしている。ニアミスは義務の報告に含めるべきだとする一方で、危険な状態にあたるハザードは一般に義務の報告にはなじまず、任意の報告のほうが適している場合があるという。

米国の国立標準技術研究所(NIST)、国家安全保障局(NSA)、サイバーセキュリティ・インフラストラクチャー安全保障庁(CISA)の3機関は、超知能の制御のインシデントを防ぐ・見つける・対応するための制御や安全策、手順に潜む隙や弱点がニアミスで明らかになることがあると説明している。

AI Incident Database(AIID)は、公開の資料で指摘されたAIによる害や、害に至りかけた出来事を集めるデータベースだ。AIID は編集の手引きで、危険な動きをするロボットを近くの作業員が電源を切って止めた例をニアミス(near harm)としている。

一方、ロボットが自ら異常な動きに気づいて止まった例は、通常はニアミスに当たらないと AIID はしている。

AI Near-Miss Reportingが注目されるようになった経緯

CSET は2025年1月の報告書で、AIのインシデントの報告を義務にする制度に何を盛り込むかをまとめ、インシデントとニアミスの両方を義務の報告の対象に含めるよう提言している。

提言の理由には、ニアミスは結果のほかはインシデントと似た特徴を持ち、データを集める助けになることが挙げられている。ニアミスの報告は新しいAIのリスクを早く見つける助けになりうるほか、ニアミスを追うと害を防いだ重要な条件が分かる可能性があり、安全策を強めるのに生かせるという。

CSET は、交通・医療・サイバーセキュリティの分野の事故報告の仕組みも調べた。CSET の分析では、3分野の報告の仕組みはAIの分野の取り組みよりもニアミスを丹念に記録していた。医療では、報告されるインシデントの大半をニアミスの報告が占めることが多いとしている。

AI Near-Miss Reportingに関する主な出来事・ニュース

AI Near-Miss Reportingに関する米英の法案と政府の方針

米上院の法案はニアミスを同じ欠陥にひもづける

「Artificial Intelligence Risk Management and Security Act of 2026」(S. 5576)は、商務省のもとに常設の人工知能安全委員会を設ける法案だ。Warner 上院議員が Schatz 議員、Kim 議員とともに、2026年9月29日に提出し、法案は商務・科学・運輸委員会に付託された。

提出の時点の本文では、NIST が CISA と協力し、制定から180日以内に情報を任意で共有する仕組みを作る。共有の対象は、確かめられたか疑いのあるAIのセキュリティや安全のインシデントと、同じく確かめられたか疑いのあるAIの欠陥の情報だ。企業や公的機関のほか、市民団体や研究者も情報を寄せられる。

法案のいうAIの欠陥は、利用者が意図して何かをしなくても、安全のインシデントを起こすか、その危険を大きく高める、繰り返し起きるか再現できるAIの特徴、ふるまい、故障の形だ。仕組みには、同じ欠陥から生じたとみられるインシデントやニアミスを、共通の欠陥の番号でひもづける手順を設ける。

NIST は制定から1年以内に、一般に公開するデータベースを作る。NIST は欠陥を見つけたとき、同じ欠陥に関わる既知のほかのインシデントやニアミス、モデル、システムも、できる範囲で特定する。

法案が義務の報告の対象にするのは、確かめられたインシデントだ。最先端のAIモデルの開発者・提供者と、産業の制御システムなどの管理にAIを使う重要インフラの運営者が、確認から30日以内に報告する。国の安全や重要インフラ、公共の安全に差し迫った脅威があれば、期限は72時間以内になる。

米国の3機関はニアミスの基準づくりと報告を求める

NIST、NSA、CISA は2026年10月16日、超知能の訓練・評価中のインシデントへの備えと対応について、法的な拘束力のない実践をまとめた。実践はインシデントに至らなかったニアミスにも、いくつかの段階で触れている。

準備の段階で3機関は、インシデントとニアミスの指標・基準・重大度の点数をはっきり決めるよう求めている。ニアミスを見つけたときにも、エージェントの活動をすぐに遮ったり封じ込めたり、終わらせたりできる仕組みを作るとした。

報告の段階で3機関は、適用される報告の義務を守ることに加えて、超知能の制御のインシデントとニアミスも報告するよう求めている。3機関は、法律で義務づけられた報告を済ませたうえで、制御のインシデントとニアミスについての超知能に特有の情報を政府の超知能の専門家と任意で共有することも挙げた。

共有の相手の例には、NIST の CAISSI(超知能の技術革新・標準のセンター)や NSA の SISC(超知能のセキュリティセンター)が挙がっている。

英国政府はAIのニアミスの報告を法案の枠組みで検討

英国政府は2026年10月12日、AIのリスクへの備えを強める施策を発表した。重要なサービスを守るサイバーセキュリティ・レジリエンス法案の枠組みで、重大なAIのインシデントとニアミスをどう見つけて報告するかを検討するとしている。

英国政府は、教訓を素早く生かして将来の害のリスクを減らす方法もあわせて検討するとした。施策の細部は、議員や技術の専門家、施策を担う事業者と詰めるとしている。

英国政府はニアミス報告の義務を外す案を出し任意の仕組みを約束

英国議会の貴族院は2026年10月26日、この法案を審議した。政府の Lloyd of Effra 政務次官は、データセンターの運営者に一部のニアミスを規制当局の Ofcom へ報告させる義務を、修正案で外すと述べた。

代わりに同氏が約束したのは、規制の対象のすべての事業者に向けて、任意のニアミスの報告の仕組みを設けることだった。仕組みは新たな主たる法律がなくても作れるとし、意味のある開示を促す策を、業界や規制当局などと協議するとしている。同氏は策の例に、法的・規制上の保護、信頼できる報告の経路、情報共有の仕組みを挙げた。

英国政府は10月26日の審議で、任意の報告の仕組みの設計には相当の作業が必要だとして、設計の作業を続けるとしていた。この仕組みは、規制の対象の事業者によるサイバーのニアミスの報告を増やすことを主な目的にする見込みだという。ただ、規制の対象の外の組織が加わることも自動的には妨げないと、Lloyd of Effra 政務次官は述べた。

同氏は、ニアミスの報告の仕組みづくりについて、AIエージェントが関わるこの種のインシデントがなぜ、どう起きるかの理解を深めるうえでも意味のある一歩になるとした。

サイバーセキュリティ・レジリエンス法案は2026年11月2日に貴族院の第三読会を終え、2026年11月8日時点では庶民院が貴族院の修正を審議する段階にある。

AI Near-Miss Reportingの言い方

表記 意味 使用主体
near-miss incidents 英国政府が、見つけて報告する方法を検討するとした出来事 英国政府
near-miss reporting ニアミスの報告。英国政府が任意の仕組みを設けると約束した 英国政府の政務次官
reporting near misses ニアミスの報告。CSET が義務の報告に含めるよう提言した CSET
close calls 交通の分野で、起こりえたが起きなかった事故を指す言い方 CSET の報告書の説明

AI Near-Miss Reportingに関連する用語

  • AI Agent Incident:AIエージェントの行動がもとで、人や組織、システムに害が出たか、出かけた出来事。
  • 封じ込め:AIモデルやAIエージェントが届く範囲をAIの外側の仕組みで区切り、AIが意図しない動きをしても影響が外に及ばないようにする安全対策。

AI Near-Miss Reportingに関する出典

Ren Bin Lee Dixon、Heather Frase「AI Incidents: Key Components for a Mandatory Reporting Regime」(2025年1月、Center for Security and Emerging Technology)
英国政府「Britain steps up national defences against growing AI risks」(2026年10月12日)
米国議会「S. 5576 (IS) – Artificial Intelligence Risk Management and Security Act of 2026」(2026年9月29日)
OECD「Defining AI incidents and related terms」(2024年5月)
NIST CAISSI・NSA SISC・CISA「Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation」(2026年10月)
Daniel Atherton、Sean McGregor「Editorial and Research Guide for the AI Incident Database」(2026年10月1日、AI Incident Database)
NIST「Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation」(2026年10月16日)
英国議会「Cyber Security and Resilience (Network and Information Systems) Bill」(2026年10月26日、Hansard)
英国議会「Cyber Security and Resilience (Network and Information Systems) Bill」(2026年11月5日、Bills API)

AI Near-Miss Reportingに関連する記事