本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

AISI(AI Safety Institute/AI Security Institute)とは・意味、役割・事例

AISIとは?

AISI(AI Safety Institute/AI Security Institute)とは、各国の政府が設け、最先端のAIの能力とリスクを調べて評価の手法や基準を作る機関の呼び名のこと。英国が2023年11月に AI Safety Institute を発足させた。米国も同じ月に同じ型の機関の設置を発表した。日本は2024年2月に AIセーフティ・インスティテュートを設けた。

各国の政府のこうした機関は、日本の公的な資料でもまとめて「AISI」と呼ばれている。日本の AIセーフティ・インスティテュートは、韓国の機関との合同の会合を知らせるページで「各国のAISI」「両国のAISI」と表記している。

機関の名前は国によって違い、同じ国でも改められたことがある。英国の機関は2025年2月から AI Security Institute を名乗る。

日本の機関の名前は AIセーフティ・インスティテュートだ。日本の AISI は英語の名前を、機関を紹介する資料では Japan AI Safety Institute(J-AISI)と表記し、OpenAI との協力の覚書の題では Japan Artificial Intelligence Safety Institute と表記している。

米国では、商務長官が2025年6月3日に、米国の機関を Center for AI Standards and Innovation(CAISI)に改める計画を発表した。

米国の機関を置く国立標準技術研究所(NIST)は、2026年10月には Center for Advancing Innovation and Standards for Super Intelligence(CAISSI)の名前を使っている。

各国のAISIの所属と役割

英国のAISIは科学・イノベーション・技術省の研究組織

英国の AI Security Institute(AISI)は、科学・イノベーション・技術省の中にある研究組織だ。仕事には、主要なAIシステムを一般に公開される前に試験することや、英国と同盟国の政府で政策を担う人にAIの新しい能力とリスクを伝えることを挙げている。サイトで紹介している予算は1会計年度あたり6,600万ポンドで、技術系の職員は100人を超える。

2025年12月の報告書で英国の AISI は、過去2年間に30を超える最先端のAIシステムを調べたとしている。サイトで挙げる研究の分野には、悪用を防ぐ安全策の効果、AIの動きを監督して制御するAI Control(AIコントロール)、AIが自律して自己複製するなどの能力がどの程度あるかが含まれる。

英国の AISI は2024年8月のブログで、今ある以上に高度なモデルについて、AIを制御できなくなることや自律性の高さによるリスクを中心にセーフティケースの素案を作る研究の計画を示している。2025年10月22日に公開した「ControlArena」は、AIコントロールの実験を行うためのライブラリだ。

日本のAISIはIPAに事務局を置いて2024年に発足

日本の AIセーフティ・インスティテュート(AISI)は、2024年2月14日に発足した。事務局は情報処理推進機構(IPA)に置かれている。2023年12月21日のAI戦略会議で、岸田総理大臣(当時)が設立を表明していた。

日本の AISI は自らを「AIの安全性に関する評価手法や基準の検討・推進を行うための機関」と説明する。当面の業務には、安全性の評価に関する調査と基準の検討、安全性評価の実施手法の検討、他国の関係機関との国際連携を挙げている。

米国の機関はCAISIを経てCAISSIの名前に変わった

米国では2023年11月1日、政府が商務省を通じて、NIST の中に United States AI Safety Institute(US AISI)を設けると発表した。

2025年6月3日には、ラトニック商務長官が US AISI を CAISI に改める計画を発表し、CAISI を試験と共同研究について産業界が米国政府とやり取りする主な窓口と位置づけた。

商務長官によると、CAISI は民間の開発企業や評価機関が自らの意思で応じる協定を結び、国家安全保障へのリスクとなりうるAIの能力について機密でない評価を主導する。CAISI はこの評価で、サイバーセキュリティ・バイオセキュリティ・化学兵器のような実証できるリスクに的を絞る。

2026年9月29日の大統領令は、法律で許される最大の範囲で、政府の機関が法律以外の文書で「Artificial Intelligence」「AI」の代わりに「Super Intelligence」「SI」を使うよう定めた。NIST は2026年10月16日のお知らせで、CAISI を CAISSI と呼んでいる。

国際ネットワークは2024年に発足し2025年に改称

2024年5月21日のAIソウル・サミットでは、日本・米国・英国・EU など11の国・地域の首脳が声明を出し、AIの安全の科学を進める国際的なネットワークを作ることを目指す考えを示した。ネットワークは2024年11月に発足し、日本の AISI はこれを「AISI国際ネットワーク」と呼んでいる。

英国政府は2025年12月9日、このネットワークが名前を International Network for Advanced AI Measurement, Evaluation and Science に改めたと発表した。

改称後の国際ネットワークはAIの計測と評価の科学に重点を置き、英国がまとめ役を担う。加わるのは、オーストラリア、カナダ、EU、フランス、日本、ケニア、韓国、シンガポール、英国、米国だ。

AISIが生まれた経緯

英国の首相は2023年10月26日の演説で、世界で初めての AI Safety Institute を英国に設けると表明した。

英国政府は2023年11月2日、最先端のAIのリスクを評価する政府のチーム Frontier AI Taskforce が、AI Safety Institute に移行すると発表した。英国は発足の時点で、米国の AI Safety Institute とシンガポール政府の2者と、AIの安全性の試験での協力に合意していた。

日本の AISI は設立の経緯として、広島AIプロセスを主導して国際的なルールを検討してきたことを挙げる。そのうえで、英国や米国で同じ型の機関が設立された流れに合わせ、日本でも AIセーフティ・インスティテュートを設けたと説明している。

英国の機関と国際ネットワークは、2025年に名前から「Safety」を外した。英国の機関は2月に名前を AI Security Institute に、国際ネットワークは12月に International Network for Advanced AI Measurement, Evaluation and Science に改めた。

米国では2025年6月に、商務長官が US AISI を Center for AI Standards and Innovation(CAISI)に改める計画を発表した。

AISIに関する主な出来事・ニュース

AISIに関する事例

英米の機関がKimi K3のサイバー能力を共同評価

英国の AISI と米国の CAISI は2026年7月23日、Moonshot AI のモデル Kimi K3 のサイバー能力を共同で評価した予備的な結果を公表した。Kimi K3 は2026年7月16日に公開されたモデルだ。

32段階からなる攻撃の経路をたどって模擬の企業ネットワークを攻める課題では、Kimi K3 は平均で17段階まで進んだ。米国のモデルのうちサイバーの能力が最も高いものは、平均28.5段階だった。

両機関は、この結果が少数の公開・非公開のベンチマークによる予備的な評価で得たものだとしている。米国のクローズドウェイトのモデルは、拒否を減らして最大の能力を測るため、システムの安全策を外した状態で評価された。一般に公開されている版では、この安全策が有効になっている。

日本のAISIがGLM-5.3の攻撃コードの開発能力を評価

日本の AISI は2026年10月30日、オープンウェイトのモデル GLM-5.3 を評価した結果を公表した。ベンチマークには「ExploitBench」を使った。ExploitBench は、JavaScript の実行エンジン「V8」で見つかっている脆弱性をもとにした41の課題からなる。比べたのは GLM-5.3、前のモデルの GLM-5.2、Claude Opus 4.8 の3つだった。

初めの評価で GLM-5.3 が取った点数は平均0.61点で、GLM-5.2 の2.80点より低かった。日本の AISI が実行の記録を調べると、多くの課題でモデルが採点の道具を一度も呼び出していなかった。このベンチマークでは、モデル自身が採点の道具を呼び出して攻撃コードを出すため、呼び出さなければ能力が点数に反映されない。

日本の AISI が評価の設定を見直すと、GLM-5.3 は8.34点、GLM-5.2 は3.37点となり、順位が逆になった。

設定を見直したあとの結果では、最も高度な段階の攻撃まで届いた課題の数にも差があった。GLM-5.2 は0件、Claude Opus 4.8 は1件で、GLM-5.3 は8件だった。日本の AISI によると、モデルが攻撃コードを作る能力を具体的に捉えるには、平均の点数だけでなく評価の条件や課題ごとに届いた段階、実行の記録も確かめる必要がある。

国際ネットワークの10か国が共同テスト演習を実施

日本の AISI は2025年7月18日、国際ネットワークの10か国が共同で行ったテスト演習について、評価の報告書が出たと知らせた。報告書が出たのは第2回と第3回の演習で、第2回は世界の言語での大規模言語モデル(LLM)の評価の手法、第3回はAIエージェントの評価の手法を扱った。

日本と韓国のAISIが初めての合同技術ワークショップを開催

日本と韓国の AISI は2026年10月8〜9日に、AIの安全性をテーマにした初めての合同の技術ワークショップを開いた。参加者は両国の AISI の研究者や技術者などの30人で、多言語・多文化を踏まえた評価の手法や、AIセキュリティなどを話し合った。

AISIの言い方

表記 意味 使用主体
AI Safety Institute(AISI) 英国が2023年11月に発足させた機関の当初の名前。各国の同じ型の機関にも使われる 英国政府、AIソウル・サミットの声明
AI Security Institute 英国の機関の2025年2月からの名前 英国政府
Japan AI Safety Institute(J-AISI)/Japan Artificial Intelligence Safety Institute 日本の AIセーフティ・インスティテュートの英語の名前。前者は紹介の資料で、後者は覚書の題で使う 日本の AISI
United States AI Safety Institute(US AISI) 米国が2023年11月に NIST の中に設けると発表した機関の名前 米国政府
Center for AI Standards and Innovation(CAISI) 商務長官が2025年6月3日に、US AISI を改める先として発表した名前 米国商務省
Center for Advancing Innovation and Standards for Super Intelligence(CAISSI) 2026年10月の時点で NIST が使う米国の機関の名前 NIST
International Network of AI Safety Institutes 2024年11月に発足した各国の機関の国際ネットワーク。日本の AISI は「AISI国際ネットワーク」と表記する 日本の AISI、英国政府
International Network for Advanced AI Measurement, Evaluation and Science 国際ネットワークの2025年12月からの名前 英国政府

各国のAISIの名前と評価の結果を読むときの注意

「AISI」の略称は国ごとに別の機関を指す

英国の AISI と日本の AISI は、略称が同じでも別の機関だ。英国の機関の英語の名前は AI Security Institute で、日本の機関は英語で Japan AI Safety Institute(J-AISI)と名乗る。

米国の機関の名前は、文書の時期で違う。NIST の2026年7月23日のお知らせは CAISI と表記し、10月16日のお知らせは CAISSI と表記している。

各国のAISIが受け持つ仕事の範囲

英国政府は発足のとき、AISI は規制の機関ではなく、政府の規制を決めることもないと説明した。AISI の研究は英国と各国の政策づくりに生かされ、統治や規制のための技術的な道具を提供するという。米国の CAISI は、法律で義務づけられていない協定を開発企業などと結んで、評価を主導するとしている。日本の AISI は、評価の手法や基準の検討・推進を役割に挙げている。

英国の AISI は2025年2月の改称で、安全保障に関わる深刻なリスクに重点を置いた。例には、化学・生物兵器の開発やサイバー攻撃への悪用、詐欺などの犯罪を挙げた。英国の AISI は同じ発表で、偏りや言論の自由ではなく、AIがもたらす最も深刻なリスクの理解を進めることに重点を置くとした。

評価の数字は評価の時点と条件での値

日本の AISI は、評価の結果がモデルの版や設定、評価の手法、実施の時期などの条件によって異なることがあるとしている。GLM-5.3 などの評価の結果は、特定の時点と評価の条件の下で行った評価として掲載されている。同機関は、結果だけでそのモデルが安全か危険かを判断できるものではないとも記している。

AISIに関連する用語

  • AI Control(AIコントロール):AIが開発者の意図と違う目標を持ち、安全対策を意図してすり抜けようとしても害のある結果に至らないようにする対策と、その対策が働くかを試す研究の分野。
  • セーフティケース:あるシステムが特定の用途や環境で安全だと言える理由を、証拠を添えて筋道立てて示す論証。
  • 自己複製:AIモデルやAIエージェントが人の手を借りずに自分のコピーを作り、別のコンピューターなどで動かすこと。
  • オープンウェイト:学習を終えたAIモデルの重みが公開され、手に入る状態。

AISIに関する出典

英国首相官邸・科学・イノベーション・技術省「Prime Minister launches new AI Safety Institute」(2023年11月2日)
ホワイトハウス「FACT SHEET: Vice President Harris Announces New U.S. Initiatives to Advance the Safe and Responsible Use of Artificial Intelligence」(2023年11月1日)
AIセーフティ・インスティテュート「AISIについて」
AIセーフティ・インスティテュート「日韓AISIによる初の合同技術ワークショップを開催しました」(2026年10月16日)
英国 科学・イノベーション・技術省・AI Security Institute「Tackling AI security risks to unleash growth and deliver Plan for Change」(2025年2月14日)
AIセーフティ・インスティテュート「米OpenAI社とMOCを締結しました。」(2026年5月29日)
米国商務省「Statement from U.S. Secretary of Commerce Howard Lutnick on Transforming the U.S. AI Safety Institute into the Pro-Innovation, Pro-Science U.S. Center for AI Standards and Innovation」(2025年6月3日)
NIST「Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation」(2026年10月16日)
AI Security Institute「About」
AI Security Institute「Frontier AI Trends Report」(2025年12月)
AI Security Institute「Introducing ControlArena: A library for running AI control experiments」(2025年10月22日)
AI Security Institute「Safety cases at AISI」(2024年8月23日)
ホワイトハウス「Inaugurating the Era of Super Intelligence」(2026年9月29日)
AIソウル・サミットの参加国・地域の首脳「Seoul Statement of Intent toward International Cooperation on AI Safety Science, AI Seoul Summit 2024 (Annex)」(2024年5月21日)
AIセーフティ・インスティテュート「AISI国際ネットワークにおいて、Mission Statementが公開されました。」(2024年11月20日)
英国 科学・イノベーション・技術省・AI Security Institute「Efforts to share best practices on AI measurement and evaluations driven forward through the International Network for Advanced AI Measurement, Evaluation and Science」(2025年12月9日)
英国首相官邸「Prime Minister’s speech on AI: 26 October 2023」(2023年10月26日)
NIST「UK AISI / CAISI Preliminary Assessment of Kimi K3’s Cyber Capabilities」(2026年7月23日)
AIセーフティ・インスティテュート「AI検証ノート:オープンウェイトモデルのAIサイバー能力の変化を捉える~GLM-5.3の評価から考える脆弱性対策への示唆~」(2026年10月30日)
AIセーフティ・インスティテュート「共同テスト演習の評価レポートが公表されました。」(2025年7月18日)
NIST「Center for Advancing Innovation and Standards for Super Intelligence (CAISSI)」
英国 科学・イノベーション・技術省「Introducing the AI Safety Institute」(2023年11月、2024年1月17日更新)
AIセーフティ・インスティテュート「Japan AI Safety Institute (J-AISI)」(2026年7月1日)

AISIに関連する記事