本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

カリフォルニア州AI安全開示法(SB 53)とは・意味、対象・義務・施行

カリフォルニア州AI安全開示法(SB 53)とは?

カリフォルニア州AI安全開示法(SB 53)とは、最先端のAIモデルの開発者に、透明性の報告書の公開や重大な安全事故の州への報告などを義務づける州の法律のこと。

正式な名前は「Transparency in Frontier Artificial Intelligence Act」で、TFAIA と略す。州上院議員の Scott Wiener 氏が出した法案で、ニューサム知事が2025年9月29日に署名した。日本語では、日本貿易振興機構(ジェトロ)が「AI安全開示法(SB53)」と表記している。

SB 53 が対象にするのは、学習に使った計算量が基準を超えるAIモデルと、その開発者だ。安全の枠組みの公開や罰金の規定の対象は、そのうち関連会社と合わせた前年の総収入が5億ドルを超える大手に限られる。

ニューサム知事は署名の際に、フロンティアAIの安全に関する全米で初めての法律を作ったと述べた。

SB 53が成立した経緯

ニューサム知事は2024年9月29日、生成AIに関する法案の1つ SB 1047 に拒否権を行使した。知事室は、破滅的なリスクのおそれを抑えるには、SB 1047 より柔軟で包括的な解決策が必要だとした。知事はあわせて、実効性のある安全策づくりへの協力を生成AIの専門家に求めた。知事が重視したのは、フロンティアモデルの能力とリスクを実証に基づいて分析することだ。

知事が集めたAIの研究者や専門家のグループは、2025年6月に、フロンティアAIの安全策についての報告書を公表した。知事室によると、SB 53 はこの報告書の提言を踏まえている。

SB 53 は2025年1月7日に提出された。州下院は9月12日に可決し、州上院は翌13日に下院の修正に同意した。知事が9月29日に署名し、同じ日に2025年の州法の第138章として州務長官に登録された。

SB 53に関する主な出来事・ニュース

  • 2024年9月29日 ニューサム知事、SB 1047 に拒否権を行使:カリフォルニア州知事室は、破滅的なリスクのおそれを抑える柔軟で包括的な解決策として不十分だとして、知事が SB 1047 に拒否権を行使したと発表した。
  • 2025年1月7日 SB 53 を州議会に提出:州議会の記録では、SB 53 はこの日に提出され、9月29日に知事の承認を受けた。
  • 2025年9月29日 ニューサム知事、SB 53 に署名:知事は、大規模フロンティア開発者に枠組みの公開を求め、重大な安全事故を州の緊急事態サービス局に報告する仕組みを設ける SB 53 に署名した。
  • 2025年12月19日 ニューヨーク州知事、RAISE Act に署名:ホークル知事は、大手のAIの開発者に、安全の手順についての情報の公開と72時間以内の事故の報告を求める法律に署名した。
  • 2026年1月1日 SB 53 が施行:州の商業・職業法典に SB 53 が加えた第25.1章「Transparency in Frontier Artificial Intelligence Act」が施行された。
  • 2026年9月9日 ニューサム知事、SB 813 に署名:知事は、AIシステムやモデルが州法に合っているかを評価できる独立の検証機関の枠組みを設ける SB 813 に署名した。
  • 2026年9月18日 ニューサム知事、AIの監督を急ぐ知事令を発令:知事は、AIの安全とセキュリティのリスクへの第三者による監督の実施を早める知事令を出した。知事令に基づいて専門家が集まり、州のAIの法律を強めるための手引きを2か月以内に示す。

SB 53の対象

対象は学習の計算量が10の26乗回を超える基盤モデル

SB 53 は、広いデータで学習し、汎用の出力を目指して作られ、さまざまな作業に合わせて使えるAIモデルを基盤モデルと定めている。フロンティアモデルは、基盤モデルのうち、学習に10の26乗回を超える整数または浮動小数点の演算を使ったものだ。計算量には、もとの学習に加えて、あとから行う微調整や強化学習などの大きな変更に使った計算も含む。

大規模フロンティア開発者は前年の総収入が5億ドルを超える

フロンティア開発者は、フロンティアモデルを学習させた人や会社、または学習を始めた人や会社だ。大規模フロンティア開発者は、そのうち関連会社と合わせた前年の総収入が5億ドルを超える開発者を指す。

破滅的なリスクは50人を超える死傷か10億ドルを超える損害

SB 53 の破滅的なリスクは、予見できる重大なリスクのうち、フロンティア開発者によるモデルの開発・保管・利用・提供が50人を超える人の死亡や重いけが、または10億ドルを超える財産の損害に大きく寄与するものだ。死傷や損害は、フロンティアモデルが次のいずれかを行った1つの出来事から生じるものを指す。

  • 化学・生物・放射性物質・核の兵器を作ったり放ったりするのに、専門家の水準の手助けをする。
  • 人による意味のある監督や介入がないまま、サイバー攻撃を行うか、人が行えば殺人・暴行・恐喝・窃盗の罪に当たるふるまいをする。
  • 開発者や利用者の制御から逃れる。

基盤モデル以外の情報源から、ほぼ同じ内容で公に手に入る情報をモデルが出力した場合は、破滅的なリスクに入らない。連邦政府の合法な活動と、モデルが大きく寄与せずにほかのソフトウェアと組み合わさって生じた害も、破滅的なリスクから除く。株式の価値の下落は、財産の損害に数えない。

重大な安全事故は4つの場合を指す

SB 53 が重大な安全事故と定めるのは、次の場合だ。

  • フロンティアモデルの重み(学習で調整される数値)への不正なアクセスや改変、持ち出しで、死亡やけがが生じた。
  • 破滅的なリスクが現実になり、害が生じた。
  • フロンティアモデルの制御喪失で、死亡やけがが生じた。
  • そのふるまいを引き出すための評価の外で、フロンティアモデルが開発者を欺いて管理や監視をくぐり抜け、破滅的なリスクが大きく高まったことを示した。

SB 53が開発者に課す義務

SB 53 は、義務ごとに対象の開発者と期限を定めている。

義務 対象 期限・頻度
フロンティアAIの枠組みを作成して実行し、それに従い、ウェブサイトで公開する 大規模フロンティア開発者 少なくとも年1回見直す。重要な変更をしたら、30日以内に変更後の枠組みと理由を公開する
透明性の報告書を公開する フロンティア開発者 新しいモデルか大きく変えたモデルを提供する前か、提供と同時
透明性の報告書に、破滅的なリスクの評価とその結果、第三者の評価者の関わり方などの要約を加える 大規模フロンティア開発者 透明性の報告書と同じ
社内の利用による破滅的なリスクの評価の要約を、州の緊急事態サービス局に送る 大規模フロンティア開発者 3か月ごと、または開発者が書面で示した妥当な間隔
重大な安全事故を州の緊急事態サービス局に報告する フロンティア開発者 見つけてから15日以内。死亡や重いけがの差し迫った危険があれば、24時間以内に警察などの当局へ
重大な安全事故のリスクの評価や管理を担う従業員が、破滅的なリスクから生じる公衆の健康や安全への具体的で重大な危険や SB 53 の違反を、司法長官などに通報するのを妨げず、報復もしない。従業員に権利を知らせる フロンティア開発者 職場に常に掲示するか、年1回以上書面で知らせる
従業員が匿名で通報できる社内の手続きを設ける 大規模フロンティア開発者 通報者に毎月、調査の状況を伝える。役員には四半期に1回以上、通報と対応を共有する

※2026年11月時点

枠組みにはリスクの評価や事故への対応など10の項目を書く

フロンティアAIの枠組みは、破滅的なリスクを管理・評価・軽減するための技術と組織の手順を文書にしたものだ。大規模フロンティア開発者は、破滅的なリスクの管理に関わる10の項目について、自社の取り組み方を枠組みに書く。項目の1つは、国内外の標準や業界で合意されたやり方をどう取り入れるかだ。項目には、危険な能力を見分けるしきい値の決め方と評価、評価の結果に基づく対策、第三者による評価の使い方も含まれる。

ほかに、公開していないモデルの重みを守るサイバーセキュリティ、重大な安全事故への対応、社内の統治の仕組みも書く。社内の利用から生じる破滅的なリスクの評価と管理も項目の1つで、モデルが監督の仕組みをくぐり抜けるリスクを含む。開発元の組織の中だけでAIを使うことは、Internal Deployment(内部デプロイ)とも呼ばれる。

透明性の報告書はモデルの用途や制限を示す

フロンティア開発者の透明性の報告書には、開発者のウェブサイト、個人が開発者と連絡を取る手段、モデルの公開日、対応する言語、出力の形式、想定する用途、利用の一般的な制限を書く。システムカードやモデルカードなど、大きな文書の一部として公開してもよい。

虚偽の説明を禁じ、伏せてよい情報も定める

フロンティア開発者は、破滅的なリスクやその管理について、重大な点で偽りや誤解を招く説明をしてはならない。大規模フロンティア開発者は、自社の枠組みの実施や順守についても、重大な点で偽りや誤解を招く説明をしてはならない。善意で、その状況のもとで合理的だった説明は、この禁止から除く。

公開する文書からフロンティア開発者が伏せてよいのは、営業秘密やサイバーセキュリティ、公共の安全、米国の安全保障を守るのに必要な情報と、法令に従うために必要な情報だ。伏せたときは、差し支えない範囲で伏せた情報の性質と理由を公開する版に書き、伏せる前の情報を5年間保存する。

違反の罰金は1件あたり100万ドルまで

文書の公開や送付を怠る、虚偽の説明をする、事故を報告しない、自社の枠組みに従わないといった違反をした大規模フロンティア開発者には、民事の罰金が科される。額は違反の重さに応じて1件あたり100万ドルまでで、訴えを起こせるのは州の司法長官だけだ。

SB 53が州の機関に求めること

州の緊急事態サービス局は、フロンティア開発者と一般の人が重大な安全事故を報告する仕組みを設ける。大規模フロンティア開発者が社内の利用のリスクの評価の要約を秘密のまま送る仕組みも設ける。事故の報告と社内の利用の評価の報告、従業員の通報は、州の情報公開法の対象から外れる。

緊急事態サービス局は2027年1月1日から毎年、審査した事故の報告を匿名にして集計した報告書を作る。司法長官も同じ日から毎年、審査した従業員の通報について同じ形の報告書を作る。

州の技術局は2027年1月1日までに、その後は毎年、フロンティアモデルなどの定義を見直すかどうかと見直し方を勧告する。行政運営庁は、SB 53 が庁内に設ける協議体の報告書を、2027年1月1日までに州議会に出す。協議体が報告書にまとめるのは、公共の計算資源「CalCompute」をつくる枠組みだ。CalCompute の規定は、予算が付いたときにだけ効力を持つ。

SB 53の施行と企業・州の対応

SB 53は2026年1月1日に施行された

SB 53 が商業・職業法典に加えた第25.1章と、労働法典に加えた内部告発者の保護の第5.1章は、2026年1月1日に施行された。

緊急事態サービス局が報告の窓口を設けた

カリフォルニア州の緊急事態サービス局(Cal OES)は、SB 53 の報告の窓口をウェブサイトに置いている。窓口からは、重大な安全事故の報告と社内の利用による破滅的なリスクの評価の要約を、一般の人やフロンティア開発者が秘密のまま送ることができる。

Anthropic と OpenAI は対応の枠組みを示した

Anthropic は2025年12月19日、SB 53 に対応する枠組み「Frontier Compliance Framework」を公開した。この枠組みはサイバー攻撃、化学・生物・放射性物質・核の脅威、AIによる妨害と制御喪失のリスクの評価と対策を扱う。同社は、責任あるスケーリングの方針(RSP)を自主的な安全の方針として残すとしている。

OpenAI は2026年10月20日付の知事への書簡で、自社の慣行が SB 53 にどう沿っているかは「Frontier Governance Framework」で説明していると記した。同社は、社内でのモデルの利用による破滅的なリスクについて、四半期ごとに緊急事態サービス局へ報告しているとも記した。

SB 813は独立の検証機関の指定を定めた

知事が2026年9月9日に署名した SB 813 は、AIシステムやモデルのリスクを評価する専門性を州の行政運営庁が認めた監査人を、独立の検証機関と定めた。行政運営庁は、2028年1月1日までに指定の申請の要件や手続きを決める。2026年9月18日の知事令 N-9-26 は、行政運営庁に、この要件や手続きを2027年5月1日までに決めて公開するよう命じている。

SB 53の改正に向けた動き

知事令は州法の改正の提言を11月16日までに求めた

ニューサム知事は2026年9月18日の知事令 N-9-26 で、州の行政運営庁に、AIの安全とセキュリティを扱う州法の改正の提言を出すよう命じた。提言は、改正が技術的に実現できるかと、どれほどの効果が見込めるかを扱い、期限は2026年11月16日だ。行政運営庁は、緊急事態サービス局と相談し、全米の専門家の意見を聞いて提言を作る。

提言で少なくとも扱うのは、独立の検証機関、キルスイッチ、事故の定義に関わる次の案だ。

  • 大規模フロンティア開発者に、指定を受けた独立の検証機関を研究の拠点に常駐させ、定期的に監査と評価をさせる。
  • フロンティアAIの企業が州法に基づいて出す安全の枠組み、透明性の報告書、リスクの評価について、独立の検証機関が十分とみなす基準での検証を義務づける。
  • フロンティアモデルのAIキルスイッチの創設を義務づけ、その有効性を独立の検証機関に確かめ続けさせる。
  • 報告を義務づける重大な安全事故の定義を見直し、大規模フロンティア開発者から最近報告された事故も含め、さまざまな制御喪失の事故を対象にする。

知事令によると、個人がAI製品で生物兵器を作ろうとしたとみられる試みや、AIエージェントがAI企業のセキュリティの手順を破ろうとした例などが相次いで明らかになった。知事令は、こうした例が明らかになったことで、企業の幹部を含むAI業界の一部や多くの米国人がAIの開発のペースを調整するよう業界に求め、政府にもっと厳しい規制を促したとしている。

最先端のAIの能力が伸びる速さを意図して抑える考え方は、フロンティアの減速と呼ばれる。

OpenAIは次の会期での改正を支持

OpenAI は2026年10月20日付の書簡で、次の会期での SB 53 の改正を支持すると記した。同社が挙げた改正の中身には、AIの研究の自動化や再帰的な自己改善を枠組みで扱うこと、開発中や評価中のモデルの危険なふるまいの監視、実効性のある停止の仕組み、毎年の独立した順守の監査などがある。

同社は、資格のある第三者の評価者が開発企業の安全の主張とセーフティケースを独立して評価することも、改正の中身に挙げている。

SB 53の適用の範囲とニューヨーク州法との違い

罰金の対象は大規模フロンティア開発者

透明性の報告書や事故の報告、内部告発者の保護の義務は、すべてのフロンティア開発者に課される。一方で、民事の罰金の規定が対象にするのは大規模フロンティア開発者だけだ。

事故の定義の多くは害が出たことを条件にする

重大な安全事故の4つの場合のうち3つは、死亡やけが、または破滅的なリスクが現実になったことによる害を条件にしている。害が出かけたものの至らなかった出来事を報告・記録することは、AIのニアミス報告と呼ばれる。

破滅的なリスクの管理では市や郡の規則に優先し、連邦法には譲る

SB 53 は、連邦法が優先する範囲と、連邦政府の機関と開発者の契約の条項にはっきり反する範囲では適用しないとしている。一方で、市や郡などが2025年1月1日以降に定めた、フロンティア開発者の破滅的なリスクの管理についての規則には、SB 53 が優先する。

緊急事態サービス局は、事故の報告について同等以上の基準を定めた連邦の法令や指針を、規則で指定できる。開発者がその連邦の基準に従う意向を緊急事態サービス局に届け出ると、従っている範囲で SB 53 の報告の義務を満たしたとみなされる。

ニューヨーク州のRAISE Actは事故の報告が72時間以内

ニューヨーク州のホークル知事は2025年12月19日、合意した修正を加えた RAISE Act に署名した。同法は大手のAIの開発者に、安全の手順についての情報の公開と、事故が起きたと判断してから72時間以内の州への報告を求める。

カリフォルニア州が採用した枠組みを土台にした法だと、ホークル知事は述べている。合意した修正は2026年3月27日に州法の第96章として成立し、同法は2027年1月1日に施行される。

RAISE Act の罰金は、最初の違反で100万ドルまで、その後の違反は300万ドルまでだ。SB 53 の事故の報告の期限は見つけてから15日以内で、罰金は1件あたり100万ドルまでだ。

SB 53の英語での言い方・略語

英語表記 意味 使用主体
SB 53 Senate Bill 53。州上院の53番の法案 カリフォルニア州議会、知事室
Transparency in Frontier Artificial Intelligence Act 法律の正式な名前 カリフォルニア州議会、知事室
TFAIA 正式な名前の略 カリフォルニア州議会、知事室
Transparency in Frontier AI Act 正式な名前を短くした言い方 カリフォルニア州の緊急事態サービス局、Anthropic
SB-53 州議会のサイトでの法案の表記 カリフォルニア州議会
Chapter 138, Statutes of 2025 2025年の州法の第138章。州法としての番号 カリフォルニア州議会

SB 53に関連する用語

  • 制御喪失:人がAIモデルの動きを確実に指示・修正・停止できなくなること。
  • Internal Deployment(内部デプロイ):AIシステムを開発した組織の中だけで使えるようにすること。
  • AIキルスイッチ:AIモデルやAIエージェントが危険なふるまいをしたときに、その動作を緊急に止めるための仕組み。
  • フロンティアの減速:最先端のAIの能力が伸びる速さを意図して抑え、安全対策や第三者による確認が追いつく時間をつくるという考え方。
  • セーフティケース:あるシステムが特定の用途や環境で安全だと言える理由を、証拠を添えて筋道立てて示す論証。
  • AI Near-Miss Reporting(AIのニアミス報告):AIの開発や利用がもとで害が出かけたものの、偶然や途中の介入で害に至らなかった出来事を報告し、記録すること。

SB 53に関する出典

California Legislature「SB-53 Artificial intelligence models: large developers.」(2025年9月29日)
Governor of California「Governor Newsom signs SB 53, advancing California’s world-leading artificial intelligence industry」(2025年9月29日)
日本貿易振興機構「カリフォルニア州、全米初の最先端AI安全開示法「SB53」制定(米国)」(2025年10月3日)
Governor of California「Governor Newsom announces new initiatives to advance safe and responsible AI, protect Californians」(2024年9月29日)
Governor of California「Executive Order N-9-26」(2026年9月18日)
California Legislature「Bill History – SB-53 Artificial intelligence models: large developers.」
California Legislature「[California Code, Business and Professions Code, Division 8, Chapter 25.1. Transparency in Frontier Artificial Intelligence Act [22757.10 – 22757.16]](https://leginfo.legislature.ca.gov/faces/codes_displayText.xhtml?lawCode=BPC&division=8.&title=&part=&chapter=25.1.&article=)」
California Legislature「[California Code, Labor Code, Division 2, Part 3, Chapter 5.1. Whistleblower Protections: Catastrophic Risks in AI Foundation Models [1107 – 1107.2]](https://leginfo.legislature.ca.gov/faces/codes_displayText.xhtml?lawCode=LAB&division=2.&title=&part=3.&chapter=5.1.&article=)」
California Governor’s Office of Emergency Services「Transparency in Frontier AI Act Reporting」
Anthropic「Sharing our compliance framework for California’s Transparency in Frontier AI Act」(2025年12月19日)
OpenAI「Recommendations under Sept. 18, 2026 Executive Order」(2026年10月20日)
California Legislature「SB-813 Independent verification organizations.」(2026年9月9日)
Governor of California「Governor Newsom signs first-in-the-nation AI safeguards to protect Californians, calls on the federal government to do its part」(2026年9月9日)
Governor of New York「Governor Hochul Signs Nation-Leading Legislation to Require AI Frameworks for AI Frontier Models」(2025年12月19日)
Governor of California「Governor Newsom issues executive order to accelerate independent oversight and advance the creation of an AI kill switch」(2026年9月18日)
New York State Senate「NY State Senate Bill 2025-S8828」(2026年1月8日)