本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

AIの安全に関する宣言にフランスなど17か国とOpenAIなど10社が署名、最先端モデルの評価の共通枠組みづくりを約束

フランスのマクロン大統領は11月9日、各国の首脳やAI企業の経営者、研究者を集め、AIの安全をテーマにした会合を開いた。同じ日にフランスやカナダなどの首脳とOpenAIを含むAI企業10社が、最先端のAIモデルを評価する共通の枠組みづくりや、情報共有と早期警戒の仕組みづくりなどを約束する宣言に署名した。

フランス大統領府の発表によると、会合にはカナダや英国、日本など8か国の首脳と米国の財務長官、国連などの代表が参加した。AI企業からはOpenAIのサム・アルトマン氏ら7社の経営者が、研究者からはヨシュア・ベンジオ氏らが加わった。

宣言の約束は、評価、責任、情報共有の3つの柱からなる。1つ目の評価では、政策当局と研究者、開発企業が、既存の枠組みをもとに最先端モデルの評価とリスク管理の共通の枠組みをつくると約束した。この枠組みでは、サイバーや化学・生物・放射性物質・核の分野をはじめとする危険な悪用と、モデルの自律性の高まりや意図しない振る舞いによる制御の喪失などのリスクを抑えることを特に重視する。

署名者は、評価で分かったことのうち機微でないものを、比べられるよう統一した形式で公表することでも合意した。公表した結果は、署名者が新たにつくる共有のリポジトリに集められ、誰でも見られるようになる。

2つ目の責任では、AIに関係するすべての主体がそれぞれの役割に応じて責任を負うという原則を、署名者が確認した。署名者は、各国の所管当局が定めるか認めた厳格な安全基準がモデルのライフサイクル全体にわたって、当局の監督と第三者による独立した評価のもとで確実に守られるようにすると約束した。政策当局は、国境を越える被害も含め、大規模な被害が出た場合の責任の所在を法律の枠組みではっきりさせる必要を認めた。

最先端モデルの開発企業は、モデルの能力と限界、分かっているリスクを開示すると約束した。適切でリスクに見合う場合には、既存の慣行や取り決めに沿って、資格のある独立した評価者による評価も支援する。自社の管理下にあるモデルの運用を止める仕組みを、訓練中や社内での利用中も含めて設けることも約束した。

開発企業は、モデルの安全対策が外されたり回避されたりするリスクを認めた。そのうえで、モデルの重みを公開するオープンウェイトの開発が研究やイノベーション、安全にもたらす利点を保ちながら、このリスクに取り組む重要性を確認した。

3つ目の柱では、政策当局と研究者、開発企業が情報共有や報告、早期警戒の仕組みに取り組むと約束した。宣言は、システミックリスクが連鎖して広がるのを防ぐため、サイバーセキュリティなどの既存の事案対応の仕組みを土台に素早く警報を出す仕組みを整えることが欠かせないと明記した。

署名者は、既存の報告の仕組みを強めて事案の分類をそろえ、サイバーやAIの制御に関する重大な事案などの情報を企業と政府、政府どうし、AI企業どうしで速やかに共有することに意義があると認めた。政策当局は、従業員などがシステミックリスクへの懸念を合理的な根拠に基づいて報復を恐れずに伝えられるよう、安全で秘密が守られる窓口を設けることを約束した。

宣言は9日の署名のあとも新たな賛同を受け付けており、宣言のページにある署名者の一覧は随時更新される。この一覧には、フランスやカナダ、オランダなど17か国の首脳と、Anthropic、OpenAI、Sakana AIなど10社のほか、市民社会の7団体が並ぶ。日本からは高市早苗首相が会合に参加したが、署名国の一覧に日本は入っていない。

【関連サイト】フランス大統領府「Paris Call for AI safety and security.」

【関連サイト】フランス大統領府「Communiqué : réunion IA et sécurité.」