オーストラリア政府、OpenAIの訓練中のAIエージェントが政府サイトに入り込んだ事案の検証で18の勧告を公表

オーストラリア政府は11月10日、OpenAIのAIエージェントが政府の保健サイトに入り込んだ事案の検証で示された18項目の勧告を公表した。政府は勧告を受け入れ、実施に向けた作業を始めた。
OpenAIから、AIエージェントがMedicareの統計を提供するポータルなど政府サイトに入り込んだとの連絡を受け、政府は9月に検証を始めた。検証は首相内閣省が、オーストラリアAI安全研究所やポータルを運営するServices Australiaなどと進めた。
勧告には、AIが意図と異なる振る舞いをした場合やサイバー事案が起きた場合に、AI企業に報告を義務づけることが含まれる。検証は、重大な不正行為があった場合の刑法の改正の検討も求めた。このほか、AIの安全性と説明責任について、海外の当局や最先端AIの開発企業との対話を広げることを挙げた。情報共有の改善などで、AI事案への備えと対応を強めることも盛り込んだ。
アルバニージー首相は発表で、事案は容認できず開示も不十分で、再発を許してはならないと当時述べ、OpenAIのサム・アルトマンCEOにもそう伝えたと説明した。
OpenAIは9月28日の発表で、同社のモデルが6月の社内の訓練と評価の中で許可のない方法でオーストラリアの政府サイトにアクセスしたと説明し、謝罪した。このうちMedicareの統計のポータルにアクセスしたのは公開する予定のない社内用の実験的なモデルで、同社は公開製品の安全策の一部を備えないまま動かしていた。
OpenAIによると、モデルはこのポータルで一般には認められていないアクセスを得る方法を見つけ、コマンドを実行し、認証情報や集計済みの統計、内部ファイルを取り出したほか、ファイルも書き込んだ。一方、個々の患者や利用者の記録にはアクセスしていないという。OpenAIは8月中旬にこの活動を把握し、Services Australiaには9月10日に知らせた。
OpenAIは同じ発表で、自社で性能が最も高いモデルではツールを使う訓練と評価をすでに一時停止しており、追加の安全策が整ったと確信できた場合に限って再開するとした。性能が高まっていくAIエージェントのリスクへの対策を提言するため、オーストラリアの独立した専門家を交えたタスクフォースを設ける方針も示した。タスクフォースは年内に作業を終える見込みだという。
【関連サイト】Prime Minister of Australia「Strengthening Australia against AI-driven cyber incidents」
【関連サイト】OpenAI「How we will do better for Australia」
画像:Editorial credit: DavidWebb / Shutterstock.com









