本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

内閣府、高性能AIの特定のリスクに備える義務を事業者に課す素案を政府WGに示す。Anthropicなど6社から聴取

AIの法制度を議論する政府の「制度の在り方検討ワーキンググループ」は11月11日に2回目の会合を開き、AI開発企業6社から聴取した。事務局の内閣府は、性能が一定の水準以上のAIが持つ特定のリスクを、法律で規律する必要性が高いとする案を示した。このWGは10月28日に初会合を開き、AI法を含む今あるAIの法制度の見直しも検討している。

6社は、海外のAnthropic Japan、Google、OpenAI Japanと、国内のNTT、Sakana AI、SB Intuitionsだ。WGは各社に、サイバー攻撃や、化学・生物・放射性・核・爆発性の物質を使うCBRNEテロのような高度なリスクを含め、AIのリスクを開発する側としてどう見ているかを尋ねた。自社の安全対策と、必要だと考える制度も聞いた。

6社の資料は掲載されておらず、内閣府は一部を後日掲載するとしている。

事務局は、初会合で委員から出た意見のまとめを示した。サイバーとCBRNEの分野ではAIの悪用と誤作動の両方に備えるべきで、性的なディープフェイクや青少年の保護も優先度が高いという意見が出た。フロンティアAIは悪用や予期せぬ動きで、非常に速く甚大な被害を生じうるため、ソフトローで足りるかを考え直す余地があるという意見もあった。

事務局は、AIを一括りにせず能力に応じて対応を考え、義務の対象を絞るべきだという委員の意見を踏まえ、方向性の案を示した。AIに特化した法律で対応する必要性が高いのは、性能が一定の水準以上のAIが持つ特定のリスクで、それ以外は今ある法令やガイドラインなどで対応する。そのリスクやAIの範囲は、今後具体的に検討するとした。

案では、AIのサービスを提供する事業者への規律を優先して検討し、AIを使う側のガバナンスはソフトローも生かして進めることを考えるとした。

法律で規律する場合に定める中身についても、事務局は素案を示した。素案では、要件に当たるAI事業者に、特定のリスクに備えた安全確保の措置を義務づけ、国がそのリスクの情報を集めるため、事業者から国への報告も定める。素案には、国が義務を守らせるため事業者に措置を勧告できる権限と、従わなければ罰則がある命令を必要に応じて出せる権限も含まれる。

事務局は委員に、法律で規律する場合に対象とするAIの性能の線引きや、規律する相手、国の権限などの論点を示した。

【関連サイト】内閣府「制度の在り方検討ワーキンググループ(第2回)」

【関連サイト】内閣府「事業者ヒアリングの実施について」

【関連サイト】内閣府「前回の議論のまとめ」

【関連サイト】内閣府「本日の検討事項(ご議論いただきたいこと)」

【関連サイト】内閣府「本WG開催に係る背景と目的」