本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

OpenAI、新モデル「GPT-6.1 Terra」のサイバー能力を最上位の「Critical」として扱う

OpenAIは10月26日、同日に提供を始めた新モデル「GPT-6.1 Terra」のシステムカードを公開し、自社のリスク管理の枠組み「Preparedness Framework」のもとで、このモデルのサイバー能力を「Critical」の段階として扱うと公表した。枠組みが定める能力の段階はHighとCriticalの2つで、Criticalが上にあたる。システムカードによると、扱いはGPT-6 Astraと同じだ。Astraは、同社が9月3日に公開したシステムカードで、サイバー能力の段階がCriticalに達した、同社で最初のモデルとされた。

枠組みでは、Criticalを深刻な危害に至る前例のない質的に新しい経路が生じる相当のおそれがある能力と位置づけ、提供の予定にかかわらず開発中から安全策を求める。サイバー分野では、ツールを使えるモデルが防御を固めた数多くの現実の重要なシステムで、あらゆる深刻度の未知の脆弱性を突いて実際に動く攻撃手法を人の介入なしに見つけて作れる能力か、大まかな目標だけで防御の固い標的への新しい攻撃の戦略を立案から実行までやり通せる能力を指す。

Terraには、GPT-6.1 Sol、GPT-6 Astraと同じ一連の安全策を、検知の仕組みをTerraに合わせて更新して適用する。Astraのシステムカードによると、この安全策は、モデルによる拒否、システムでの監視、事後の検知などを重ねたものだ。信頼できる利用者向けのプログラムに入っていない利用者には、エージェントによる大規模な脆弱性の調査や、複数の攻撃手法をつなげた攻撃の開発などへの支援を制限する。このプログラムは認められた防御の作業向けの「Trusted Access for Cyber」で、Astraのカードでは、組織はチーム単位、個人は本人確認をして申し込めるとされた。このプログラムでも監視は外さず、最もリスクの高い種類の支援は認めずに、適切な場合に範囲を絞った支援を認める。Terraに適用する一連の安全策は、社内の安全諮問グループの勧告と経営陣の判断で、一般向けの提供に足りるとされた。

TerraはChatGPT WorkとCodexで、Plus・Pro・Enterprise・Eduの全利用者が使える。APIでは「gpt-6.1-terra」として提供する。

【関連サイト】OpenAI「Addendum to GPT-6 Astra System Card: GPT-6.1 Terra」

【関連サイト】OpenAI「GPT-6.1 Terra」

【関連サイト】OpenAI「GPT-6 Astra System Card」

【関連サイト】OpenAI「Preparedness Framework Version 2」

画像:Editorial credit: Kateryna Deineka / Shutterstock.com