アクセンチュアとAnthropic、AIの安全性を評価する「組み込み型評価者」チームの設立に向け提携

アクセンチュアとAnthropicは2026年9月18日、AIモデルの安全性を評価する「組み込み型評価者（embedded evaluators）」のチームをAnthropicの社内に設けるための提携を発表した。チームはAnthropicの各部門や、AIの安全性で同社と組むパートナー各社と協力して、モデルの評価とレッドチーミング、アラインメント評価、セーフガードが有効かどうかの検証を受け持つ。AIの安全性向上に向けて、両社がそれぞれ今後5年間で10億ドル以上を投じる見込みだ。日本語の発表は、アクセンチュア株式会社が10月5日に公表した。

提携は、アクセンチュアが買収したAI専門事業のFaculty（ファカルティ）が主導する。アクセンチュアのジュリー・スウィート会長兼最高経営責任者（CEO）によると、同社はAIとセキュリティ、業界の知見を持つ専任のチームを組み、Anthropicと協働する。

Anthropicの説明では、組み込み型の評価者は、いまの外部の評価者と違い、AI企業の中で従業員と同程度のアクセス権を持って働く。このアクセス権があれば、評価者は学習途中のモデルの様子や、モデルの開発と提供を左右する意思決定を追い、従業員と直接話せる。会社が安全性に関する約束を守っているかを確かめ、見落としを見つけ、インシデントを報告することもできる。モデルの安全性の責任は引き続きAnthropicが負い、独立した評価者はその説明責任を検証しやすくする助けになると位置づける。

同社によると、組み込み型の評価は新しい試みで、どう運用するかはまだ多くの点を詰めている段階だ。評価者がどの情報にアクセスし、見つけたことをどう報告するかの基準はまだなく、独立した評価の資金の仕組みも定まっていない。今回は、Anthropicがアクセンチュアの作業に直接資金を出す。METRなどの非営利の評価団体とも、各団体の資金で組み込み型評価の一部を試す方向で話し合っている。提携は非独占で、Anthropicは今後数週間のうちに発表する別の評価者とも組み、アクセンチュアも同様の役割でほかのAI開発企業と協働する。

【関連サイト】アクセンチュア「アクセンチュアとAnthropic、AIの安全性評価を担う「組み込み型評価者」専門チームのAnthropicでの社内設立に向け提携」

【関連サイト】Anthropic「Partnering with Accenture on embedded evaluation」