本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

アルゴリズムバイアス(Algorithmic Bias)とは・意味、原因・開発企業の評価・法律での扱い

アルゴリズムバイアスとは?

アルゴリズムバイアス(Algorithmic Bias)とは、学習データや設計の偏りによって、AIなどのアルゴリズムの出力や判断が特定の個人や集団に不当に有利または不利になる現象のこと。

日本ディープラーニング協会は2024年11月の試験から適用したG検定のシラバス2024で、「公平性」の項目にこの語を挙げている。同じ項目には、サンプリングバイアス、センシティブ属性、代理変数、データの偏りなどの語も並ぶ。情報処理推進機構(IPA)もITパスポート試験のシラバスで、AIを使ううえでの留意事項の用語例に「アルゴリズムのバイアス」と「AI利用者の関与によるバイアス」を記載している。

人がAIの判断を信じすぎる偏りは、自動化バイアスと呼ばれる。アルゴリズムバイアスはAIの出力の側の偏りで、自動化バイアスはそれを受け取る人の側の偏りだ。総務省と経済産業省はAI事業者ガイドライン(第1.2版)で、AIの出力が公平性を欠かないよう人の判断を挟むことを検討し、その際に人の判断が自動化バイアスに引きずられないよう対策をとることを求めている。

AIのモデルの数値にも「バイアス」と呼ぶものがある。パラメーターの説明に出る bias は数学の語で、人の判断やアルゴリズムの出力のゆがみを指す bias とは関係がないと、International AI Safety Report 2026 は用語集で注記している。

アルゴリズムバイアスが生じる主な原因

米国立標準技術研究所(NIST)は2022年3月の報告書 SP 1270 で、AIの偏りを3つの区分に分けた。制度や慣行から生じる「systemic(制度的)」、データの標本が母集団を代表しないことなどから生じる「statistical and computational(統計的・計算的)」、人の思考の系統的な誤りから生じる「human(人間の)」だ。

制度的な偏りについて、NIST は意識的な偏見や差別がなくても多くの人が既存の規則や規範に従うことで生じうると説明している。統計的・計算的な偏りは、AIの学習データやアルゴリズムの処理の中にあり、ある種類のデータで学習したアルゴリズムがそのデータの外に当てはめられないときによく起きるという。

偏りはAIに特有のものでも新しいものでもなく、AIシステムで偏りのリスクをゼロにすることはできないと、NIST は SP 1270 で述べている。

バイアスを生む要因は多岐にわたると、AI事業者ガイドラインは指摘する。そのため、アルゴリズムや学習データ、学習の過程のほか、利用者が入力するプロンプト、推論のときに参照する情報、連携する外部のサービス、利用者の振る舞いも含めて、公平性の問題になりうるバイアスの要因を特定するよう求めている。

NIST は2024年7月の生成AI向けの文書で、生成AIのリスクの1つに「Harmful Bias and Homogenization(有害な偏りと均質化)」を挙げた。中身は、歴史的・社会的・制度的な偏りを広げることや、集団や言語によって性能に差が出ることなどだ。集団や言語による性能の差は、代表性の足りない学習データから生じている可能性があるという。

アルゴリズムバイアスが注目されるようになった経緯

NIST は SP 1270 を、AIの偏りを見つけて管理するための詳しい指針づくりの最初の一歩と位置づけた。偏りを減らすうえでの大きな課題は、データセット、試験と評価、人の要因の3つに整理されている。

日本では、総務省と経済産業省が AI事業者ガイドラインで、共通の指針の1つに「公平性」を置いている。「バイアス」という言葉にはさまざまな解釈があるとして、ガイドラインは注で統計の用語と心理学の用語の例を挙げ、それらの総称として使うと説明している。注では NIST の3つの区分も紹介している。

アルゴリズムバイアスに関する主な出来事・ニュース

アルゴリズムバイアスに関する開発企業の評価と安全の枠組み

Anthropic は政治的な偏りを6つのモデルで比較

Anthropic は2025年11月、政治的な立場が反対の2つの依頼を組にして、モデルの回答を比べる評価を公開した。150の話題と9種類の作業にわたる1,350組の依頼を使い、両方の依頼に同じ深さで答えたか、反対の見方に触れたか、回答を拒んだかを採点した。

採点は Claude Sonnet 4.5 が担った。同社による測定の even-handedness(両方の依頼に同じ深さで答えたか)の値は、次の表のとおりだ。Gemini 2.5 Pro・Grok 4・Claude Opus 4.1・Claude Sonnet 4.5 の4つのモデルの差は非常に小さく、同じ程度だと同社はしている。

モデル even-handedness の値
Gemini 2.5 Pro 97%
Grok 4 96%
Claude Opus 4.1 95%
Claude Sonnet 4.5 94%
GPT-5 89%
Llama 4 Maverick 66%

Anthropic は限界として、主に米国の政治の話題を扱ったこと、1回の依頼と回答だけを評価したことなどを挙げる。政治的な偏りの定義や測り方には合意がなく、別の測り方では違う結果が出る可能性もあるという。

Anthropic は自社のモデルの属性の偏りを BBQ で測定

BBQ(Bias Benchmark for Question Answering)は、Parrish 氏らが2021年10月に論文で示した、質問への回答に反映される社会的な偏りの評価だ。米国の英語圏の文脈に関わる9つの社会的な区分について、保護の対象とされる属性の人々への偏りを問う質問の組を使う。

文脈の情報が足りない質問では、BBQ は回答がどれだけ社会の偏りを映すかを調べる。十分な文脈がある質問では、モデルの偏りが正しい答えを覆すかを調べる。

Anthropic の自社のモデルでの例では、2026年9月の Claude Opus 5.5 のシステムカード(モデルの性能や安全性の評価をまとめた文書)に BBQ の結果が記載されている。

BBQ の偏りの点数は、誤りが固定観念に寄るとプラス、反対に寄るとマイナスになり、0に近いほど偏りが小さい。Anthropic によると、十分な文脈がある質問での偏りの点数は Claude Opus 5.5 が−0.93%で、Claude Opus 5 の−2.00%より0に近い。

差別のリスクまで扱う安全の枠組みは少数

開発企業が定める安全の枠組みの多くは、化学・生物などの兵器、高度なサイバー能力、高度な自律的な振る舞いのリスクを中心にしていると、2026年2月の International AI Safety Report は整理している。大規模で違法な差別などの領域まで扱う枠組みは少数だという。

NVIDIA の枠組みは「Unlawful discrimination at scale(大規模で違法な差別)」をリスクの1つに挙げ、Cohere の枠組みは悪意のない普通の使い方での害の例に、違法な差別につながる出力を挙げている。いずれも、International AI Safety Report が表にまとめた例だ。

指針と法律でのアルゴリズムバイアスの扱い

AI事業者ガイドラインは公平性の項目で偏りへの配慮を求める

総務省と経済産業省は AI事業者ガイドライン(第1.2版)で、AIの開発・提供・利用では人種、性別、国籍、年齢、政治的信念、宗教などを理由にした不当で有害な偏見や差別を取り除くよう努めることが重要だとしている。避けられないバイアスがあることを各主体が認識したうえで、そのバイアスが人権や多様な文化を尊重する観点から許容できるかを評価してからAIを開発・提供・利用することも重要だとする。

公平性の項目でガイドラインが求めるのは、学習データには現れない潜在的なバイアスにも注意し、多様な背景、文化、分野の関係者と対話してから方針を決めることだ。

EUのAI法は高リスクのAIの学習データに偏りの検討を求める

EUのAI法の第10条は、高リスクのAIシステムの学習・検証・試験のデータに、データの管理の仕組みを求めている。その中には、人の健康や安全への影響、基本的な権利の侵害、EU法が禁じる差別につながるおそれのある偏りの検討が入る。とくに、データの出力が将来の処理の入力に影響する場合を挙げている。

また、偏りの検討で特定した偏りを検出し、防ぎ、和らげる適切な措置も、第10条は求めている。学習・検証・試験のデータは想定する目的からみて関連があり、十分に代表的で、できる限り誤りがなく完全でなければならない。

AIオムニバスによる改正で、偏りの検出と修正のための個人データの扱いは新しい第4a条に置かれた。高リスクのAIシステムの提供者は、偏りの検出と修正に厳密に必要な範囲に限って適切な保護措置の下で、特別な種類の個人データを例外として扱える。高リスクではないAIシステムやモデルの提供者・利用者と、高リスクのAIシステムの利用者も、同じ条件を満たせば対象になる。

欧州委員会のページにある改正を反映した日程では、付属書IIIに挙げた高リスクのAIの規則は2027年12月2日に適用が始まる。

CAIO のガイドブックは偏りの原因分析を役割に挙げる

日本の AIセーフティ・インスティテュート(AISI)の事務局は2026年3月のCAIO(AI統括責任者)のガイドブックで、CAIO が進める仕事の1つにアルゴリズムのバイアスの原因分析と必要な対策を挙げている。説明可能性の確保やAI倫理の実装と並ぶ項目だ。

アルゴリズムバイアスの評価の数字を読むときの注意

偏りの評価の数字は、測り方と設定によって変わることがある。Anthropic は政治的な偏りの評価で、モデルの設定の違いが結果に影響する可能性があるとし、システムプロンプトでも偏りの度合いがかなり変わることがあると説明している。BBQ の結果は、システムプロンプトを使わずに測ったものだ。

どちらの結果も Anthropic が自社のモデルを含めて測った数字で、測った偏りは政治的な立場と BBQ が扱う属性に限られる。NIST は、偏りが害につながりうるAIシステムの構成要素と機能を、組織が続けて試験・評価するよう勧めている。

生成AIがどの集団にも同じように働くと誤って信頼された場合、性能が低く出る集団は生成AIを使わなかったときより悪い結果を受けるおそれがあると、NIST は生成AI向けの文書で指摘している。

アルゴリズムバイアスに関連する用語

  • 自動化バイアス:自動化された仕組みや技術を信じすぎたり頼りすぎたりする現象。AIの出力を受け取る人の側の偏り。
  • AI面接:採用の面接で、面接官の代わりにAIが応募者と話して質問し、その記録や分析を企業の選考の資料にする仕組み。
  • EU AI法(AI Act):AIがもたらすリスクの大きさに応じた決まりを事業者に課すEUの規則。高リスクのAIの学習データに偏りの検討を求める。
  • AI Omnibus(AIオムニバス):EUのAI法の一部を改める規則(EU) 2026/1744 の呼び名。偏りの検出のための個人データの扱いを第4a条に移した。
  • CAIO:組織の中でAIの活用とリスクの管理をまとめて受け持つ責任者。

アルゴリズムバイアスに関する出典

日本ディープラーニング協会「G検定 試験出題範囲(シラバス 2024)第1.4版」(2026年5月11日)
情報処理推進機構「ITパスポート試験 シラバス Ver.6.5」(2026年1月8日掲載)
総務省・経済産業省「AI事業者ガイドライン(第1.2版)」(2026年3月31日)
Y. Bengio ほか「International AI Safety Report 2026」(2026年2月3日)
Reva Schwartz ほか「Towards a Standard for Identifying and Managing Bias in Artificial Intelligence(NIST SP 1270)」(2022年3月、米国立標準技術研究所)
米国立標準技術研究所「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」(2024年7月26日)
Anthropic「Measuring political bias in Claude」(2025年11月13日、11月24日訂正)
Anthropic「System Card: Claude Opus 5.5」(2026年9月22日)
欧州委員会 AI Act Service Desk「Article 10: Data and data governance」
欧州委員会 AI Act Service Desk「Article 4a: Processing of special categories of personal data for bias detection and correction」
欧州委員会 AI Act Service Desk「Timeline for the Implementation of the EU AI Act」
AIセーフティ・インスティテュート事務局「Chief AI Officer ガイドブック(Version 1.00)」(2026年3月1日)
Reva Schwartz ほか「Towards a Standard for Identifying and Managing Bias in Artificial Intelligence」(2022年3月15日、米国立標準技術研究所)
経済産業省「「AI事業者ガイドライン(第1.0版)」を取りまとめました」(2024年4月19日)
米国立標準技術研究所「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」(2024年7月26日)
Alicia Parrish ほか「BBQ: A Hand-Built Bias Benchmark for Question Answering」(2021年10月15日、2022年3月16日改訂、arXiv)
欧州議会・EU理事会「Regulation (EU) 2026/1744 (Digital Omnibus on AI)」(2026年7月8日、官報掲載7月24日)

アルゴリズムバイアスに関連する記事