ヒューマン・イン・ザ・ループ（Human in the Loop）とは・意味、由来・似た考え方との違い・事例
最終確認日：2026年10月31日
ヒューマン・イン・ザ・ループとは？
ヒューマン・イン・ザ・ループ（Human in the Loop）とは、AIが作業や判断を進める流れに人が直接関わる仕組みや考え方のこと。略称は HITL だ。政府の人工知能基本計画は脚注で「人がAIのタスク実行の流れに直接関与する仕組み」と説明している（※1）。
人がどの場面でどう関わるかは、語を使う主体によって違う。Anthropic は、Claude の提案を見直し、必要なら変更する権限を持つ人を指してこの語を使う（※2）。開発の枠組みの LangChain は、エージェントがツールを呼び出す前に処理を止め、人に確かめさせる機能の名前にしている（※3）。
ヒューマン・イン・ザ・ループの由来
Marc M. Anderson 氏と Karën Fort 氏は、2022年の論文でこの語の歴史を調べた。両氏によると、Human in the Loop は1950年代に出版物で使われ始めた。両氏が見つけた中で語がはっきり現れた最初の例は、米国の海軍研究所が1958年にまとめた報告だ。話し言葉では1940年代から使われていた可能性があるとも、両氏はみている（※4）。
初期の用例はいずれも制御システムの文脈にあり、ミサイルの射撃管制で精度と安定をどう保つかという課題が背景にあった。両氏によると、語は人を制御の仕組みの部品として最適に使うための言葉として始まり、安全のために仕組みを見守るだけの人という見方も初めからあった。
両氏は、語がその後いくつもの意味を持つようになり、使われ方が紛らわしくなったと指摘する。AIの開発では、監督という考え方のもとで改めて使われるようになったとも論じている（※4）。
ヒューマン・イン・ザ・ループに関する主な出来事・ニュース
- 2025年2月10日 英国政府「Artificial Intelligence Playbook for the UK Government」を公表：英国政府は、影響やリスクが大きい場面でAIを使うときは、出力と判断を人が監督して確かめる human-in-the-loop の手続きを設けるよう示した。
- 2026年5月25日 Anthropic「How we contain Claude across products」を公開：Anthropic は、エージェントの動きを人が監督する human-in-the-loop の方法と、エージェントが触れられる範囲を区切る方法を説明した。
- 2026年6月4日 Microsoft、エージェント型AIの障害の分類の更新を公表：Microsoft は、運用中のエージェントに対する12か月のレッドチームの結果をもとに、分類を v2.0 に更新した。レッドチームは一般に、攻撃者の立場でシステムの弱点を試す活動を指す。分類は v1.0 から、人の確認のすり抜け（human-in-the-loop bypass）を扱っている。
- 2026年7月14日 政府、人工知能基本計画を閣議決定：内閣府のページによると、現行の計画は2026年7月14日に閣議決定された。2025年12月23日に閣議決定した計画は、過去の計画として同じページに載っている。
- 2026年10月8日 Anthropic「2026 Usage Policy update」を発表：Anthropic は、利用ポリシーの改定を発表し、新しい版は11月12日に発効するとした。改定では、高リスクの用途の要件の節を書き直した。
ヒューマン・イン・ザ・ループと似た考え方との違い
人工知能基本計画は、人の責任のあり方として現在議論されている考え方を、同じ脚注に3つ並べている（※1）。
| 考え方 | 人工知能基本計画の説明の要旨 |
|---|---|
| Human in the loop | AIが作業を実行する流れに、人が直接関わる |
| Human on the loop | 作業の実行はAIに任せ、流れの全体の設計と監視を人が受け持つ |
| Human in the lead | AIを道具として統制し、意思決定と価値の創出の主導権を人が握る |
計画の改定に向けて内閣府が2026年4月に示したたたき台には、人間力の作業部会の中間とりまとめのたたき台が載っている。そこには、Human in the loop について、責任を取るためだけに人が流れの中に置かれる懸念が書かれていた（※5）。
ヒューマン・イン・ザ・ループに関する事例
Anthropic は、重大な影響がある用途で人の確認を要求
Anthropic は、健康、法的権利、財務、生計、必須のサービスの利用に影響しうる使い方では、適格な「human in the loop」を置くよう求めている。影響を受ける本人に、AIを使ったと伝えることも要件だ。同社によると、この要件そのものは2026年10月の改定で変わっていない（※2）。
2026年11月12日に発効する利用ポリシーによると、対象は法律、医療、金融、与信、保険、住宅、雇用などの領域での提案だ。その分野の出力を評価できる訓練や経験を持つ人が、変更の権限を持ったうえで、本人に届ける前か決定に使う前に中身を実質的に確かめる。法律で免許が求められる活動なら、免許も必要になる。
対象の外の例には、最終の提案にあたらない社内の下書きや調査、要約がある。保険金の支払いなど規定が挙げた場面で本人に全面的に有利な判断をするときは、法律が認める範囲で事前の確認を要しない（※6）。
開発フレームワークでは、実行前に処理を止めて人が確認
OpenAI の Agents SDK の手動の承認の流れでは、承認の要るツールが呼び出されると処理が止まる。開発者は承認か却下を決めたあと、同じ状態から処理を再開できる（※7）。
LangChain の機能では、確かめる人が呼び出しをそのまま承認するほか、引数を直す、理由を添えて却下する、ツールの代わりに答えるといった対応を、ツールごとに許した範囲で選べる。LangChain のドキュメントは、取り消しにくい操作や承認の要る操作に使うよう勧めている（※3）。
中外製薬は、業務の再設計でヒューマン・イン・ザ・ループを重視
総務省の令和8年版情報通信白書は、中外製薬の例を紹介している。同社はビジネスプロセスの変革では個人作業の効率化と違い、人とAIの役割の分担を十分に検討したうえでガバナンスに基づいてAIを使うべきだと考えている。同社によると、AIに任せる工程と人が責任を負う工程を見極め、人の判断や確認を適切に挟むヒューマン・イン・ザ・ループに重きを置いて、業務の流れを設計し直す必要がある（※8）。
Claude Code では、許可の確認のおよそ93%を利用者が承認
Anthropic によると、Claude Code では利用者が許可の確認のおよそ93%を承認していた。同社は、承認の回数が増えるほど1回ごとの注意が薄れるとみており、これを承認疲れと呼んでいる。対策の一つとして、作業できる範囲を OS の機能で区切るサンドボックスを導入すると、許可の確認は84%減ったという（※9）。
Microsoft の試験で最も一貫して突かれたのは人の確認のすり抜け
Microsoft は12か月のレッドチームの結果として、人の確認のすり抜けが最も一貫して突かれた障害の型だったと報告した。手口には、同意の疲れを突くもの、1回ごとは確認が要らないように見える操作を積み重ねるものなどがある。複数の試験では、外部からの入力を起点に、最初にエージェントを起動したあとは人の操作がないまま、情報の持ち出しなどの大きな被害に至る攻撃の連鎖も示された（※10）。
国内外の政府文書と法律での扱い
総務省と経済産業省のAI事業者ガイドライン（第1.2版）の本編は、この語ではなく「人間の判断の介在」という項目を置いている。出力が公平さを欠かないよう、適切なタイミングで人の判断を挟む使い方を検討するという内容だ。人の判断が自動化バイアスの影響を受けないようにする対策も求めている（※11）。自動化バイアスは一般に、自動化された仕組みの出力を信じすぎる傾向を指す。
内閣府のバーティカルAI領域別戦略の中間とりまとめは、行政の領域の制度の課題の一つとして、エージェント型AIを使うときに人がどう関わるかなどの具体化を挙げ、そこに Human in the Loop の語を添えている（※12）。
人工知能戦略専門調査会の2026年4月の第4回の議事概要には、現場のノウハウを標準化する話の中で、AIに全部を任せずヒューマン・イン・ザ・ループで段階を踏んで進めることが重要だという意見が載っている（※13）。
英国政府の AI Playbook は、影響やリスクが大きい場面の手続きについて、確かめる人がリスクを実効的に見つけ、適切な場合には介入できるようにすることを求めている（※14）。
EU の AI法の第14条は、語としては「human oversight」（人による監視）を使う。高リスクのAIシステムについて、担当する人が出力を無視・変更したり、停止の操作で安全に止めたりできるようにすることなどを定めている。適切で釣り合いのとれる範囲で可能にするという条件が付く（※15）。
AI法を改正した AI Omnibus（規則(EU) 2026/1744）によると、第14条を含む高リスクのAIシステムの決まりは、付属書IIIのものが2027年12月2日、付属書Iの対象の製品に組み込まれたものが2028年8月2日に適用が始まる（※16、※17）。
「Human-in-the-Loop」が入った試験のシラバスとスキル標準
生成AI活用普及協会（GUGA）の生成AIパスポート試験のシラバスは、2027年2月の試験から適用する版で、AIエージェントの定義の項目とリスクの項目のキーワードに Human-in-the-Loop を挙げている（※18）。
情報処理推進機構のデジタルスキル標準 ver.2.0 は、必要に応じて学習する先端技術の例の一つに「HITL:Human-in-the-Loop」を挙げている（※19）。
ヒューマン・イン・ザ・ループを取り入れるときの注意
人を流れに入れたというだけでは、確認が働くとは限らない。Anthropic によると、Claude Code でこの方法が成り立つのは平均的な利用者が開発者で、操作の中身を判断できる知識を持つ可能性が高いからだ。同社は、専門の知識を持たない人にコマンドの判断まで期待すべきではないとも述べている（※9）。確かめる人が中身を判断でき、結果を変える権限を持っているかは、導入の前に見ておきたい点だ。
確認の出し方にも工夫が要る。Microsoft は、複数の操作をまとめた承認を分けることや、元に戻せるかどうかで承認の段階を変えること、承認の頻度を監視することなどを勧めている（※10）。
関わり方の選び方も、語だけでは分からない。人工知能基本計画には、3つの考え方のどれをどの場面に当てるかの基準は書かれていない（※1）。製品や規定の説明に「ヒューマン・イン・ザ・ループ」とあれば、誰が、いつ、何を確かめるのかまで読むと実態をつかみやすいだろう。
ヒューマン・イン・ザ・ループに関連する用語
- ヒューマン・イン・ザ・リード：人がAIを道具として統制し、物事を決める主導権と価値を生み出す主導権を持つという考え方。
- 承認疲れ：AIエージェントなどから操作の許可を何度も求められるうちに、人が中身をよく確かめずに承認するようになること。
- 人工知能基本計画：日本のAI法に基づいて政府が定める、AIの研究開発と活用を進めるための基本の計画。
- バーティカルAI：製造、医療、金融など特定の業界や業務に絞り、現場のデータや知識を生かして作るAI。
ヒューマン・イン・ザ・ループに関する出典
※1 内閣府「人工知能基本計画 ～日本AX、より強く、より豊かに～」（2026年7月14日閣議決定）
※2 Anthropic「2026 Usage Policy update」（2026年10月8日）
※3 LangChain「Human-in-the-loop overview」
※4 Marc M. Anderson、Karën Fort「Human Where? A New Scale Defining Human Involvement in Technology Communities from an Ethical Standpoint」（2022年8月22日、International Review of Information Ethics）
※5 内閣府「人工知能基本計画の改定に向けて（議論のたたき台）」（2026年4月、人工知能戦略専門調査会の第4回の資料1）
※6 Anthropic「Usage Policy」（2026年11月12日発効）
※7 OpenAI「Human-in-the-loop | OpenAI Agents SDK」
※8 総務省「令和8年版情報通信白書」（2026年7月）
※9 Anthropic「How we contain Claude across products」（2026年5月25日）
※10 Microsoft「Updating the taxonomy of failure modes in agentic AI systems: What a year of red teaming taught us」（2026年6月4日）
※11 総務省・経済産業省「AI事業者ガイドライン（第1.2版）本編」（2026年3月31日）
※12 内閣府「バーティカルAI領域別戦略 中間とりまとめ」（2026年7月10日、人工知能戦略本部の第5回の資料2-2）
※13 内閣府「人工知能戦略専門調査会（第4回）議事概要」（2026年4月9日の会議）
※14 英国政府「Artificial Intelligence Playbook for the UK Government (HTML)」（2025年2月10日）
※15 European Commission「Article 14: Human oversight | AI Act Service Desk」
※16 欧州議会・EU理事会「Regulation (EU) 2026/1744 of the European Parliament and of the Council of 8 July 2026 (Digital Omnibus on AI)」（2026年7月24日、EU官報）
※17 European Commission「AI Omnibus enters into force」（2026年7月27日）
※18 生成AI活用普及協会「生成AIパスポート試験シラバス」（2027年2月試験より適用）
※19 情報処理推進機構「デジタルスキル標準 ver.2.0」（2026年4月）
※20 内閣府「人工知能基本計画」（2026年7月14日閣議決定の計画の掲載ページ）
