高リスクAI（High-risk AI）は、EU AI Actなどの枠組みで、人の権利・安全・財産への影響が大きい用途として厳しい要件が課されるAIの区分です。本記事は条文の逐条解説ではなく、試験で問われる「リスクが高いほど統制を強める」——義務のチェックリスト——に焦点を当てます（法的助言ではありません）。
試験で問われる見方
○：事前評価、文書化、監視、人間の関与など厳格な管理が求められる（TF-498）。低リスクと高リスクで水準が異なる（TF-281）。
×：高リスクほど説明・監視を減らし完全自動化する（TF-499）。高リスクな判断では人間の確認・承認が必要になる場合がある（TF-457）。
利用者への判断根拠や限界の説明が重要になる場合がある（TF-441）。
演習で確認する
高リスクAIとは
「モデル自体が危険」という意味ではなく、特定の用途・文脈で使われるAIが高リスクに分類される考え方です。EU AI Actでは、採用・信用スコアリング、重要インフラ、教育・職業訓練、法執行、移民管理、司法支援、医療機器連動などが例示されます（Annex III等。試験では細目の暗記より原則）。
社内のAIガバナンスでも、用途をリスクティアに分け、高リスクほど承認・監査を厚くする設計が一般的です。
用途のイメージ
| 領域 | なぜ影響が大きいか |
|---|---|
| 採用・人事評価 | 雇用機会・処遇に直結 |
| 信用・融資 | 経済的機会への影響 |
| 医療・安全関連 | 生命・身体への影響 |
| 法執行・司法 | 基本的人権への影響 |
| 社内チャットボット（一般） | 多くは高リスク以外の区分になりやすい（用途による） |
強まる要件チェックリスト
試験・実務の橋渡しとして、次を覚えておくとよいです。
- リスク管理システム — 設計から運用まで識別・低減
- データガバナンス — 偏り・品質（アルゴリズムバイアス）
- 技術文書・記録 — 追跡可能性、適合性評価の材料
- 透明性 — 利用者への適切な情報
- 人間の監督 — Human-in-the-Loop等
- 正確性・堅牢性・サイバーセキュリティ
- 監視・インシデント対応・停止手段
よくある誤解
| 誤解 | 実際 |
|---|---|
| 高リスク＝最新・高性能AI | 用途と影響で決まる |
| 自動化すればコンプライアンス | ×（TF-499）。監督を強化 |
| 日本国内のみなら無関係 | EU提供・影響があり得る（EU AI Act） |
| 倫理ガイドがあれば十分 | 法令・ガバナンスの両方が必要な場合あり |
組織での対応
よくある質問
高リスクAIとEU AI Actは同じ？
高リスクAIはEU AI Act内の重要な区分の一つです。法全体＝高リスクAIではありません。
生成AIはすべて高リスク？
いいえ。チャットボットは限定的リスク（透明性義務）など別区分の例もあります。用途次第です。
説明可能AI（XAI）との関係は？
高リスク領域では説明可能性が重視されます（G-397の論点）。