[コラム] 「知っておきたい「ビジネスと人権」#25 AI と人権」：入江克典弁護士（パートナー）

人工知能（AI）が社会に浸透している中、企業によるAI の利用は、作業の効率化や競争優位性確保のために不可欠なものとなっています。しかしその一方、AI は国際社会において、人権侵害を引き起こすリスクを伴うものとしても認識され始めています。特に採用、評価、与信、広告配信、監視といった場面で、企業が「意図せずに」差別やプライバシー侵害、不利益処分などを引き起こすケースが出始めており、これにより、インターネットでの炎上、紛争、取引停止、レピュテーションの低下などをもたらしています。企業は「AI が判断した結果であるから原因を説明できない」として責任を免れることはできません。

 

欧州連合（EU）では、いち早くAI に対する規制（AI Act）が段階的に発効しており、日本企業も影響を受ける可能性があります。日本では、現時点でAI に対する具体的な法整備はされていませんが、ガイドライン（経済産業省「AI 事業者ガイドライン」）が存在するほか、プライバシーや個人情報等に関する侵害については既存の規制枠組み（個人情報保護法等）においても問題となります。

◇ AI に内在する人権リスク
AI と人権の関係は多岐にわたりますが、主に以下のような点で人権リスクが表れています。　

 

第一に、差別や不平等の問題です。AI が学習データ（過去の採用実績、購買履歴、クレーム履歴など）に存在する偏りを取り込むことで、結果として特定の属性に不利な判断をする可能性があります。例えば、採用AI が性別・年齢・国籍などに関する不利な傾向を取り込んだり（米Amazon 社における女性採用に対するバイアスの事例が有名です）、与信（返済能力）審査AI が居住地などを通じ差別を助長したり、広告配信AI が「特定層に求人広告が届きにくい」といった構造を生んだり、といったケースがあげられます。

 

第二に、プライバシー侵害です。AIの活用は、個人の行動データの収集や分析と密接な関係にあります。特に顔認証、位置情報など、本人の同意取得のプロセスが形式的になりやすく、過剰な監視と評価される可能性があります。例えば、職場でのパソコンのログやカメラの解析などによって社員の生産性を評価したり、店舗や施設での顔認証や行動履歴からのその属性が推定されたり、といったケースがあげられます。

 

第三に、表現の自由や知る権利に関する問題です。SNS や検索ツールなどのAI は、誤情報対策や治安対策を名目に、情報のアクセスを制限する可能性があります。例えば、インターネット上の投稿の監視調整（コンテンツモデレーション）が誤って機能することで、特定の主張や社会運動に対するアクセスが制限される場合や、特定のアルゴリズムによって偏った世論が形成されていく場合が考えられます。

 

最後に、生成AI の固有の問題として、個人情報が出力されることで漏えいしたり、誹謗中傷が生成されたり、ディープフェイクなどで人格権が侵害されたり、といった例があげられます。

 

以上を踏まえて、企業は、AI を単なるツールではなく人権侵害のリスクを伴うものと捉え、国連の「ビジネスと人権指導原則」に基づく人権デューディリジェンス（DD）を実施すべきだといえます。具体的には、まず人権侵害リスクを「特定」するプロセスとして、社内で利用しているAI をリスト化（AIの用途や対象者、学習データの取得経路など）したうえで、誰の（従業員、採用応募者、取引先、顧客、一般市民など）、どのような人権（差別、プライバシーなど）に対して影響を与えうるかを検討します。次に、AI の設計、導入、運用において人権に対する影響を「防止・軽減」し、運用を「追跡・評価」する措置を講じます。学習データの偏りを検証したり、AI ベンダーとの契約で学習データの説明やログの提供等の義務を課したり、採用、与信といった重大な意思決定に際してはAI に頼らず必ず人を介するようにしたり、誤判定の有無を評価したりといった措置をとることが考えられます。

 

さらに、事故時にAIに拠らない「説明」を果たし、「是正」としての被害者救済（人による再審査、補償など）を図ることも重要となります。

 

以上のとおり、比較的新しいテーマとして、前回の「環境・気候変動」に続いて「AI」を取り上げ
ました。企業が自社のAI に対する人権リスクを適切に把握し、AI の導入、運用時、そして事故発生
時における仕組みを、DD を通じて構築することが重要です。