2024年4月～2025年3月

【執筆・担当者】
小泉　雄介（国際社会経済研究所　主幹研究員）

   生成AIなどAI技術の社会実装が進もうとしている。AIは金融・医療・教育・交通・インフラ管理・行政など様々な分野の既存製品・サービスに組み込まれたり、新たなサービスを生み出すことで、我々の社会生活を安心・安全かつ便利で効率的なものに変えようとしている。他方で、バイアスの含まれる出力結果、巧妙な偽情報の作成や民主主義プロセスへの介入・操作、人々の人生に関わる場面での不透明な自動意思決定など、AIが基本的人権や社会に対してもたらすリスクに対処するためにEUでAI法が制定され、米国でAI大統領令が発令（その後廃止）されるなど、各国で規制面での取組みも進んでいる。またAIに対しては、AGI（汎用人工知能）や人間の知能を超えるASIが開発されることや、さらにはAIが自我や意識を持ったり、人間の命令を聞かなくなって暴走を始める、いわゆるシンギュラリティの問題が第三次AIブームの当初から懸念されているが、大規模な基盤モデルの急速な性能向上を受けて、海外では再び喫緊の課題と捉えて対策に乗り出す動きもみられている。

   生成AIや顔認識技術を含むAI技術においては、個人情報保護やプライバシーの問題も顕在化している。個人情報保護委員会がAIにおける個人情報利用も考慮した個人情報保護法改正を計画しているほか、EUのAI法には生体データ等のセンシティブな個人データの処理に関連した禁止事項が含まれ、米国でも消費者プライバシー保護のための包括的な連邦法案が提出されている。また、EUでは自己情報コントロール権を保障するために欧州デジタルID規則（eIDAS II）やデータ法が制定され、欧州ヘルスデータスペース（EHDS）規則などを通じて個別分野ごとのデータスペースの整備も進められている。

   本調査研究では上記のテーマについて文献調査および分析を行い、社内外に対する情報発信や提言を行った。