サイト内の現在位置を表示しています。

AI社会における「自由」と「安全」のトレードオフ:顔認識技術のケーススタディ

『日本セキュリティ・マネジメント学会 Vol.34, No.2』(2020年第2号)に、当社主幹研究員小泉雄介の研究ノート「AI社会における「自由」と「安全」のトレードオフ:顔認識技術のケーススタディ」が掲載されました。 

 AI社会において尊重すべき「価値」のうち、個人データの利活用が「個人に対して」もたらす価値には「自由」「平等」「安全」「利便」の4つがありますが、AI社会ではこれらの価値の間にトレードオフが発生する場合があります。本稿では国内外で導入が進む顔認識技術をケーススタディとして、「自由」と「安全」、または「自由」と「利便」という価値間で発生するトレードオフについて、これらの間のバランスを取るための方策を検討しました。顔特徴データの利用を伴う顔認識システムの用途は、①本人同意に基づく利用、②特定の対象者に対する利用、③不特定の対象者に対する利用(公共空間等での自動顔認識)の3つに分類できます。これらの用途のうち、「自由」とその他の価値(安全や利便)とのトレードオフが顕在化するのは、③の用途です。③に対しては様々な懸念・批判の声が上げられているが、本質的な懸念は「顔画像の取得の容易さ」「個人に対する透明性の欠如」「行動の自由の萎縮効果」の3点です。③の用途において、これら「自由」に関わる懸念に対処しながら、「安全」や「利便」を追求することは容易ではありませんが、英国ICOの意見書が1つの指針となります。同意見書では、警察による③の用途が許容されるのは「法執行目的で厳密に必要とされる場合」とし、そのためには自動顔認識の「比例性」と代替手段の有無を検討すべきとしています。すなわち、警察による利用については、目的(犯罪捜査など)と手段(自動顔認識)との比例性に基づきケースバイケースで検討するべきであり、万が一導入する場合であっても「厳密に必要とされる」場合、例えばテロ警戒レベル上昇時、大規模イベント開催時など期間と場所とを限定した利用にとどめるべきと言えます。このような条件を課すことで、「自由」と「安全」の間のトレードオフ関係に一定のバランスを見出すことが可能となります。民間企業による利用についても同様に考えることができます。