シナリオ

ワークショップシナリオ

[1] とある日本のIT企業X社は、万引き犯によく見られる疑わしい特徴や挙動等のある顧客を抽出してリアルタイムで従業員に通知する顔認識・挙動探知技術を搭載した店舗内カメラを開発、日本の大型の民間施設への導入を進めている。

[2] IT企業X社は当該技術を、防犯アドバイザーによる特徴分析や現場での挙動データ等をもとに構築したと説明しているが、アルゴリズムの内容は公開されていない。そのため、どのような特徴（顔を隠している、大きな荷物を抱えている等々）が用いられているのかは不明である。

[3] カメラを導入した民間施設では、該当する顧客の来店時に従業員が注意深くその行動をチェックして万引き防止をはかることで、店舗の経済的損失や従業員の残業時間が大幅に減っていると同技術を高く評価している。

[4] さらに民間施設は同技術に付加するシステムとして、利用登録をした顧客の顔データとの照合により来店回数を把握、店舗内での行動を把握し、エコバック・マイカップの持参やエコロジー商品への関心を強く示す顧客に店舗内で利用可能な「ecoポイント」を付与するシステム構築もIT企業X社に委託。顧客の購買行動を促進するだけではなく、顧客側も環境問題への関心が高まるとして店舗側、顧客側双方にとって満足度が高いサービスと評価されている。

[5] 時を同じくして、日本国内では容疑者不明の爆破事件が不特定多数の人が集まる大型の民間施設や地下鉄等において多数発生していた。

[6] 政府は正体不明のテロリストによる犯行の可能性を挙げ抜本的なテロ対策に乗り出し、すでに大型の民間施設で導入されているX社の技術に、万引き対策だけではなくテロリストの特徴や挙動を抽出する機能の追加を要請した。

[7] X社はテロリストとして疑わしい特徴・挙動等のある者のデータをもとにシステムを構築したと説明しているが、アルゴリズムの内容は公開されていないため、どのような特徴（顔を隠している、大きな荷物を抱えている等々）が用いられているのかは不明である。また、テロリストとして明らかに指名手配されている人物ではなく、疑わしい段階でのテロリストの情報や顔画像が民間企業へ提供されることはない。

[8] 政府は、不特定多数の人が集まる大型の民間施設の管理者に対して、このシステムによる抽出結果情報をリアルタイムで警察に提供することを義務付けることを検討している。

[9] さらに、その情報を提供されて現場に出動した警察官に対して、抽出された者に所持品・身体検査等を強制的に行う権限を付与することも検討されている。

ディスカッションでの問い

問1 すでに店舗で利用されているX社の顔認証技術（シナリオの[1]-[4]）によるサービスは今後も展開していくべきである。　 （はい　いいえ）

問２ X社の顔認証技術によるサービスは対テロ対策（[5-8]）として今後、展開していくべきである。 （はい　いいえ）

問３　AIによる判断が、人間（従業員や公権力）の判断材料の一つとして使われる（[3]、[9]）ことは、今後のデジタルトランスフォーメーションなどの流れでは推進していくべきである。　 （はい　いいえ）