AIで顔認識し名前をタグ付け、フェイスブックはプライバシー侵害か(+個人的な体験)

写真に写る人の顔を人工知能(AI)で認識し、自動的にその人の名前をタグ付けする。フェイスブックのこの機能はプライバシー侵害か?

写真に写る人の顔を人工知能(AI)で認識し、自動的にその人の名前をタグ付けする。フェイスブックのこの機能はプライバシー侵害か?

米国でそんな裁判が続いている。

Open Image Modal

イリノイ州では州法で、本人の同意なく指紋や網膜などの生体認証(バイオメトリクス)情報を収集、保有することを禁じている。これには、顔の情報も含まれる。

そして原告らは、フェイスブックが同法に違反して、同意なくユーザーの顔の画像を収集している、との訴えだ。同じような裁判は、グーグル、スナップチャットに対しても起こされており、判決の行方は、同種のサービスに与える影響は大きい、と見られている。

同意のない顔認識もさることながら、さらに、フェイスブックに投稿された別人の写真に、誤って自分の名前がタグ付けされたら―。

これは、私自身が最近経験したことだ。

AIが勝手に行うユーザーのプロファイリングは、特にそれが間違っていた場合、ネットに流通することで、深刻なトラブルや人権侵害につながる可能性がある。

もし、犯罪者の顔写真に、自分の名前がタグ付けされたら、どうなるか?あるいは、その逆は?

フェイスブックは、「いいね」などの行動履歴から、ユーザーの人種を自動判別し、広告配信に利用していることも明らかになっている。

フェイスブックのAIによって、本人の知らない"自分"の情報が流通している可能性があるのだ。

●ユーザーによる集団訴訟

ブルームバーグのジョエル・ローゼンブラットさんが、この裁判の最近の動きをまとめている

フェイスブックに対する訴訟は、昨年4月、住民からイリノイ州で相次いで起こされたが、後にフェイスブック本社のあるカリフォルニア州の連邦地裁に移管されている

原告の1人、ニメシュ・パテルさんは訴状の中でこう述べている

原告はこの集団訴訟を、フェイスブックによる最新のプライバシー侵害をやめさせるために提起した―ユーザーの生体識別子と生体認証情報を、インフォームドコンセント(事前説明と同意)なく収集、保有し利用することは、生体認証情報プライバシー法に真っ向から違反している。

●生体認証情報プライバシー法

イリノイ州には、2008年制定の生体認証情報プライバシー法がある。

Open Image Modal

同法の"生体認証情報"には、網膜、光彩、指紋、声紋、手もしくは顔の形状をスキャンしたデータが含まれている。

遺伝子情報については、イリノイ州には別に遺伝子情報プライバシー法があり、ここには含まれていない。

生体認証情報プライバシー法は、こう述べる。

生体認証情報は、金融情報などの機微な情報へのアクセスに使われる識別子とは異なる。例えば、社会保障番号は、漏洩してしまった場合には、変更が可能だ。しかし、生体認証情報は、生物学上、それぞれに固有のものだ。すなわちいったん漏洩してしまえば、変更手段はないため、なりすまし犯罪の危険は高まり、生体認証で保護されていても財産を引き出されてしまうかもしれない。

そして、こう規定する。

(事前の文書による説明と本人の同意なしに)いかなる民間組織も、個人もしくは顧客の生体識別子もしくは生体認証情報を、取引その他を通じて収集、保存、購入、受領してはならない。

違反した場合、1件につき過失ならば1000ドル、故意なら5000ドルの賠償責任が生じる。

原告らは、フェイスブックがシステムを使って故意に、同法の規定に違反している、と主張。1件あたり5000ドルの賠償請求をしている。

そして、フェイスブックの旗色は、今のところあまりよいとは言えないようだ。

フェイスブック側は、顔認識はイリノイ州法の生体認証データの収集には当たらない、などとして訴えの棄却を申し立てたという。だが今年5月、カリフォルニアの連邦地裁は、「生体認証データの収集には当たる」として、この申し立てを退けている

●フェイスブックだけでなく

同法に基づく同様の裁判はほかにもある。

今年3月には、グーグルに対し、「グーグル・フォト」が無断で顔認識データを自動識別したことが、生体認証情報プライバシー法違反に当たるとして、やはりイリノイ州の連邦地裁に集団訴訟が起こされている。

5月には、スナップチャットに対する同様の裁判も、カリフォルニア州で起こされているという。

写真共有サイトの「シャッターフライ」に対しても、昨年6月にやはりイリノイ州で集団訴訟が起こされている。ただ、この裁判については、今年4月に和解が成立している

原告が提訴の根拠としているイリノイ州法を巡っては、顔認識とタグ付けを法の規定から除外する改正案が州議会に提出されたという。だが5月に退けられている。この改正案の提出には、フェイスブック、グーグルのロビイングがあった、と見られているようだ。

●欧州における顔認識

フェイスブックは、米国では裁判で争う一方、厳格なプライバシー法制をもつ欧州では、早々に顔認識サービスを停止、顔認識データは削除したという経緯がある。

フェイスブックの国際本部があるアイルランドの個人データ保護コミッショナーは、オーストリアのプライバシー保護活動家、マクシミリアン・シュレムスさんらによる、フェイスブックのプライバシー侵害の訴えに基づき、同社の調査に乗りだし、2012年に報告書をまとめている

フェイスブックは、この調査を受けて、欧州での顔認識サービスを停止していたのだ

さらにその後、フェイスブックは顔認識データについてもすべて削除する、と公表。データ削除についてはアイルランドとドイツ・ハンブルグの個人データ保護コミッショナーが確認した、としている。

ちなみにシュレムスさんの訴えはその後、欧州連合(EU)司法裁判所が2015年10月に、米国はプライバシー保護不適切につき、米国への個人データの移転協定(セーフハーバー協定)は無効、とした判決につながっている。

●フェイスブックの顔認識技術

フェイスブックの顔認識は、2012年に買収した「フェイス・ドットコム」というイスラエル企業の技術がベースになっているようだ。

フェイスブックは2014年に、「ディープフェイス」と名づけたその顔認識技術について、論文を発表している

Open Image Modal

それによると、「ディープフェイス」は1億2000万以上のパラメータを持つ深層ニューラルネットワーク。4000人の400万に上る顔画像を使って学習させており、その顔認識の精度は97.35%。人間の顔認識の精度、97.5%に匹敵するレベルだという。

Open Image Modal

ただ、2.65%の例外はある、ということだ。

●個人的な体験

数日前のこと。フェイスブックで、友人が「あなたが写っている写真を追加しました」とのお知らせが出た。

クリックをしてみると、それは複数の知人が写っている写真ではあるが、私の身に覚えのないものだった。

それそれの顔にカーソルを当ててみると、私と年格好も似た別人に、私の名前がタグ付けされていた。

確かに写真を見る限り、外見的によく似ている。

タグ付けの通知をたどってだろう、私のいとこまで「いいね」をしていた。

「2.65%の例外」に、私自身がはまった、ということだ。

つまり、1億2000万以上のパラメータを持つフェイスブックの深層ニューラルネットワークは、私のプロファイルを別人と結びつけたことになる。

この件では、私に何の実害も発生していない。むしろ、フェイスブックの顔認識技術を考えるきっかけになったぐらいだ。

ただ、それが回復しがたい損害に結びつく未来も、想像する十分な動機にはなった。

自分の顔やプロフィールが、AIによって別人のものと結びつけられ、ネットで広く共有され、"事実"になっていく。それが、リアルに起きたという話だ。

-----------------------------------

■ダン・ギルモア著『あなたがメディア ソーシャル新時代の情報術』全文公開中

(2016年11月5日「新聞紙学的」より転載)