ＡＩ（人工知能）を使って、ポルノ動画に有名女優らの顔をはめこむ"フェイクポルノ"のテクノロジー「ディープフェイクス」。
その危険性を指摘する声が、米国の有力上院議員からも上がり始めている。
ロシアによる米大統領選介入を調査する上院情報特別委員会の副委員長、マーク・ワーナー議員（民主）は、フェイスブックなどのプラットフォーム規制に関する提言の中で、この「ディープフェイクス」対策を取り上げた。
さらに、共和党大統領選候補をトランプ大統領と競ったマルコ・ルビオ上院議員も、「ディープフェイクス」が「民主義国家への次なる攻撃の波」だと指摘する。
「ディープフェイクス」に具体的な対策の方法はあるのか？
「ディープフェイクス」を検知するＡＩ、プラットフォームによる排除、そして法規制――人権団体「ウィットネス」が、対策の現状をまとめている。
●「次なる攻撃の波」
７月３０日にアクシオスが報じた「政策提言」の中で、マーク・ワーナー上院議員（民主）は、ＩＴ業界の巨大プラットフォーム企業をめぐる「フェイクニュース」「プライバシー」「競争」の問題について、２０の処方箋を掲げている。
この中で、「ディープフェイクス」を取り上げ、こう述べている。
プラットフォームが、「ディープフェイクス」やその他の音声、動画コンテンツの削除を怠った場合、州法上の不法行為（名誉毀損、中傷、プライバシー侵害）の責任を負わせるべきだ――通信品位法２３０条によって、ソーシャルメディアのプラットフォームのようなインターネットの仲介業者は、不法行為や犯罪行為に関する免責を受けている。しかし、「ディープフェイクス」のようなテクノロジーは、ある人物の発言や行動に見せかける偽の音声・動画のファイルをつくりだす、高性能の合成ツールだ。それらの台頭によって、フェイクや名誉毀損のコンテンツが、空前の規模で押し寄せてくるだろう。これらの被害救済手段としては、州法ベースの不法行為（侮辱的不法行為）規定があるぐらいだ。
フェイクニュースの拡散やサイバー攻撃など、米大統領選へのロシアの介入疑惑調査を行う上院情報特別委員会の副委員長であるワーナー氏は、ワシントン・ポストのインタビューに、こう話している。
我々はまさに２０１６年の米大統領選で使われた虚偽情報戦略の手口について、検証を行っている最中であり、同時に２０１８年（の中間選挙）へのさらなる攻撃に備えているところでもある。その渦中に、これらの問題をさらに悪化させるとみられる新たなツールが開発されている、ということだ。
また、２０１６年の米大統領選では、トランプ氏と共和党大統領選候補を競ったマルコ・ルビオ上院議員は、７月１９日にヘリテージ財団で行った講演のテーマに「ディープフェイクス」を取り上げ、こう述べた。
私はロシア連邦がウラジミール・プーチン大統領の指揮の下、２０１６年の米国政治に政情不安と混乱をもたらしたという事実を承知している。ロシアはそれをツイッターボットや、今後明らかになるであろう様々な手段を使って実行した。だが、彼らはこれ（ディープフェイクス）を使ってはいなかった。これを使ったら、と想像してみてほしい。これを、選挙の渦中に投入したら、と。
ルビオ氏はこれ以前から、「ディープフェイクス」に懸念を表明してきた。
５月に行われた上院情報特別委員会でも、ルビオ氏はこう発言している。
ちょっと想像してみてほしい。外国の情報機関がディープフェイクスを利用して、米国の政治家が人種差別を口にしている様子や収賄をしている様子、といったフェイク動画をつくることができたら、と。
（中略）
私はこれが、米国、そして西側の民主主義諸国に対する次なる攻撃の波だと信じている。これは、フェイク動画をつくりだすものだが、それがフェイクかどうかは、詳細な分析ののちに初めてわかる。そしてわかったときには、すでに選挙は終わっている。その時には、何百万という米国人がその画像を目にし、それを信じ込もうとしているのだ。
●「フェイクポルノ」と中間選挙
「ディープフェイクス」は、フェイススワップ（顔交換）のポルノ動画として、昨年１１月ごろからネット掲示板「レディット」を舞台に広まってきた。
フェイクポルノの作成には、グーグルがオープンソースで公開している機械学習のためのライブラリ「テンソルフロー」などの機能と、グーグルの画像検索、ユーチューブなどを利用。
さらに、ディープラーニングの手法の一つ「敵対的生成ネットワーク（ＧＡＮ）」を使っている。生成を担当するＡＩと、その真偽を識別するＡＩが"敵対的"に競うことで、出力の精度を高める。
「ディープフェイクス」では、ネットで収集した有名女優の顔の画像とポルノ動画をＡＩに学習させた上で、フェイクポルノを生成する。
これにより、映画『ワンダーウーマン』の主演女優、ガル・ガドット氏や、『ハリー・ポッター』シリーズのエマ・ワトソン氏、『ゴースト・イン・ザ・シェル』のスカーレット・ヨハンソン氏、歌手のテイラー・スウィフト氏らのフェイク動画をつくり、公開していた。
さらに「レディット」のユーザーの一人が、この「ディープフェイクス」のアルゴリズムを使い、専門知識がなくてもフェイクポルノがつくれる、というアプリ「フェイクアップ」を公開。
これを受けて、「ディープフェイクス」は一気に拡散の動きを見せた。
懸念はフェイクポルノにとどまらない。米国で今年１１月に行われる中間選挙への影響だ。
この「ディープフェイクス」のテクノロジーを使って、２年前の大統領選の時のように、候補者に関するフェイクコンテンツをソーシャルメディアに拡散させるなどの方法で、中間選挙への介入が行われるのではないか――。
ワーナー、ルビオ両氏のような有力上院議員たちが「ディープフェイクス」の危険性を指摘する理由は、ここにある。
また、そのような懸念を裏付ける動画を、米バズフィードが作成し、今年４月に公開している。オバマ前大統領が演説をしている１分１２秒の動画だ。動画の中でオバマ氏はこんなことを口にしている。
トランプ大統領は、まったく、完全にクソだ。
これは「フェイクアップ」を使ってつくった架空の「ディープフェイクス」動画で、実際に台詞を言っているのは、ホラー映画『ゲット・アウト』の監督としても知られる俳優・コメディアンのジョーダン・ピール氏だ（ピール氏はバズフィードＣＥＯ、ジョナ・ペレッティ氏の義理の弟）。
この他にも、同種のことが可能となるテクノロジー「ディープビデオ・ポートレイツ」の研究成果が、ドイツのマックス・プランク研究所、ミュンヘン工科大学などの研究チームによって公開されている。
●中間選挙に向けた攻撃は始まっている
米中間選挙に向けた攻撃は、着実に進められているようだ。
フェイスブックは中間選挙まで約３カ月となった７月３１日、フェイクと認定した３２のページとアカウントを、すでにフェイスブックとインスタグラムから削除したことを明らかにした。
これらのフェイクページは米大統領選後の２０１７年３月から今年５月にかけて開設されたもの。合わせて２９万人のフォロワーがついていたという。
特にフォロワーが多かったのは、「アストラン・ウォリアーズ（アステカの戦士）」「ブラック・エレベーション（黒人の向上）」「マインドフル・ビーイング」「レジスターズ（抵抗者たち）」といったページ。
このうち「レジスターズ」のフェイスブックページには、ロシアのフェイクニュース工場「インターネット・リサーチ・エージェンシー（ＩＲＡ）」関連のアカウントの痕跡が確認できた、という。
「インターネット・リサーチ・エージェンシー」は、２０１６年の米大統領選で、フェイスブックやツイッターのフェイクアカウントを通じたフェイクニュース拡散などの工作を担当。
今年２月には「ロシア疑惑」を捜査するロバート・ムラー特別検察官によって、同社など３社と関係者１３人が起訴されている。
フェイスブックは、今回削除したフェイクページがロシアによるものであることを示す証拠までは見つかっていない、という。
ただ、メキシコ移民を想定した「アステカ」がテーマのページ（アストラン・ウォリアーズ）や、黒人の地位向上のページ（ブラック・エレベーション）、反トランプのページ（レジスターズ）など、社会への不満を吸い上げる体裁のフェイクページが目につく。
また、これらのフェイクページはフェイスブックとインスタグラムで、２０１７年４月から今年６月にかけて１５０の広告を約１万１０００ドル（約１２０万円）で出稿していた、という。
フェイクアカウントによるページ開設、社会の不満を吸い上げるテーマ設定、そしてそれらのテーマに基づく広告の掲載――これらはいずれも、米大統領選で社会の分断に狙いを定めた「インターネット・リサーチ・エージェンシー」の手口に重なる。
またホワイトハウスでは８月２日、米情報機関トップらが会見を行い、中間選挙に向けてロシアによる介入が行われている、と表明している。
会見には国家安全保障担当大統領補佐官のジョン・ボルトン氏や国家情報長官、ダン・コーツ氏、連邦捜査局（ＦＢＩ）長官、クリストファー・レイ氏、国土安全保障省（ＤＨＳ）長官、キルステン・ニールセン氏、国家安全保障局（ＮＳＡ）長官、ポール・ナカソネ氏らが出席した、という。
この中でコーツ氏は、次のように述べたという。
我々はロシアが米国の弱体化と分断を図るために、広範なメッセージキャンペーンを展開していることを、引き続き目にしている。
ただ、具体的な情報は示されなかったという。また、中間選挙への「ロシア介入疑惑」について、トランプ大統領は沈黙を守っているようだ。
●「フェイクＡＩ」を使った「フェイク」検知
中間選挙にまつわる「ディープフェイクス」への懸念は、また具体的な実例が確認されているわけではない。
ただ、大統領選介入への反省から、「ディープフェイクス」対策をめぐる議論は熱を帯び始めている。
その一つが、ワーナー上院議員が提起した、プラットフォーム事業者のコンテンツへの免責を定めた「通信品位法２３０条改正」だ。
プラットフォームに「ディープフェイクス」削除義務を課すことで、被害防止につなげるという提言だ。
ただ「２３０条改正」は、過剰な削除につながる、として以前から電子フロンティア財団（ＥＦＦ）といった人権擁護団体などからの反対が強い。ワーナー氏が「政策提言」の中で認めているように、ハードルは高い。
このほかにもニューヨーク州議会では、フェイクポルノがプライバシーや肖像権を侵害する、として禁止法案が審議中だ。
これに対しては、「表現の自由」を侵害するとしてハリウッドから反発の声も出ている。
一方で、プラットフォームによる自主的な排除の取り組みも徐々に動き始めてはいる。
社会問題化となったことを受け、「ディープフェイクス」動画のアップロード先となった「レディット」や大手ポルノサイト「ポルンハブ」、ＧＩＦ動画共有サイト「ジフィーキャット」などでは、排除の取り組みを相次いで表明している。
だが、この問題を追及してきたネットメディア「マザーボード」によると、これら排除を表明したサイトでも、対策が徹底されているわけではなさそうで、なお「ディープフェイクス」の動画のアップロードは続いている、という。
ＡＩを使った取り組みもある。
ニューヨーク州立大学アルバニー校の研究チームは６月、「ディープフェイクス」の特徴に着目した論文を発表した。
通常は１分間で１７回程度行われるという「まばたき」が、"顔交換"の加工を行った「ディープフェイクス」動画には反映されていない。その検知を行うことで、「ディープフェイクス」を判別する、というものだ。
ただ、「ディープフェイクス」の動画に、さらに「まばたき」を加工することも可能なため、この対策が万全とも言えない。
動画を活用する人権擁護団体「ウィットネス」は７月、これらの対策の現状をまとめた報告を公開している。
この中では、「ＡＩ対ＡＩ」のフェイク動画検知システムも紹介されている。
ミュンヘン工科大学などのチームが取り組んでいるＧＡＮベースの検知システム「フェイスフォレンジックス」だ。
s
同チームは数年前に開発した動画の顔画像合成ツール「フェイス２フェイス」を使い、１０００本に及ぶ「ディープフェイクス」型のフェイク動画を生成。そこから５０万枚のフェイク顔画像を切り出し、学習させることで、「ディープフェイクス」動画の検知を可能にした、という。
この研究チームは上述の「ディープビデオ・ポートレイツ」の開発も手がけており、フェイク動画の生成と検知の両方のノウハウを持つ。
「ＡＩ」には「ＡＩ」というフェイク対策の力比べ。
だが、「ディープフェイクス」への懸念は、米中間選挙本番の１１月に向けて、なお続きそうだ。
--------
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』（朝日新書）
（2018年8月4日「新聞紙学的」より転載）