BLOG

「ボット」が民主主義に忍び込む:オックスフォード大ハワード教授に聞く

フェイクニュースは、ネット上でどのように拡散しているのか?

2017年10月30日 12時09分 JST | 更新 2017年10月31日 10時50分 JST

フェイクニュースは、ネット上でどのように拡散しているのか? 誰がどんな目的で? 果たして拡散に関わっているのは人間だけか?

それらの疑問に、ネットから収集したデータをもとに、具体的な答えを示してきたのが、英オックスフォード大学オックスフォード・インターネット研究所(OII)のフィリップ・ハワード教授だ。

ハワード氏が率いる「コンピュテーショナル・プロパガンダ・プロジェクト」は、欧州研究会議(ERC)、全米科学財団(NSF)からの資金助成を得て、ネット上のフェイクニュースの拡散や、その自動拡散プログラム「ボット」の実態について、継続的な調査を実施。

英国のEU(欧州連合)離脱国民投票や米大統領選、フランス大統領選、英総選挙、ドイツ総選挙などでの、その広がりを次々に明らかにした。

※参照:虚偽と報じても、さらに広まる...トランプ氏のツイートを、メディアはどう扱うべきか※参照:フェイクニュースは最激戦州を狙い、そして氾濫した

10月22日に慶応大学三田キャンパスで開かれたイベント「Oxford Day 2017: THE POWER OF LANGUAGE」(共催:慶応大学グローバルリサーチインスティテュート、オックスフォード大学出版局)のために来日したハワード氏に話を聞いた。

●テクノロジーと民主主義

――ハワードさんのバックグラウンドについて少し話していただけますか。

私は民主主義や政治のプロセスをよくするために、テクノロジーをクリエーティブに活用することをテーマに研究をしてきた。

この数年、テクノロジーはいくつかのサイクルを続けてきた。いい面での利用としては、新しい声を取り込み、人々の政治への関わりを進めた。反対に社会をコントロールし、人々が政治に関わるのを妨害するためにも使われた。

私は、その両面について研究してきたが、特にプラスの面を後押ししたい、と思っている。

著書『独裁と民主主義のデジタル起源 ITと政治的イスラム』(2010年)や『民主主義の第四の波? デジタルメディアとアラブの春』(2013年)を書いた当時は、多くの若者たちがフェイスブックを使って、クリエーティブな手法で政治に関わりを深めていき、世界を変えていこうとしていた。社会のコントロールが極めて強い国でも、このような動きが起きていた。

ところが、「アラブの春」の後、中東やアフリカの独裁者たちはこのアクティビストたちの手法を、アクティビストに対して使い始めた。

その後も、香港の「アンブレラ革命」などの動きは続いている。市民による新しい意思表明のキャンペーンは次々に出てくるのは興味深い。

ただ憂鬱なのは、民主主義社会で、政治家が有権者に対して、このような手法を使い始めたことだ。

●「ボット」の広がり

――ハワードさんが手がけている「コンピュテーショナル(コンピューター化された)プロパガンダ・プロジェクト」について教えていただけますか。

プロジェクトがスタートしたのは2012年。ツイッターが政治家の間で勢いを見せ、人気があるように見せるために「ボット」の購入が行われるにようになった時期だ。

ツイッターの「ボット」では、フェイクのアカウントが使われる。フェイクアカウントはインタラクティブなやりとりをするわけでもなく、ただアカウントとして存在しているだけ。だがそれらが、政治家に「600万フォロワー!」「1000万フォロワー!」と人気があるようにみせかけるのだ。

(2014年の初めに)メディアに「政治家はボットを使わないと誓約すべきだ」という論説記事を書いたことがある。ただ、その頃は誰もそんな考えに耳を傾けてくれず、賛同してもらえなかったけれど。

2014年の夏、私はブダペストにいた。そこで、(親ロシアのオルバン政権へのデモも頻発する)ハンガリーの市民、私の友人たちに対して、現地の(オルバン)政権やロシア政府が、このプロパガンダを展開するのを目撃したのだ。

この新しい現象について研究するいい機会だと思った。

(「ボット」などのテクノロジーを使う)「コンピュテーショナル・プロパガンダ」の手法が、独裁国家から民主主義国家に広がっていくとは、全く予期していなかった。独裁国家の間で、互いにその手法がコピーされて(国内に向けて実施されて)いくだろうと思ってはいた。独裁国家はしばしばそういったことをするから。

だが、この手法は民主主義国家の政治家たちにもコピーされていった。同様のことは英国(のEU離脱の国民投票、総選挙)や米国(の大統領選)でも行われた。

日本では2013年の公職選挙法改正でインターネット選挙が可能になった。そこでプロジェクトのメンバーが、ソーシャルメディアが有権者にどのようなインパクトを与えたかを調査した。ただその時には、目立った(「ボット」による)自動化の事例は確認できなかった。

――このプロジェクトのゴールは?

我々のゴールは、「コンピュテーショナル・プロパガンダ」がどのように機能し、どのようなインパクトを与えるかを理解することだ。さらにその先に、その動きを止めること、あるいはその影響を最小化していくことだ。

――プロジェクトのメンバーは?

「主席調査員」と呼んでいるのは、ポスドク2人、博士課程5人、修士課程4~5人、さらに協力者の膨大なネットワークがある。今や多くのプロジェクトがそうであるように、これは一つのチームや組織というより、ネットワークと呼ぶ方が合っている。

●フェイクニュースが蝕むもの

――フェイクニュースの何が問題なのでしょうか?

膨大なフェイクニュースがあふれれば、有権者は適切な判断ができなくなってしまうし、政治家も適切な判断ができなくなる。

有権者には質の高い情報を入手し、その情報を理解した上で投票に臨んでほしい。それが国民投票であろうが、選挙であろうが。

そして政治家には、当選後には有権者や専門家の声に耳を傾け、課題に取り組み、適切な判断を下してほしい。政治家には、他国が仕込んだニュースに耳を傾けてほしくないし、デマを捏造してほしくはない。事実のみに基づいて判断してほしい。

政治家と技術系官僚の見解が食い違うことがある。技術系官僚は問題について理解しているが、選挙で選ばれたわけではない。政治家には、今や幅広く流布するフェイクニュースを信じるよりは、これらの技術系官僚に信頼をおいてほしい。

●「ボット」を購入する

――フェイクニュースの拡散に使われる「ボット」とはどんなもので、誰が使っているですか?

「ボット」というのはちょっとしたプログラムで、コンテンツ配信を自動化するものだ。「ボット」の背後には人間のプログラマーがいる。「ボット」の目的は個別の操作にかかる時間を省略し、1回の操作で数千もの操作を可能にすること。そのボリュームが目的だ。

「ボット」を使うのは、政治家、政治コンサルタント、市民、さらに広告でも使われるが、これは商品に対してだ。ここで話しているのは、政治家がその意見を広めるための「ボット」だ。あるいは、ロビイストが世論に影響を与えるために使う。ごく一般的な市民が「ボット」をつくるのも、簡単になってきた。そこで、市民がつくった「ボット」を目にすることもある。

さらに、ネット上で「ボット」サービスを利用することもできる。英国でも、一般の人が200ポンド(3万円)から300ポンド(4万5000円)程度を払えば、数百の「ボット」を購入し、自分のことを人気があるように見せられる。あるいは、政治家や誰か他の人(のアカウント)に使うこともできる。

このような「ボット」は、プラットフォームの普及とともに広がってきた。フェイスブックは2006年ごろから普及してきたし、ツイッターの人気が出てきたのは2011年ごろだったか。新しいプラットフォームが出てくれば、すぐにフェイクユーザーが現れ、自動化アカウントが現れる。

ただ、フェイスブックは実名登録を要求している一方、ツイッターはその要求がないので、ツイッターの方がフェイクアカウントの問題が大きい。

――具体的な調査方法を教えてもらえますか?

ツイッターの調査では、同社のAPIを使っている。グローバルな全ツイートから最大で1%を収集できる無料サービスだ。それにより、例えば特定のハッシュタグがついたツイートのデータをダウンロードすることができる。ただごくまれなことだが、そのツイートのボリュームがあまりに多い場合には、データが1%の上限でカットされてしまう。

それ以上のデータが必要なら、上限10%のデータが使える「デカホース」、100%の「ファイヤーホース」があるが、有料になる。

――プロジェクトで取り上げた国は?

今のところケーススタディーとしてまとめたのは米国や英国、ドイツなど9カ国になる。調査自体は25~26カ国を対象に実施している。

●戦略的な動き

――米国のケースについて教えてください。

去年の米大統領選の投票日(11月8日)の夜が、ここ3~4年の調査で、まさにツイートのデータが上限の1%に達して、カットされてしまった1度だけのケースだ。この時は誰もがテレビを見ながら、ツイートをしていた。

米大統領選の調査では、4つの観測ポイントを設定した。両候補者による3回のテレビ討論会と、投票日当日だ。テレビ討論会に関しては、ツイートの投稿と「ボット」の介入の動きに、リズムがあることがわかった。ツイート全体の投稿傾向は、日中に増加し、夜間に減少するという繰り返し。「ボット」もほぼそのリズムを踏襲していた。日中に増え、夜間に減る。ただ、24時間動き続ける「ボット」もいた。

3回のテレビ討論会でも特徴的な動きがあった。第1回目(9月26日)には、「ボット」のツイートは討論会の最中にピークを迎えた。第2回目(10月9日)では、「ボット」のツイートは第1回よりもやや早く動き出した。そして第3回目(10月19日)には、討論会が始まる前から「ボット」が動き出した。「ボット」のツイートの大半はトランプ支持の内容だ。つまり、誰かが戦略的に、トランプ氏勝利を後押しするために、「ボット」の自動動作設定を調整していた、ということになる。

投票日前1週間と投票日、翌日の9日間のツイートの推移を調べた結果では、全体に占める「ボット」の割合は20~25%。ところが、8日の投開票が終わると、「ボット」を操作していた人物は、そのスイッチをオフにした。9日以降、「ボット」の動きが止まってしまうのだ。人間のアカウントは、その後もツイートをし続けているのに。

――米国の情報機関は、米大統領選に対するロシアによるフェイクニュース拡散の背景に「トロール(荒らし)工場」と呼ばれる専門業者が介在している、と認定しています。この「トロール工場」と「ボット」は関係しているんでしょうか?

※参照:サイバー攻撃と偽ニュース:ロシアによる米大統領選妨害は、いかに行われたのか?

大半の「トロール工場」は、もっぱらフェイスブック上のエンゲージメントの方に関わっているんじゃないかと思っている。「トロール工場」は、大量の「ボット」アカウントの設定には役立っているかもしれない。ただ、「トロール工場」の価値は、"インタラクティブ"である、ということだ。単純に繰り返したり、リツートしたりして、トラフィックを増幅させることではない。コメント欄などを使い、粗暴な書き込みをするといった介入だ。

●狙いは激戦州に

――今年9月末には米大統領選のフェイクニュース拡散について、新たな調査結果も公開されましたね。

※参照:フェイクニュースは最激戦州を狙い、そして氾濫した

「ボット」は米国内で同じように動いていたのか、何らかの狙いを定めていたのか、についてデータを分析した。

その結果、狙いがあったことがわかった。その狙いとは、両候補が接戦を繰り広げている激戦州だった。分析前には、モンタナなアイダホなど、(共和党の地盤ながら)これまで共和党の投票率が高くなかった州で底上げを図るために「ボット」を使ったのでは、との仮説も立ててみた。だが、分析の結果、狙いは(アリゾナやミシガンなど大半でトランプ氏が制した)激戦州(でのフェイクニュースの拡散)だった。

――これに先立つ英国のブレグジット(EU離脱国民投票・2016年6月23日)でも、やはり「ボット」の動きを分析されてますね。

ブレグジットでは、ツイートのトラフィックに一定のリズムがあるのかどうか、そして人間のツイートと「ボット」のツイートを仕分けすることができるのかどうか、を分析した。特に「ボット」をどう特定するか、が問題だった。そのコンテンツの内容か、投稿頻度か、アカウント同士のフォローなどつながりか。「ボット」は互いにフォローし合う傾向がある。

このすべてを評価するのが理想的だが、最終的には、「ボット」の特定には投稿頻度が最も効果的であることがわかった。選挙関連のハッシュタグを含むツイートを1日に50回以上繰り返すアカウントを、「高度自動化アカウント」すなわち「ボット」として定義した。

ただ、「ボット」の操作側も我々の研究を受けて、配信頻度を調整するようになってしまい、精度に問題が出てきた。ドイツでそのような事例が確認された。

●民主主義への影響

――フェイクニュースの氾濫は、民主主義や社会にどのような影響をあたえると思いますか?

社会にとっての影響としては、人々が事実でないことを信じてしまうこと、その結果、選挙で誤った判断をしてしまうことがある。

長期的に見ると、有権者がフェイクニュースに接していれば、フェイクニュースが好きな政治家を選んでしまうだろう。そして、政治家自身がより多くのフェイクニュースをつくり出していく。有権者はそんな政治家をフォローする――そういった危険なサイクルにはまり込んでしまうだろう。

もう一つの危険性は、国際紛争だ。有権者が他の文化圏、人種、宗教についてのフェイクニュースを信じ始めると、文化的な誤解が広がっていく。イスラム教徒や近隣諸国に対するヘイトにつながり、移民への誤解、多くの国際関係についての誤解へとつながっていく。

――フェイクニュースは、政治以外の分野にも影響を与えますか?

科学に対する一般的な理解は、政治に次ぐフェイクニュースの問題点の一つだろう。気候変動、遺伝子組み換え食品(GMF)、喫煙とがん。公衆衛生にかかわるような様々なテーマだ。医師の間ではコンセンサスがある子どもへの(三種混合)ワクチン接種に対し、(自閉症の原因だとの陰謀論によって)反対運動を起こす事例もそうだ。

●"メディア"としての責任

​​​​​​​

――このフェイクニュース問題に、どう取り組めばいいでしょう?

一つは、緩やかな政策的対応だ。(ソーシャルメディアの)プラットフォーム企業は数年にわたり、この問題に取り組んで来た。ただ、目立った効果は上げていない。なぜなら、それが彼らのコアミッションではないからだ。コアミッションは広告によって収益をあげることだ。

フェイスブックにしろツイッターにしろ、プラットフォーム企業は自らをテクノロジー企業もしくはデータ企業と見なしている。ところが、その当事者以外の我々は、メディア企業、メディアプラットフォーム企業だと考えている。ニュースコンテンツにとって、もっとも重要なプラットフォームは、今やソーシャルメディアだ。

ソーシャルメディアは、"メディア"として扱われるべきか? その通りだ。そこで、当てはめるべきは、緩やかなガイドラインか、厳しいガイドラインか。私は緩やかなガイドラインがいいと思う。

官製のソーシャルメディアプラットフォームなど願い下げだ。政府がプラットフォームを分割する、というのも反対だ。フェイスブックが独占企業と見なされれば、反トラスト(独占禁止)法により、独占状態解消のために、分割命令は政策選択肢の一つになるだろうが。

そうではなくて、プラットフォームに求めるべきは、公共広告を広めたり、質の高いニュースを後押ししたり、フェイクニュースを排除し、そのための使いやすい手段を用意する、といったことのはずだ。

ただ現在のところ、プラットフォームとしては、フェイクニュースはユーザーの問題だと考えているようだ。大量のフェイクニュースをつくりだし、共有しているのはユーザーだ、と。と同時にメディアの責任だとも。メディアがしっかりとファクトチェックをしないからだ、と。社会がもっとファクトチェックをするべきだ、と。

そうではないだろう。喫緊の直接的な問題は、投票の数日前に、プラットフォームが有権者にフェイクニュースを届けている(それによって投票結果に影響を与えかねない)、という現状だ。

ジャーナリズムや公教育を見直すということは、長期的な目標としては常に重要なことだ。だが喫緊に取り組むべき問題は、プラットフォームが有権者にフェイクニュースを届けている、という点だ。

ソーシャルメディアのプラットフォームは、情報を共有するネットワークを提供している。つまり彼らはフェイクニュースを閉め出す能力も持っている、ということになる。

――ドイツはヘイトスピーチやフェイクニュース対策として、10月から最高5000万ユーロ(66億円)もの過料を含む通称「フェイスブック法」を施行しました。これについては、どう考えていますか。

政策による何らかの対応は必要だと考えている。業界による自主規制の時期は過ぎた。もうそれでは手遅れだ。公的機関による監督は必要だろう。

だが、もしドイツのような巨額の罰金のシステムを、すべての国が見習うとすると、表現の自由に対する萎縮効果は世界中に広がってしまうだろう。

——–

■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』(朝日新書)6月13日発売。



(2017年10月28日「新聞紙学的」より転載)