ヘイトスピーチ動画などの排除をめぐり、欧州連合（EU）がソーシャルメディアの規制に動き出している。
EUの行政機関にあたる欧州委員会（EC）は5月25日、「2010年オーディオ・ビジュアル・メディア・サービス指令（AVMSD）」の改正提案を発表した。
この中に盛り込まれているのが、ソーシャルメディアに対する暴力やヘイト扇動コンテンツ排除の義務づけだ。
フェイスブックやユーチューブなどのソーシャルメディアが規制対象となる。
改正作業は今後、欧州議会、閣僚理事会、ECのトリローグ（三者対話）で進められる。
EU内では、表現の自由の観点から、よりソーシャルメディア側の自主的取り組みを重視する声も強く、今回の改正提案も自主規制を法規制を組み合わせた「共同規制」を掲げている。
ただ、規制のあり方をめぐっては、EU内にも温度差がある。
すでにドイツ政府は、ソーシャルメディア上のヘイトコンテンツをめぐって、ソーシャルメディアがヘイトスピーチやフェイクニュースなどの違法コンテンツをすみやかに削除しなかった場合、最大5000万ユーロの罰金を科す法案を作成している。
まだ、EU離脱を表明した英国では、ユーチューブ上でヘイト動画に政府などの広告が掲載されていることが発覚。議会からは、ソーシャルメディア側の対策は「極めて不十分だ」として法規制を求める報告書が公開されている。
一方、英ガーディアンは、フェイスブックがこれまで明らかにしてこなかった、コンテンツ削除の線引きに関する詳細な内部文書を暴露。複雑で奇妙な、コンテンツ削除の実態を明らかにした。
ソーシャルメディアの「メディアとしての責任」と表現の自由、法規制のせめぎ合いが、加速度的に動き始めている。
●欧州委員会の提案
5月25日に発表されたのは、EU域内でのテレビ・ネットなどの映像コンテンツ流通と規制に関する「２０１０年オーディオ・ビジュアル・メディア・サービス指令（ＡＶＭＳＤ）」の改正提案。
注目されるのは、ヘイトスピーチ動画などの違法コンテンツ対策の義務を、ソーシャルメディアに課すという点だ。
改正指令によって、加盟国は、動画共有プラットフォームの提供事業者が、適切な対策（共同規制が望ましい）を導入し、（1）未成年を有害コンテンツから保護する（2）すべての市民を暴力やヘイト扇動コンテンツから保護するよう、措置を講じる義務を負う。
欧州委員会のデジタル単一市場担当副委員長、アンドルス・アンシプ氏は、この改正提案にこうコメントしている。
我々は動画視聴の新たなスタイルを考慮に入れ、サービスのイノベーションを促進し、域内の映像産業を推進するとともに、より効果的な方法で子どもたちを守り、ヘイトスピーチに対処するための、適切なバランスを探っていく必要がある。
改正作業は欧州議会、閣僚理事会、欧州委員会のトリローグ（三者対話）を経て、年内にも成立する、と見られている。
改正提案の特徴は、対ソーシャルメディアの規制について、法による直接的な規制ではなく、自主規制と法規制を組み合わせる「共同規制」に言及している点だ。
●「行動規範」の取り組み
ソーシャルメディアによるヘイトスピーチ排除の取り組みは、すでに昨春から行われている。
これは、欧州委員会とフェイスブック、グーグル、ツイッター、マイクロソフトが昨年5月31日に合意した「行動規範」に基づくものだ。
ベースとなっているのは、「2000年電子商取引指令」などで取られている「通知と対応」の仕組みだ。
ヘイトスピーチのコンテンツの存在について通知を受けた場合、削除などの適切な対応を取る限り、ソーシャルメディア側の責任は制限される、という建て付けだ。
具体的には、通知を受けてから24時間以内にその大半について確認作業を行い、必要であれば削除、非表示などの対応を取る、などのルールを自主的な取り組みとして実施。
その結果を、加盟国のNGOや公的機関が半年ごとに評価している。
6月1日には、その第2回目の評価結果が公表された。
それによると、「ヘイトスピーチ」として通知のあったうち、59％で削除の対応がとられ、半年前の28％から大幅な改善が見られたという。また、通知から24時間以内の確認作業についても、40％から51％へと向上している。
欧州委員会によるAVMSDの改正提案は、先行する合意ベースのこの自主的な取り組みに、法的な枠組みを与えるものだ。
だがそこに、高額の罰金をともなう厳格な規制法案が浮上する。ドイツのヘイトスピーチの対策法案だ。
●ドイツで罰金法案
ドイツでは、ソーシャルメディアに対し、ヘイトスピーチなどの明確な違法コンテンツであれば24時間以内、違法かどうかの見極めが難しい場合でも1週間以内に削除などの対応を取らなかった場合には、最大で5000万ユーロ（62億円）の罰金を科す法案を、4月に閣議決定。国会で審議されている。
これは、「行動規範」ですでに自主的に実施されている取り組みに、高額の罰金を追加することになる。このため、法案が成立すれば、欧州委員会の指令改正の方向性と齟齬が生じてしまう、との指摘もEU内部から出ているようだ。
また高額の罰金が導入されることで、ソーシャルメディア側がコンテンツ削除のハードルを下げ、表現の自由に踏み込む可能性もある。
特に欧州委員会のデジタル単一市場担当副委員長で、指令改正を担当するアンシプ氏は、この点に対する懸念をすでに繰り返し表明している。4月に出した声明で、アンシプ氏は、基本的人権、表現の自由を強調した上で、こう述べている。
フェイクニュースは悪いことだ――だが、真理省はもっと悪い。
「真理省」とは、オーウェルの反ユートピア小説『1984年』で、ビッグブラザーが率いる党の、プロパガンダを担当し、歴史的記録や新聞の改竄を行う機関だ。
ヘイトスピーチ排除でソーシャルメディアへの規制を厳格にすることの副作用について、警告しているようだ。
ドイツだけではない。
EU離脱を表明したイギリスでは3月、英タイムズの報道をきっかけに、政府やメディアの広告が、白人至上主義、同性愛蔑視、反ユダヤ、レイプ擁護、といったユーチューブ上の差別的な動画に掲載されていることが発覚。
英政府、企業による広告引き上げ騒動に発展し、さらに、その動きはウォールストリート・ジャーナルの報道もあって米国にも飛び火した。
●英でも法規制求める議会報告書
法規制の声は英国議会からも上がった。
英下院内務委員会は5月1日、ネット上のヘイトスピーチに関する報告書を公表。その中でソーシャルメディアによる対策の現状を、激しい表現で非難した。
（グーグル、フェイスブック、ユーチューブなどの）最も大規模で収益のあるソーシャルメディア企業は、違法で危険なコンテンツに対処し、適切なコミュニティ・スタンダードを実装、ユーザーの安全を確保するための、十分な手立てを講じていると言うにはほど遠い、恥ずべき状況にある。その膨大な規模、リソース、グローバルな影響力を考えれば、法を順守せず、ユーザーやその他の人々の安全を確保できていないということは、全くの無責任である。
さらに、「表現の自由」は尊重されるべきとしながら、この分野の法規制の見直しをすべきである、と指摘している。
この分野の法的な条文の大半は、大規模なソーシャルメディア利用の時代以前のものであり、いくつかはインターネットの登場以前のものである。政府は、ネット上のヘイトスピーチ、ハラスメント、過激主義に関わる法的な枠組み全体を見直し、法律が現状に合うようにすべきだ。
●オーストリアの削除判決
ヘイトスピーチをめぐっては、注目の司法判断もあった。
オーストリアの緑の党が、党首に対する誹謗がヘイトスピーチに当たるとして、フェイスブックを相手取り、削除を求めた裁判の控訴審で、ウィーン高裁は5月5日、緑の党の主張を認め、フェイスブックに削除を命じる判決を出した。
しかも、削除はオーストリア国内だけでは不十分で、フェイスブックのサービス全体を対象とする、とし、フェイスブック上で共有されたものも含む、とした。
EUにおけるヘイトスピーチ排除の議論が、グローバルに影響する可能性を伺わせる判断だ。
フェイスブックは、最高裁に上告するという。
●フェイスブックが3000人を追加する
フェイスブックも動きを見せた。
マーク・ザッカーバーグCEOは5月3日、ヘイトスピーチなどのコンテンツチェックのための要員として、現在いる4500人に加えて、新たに3000人を雇用する、と発表した。
フェイスブックをめぐっては、4月半ば、オレゴン州クリーブランドで、37歳の容疑者（2日後に自殺）が74歳の男性を射殺する様子を動画に撮り、フェイスブックで公開。2時間以上も削除されたなかったことを巡り、同社の対応に非難が集中。
また同月下旬、タイでは、21歳の容疑者が赤ん坊の娘を殺害する様子をフェイスブック・ライブで中継し、その後、自殺する、という事件も発生していた。
これらの事件を受けて、ザッカーバーグ氏は自らのフェイスブックページでこう述べた。
この数週間、私たちは、フェイスブック上で自らを傷つけ、さらには他の人々を傷つける姿を目にした。ライブで、あるいは後から動画を投稿する形で。悲痛な出来事であり、コミュニティをよりよくするために、どんなことができるか、検討をした。
そして、3000人の増員について、こう説明する。
私たちは安全なコミュニティをつくろうとすれば、素早く対応する必要がある。このような動画について、通報をよりやりやすくするよう取り組んでいる。そうすれば、正しい対応を、より素早くできるようになる。助けが必要な人々に対応するにしろ、投稿を削除するにしろ。
●フェイスブックの線引き
では、フェイスブックが何を削除し、何を削除しないのか。
その具体的な線引きについて、フェイスブックはこれまで明らかにしてこなかった。
そして、ピュリツァー賞を受賞したベトナム戦争の報道写真「ナパーム弾の少女」を昨夏に、「裸」が写っていることを理由に一方的に削除。
ノルウェー最大の新聞社や首相までも巻き込む騒動となった。
最近でも、ピュリツァー賞を受賞した調査報道「パナマ文書」の資料を削除するなど、その判断基準には疑問の声が上がっている。
そんな中、フェイスブックが社内で使う、100を超す削除基準のマニュアルを英ガーディアンが入手し、特報したのが、5月21日だった。
ガーディアンが暴露したのは、現在は4500人いるチェック要員が、日常的に使っているマニュアル、ということになる。
そして、ガーディアンがインタビューした担当者たちは、このガイドラインが矛盾し、奇妙な内容だ、と述べている。
その定義や基準も、かなり複雑だ。「リベンジポルノ」の項目はこんな感じだ。
リベンジポルノとは、ヌード／ほぼヌードの誰かの写真を一般に向け、あるいはそれらを目にすることを望まない人々に対して、恥ずかしい思いをさせ、困らせるために公開すること。
不正利用の判断基準：
親密な画像を以下のいずれかによって悪用しようとする試み：
・以下の3つの条件をすべて満たしていれば"リベンジポルノ"としての画像の共有：
1．プライベートな状況で撮影された画像。かつ
2．画像中の人物がヌード、ほぼヌード、性的にアクティブな状態。かつ
3．同意が得られていないことが以下によって確認できること：
・復讐的な文脈（例．キャプション、コメント、あるいはページタイトル）、あるいは
・独自のソース（例．メディア報道、あるいは捜査機関の記録）
また、「国のトップ」などを対象とした「実現性の高い暴力的発言」は削除対象になる。「誰かがトランプを銃撃する」は削除対象。
ところが、「女（ビッチ）の首を折るなら、のど真ん中にしっかりと力を集中させないと」「消えろ、死ね」は削除対象にはならない。「実現性が高くない」からだ。
法規制と、このガイドラインの間に広がる、問題の奥深さが伺える。
--------
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』（朝日新書）6月13日発売。予約受付中。
(2017年6月3日「新聞紙学的」より転載)