東欧ベラルーシ出身のジャーナリスト、リサーチャー、作家エフゲニー・モロゾフ氏の反シリコンバレーの本「すべてを解決するには、ここをクリックしてください －テクノロジー、解決主義、存在しない問題を解決しようとする欲望」から、その一部を紹介する。今回はアルゴリズムの門番としての危険性についてだ。
第５章 アルゴリズムの門番（＝ゲイトキーパー）の危険性
グーグルの検索では、アルゴリズムが不適切と判断したものは、検索結果にあがってこないことがある。
問題は、グーグルが自分たちは検索エンジンとして中立である、客観的であると主張する点だ。
実はそうではないことを示す一つの例が、オートコンプリート機能だ。利用者が文字の入力を開始すると、グーグルが何を検索しようとしているかを察知し、文章を自動的に入れてくれる。
その結果は必ずしも中立でも客観的でもない。誰かが意図的に児童性愛主義者という言葉の後に、ある人の名前を大量に入力し、すぐに出るようにすることもできるはずだ。
日本、イタリア、フランスでは同様の事例にあった犠牲者が声をあげ、修正してもらった例もあるが、グーグルのアルゴリズムが管理しているため、修正する道はないといわれている。
グーグルはアルゴリズムは中立で、オートコンプリートはほかの人の検索結果を基にしていると説明するが、なぜもっと人間的な方針を導入できないのだろう。
実際に違法なファイル共有サイトについては厳しく、パイレートベイについてはオートコンプリートがきかないのだ。個人や企業が消したいと思うネガティブな情報については、グーグルは同様な処理をしてもよいのではないか。
しかし、グーグル側がアルゴリズムは正当で、客観的で現実を反映しているだけだと主張する限り、実現できない。
グーグルはよく、検索の結果は現実を反映しているだけだという。自分たちは鏡であると。しかし、果たしてそうか。グーグルはものごとを形作り、創造し、捻じ曲げているのではないか。鏡よりもエンジンと言えないだろうか。
グーグルは自分たちは鏡だからといって隠れていないで、自分たちが公的領域を作るうえで大きな役割を果たしていることを認めるべきだ。
グーグルはよく、アルゴリズムによる計算が客観的であるばかりか正しいということを示すために「民主化」という言葉を使う。「ウェブの世界の民主化」だと。利用者は、好みのウェブサイトをリンクで示すことで投票している、これがグーグルのページランクのアルゴリズムで数えられ、どれが最初に来るべきかを決めているのだ、と。
しかし、これは民主主義の変なとらえ方だ。リンクで投票したとしても、一人一票ではない。お金のある人が検索結果の中で上位に来るようにすることもできるし、オプティマイズ化（最適化）もできる。ページランクにはサイトのアップロードまでの時間を含め、２００の要素が考慮されている。
そして、「一票を入れた」ら、利用者についての別の個人情報も知らぬ間に取られている状態だ。
グーグルは自分たちが科学者というだけで行動を正当化し、議論を停止させている。シュミット会長はこういった。「私たちは科学的だ。もしうまくいけばすばらしい。そうでなかったら、別のことを試すまでだ」。こういわれたら、誰も反論できない。
しかし、科学にも道徳上の規範がある。人間がかかわる実験を試みたことがある人は誰でも知っている。だからこそ、さまざまなパネルや諮問会議が人間にかかわる実験を行う前に議論・認可する仕組みがある。「まずやってみる、その後で実験の社会的および政治的結果を考える」ものではないだろう。
といって、ストリートビューやGoogle Buzz（グーグル・バズ。Twitterに類似したソーシャルサービス。利用を促すためにGmailと連動させたことで、開始当初から個人情報の流出を巡る議論に巻き込まれた）の開発を認可する諮問機関はないだろう。グーグルバズの失敗時、創業者の一人はこういった「プライバシーについてはまったく考えなかった」。
インターネットから派生しているというだけで神のようなもので、バイアスとは無縁だと考える必要はない。
技術者やコードを書く人は、公的議論についての姿勢を明確にするべきではないか。
デジタルフィルターやアルゴリズムにもっと注意を向け、何を隠し何を出しているのかをつかめば、インターネット至上主義の神話が崩れる。
その神話とは、ネット上ではアイデアが急拡大し、こうした情報は報道する価値があるというものだ。また、インターネット至上主義者はオフラインとオンラインがまったく別物とするが、そうではない。ネットは実際はリアルとつながっている。
しかし、オンラインという衣をまとわせることで、ミーム（ここではインターネット・ミーム＝インターネットを通じて広まる情報、画像、映像、単語、表現など）としてカバーする価値がある存在になる。
重宝するのはPR企業だ。PR会社の隠された操作が、ユーチューブやFacebookなどミームを広めたいプラットフォームによって拡大されてゆく。
公的生活がミーム化されることで、何がネット上でヒットになるかという観点から、報道の仕方や報道の内容が決まってゆくことは問題だろう。
オーディエンスがどんな反応をするかで物事を決めるやり方はどんどん広がっている。
クリストファー・スタイナーは著書「Automate This」の中で、音楽レーベルがアルゴリズムによって音楽家や音楽を決める日を予測する。
前は人間が決めていた。今はもっと客観的方法としてアルゴリズムを使う。しかし、芸術分野で主観性が果たす役割を忘れるべきではない。また、過去に何が売れたかで決めると、同じものばかり作るようになるだろう。
ジャーナリズムはどうだろうか？
広告収入が減っている出版社は、インターネットを使って読者の情報を詳細に得るようになった。ウェブサイトやソーシャルメディアから情報を取る。読者のコンピューターのクッキーに蓄積された情報、あるいは「指紋装置」（ネット上の足跡）を使う。クッキーを消したり、使わない読者の情報も得ている。
こうして、「デイリー・ミー」（「日刊私」）が生成される。個々の人に合わせてカスタマイズされたニュースが利用者に送られる。サッカーの記事を読めば、関連記事や広告が出る。
ニュースの選別のみならず、読解力にあわせて文章や語彙が変わることもありそうだ。米女優アンジェリカ・ジョリーの話で、国際問題についての側面を出す記事を送ったり、ゴシップ好きには夫ブラッド・ピットの話と関連付けるなど。
将来、個人にあったストーリーを作る、新世代のコンテンツファームが出てくるかもしれない。
公的生活（パブリックライフ）が、個人それぞれの空間に割れて行く。
全体が同じストーリーにアクセスしなくなると、連帯感や十分な情報が入った議論の機会を破壊するかもしれない。
効率性という面からのみでは判断できない。かつてはオーディエンスについての情報が少なく、いわば非効率だった。しかしどの記事がどれぐらい読まれているかわからないからこそ、さまざまな記事に投資できたのではないか。
かつては広告の効果が計測できなかったので価格はインフレされていた。今はターゲット化されている。広告費が下がり、メインストリームのメディアがインフラの維持をまかなえないほど小さくなった。
インターネットを使うことで、情報の門番（ゲイトキーパー）や中間業者がなくなるという説には疑問がある。
逆にたくさんの仲介業者が生まれているのではないか。見えないだけなのだ。
２０１２年、商業プラットフォーム（タンブラーやワードプレス）を使うと、コメントが第３者のDisqusなどを通る。ディスカスはImpermium（インパーミアム）と協力し、コメントがスパムかどうかをチェックしている。したがって、中間業者の消失ではなく、むしろ増えているのだ。
インパーミウムはさらに先に進み、スパムのみならず、損害を与えるコンテンツを識別するテクノジーを開発した。たとえば暴力的、人種差別的、憎悪スピーチなどのコンテンツが読者に届けられることを防ぐ。
カリフォルニアの一企業が３０万ものウェブサイトのために、何が憎悪スピーチで、何がみだらな言葉かを決定している。そのアルゴリズムが偏向していないか、過度に保守的かではないかの検証はされていない。インパーミウムのアルゴリズムのブラックボックスの中を見るべきだ。
中間業者の消失による利点は本の未来に関する書物によく出てくる。図書館も書店もいらない、編集者もいらない。読者のニーズに合致した記事や書籍を出せるのだから、と。極端に言えば、アルゴリズムで書けるのだから、著者もいらない、と。門番をバッシングするこの考え方は、プロテスタントの宗教改革にも似ている。教会は不必要なもので、神と信者の間の直接的なコミュニケーションを邪魔する門番だと。
そう考える一人がアマゾンのベゾス氏だ。門番はイノベーションを遅らせ、利用者を満足させるプラットフォームの邪魔になると。目標はたくさんの本を出し、たくさんの読者を持つこと。内容が何かは関係ない。ベゾス氏の考えは解決主義者と似ている。いわゆるイノベーショントークだ。「すべてのイノベーションが善」。結果は考えない。
アマゾンがめざす、門番がいない世界では、企業が力を持つ門番になることを意味しないだろうか？アマゾンはしぶしぶ門番になったのかもしれないが、門番であることに変わりはない。将来、アマゾンは作家の代わりにロボットを使うようになるかもしれない。作家もアイデアの門番といえるのだ。（ただし、アマゾンは買い手をロボットにはしない。誰かがお金を払う必要があるから。）
アマゾンはキンドルのおかげで、読者の情報をたくさん入手している。キンドルの辞書で何を調べたか、どこに頻繁に下線を引いたか、読み終えるまでに何回開いたかなど。すべての読者の体験を増大させるために情報を収集している、とアマゾンはいう。
アマゾンが個々の読者にあった本を自動的に作ることも不可能ではない。新聞や雑誌も同様の動きに向かっている。Narrative Scienceはアルゴリズムで作った記事（スポーツ、金融）を提供する。
アマゾンはもっとうまくやれる。もし文学の目的がミームの幸福感を増大させること、つまり読者を満足させることなら、アマゾンは文学の救世主だ。
しかし、もしアイデアすべてがよいとは限らず、文学の目的が挑戦し、滅ぼすことでもあるなら、アマゾンの門番がいない世界を祝福することもない。
レビューサイト、イェルプ（Yelp）はプロのレストラン批評家よりも数が多く、かつもっと客観的といわれている。しかし、レビュー数が多い＝これに相当するほどのたくさんの人が行ったとは限らない。ザガットは科学的に評価するという。しかし、食体験を集めたものだ。そこにいって食べたいとき、イェルプやツイッターでもよい。しかし、料理を芸術としてみるなら不十分ではないだろうか。(続く)
(この記事は、2014年1月10日の「小林恭子の英国メディア・ウオッチ」より転載しました)