BLOG
2018年06月04日 10時28分 JST | 更新 2018年06月15日 16時40分 JST

「軍事」と「邪悪」:グーグルがAIの軍用提供を中止する理由

AI時代の国防調達をめぐる、一断面のようだ。

グーグルは1日、自社のAI基盤「テンソルフロー」の軍事転用を中止する方針、と社内に通知したという。


By tangi bertin (CC BY 2.0)

ギズモードニューヨーク・タイムズが報じている。

同社は昨年、「テンソルフロー」を「プロジェクト・メイブン」と呼ばれる米国防総省の軍用ドローンの計画に提供する契約を締結。

だが、社内からはグーグルの社是として知られてきた「邪悪になるな」に反するとして、大きな議論がわき起こり、4000人の社員の反対署名、十数人の退職を招く事態となった。

人の殺傷に直結するAIの軍事利用は、規制をめぐる議論の中でも大きな焦点だ。

一方で国防総省予算は、AIを展開するIT企業にとって大きな魅力でもある。グーグルの競合として、アマゾン、マイクロソフト、IBMなどの名前も挙がっている。

その中でグーグルは、少なくとも今回、(かつての)社是に踏みとどまることにしたようだ。

●「契約は更新しない」

ギズモードなどによると、グーグルが毎週金曜日に行う「グーグル・クラウド」についての社内ミーティングで、同部門の責任者、ダイアン・グリーン氏は、2019年に満了となる国防総省の「プロジェクト・メイブン」の契約更新を行わない、と表明した。

プロジェクト・メイブン」は情報担当国防次官のプロジェクトとして、2017年4月に立ち上げられた。「アルゴリズム戦闘部門横断チーム(AWCFT)」と名付けられたチームが主導する。

特に中国とのAI開発競争において、かつての"スプートニク・ショック"のような出遅れを懸念する国防総省は、AI導入に急速に舵を切っており、2017年にはAI関連予算として74億ドル(8000億円)をつぎ込んでいるという。

グーグルが調達を請け負ったのは、イスラム国などのテロリスト対策を念頭に、ドローンが収集する動画や静止画の解析に焦点をあてた取り組みだ。

膨大な動画の中から、テロリストのものと思われる車両など、38のカテゴリーの対象物を特定する――そのために、AIの画像認識を使う。

1年半で1500万ドル(16億円)。アルファベットの年間売上高1100億ドル(12兆円)から見れば、微々たる額ともいえる。

だが今年に入って、グーグルの内部メーリングリストでこの契約が明らかにされ、さらにギズモードが3月に報道したことで、数カ月にわたって社内外を巻き込む騒動となる。

グーグルが国防総省に提供したのは、同社が開発し、オープンソースで公開している機械学習の基盤「テンソルフロー」だ。

ギズモードブルームバーグなどに対し、グーグルは、本件があくまで「非攻撃用途」でのAI利用であり、指針も策定中である、との声明を出し、騒動の沈静化を図る。

このテクノロジー(テンソルフロー)は、人間がチェックをするために、画像に警告(フラグ)を出します。これは非攻撃用途に限定されたものです。
機械学習を軍事用途に使うことについて、懸念が出るのは当然でしょう。この重要な問題について、社内外とも活発な議論をしています。また、機械学習のテクノロジーの開発や利用について、指針や安全対策の策定も続けているところです。

だが、グーグル社内には、画像解析の精度が上がることで、攻撃精度の向上につながるとの懸念もあるという。

また、ギズモードが入手した内部メールによると、開発プランはそれだけにはとどまらず、「グーグルアース」のような、クリック一つで地図上の対象物の詳細がわかる監視システムが想定されていた、という。

そして、騒動は拡大の一途をたどる。

●4000人の署名と相次ぐ辞職

ギズモードの報道の前週、「プロジェクト・メイブン」の契約がグーグル社内で告知されると、社員らから猛然と反対の声があがっていたという。

その結果、10人規模の社員がAIの軍事利用に抗議し、辞表を提出。さらに、国防総省との契約の即時解除を求める署名には、社員4000人が賛同した。

スンダル・ピチャイCEO宛ての抗議文は、こう述べる。

我々はグーグルが戦争ビジネスに関わるべきではないと信じる。それゆえ、プロジェクト・メイブンの契約を破棄し、グーグルおよびその委託先が、軍用テクノロジーの構築には携わらないことを明言した指針を策定し、公表し、そして義務化することを求める。
(中略)
米政府による軍事的な監視、そして殺傷につながり得る用途を支援するためにこの(AI)テクノロジーを構築することは、受け入れられない。

抗議の動きは社外にも広がる。IT業界の労働者のグループ「テックワーカーズ同盟(TWC)」はグーグルのほか、やはり軍事利用に携わるマイクロソフト、IBM、アマゾンに対しても、撤退を求める署名を実施

軍事ロボットに関する専門家NGO「国際ロボット兵器規制委員会(ICRAC)」も、グーグル(アルファベット)に対して「プロジェクト・メイブン」の契約破棄などを求める公開書簡を送付。1100人を超す専門家が署名をしている。

契約が公になる以前から、グーグルの関係者の間では、この騒動は予想されていたようだ。

ニューヨーク・タイムズによると、スタンフォード大学AI研究所の所長であり、グーグルクラウドのAIの責任者でもあるフェイフェイ・リー(李飛飛)氏は、この件がAIをめぐる騒動の火種になることを警戒。社内メールで、こう指摘していたという。

国防総省とグーグルクラウドプラットフォームの提携については、上手にPRをする必要があります。これはごく普通のクラウドテクノロジーの案件(ストレージ、ネットワーク、セキュリティといった)である、という切り口で。これがAI案件であるとは、言及どころか、ほのめかすことすら徹底して避けるべきでしょう。
AIの兵器化は、AIに関する最もセンシティブな問題の一つでしょう――最大とは言わないまでも。必ずメディアは飛びつき、グーグルに様々なダメージを与えることになります。

皮肉なことに、ギズモードがグーグルの「プロジェクト・メイブン」への関与をスクープした翌日の3月7日付で、リー氏はニューヨーク・タイムズのオピニオン欄に、「人々のためになるAIのつくり方」というタイトルの寄稿をしていた。この中で、リー氏は「人間中心のAI」を提唱していた。

タイムズは今回の騒動を受け、改めてリー氏のコメントを取っている。

私は、人間中心のAIが、ポジティブで慈愛に満ちた方法で、人々にメリットを与えてくれると信じています。AIを兵器化するような、いかなるプロジェクトに関わることも、私の信条に全く反するものです。

3カ月にわたるそんな騒動の中で、グーグルは国防総省との契約更新見送りを表明する事態にいたったようだ。

●「邪悪になるな」の現在

社員4000人の署名を集めた文書の中でも指摘されたのが、グーグルの社是として知られた「邪悪になるな(Don't be evil)」だった。

グーグルは2004年、株式公開(IPO)の際の目論見書につけた「創業者からの手紙」で「邪悪になるな」を打ち出し、このスローガンが広く知られることになった。

「邪悪になるな」は、グーグルの社是として、その「行動規範」の冒頭でうたわれてきた。

2015年10月に誕生した親会社アルファベットの「行動規範」では、「正しきことをせよ(Do the right thing)」という社是を打ち出したが、傘下となったグーグルの社是は変わらず「邪悪になるな」だった。

ところが、この「プロジェクト・メイブン」騒動のさなか、「行動規範」の冒頭から、この「邪悪になるな」の文言が削除された

そして、この文言は、「行動規範」の文末で1カ所、触れられるだけになっていた。

「行動規範」の末尾に記された「最終更新」は「2018年4月5日」とある。だがインターネットアーカイブに保存されているページでは、4月21日時点でも、「邪悪になるな」が残った旧バージョンになっている。

その後のどこかの時点で、ひっそりと削除されたらしい。

●国防総省予算をめぐる争い

グーグルが「プロジェクト・メイブン」に乗り出したのには、それなりの背景もあるようだ。

国防総省には、テクノロジーの専門家らで構成する「国防イノベーション委員会(BID)」という助言機関がある。

13人からなる委員には、アルファベット元会長で顧問のエリック・シュミット氏と、アルファベット副社長のマイロ・メディン氏の2人も名を連ねる。

「プロジェクト・メイブン」が立ち上がった後の7月の委員会では、シュミット氏が委員長として、国防総省が抱える膨大なデータ活用のあり方について、助言を行っていた。

その翌月には、マティス国防長官がシリコンバレーのグーグル本社を訪れて、幹部らと意見交換をするなどの行き来もあったようだ。

ただ、国防総省がAIに傾斜する一方で、グーグル以外のIT企業も国防総省予算獲得にしのぎを削っている。

マティス氏がグーグル本社を訪れたのと同じ頃、アマゾンは同社のクラウド「AWS」の画像認識AIサービス「レコグニション」について、国防総省向けサービスとしても打ち出すなど、積極的なアピールを展開している。

※参照:「顔認識で監視」「アレクサが会話を盗み聞き」アマゾンAIに相次ぐ懸念

また、マイクロソフトも、同社のクラウド「アジュール」を、国防総省や情報機関向けサービスとしてアピールしている。

その視線の先には、国防総省による100億ドル規模といわれる国防クラウド「共同事業防衛基盤(JEDI)」の調達案件もあるという。

「プロジェクト・メイブン」騒動は、AI時代の国防調達をめぐる、一断面のようだ。

--------

■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』(朝日新書)

(2018年6月2日「新聞紙学的」より転載)