米国防総省による人工知能（ＡＩ）搭載の国防クラウド「ＪＥＤＩ（ジェダイ）」への応札をめぐり、ＩＴ業界の不協和音が続いている。
１００億ドル（１兆１２００億円）規模といわれる大型調達で、アマゾンをはじめとしたＩＴ大手の注目を集めてきた案件だが、ＡＩを含む先端テクノロジーを軍事転用することに、社員からの反発の声があがっている。
１３日には、マイクロソフトの有志グループが「ミディアム」に投稿。経営陣に対して、「ＪＥＤＩ」への応札中止を訴えた。１７日には、アマゾン社員の匿名投稿も「ミディアム」に掲載。同社の顔認識ＡＩ「レコグニション」の警察への提供中止要求と合わせて、マイクロソフト有志の「ＪＥＤＩ」への異議表明に賛同している。
米ＩＴ業界では今春以来、ＡＩの軍事転用をめぐって、経営陣と社員有志の対立が表面化。
その最初の舞台となったグーグルは、国防総省へのＡＩプロジェクト「メイブン」へのサービス契約更新を見送ることを表明。さらに今回の「ＪＥＤＩ」についても、応札期限を前に見送りを明らかした。
その一方で、この「ＪＥＤＩ」をめぐっては、「アマゾンありき」の"出来レース"ではないか、との疑惑も浮上。調達条件をめぐり、ＩＢＭやオラクルが異議申し立てを行う事態にもなっている。
●マイクロソフト有志の懸念
「マイクロソフトへの公開書簡：軍事プロジェクト『ＪＥＤＩ』への応札中止を」と題した投稿は１３日に、「マイクロソフト社員有志」名で「ミディアム」に掲載された。
この中で、社員有志はこう述べる。
多くのマイクロソフト社員は、自分たちのつくり出すものが戦争に利用されるべきではないと信じている。（中略）マイクロソフトが離脱すれば、別の会社がＪＥＤＩの契約を持っていくだけだ、という人々もいる。だが、我々は、その会社の社員たちにも、同じように離脱を求めていく。売り上げ競争に血道をあげるのは、倫理的な立場とはいえない。
マイクロソフト社員が、政府調達をめぐって声を上げるのは、これが初めてではない。
６月にはトランプ政権による「不法移民の親子引き離し」を巡り、同社が取り締まりにあたる国土安全保障省の移民税関執行局（ＩＣＥ）にクラウドサービス「アジュール」を提供している点が問題化。
１００人を超すマイクロソフトの社員が、サティア・ナデラＣＥＯ宛の公開質問状を社内掲示板に投稿した。
今回の公開書簡では、「ＪＥＤＩ」への応札がマイクロソフトの倫理的な問題をさらに悪化させるとして、こう要求している。
マイクロソフトよ、「ＪＥＤＩ」への応札を止めよ。
その３日後の１７日、今度はアマゾンの匿名社員が、同じ「ミディアム」に「私はアマゾン社員です。アマゾンは顔認識テクノロジーを警察に売るべきではない」と題した投稿を掲載した。
アマゾンでは、同社の画像認識ＡＩ「レコグニション」を警察に提供していることが問題化。
５月には米自由人権協会（ＡＣＬＵ）など４１の人権保護団体が、アマゾンＣＥＯのジェフ・ベゾス氏に対して、「レコグニション」の政府への提供をやめるよう求める公開書簡を送付。
そして、６月にはアマゾンの社員有志が、「我々の会社は、監視ビジネスに関わるべきではない」などとするベゾスＣＥＯ宛ての抗議の書簡を、社内で公開していた。
この問題では７月にも、自由人権協会の実験で、「レコグニション」が上下両院２８人の議員の顔を犯罪者と誤認識し、しかも黒人議員らの誤認識の割合が高かったという結果が公表され、その「バイアス」にも懸念が集まっていた。
今回の「ミディアム」への匿名投稿では、ベゾス氏宛ての抗議書簡が、４５０人の社員の署名を集めていると指摘。
アマゾンのような企業は、抑圧的な監視を促進するようなビジネスに手を染めるべきではない。今も、この先も。
さらに、マイクロソフト社員の動きを受けて、こう述べている。
我々の動きは、「メイブン」に対して声を上げたグーグル社員たち、そして「ＪＥＤＩ」の契約に声を上げたマイクロソフト社員たちに続くものだ。軍事に対してどのような見解を持っているかにかかわらず、軍事における「攻撃力の向上」から利益を上げることは、誰であってもすべきではない。我々は、米国であれ他国であれ、人々を迫害したり、殺害したりするためのテクノロジーをひそかにつくりあげるようなことはしない。
●国防クラウド「ＪＥＤＩ」とは
渦中のプロジェクト「防衛基盤共同事業（ＪＥＤＩ）」の概要が明らかにされたのは今年３月の、企業向けの説明会だ
この中で、国防総省最高管理責任者（ＣＭＯ）のジョン・ギブソン氏は、こう述べている。
この計画は、国防総省の攻撃力の向上と兵士たちに最高のリソースを提供するためのものだ。
国防総省の現行システムは、ユーザー３４０万人、使用端末４００万台、１７００カ所のデータセンター、５００のクラウドサービス。これを、単一ベンダーのクラウドに統合し、ＡＩを搭載。リアルタイムのデータ解析に対応する。それがＪＥＤＩクラウドだ。
７月に入札募集要項の最終版が公開。その総額は１００億ドル規模と見られている。
契約は当初２年だが、契約延長により最大１０年の予定だ。
ギブソン氏の「攻撃力の向上」という説明が、この「ＪＥＤＩ」が戦闘行為に直結するシステムであることを示している。
この点を、応札撤退の理由としたのが、グーグルだ。
●グーグルが撤退する
声明の中で、グーグルが撤退の第１の理由としてあげたのが同社の「ＡＩ原則」だった。
第１の理由は、この契約が我々の「ＡＩ原則」に合致しない可能性があったこと。第２の理由は契約の一部に、我々が現在得ている政府認証レベルの範囲外のものが含まれていたことです。
グーグルは、マイクロソフトやアマゾンを巻き込んだ、ＡＩの軍事転用・監視利用への反対運動の発火点となった。
きっかけは、国防総省のＡＩ化推進プロジェクト「メイブン」の契約をめぐる社内騒動だ。
グーグルと国防総省は昨年９月、「プロジェクト・メイブン」の一環として、ドローンの映像解析に同社のＡＩ基盤「テンソルフロー」を提供する契約を締結した。
だが、今年３月にギズモードの報道によってこれが明らかになると、グーグルの社是とされてきた「邪悪にならない」に反するとして４０００人を超す反対署名、数十人の退職者を出す事態となった。
結局、グーグルは６月１日、２０１９年３月に期限が切れるこの契約について、更新をしないと表明。
さらに、翌週の７日には、スンダー・ピチャイＣＥＯが同社のＡＩ倫理に関するガイドライン「ＡＩ原則」を発表する。
この中で、「ＡＩは社会に有益な目的」で使われるべきであり、グーグルは「人々に危害を与える目的の兵器」「国際規範に反する監視目的の技術」などにはＡＩを使わない、と宣言している。
「ＪＥＤＩ」がＡＩを搭載し、国防総省ＣＭＯのギブソン氏が明らかにしたように「攻撃力の向上」を担う以上、確かに兵器利用禁止を宣言したグーグルの「ＡＩ原則」とは相いれない。
そして、撤退の第２の理由にあげた「政府認証レベル」は、グーグルが政府調達を広げる上で、解決しなければならない課題だった。
ギズモードの報道によれば、グーグルが「プロジェクト・メイブン」を受注した背景には、政府のデータを扱うための「政府認証レベル」の底上げの足掛かりという側面があった。
実際に、「メイブン」契約から半年後の今年３月、グーグルは連邦政府共通のクラウドセキュリティ認証「連邦政府リスク・認証管理プログラム（ＦｅｄＲａｍｐ）」で"中級レベル"の認証を獲得したことを発表している。
ただ国防総省はＪＥＤＩの応札条件として、ＦｅｄＲａｍｐに上乗せする形で国防情報システム局（ＤＩＳＡ）が独自に定めるクラウドコンピューティングのセキュリティ要求ガイドラインのインパクトレベル５（ＩＬ５）以上の認証を必要としている。
この認証は、落札後の一定期間内に達成すればよいとされているが、ビジネス・インサイダーよれば、アマゾンがレベル６、マイクロソフトなど他の競合社がレベル５を取得しているのに対し、グーグルは現状でレベル２までしか取得しておらず、「サイバーセキュリティが撤退の理由だろう」との専門家の見方を紹介している。
●「アマゾンありき」の疑念
社員たちの懸念の声とは裏腹に、アマゾンとマイクロソフトは、「ＪＥＤＩ」獲得に邁進する。
アマゾンＣＥＯのジェフ・ベゾス氏は、１０月１５日に行われた「ワイアード」２５周年のイベントで、国防総省との契約について、こう述べている。
大手ＩＴ企業が国防総省に背を向けてしまえば、この国は困ったことになる。我々は国防総省を支え続けていくつもりだし、そうすべきだと思う。
マイクロソフト社長のブラッド・スミス氏は２６日にブログを公開。その中で、国防総省とは４０年来の関係があり、ＪＥＤＩへの応札もその一環だと説明している。
ＡＩや拡張現実（ＡＲ）その他のテクノロジーは、兵器が自律的に動く能力を獲得する、といった新しい、極めて重要な問題を提起している。これらの問題について政府関係者と議論した際、世界のいかなる軍隊も、機械が戦争を引き起こすことを望んではいないことを理解した。だが、テクノロジーについて最も知識のあるＩＴ業界の人間がこの議論から撤退してしまえば、この新たな進展に、的確に取り組むことは期待できなくなってしまうだろう。
そして、ベゾス氏と同様、国防総省との関係を維持していく、と表明している。
メディアでは、「ＪＥＤＩ」受注の本命はアマゾン、対抗馬はマイクロソフトで、この両社の一騎打ちとの見立てが大勢だ。
アマゾンはすでに、米中央情報局（ＦＢＩ）のクラウド受注の実績もある。
だがそれだけではなく、国防総省が決めた「ＪＥＤＩ」の仕様が「アマゾンありき」なのでは、との指摘もある。
ヴァニティフェアの報道によれば、応札条件には、「商用クラウドですでに２０億ドル以上の売り上げがある」「データセンターは互いに１５０マイル以上離れている」など、アマゾンを想定したかのような項目がある、という。
そしてベソス氏は、ワシントン・ポストのオーナーとして、トランプ大統領とは反目しつつも、ジェームズ・マチス国防長官には激しい食い込みを見せていた、とも指摘する。
同様の疑念は、アマゾンの競合社も持っているようだ。
ＩＢＭは応札期限２日前の１０日、ＪＥＤＩの条件が不透明だとして、米政府監査院（ＧＡＯ）に異議申し立てを行った。
ＩＢＭは、「ＪＥＤＩ」が単一ベンダーによる「シングルクラウド」の仕様としている点を、フレキシブルな構成を求めるグローバルな趨勢からかけ離れている、と指摘。さらに、いくつかの要求項目は、「特定のベンダーの内部プロセスを反映しているか、そうでなければ不必要な要求だ」などとしている。
同様の異議申し立ては、オラクルも８月に行っている。
●ＡＩ倫理と国防予算
ＡＩ開発の倫理と、巨額な国防予算をめぐるビジネス。そのせめぎ合いが注目を集めてきたこの問題。
そこに、国防総省の調達の透明性への疑念も絡み、さらに複雑な様相になっている。
落札業者の発表は２０１９年春の予定だ。
--------
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』（朝日新書）
（2018年10月28日「新聞紙学的」より転載）