BLOG
2018年08月13日 14時26分 JST | 更新 2018年08月13日 14時26分 JST

対テロAI「スカイネット」に「テロリスト」と判定される―それを取り消させることはできるか?

たとえそこに「命の危険」があったとしても、異議申し立てのハードルは極めて高い。

中東を取材するジャーナリストが、米情報機関のAI(人工知能)システムで「テロリスト」と判定された――。

中東の紛争地で米国政府に「テロリスト」認定されることは、ドローン攻撃の標的にされる「命の危険」の可能性を意味する。


By Steve Jurvetson (CC BY 2.0)

それを取り消させることはできるのか?

そんな裁判の判決が、ワシントン地裁で出された。

AIシステムの名前は、SF映画「ターミネーター」で人類絶滅を図るAIと同じ「スカイネット」。

AIの誤判定によって「命の危険にさらされた」と主張するジャーナリストに対し、裁判官が下した判決とは――。

●「キルリストから名前を削除せよ」

ワシントン連邦地裁に提訴があったのは、2017年3月30日。原告は、いずれも中東で活動するジャーナリスト、アフマド・ザイダーン氏とビラル・カリーム氏。

ロンドンを拠点とする人権団体「リプリーブ」が支援している。

被告は、トランプ大統領、ポンペオ米中央情報局(CIA)長官(当時)、マチス国防長官、ケリー国土安全保障長官(当時)、セッションズ司法長官、コーツ国家情報長官、マクマスター国家安全保障担当大統領補佐官(当時)、そして国防総省、司法省、国土安全保障省、CIA、米連邦地検だ。

訴状は、こう主張する

本件訴訟は、被告らに対し、原告らの"キル(殺害)リスト"("ディスポジション(退位)マトリックス"とも称される)への記載、保持を禁じることを求めるものである。これらはすなわち、殺害の標的となることを意味する。

キルリスト(ディスポジションマトリックス)」とは、テロ対策の一環として2010年ごろからオバマ前政権下で作成されてきたとされる、テロ容疑者データベースを指す。2012年にワシントン・ポストがその存在を暴露している。

このリストに登録されたテロ容疑者は、ドローン(無人攻撃機)による攻撃、もしくは逮捕・極秘起訴の対象となる、という。

中東でジャーナリストとして活動する原告の2人は、テロ容疑者としてこの「キルリスト」に登録され、命の危険にさらされている、と主張しているのだ。

●テロリスト判定AI「スカイネット」

原告の1人、アフマド・ザイダーン氏はシリア出身。パキスタンの国籍も持ち、20年以上にわたり中東・カタールのメディア「アルジャジーラ」のパキスタン・イスラマバード支局長を務めてきたベテランジャーナリストだ。

そして、米同時多発テロを主導した国際テロ組織アルカイダのオサマ・ビンラディン容疑者への、2度にわたるインタビューを行ったことでも知られる。

そのザイダーン氏を米情報機関が「アルカイダのメンバーであり、ムスリム同胞団のメンバー」と認定していた――2015年5月、調査報道メディア「インターセプト」がそう報じた

その証拠は、NSA、CIAの元職員、エドワード・スノーデン氏が2013年に暴露した、NSAの極秘文書の中にあった。

スカイネット:先進クラウドベースの行動分析の適用」とのタイトルの2007年1月8日付の文書と、「スカイネット:機械学習(マシンラーニング)による連絡役の割り出し」とのタイトルがある2012年6月5日付の文書がそれだ。

2007年の文書では「スカイネット」はこう説明されている。

スカイネットは大量のダイヤル番号認識(DNR)データに対する地理空間、地理時間、生活パターン、移動の分析を複雑に組み合わせることで、容疑者の行動パターンを特定します。

「ダイヤル番号認識(DNR)」とはつまり、携帯電話の通話履歴だ。携帯の通話履歴からは、通話の相手先、時間などのほか、携帯基地局から位置情報も取得できる。

さらに、2012年の文書ではさらに具体的に、パキスタン国内の5500万件の携帯電話(GSM)のメタデータ(通話履歴)を人工知能の機械学習による分析対象とした事例を説明。

GSMのメタデータから、それぞれの調査対象者の生活パターン、ソーシャルネットワーク、旅行行動を測定することができます。

そして、機械学習による行動分析から、アルカイダ幹部の連絡役を割り出していく手法を解説している。

「スカイネット」の名前は、アーノルド・シュワルツネッガー氏が主演したSF映画「ターミネーター」に登場する、人類を絶滅させようとする軍事AIシステムとしてよく知られている。

核戦争を引き起こして人類の半分を死滅させた上に、アンドロイド軍団を組織して、人類殲滅を図る。暴走するAIの代名詞とも言える。

その名を冠したNSAのAIシステムが、膨大な携帯電話のメタデータからアルカイダ幹部の連絡係をあぶり出す。

この「スカイネット」システムによって、"最高スコア"が出た人物として紹介されていたのが、アルジャジーラのザイダーン氏だった。

さらに、この極秘文書の中でザイダーン氏には、「TIDEナンバー」というものが振られていた。

これは、「Terrorist Identities Datamart Environment」と呼ばれる、CIA、NSA、FBIといった米情報機関によるテロリストデータベースのことで、100万人以上の登録があるという。

つまりザイダーン氏は、米情報機関によって何らかの理由でテロリストとして認定され、TIDEデータベースに登録されていたようだ。

さらに、その携帯電話の通話履歴を「スカイネット」のAIで分析したところ、改めて「アルカイダ幹部の連絡係」の可能性が最も高いと認定された、ということになる。

ちなみに「スカイネット」の「アルカイダ幹部の連絡係」の検知システムでは、「本物」を見逃してしまう確率(見逃し率)を50%と設定した場合、間違った人物を「連絡係」と認定してしまう確率(誤検知率)は0.008%にまで抑えることができた、としている。

だが5500万人を対象としているので、0.008%の誤検知でも4400人という規模になってしまう。

●「メタデータで殺害する」

「スカイネット」の極秘文書には、「キルリスト」との関連についての記述はない。

だがパキスタンでは、米国の無人攻撃機、ドローンによるテロリスト掃討が続いていた。そのような状況での米情報機関によるテロリスト認定、加えて「スカイネット」による「アルカイダ幹部の連絡係」との判定は、そのドローン攻撃の標的となる可能性を示す。

NSA長官、CIA長官を歴任したマイケル・ヘイデン氏は、2014年4月にジョンズ・ホプキンズ大学で開かれたシンポジウムで、こう発言している

我々はメタデータに基づいて対象を殺害する。

「インターセプト」はこれに先立つ同年2月の記事で、米軍の対テロ作戦を担う「統合特殊作戦コマンド(JSOC)」の元ドローン・オペレーターの話として、このような発言を紹介している

攻撃の標的リストがある、ということにこだわるのだ。我々はまるで、携帯電話を標的にしているかのようだ。人間を追跡しているのではなく、その電話を追跡している。ミサイルの向かう先の人物が、悪者であることを願って。

●「私はジャーナリストだ」

私はジャーナリストだ。テロリストではない。

アフマド・ザイダーン氏は2015年5月、「インターセプト」の報道を受けて、自らの署名記事の中で、そう抗議の声を上げた

ザイダーン氏は記事の中で、こう述べている。

(テロリストだとの)嫌疑は、私の命を明白かつ差し迫った危険にさらすことになる。現状、多くの人々がこのようなフェイク情報の結果、命を落としていると考えられているのだから。

ロンドンのNPO「調査報道ビューロー(BIJ)」の2014年の調査によると、2009年のオバマ政権発足から5年間で、パキスタン、イエメン、ソマリアへのドローン攻撃は390回以上で、2400人以上が死亡。犠牲者のうち民間人は少なくとも273人にのぼるという。

この中には、テロリストと誤認定されて「キルリスト」に登録された人々も含まれているようだ。

ザイダーン氏はこの騒動のあと、安全確保のためにパキスタンを離れ、米軍基地を擁し、ドローン攻撃の危険がないカタールのアルジャジーラ本社勤務になった、という。

●5度の空爆を生き延びる

「キルリスト」訴訟のもう1人の原告、ビラル・カリーム氏はニューヨーク出身の米国人。

シリアを拠点に、自ら設立した映像メディア「オン・ザ・グラウンド・ニュース」を通じて、米国メディアなどにニュース映像を配信する。

訴状によれば、カリーム氏は、2016年6月から8月にかけて、対戦車ミサイル「ヘルファイア」を含むドローンなどによる5度の攻撃を至近距離で受けたという。

1度目と4度目はオフィスのあるビル、3度目には乗っていたピックアップトラックが攻撃され、4度目の攻撃では10歳の少女を含む3人の民間人が死亡している、という。

カリーム氏はいずれもかろうじて助かったものの、3カ月足らずという短期間のうちに、5度もの至近距離での攻撃を受けたのは、テロリストとして誤認定され、「キルリスト」に登録されたことによるものだ、としている。

カリーム氏は、ザイダーン氏のような「キルリスト」への登録を伺わせるような文書が明らかになっているわけではない。

ただ、取材活動の中でアルカイダの関係者とは頻繁にコンタクトを取っていたという。

●米国市民に「申し開きの権利はある」

ワシントン連邦地裁のローズマリー・カリアー判事が今年6月13日に出した判断は、2人の原告の明暗を分けた

米国市民であるカリーム氏については、訴えの一部を認めたものの、米国市民ではないザイダーン氏に関しては、訴えを退けたのだ。

30ページに及ぶ意見書の中で、カリアー判事は、カリーム氏については、こう述べている。

(何人も法に基づく適正手続きによらなければ生命・自由・財産を奪われないとする)デュープロセスは、単なる古くて退屈な手続き上の義務ではない。それどころか、政府の行き過ぎた行為から米国市民を守るために、生き生きと息づくコンセプトだ。それはおそらく、戦時においても同様だ。

その上で、カリーム氏の主張をこう評価する。

米国市民として、原告は被告らに対し、自らの立場と職業について釈明し、さらに自らのデュープロセスの権利を主張し、それを聞き届けられる機会をあらかじめ設けることを求めている。誤って命を奪われることを避けたいという原告の主張は極めて説得力がある。

そして、キルリストからの削除までは認めていないが、カリーム氏の合衆国憲法上の権利として、「殺される前に」米政府に対して釈明をする権利を認めたのだ。

原告は、その生得権を主張している。キリングリストに登録されるのであれば、その前に釈明させてほしいという憲法で保障されたデュープロセスの権利を、さらにその職業ゆえに致死的工作の標的となるのであれば、その前に表現の自由の権利を行使させてほしい、というもっともな主張をしているのだ。

だが裁判官は、カリーム氏が5度に及ぶ現実の攻撃の被害にあったことを主張したのに対し、ザイダーン氏については、そのような「現実の損害」が証明できていないとして、その訴えを退けている。

本法廷は、ザイダーン氏がテロリストにつながる関係者と定期的に面会するジャーナリストであり、テロリストの指導者のインタビューを行い、テロ容疑者としてスカイネットのリストに自らの名前があった、との主張については認定する。だが、これらの事実だけでは、その名前が米国のキリングリストに掲載されている、との主張の疎明には十分ではない。その結論はあくまで推測にすぎない。

●AIに異議申し立てができるのか

今回の訴訟では、2人の原告の被害の状況の違いが判断の分かれ目になった、と裁判官は説明している。

訴えの一部が認められたカリーム氏は、しかし、3カ月足らずで5度の空爆を生き抜いていることをもって、「現実の損害」が証明できている、とされた。

一方のザイダーン氏は、スノーデン文書に「テロリスト」として顔写真と名前が記載されていても、「現実の損害」の証明が不十分とされた。

もしAIが誤った判定を出し、それによって「キルリスト」のようなものに載せられたとして、私たちに何ができるのか?

たとえそこに「命の危険」があったとしても、異議申し立てのハードルは極めて高い、ということはよくわかる判決だ。

--------

■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』(朝日新書)

(2018年8月10日「新聞紙学的」より転載)