BLOG
2017年12月21日 14時48分 JST | 更新 2017年12月21日 14時48分 JST

人を殺すAIは必要?キラーロボット規制の新しい動き

キラーロボットは、人間による介入・操作なしに攻撃目標を決め実行する兵器です。

キラーロボット(殺傷ロボット)は、「自律型致死兵器システム(Lethal Autonomous Weapons Systems、以下LAWS)」、すなわち人間による介入・操作なしに攻撃目標を決め実行する兵器です。研究・開発は一部の企業で行われていますが、まだ存在しておらず、被害も現在のところありません。

しかし、LAWSが戦場で使用されれば甚大な被害が予測されるため、実戦配備される前に開発を阻止しなければならないことは明白です。LAWSに関する国際的な兵器規制への呼びかけはNGOを中心に2011年頃からはじまり、国連でも2013年の会議を皮切りに、毎年定期的に話し合われています。

2014年からは特定通常兵器使用禁止条約(CCW)において非公式の政府専門家会合が3回にわたり開催され、今年11月13日~17日には初となる公式の政府専門家会合(GGE)がスイス・ジュネーブにて開催されました。AAR Japan[難民を助ける会]はこの議論を中心となって進めてきた「キラーロボット(殺傷ロボット)反対キャンペーン(Campaign to Stop Killer Robots)」の運営委員の一員として、会議に参加しました。会議に参加した櫻井佑樹の報告です。

初のCCW公式政府専門家会合

初めての公式会議となった今回の5日間の政府専門家会合には、本条約を署名・批准し国内で法制化している国(79)、署名のみの国(1)、批准も署名もしていないけれども会議だけに参加している国(3)からの政府代表、大学、研究機関から専門家、そして市民の声を届けるNGOが出席しました。

欧米の人権擁護に関わるNGOの出席が多い中、日本から参加したNGOは当会のみでした。最初に政府代表およびNGO代表による意見陳述が行われ、次いで技術、軍事、法律/倫理の3つの側面から、各分野の専門家を交えた意見陳述と質疑応答が行われました。最後に各締約国政府代表が意見を提出しました。

最終日には、議長による報告書が出され、2018年も会議を引き続き実施する方向で閉幕しました。会議では、主に以下の4点、1.人間による操作(Human Control)の必要性、2.行動規範(Code of Conduct)、3.締約国間の共通認識(Common Understanding)、4.LAWSの特徴付について議論が交わされました。

AAR Japan[難民を助ける会]
テレビ会議を通して米国技術専門家の意見陳述を聞く締約国代表団(2017年11月14日)

LAWSはまだ実戦配備されていないため、議論においても無人飛行機や軍艦から映画「ターミネーター」のような人間型、動物に模した兵器まで人によって様々なイメージで語られます。人工知能(AI)についても国や専門家によりさまざまな意見があり、軍事用AI規制を要求する研究者もいる一方で、災害時救助ロボットや介護用ロボットなどの民生用AIの技術開発まで規制されることに懸念を表明する国もあります。

各締約国政府代表からの意見陳述では、LAWSの定義、ロボットにより重大な人権侵害が行われた場合に誰か責任をとるのか、国際人権法には抵触しないのか、人道法により守られている市民への攻撃を防ぐことができるのか(攻撃目標の識別可能性)などの懸念が共有されました。

兵器の完全自律化については多くの国が否定的で、攻撃目標の取捨選択は人間によって行われるべきであるという意見が多数を占めました。

本会議のまとめとして、議長からは、国際人道法はすべての武器に適用されうること、紛争下では、国際人道法などの関連国際法を遵守し、国家が開発した兵器による殺傷は、国家に責任が帰属すること、軍事利用と民生利用のバランスをとること、GGEとしては、民生利用のための開発を妨げないこと、そして、今回議論された3つの側面(技術、軍事、法/倫理的側面)については引き続き議論をし、CCWの目的に照らして、LAWSの特徴付けと共通認識を促進することとしてまとめられました。

2018年も同会議開催は決定しています。公式の場での会合が継続されるのは喜ばしいことですが、技術の進化の速度は目覚しく、LAWSが実際に誕生してしまう前に開発禁止を実現するため、今後は条約制定に向けた具体的な議論のさらなる加速が期待されます。今後もAARは人道支援専門組織としての知見と、地雷禁止キャンペーンで培ってきた経験を生かし、キラーロボットの規制に向けて引き続き提言を行ってまいります。

AAR Japan[難民を助ける会]
LAWSに関する初の公式専門家会合に参加したキラーロボット反対キャンペーン運営委員会メンバー(右端前列が筆者)(2017年11月17日)

【報告者】

AAR Japan[難民を助ける会]

東京事務局 櫻井 佑樹
大学卒業後、民間財団に勤務したのちイギリスの大学院で平和学を学ぶ。パキスタンでのNGO勤務を経て2012年8月よりAARへ。東京事務局でタジキスタン事業などを担当し、ザンビア駐在後、2016年8月までタジキスタン駐在。現在は東京事務局で福島事業やストップ・キラーロボット・キャンペーンなどを担当。三児の父(千葉県出身)