キラーロボットの規制へ向けて、日本から大きな一歩

勉強会の映像資料には、AARが作成したキラーロボットに関するブックレットの表紙が使われました

キラーロボット（殺傷ロボット）は、人間の介入・操作なしに攻撃目標を定め人を殺傷するAI（Artificial Inteligence）兵器です。「自律型致死兵器システム（Lethal Autonomous Weapons Systems、以下LAWS）」とも呼ばれ、まだ実戦配備はされていませんが、米国・ロシアなど十数ヵ国が開発中です。核兵器に次ぐ兵器革命をもたらすと警告される、そのキラーロボットが誕生しないよう、2013年4月に「キラーロボット反対キャンペーン」が発足しました。28ヵ国から64団体が参加（2017年9月現在）し、AAR Japan［難民を助ける会］は発足当初から同キャンペーンの運営委員として活動しています。

キラーロボットが完成する前に禁止条約を作ろうという国際的な動きが進む中、日本でも2018年4月17日に同キャンペーンに賛同するNGOと超党派の国会議員による「キラーロボットのない世界に向けた日本の役割を考える勉強会」が、衆議院第一議員会館で行われました。この勉強会は、AARを含む5つの国際NGOによる働きかけに遠山清彦衆議院議員を中心とした超党派議員6名が応じてくださり実現。一般市民を含め約100名が参加しました。

「キラーロボットのない世界に向けた日本の役割を考える勉強会」には約100名が参加しました

人間の判断が介入しないAI兵器を日本としてどうするか

勉強会は遠山清彦議員の、「キラーロボットに対して日本としてどうしていくのかが最大のテーマです。ともに考えていきましょう」という呼びかけから始まりました。また、「紛争に第三の革命をもたらすとされるキラーロボット開発の問題について、2018年2月の衆議院予算委員会で質問を行い、小野寺五典防衛大臣および河野太郎外務大臣より日本政府はAI兵器を開発・製造する意思はない回答を得ました」という報告がありました。

勉強会の呼びかけ人である遠山清彦衆議院議員

次にAAR理事長の長有紀枝が、キラーロボット反対キャンペーンの概要を説明。キラーロボット禁止条約の議論が進みにくい要因の一つとして挙げられる「まだ存在しない兵器であり実際に被害者がいない」という点に対し、実戦配備されていない武器だからこそ配備前に予防することが、被害者を生まないためにも非常に重要であると述べました。また、LAWSに何を含めるかが定まらないことが条約内容の議論進行の妨げとなっている現状に触れ、一般的に条約交渉において「定義と言うものは議論の最後まで決定しないもの」だから、定義のみに拘泥せずに議論を進めることも重要であると話しました。

キラーロボット反対キャンペーンの必要性について説明するAAR理事長の長有紀枝

国連の政府専門家会合レベルでも話し合い

国連の政府専門家会合に出席した櫻井佑樹（右）より報告を行いました

続いて本勉強会の直前に開催された国連の「特定通常兵器使用禁止制限条約（Convention on Certain Conventional Weapons、CCW）」の枠組みで行われた政府専門家会合（Group of Governmental Experts、以下GGE）の内容をAARの櫻井佑樹が報告。2018年4月に行われたGGEでは、初回（2017年11月）のGGEで挙げられた4つのポイント、①人間による操作の必要性、②行動規範、③締約国間での共通認識、④LAWSの特徴付けについての議論を深め、特に①については赤十字国際委員会（ICRC）やキラーロボット反対キャンペーンに賛同している国際NGOなどがその大切さを強調。完全自律型兵器ではなく、必ず人が介在し操作する必要があると改めて述べたことを報告しました。

法的・軍事的側面での懸念も

次に、ヒューマンライツ・ウォッチ日本代表の土井香苗氏より、AIやロボット自体は私たちの生活を向上させ、より便利な社会を築くために必要不可欠なものではあるものの、軍事利用されると紛争開始への垣根が低くなる恐れがあること、ロボットによって重大な人権侵害が行われた場合には、いったい誰が責任を取るのかという指摘がされました。さらに土井氏は「日本に必要なのは、キラーロボットの開発と使用の禁止を支持すると表明すること」と訴えました。

続いて、拓殖大学教授の佐藤丙午氏がLAWS規制への軍事的側面での課題について示されました。AIの民間利用と軍事利用の垣根は存在せず、AI兵器について規制する場合、民間のAIも規制されてしまう恐れがあること、また使用が国際人道法違反の可能性がある点が現在の議論の大きな焦点であることが発表されました。また、AI兵器は危険であり禁止すべきということについては国際社会でほぼコンセンサスが取れているものの、具体的に何をどう規制するか、意識合わせをしている状態であると話されました。

（右から）ヒューマンライツ・ウォッチの土井香苗氏、拓殖大学教授の佐藤丙午氏、AAR理事長の長有紀枝

脳科学者・茂木健一郎氏からも警笛

最後に、科学的な観点からキラーロボットの危険性について、脳科学者でありソニーコンピュータサイエンス研究所上級研究員の茂木健一郎氏から寄せられたビデオメッセージを上映しました。AIを兵器に利用するのは最悪の組み合わせであり、人間の知能は、生物としての状況判断・倫理観・直感等を発展させてきたが、AIはこのうち知能のみしか有しておらず、人間のように「生存本能」がないために、より危険であると警鐘が鳴らされました。

"第三の革命"を食い止める

議員の方々からは、民生分野でのAIの開発は規制されるべきではないけれども、AI兵器については規制しAI開発の健全な発展を望むことや、この新領域で、国際的規範・ルール作りを早い段階で日本が積極的に関与するべきとのコメントがありました。イベント後のアンケートでは、多くの方に「重要な課題なので、こうした活動を続けていってほしい」との感想を多数いただきました。
人類の歴史の中で、銃器、核兵器に次いで、紛争に第三の革命をもたらすといわれる同兵器の紛争使用の危険性について、世界の科学者からも警鐘が鳴らされています。私たちは、世界の紛争被害者を支援する団体として、こうした兵器を国際的に規制するべく、これからも活動を続けてまいります。