「ロボットが人を殺す未来」を迎えないために―3月25日講演会開催報告

2016年3月25日、「キラーロボット反対キャンペーン（Campaign to Stop Killer Robots）」 グローバル・コーディネーターのメアリー・ウェアハム氏、外務省軍縮不拡散・科学部通常兵器室上席専門官の永吉昭一氏をお招きし、文京シビックセンター会議室（東京都文京区）にて講演会「ロボットが人を殺す未来」を開催しました。

• キラーロボット／キラーロボット反対キャンペーンについてはこちら

会場ではロボットのペッパーくんが、参加者の皆さまをお出迎え。右はAAR理事長・長有紀枝（2016年3月25日）

ウェアハム氏は国際人権NGOヒューマンライツ・ウォッチのアドボカシー担当として、これまで地雷やクラスター弾などの非人道的な兵器の禁止・制限に向けた活動に関わってこられました。AAR Japan［難民を助ける会］とは、対人地雷禁止条約（1997年署名・1999年発効）の策定に向けた地雷禁止国際キャンペーン（ICBL）参画団体として、ともに活動してきました。 今回のイベントはNGO、研究者、学生をはじめ、この問題に関心を寄せる約80名の方にご参加をいただきました。冒頭、AAR理事長の長有紀枝と感情認識ロボット「ペッパーくん」による挨拶の後、ウェアハム氏による基調講演、永吉氏を迎えてのパネルディスカッションと質疑応答を行いました。

ウェアハム氏の基調講演。多くの方にご参加いただきました

ウェアハム氏による基調講演「キラーロボットに関する国際的動向」では、キラーロボットとは何か、何が問題なのか、そして開発の禁止に向けた活動についてお話しいただきました。ウェアハム氏はまず、キラーロボットは将来の兵器であり、今はまだ存在しない兵器であることを説明。現存の兵器の中には自動化・自律化が進んでいるものも多くありますが、攻撃までの動作の中に必ず人間の判断が入る瞬間があります。キラーロボットは、機械が自分で標的を決め、人間の判断なしに攻撃を行う「完全自律型」という点で、すでに開発されている兵器とは異なり、その違いが国際法や倫理上の深刻な問題となります。戦争のルールを決めている国際人道法では、民間人を攻撃対象とはしないこと、攻撃の際にその効果と民間人への被害の大きさを秤にかける義務などが定められています。ロボットにそこまでの判断機能をもたせることは現状できないと言われています。ロボットが民間人を誤って殺してしまった場合に誰が責任をとるのかという問題もあります。

倫理上の問題としては、こうした兵器が誕生することで、戦争を始める敷居が低くなるのではないかという懸念があります。また、ロボットには道徳上の判断や、攻撃に対する躊躇などもありません。ウェアハム氏は「人の生命に関わる判断を本当にロボットに委ねていいのか、私たち人間のモラルが問われている」とし、キラーロボットの禁止に向け、開発される前に今取り組まなければならないと訴えました。

永吉氏による講演。永吉氏は自律型致死兵器システム（LAWS）を巡る国際的な議論にも参加しています

近年、この兵器の規制について、特定通常兵器使用禁止条約（CCW）の枠組みを中心に、国際的な議論が進んでいます。（※CCWとは）
パネルディスカッションの冒頭では、永吉氏から、国際議論が今どこまで進んでいるのか、特に2015年に開催されたCCW第2回専門家会合において、日本や各国から出た意見を紹介されました。CCWでは「キラーロボット」という名称ではなく、自律型致死性兵器システム（Lethal Autonomous Weapons Systems: LAWS）という言葉が使われています。CCW第2回専門家会合では、日本を含むCCW加盟国政府や、国際機関、キラーロボット反対キャンペーンをはじめとしたNGOの代表者が出席し、1週間にわたりLAWSについて議論しました。永吉氏は専門家会合では、LAWSの定義や、関連する概念「有意な人間による制御（Meaningful Human Control）」などについて各国の一致した理解・定義には至らなかったこと、また、規制・禁止に向けた取り組みについても肯定的な意見が各国から挙がった一方、定義が曖昧であるとして慎重な意見も挙げられたことを説明し、ここでは「議論を継続すること」だけが合意されたことを説明しました。

続く質疑応答では、多くの質問が会場から寄せられました。日本の立場に関する質問に関して、永吉氏は「LAWSは、技術、倫理、法律、軍事のさまざまな側面を踏まえて議論すべきであり、一側面の考慮のみで結論を出すことは適切ではない。LAWSの定義を明確にすることが重要。特に人工知能（AI）を活用したロボット技術は汎用技術であるので、民生用と軍事用のロボットの線引きが必要となる。LAWSの定義が曖昧となる場合、民生用の関連技術までも規制対象に含まれかねないことが懸念される。いずれにしても、日本は人間が関与しないロボット兵器の開発する予定はない」と回答しました。

質疑応答の時間には多くの質問が寄せられました

最後に挙げられた「一般の人々は何ができるのか」という質問に対して、ウェアハム氏はまず、この問題に関心を寄せ、今回のイベントにお越しくださった参加者の方々に感謝を述べた上で、「問題について知り、周りの人にも話をして広めてもらうことが何より重要。1990年代の地雷禁止に向けたキャンペーンのときにも、一般の人々が動いたことが国や政治家の議論を後押しした」と振り返り、「今後もキラーロボット反対キャンペーンや関係団体が発信する情報から理解を深め、キャンペーンの活動を前に進めることに協力してほしい」と答えました。

アンケートでは「マンガや映画の中での存在だと思っていたが、いつ実用化されても不思議でない事実に気づけた」「まだ存在していない兵器を想像して議論を進める難しさと、一方で将来起こりうるかもしれないことへの予防の大切さを 学んだ」など、たくさんの感想をいただきました。

当日の様子は、BS朝日「News Access」（3月26日（土）放送）でも紹介されました。ウェブページでもご覧いただけます。

• 自ら判断し人間殺害も...「キラーロボット」禁止訴え

また、イベントでは、AARが作成した小冊子「この世界に『人を殺すロボット』はいらない！」を配付しました。この冊子は中学生以上を対象に、キラーロボットとは何か、なぜ問題なのかをまとめたものです。授業や会合などでもご活用いただけます。ご希望の方は事務局までご連絡ください。

• お知らせページリンク