人を殺すAIは必要？キラーロボット規制の新しい動き

テレビ会議を通して米国技術専門家の意見陳述を聞く締約国代表団（2017年11月14日）

初めての公式会議となった今回の5日間の政府専門家会合には、本条約を署名・批准し国内で法制化している国（79）、署名のみの国（1）、批准も署名もしていないけれども会議だけに参加している国（3）からの政府代表、大学、研究機関から専門家、そして市民の声を届けるNGOが出席しました。欧米の人権擁護に関わるNGOの出席が多い中、日本から参加したNGOは当会のみでした。最初に政府代表およびNGO代表による意見陳述が行われ、次いで技術、軍事、法律／倫理の3つの側面から、各分野の専門家を交えた意見陳述と質疑応答が行われました。最後に各締約国政府代表が意見を提出しました。最終日には、議長による報告書が出され、2018年も会議を引き続き実施する方向で閉幕しました。会議では、主に以下の4点、1.人間による操作（Human Control）の必要性、2.行動規範（Code of Conduct）、3.締約国間の共通認識（Common Understanding）、4.LAWSの特徴付について議論が交わされました。

LAWSに関する初の公式専門家会合に参加したキラーロボット反対キャンペーン運営委員会メンバー（右端前列が筆者）（2017年11月17日）

LAWSはまだ実戦配備されていないため、議論においても無人飛行機や軍艦から映画「ターミネーター」のような人間型、動物に模した兵器まで人によって様々なイメージで語られます。人工知能（AI）についても国や専門家によりさまざまな意見があり、軍事用AI規制を要求する研究者もいる一方で、災害時救助ロボットや介護用ロボットなどの民生用AIの技術開発まで規制されることに懸念を表明する国もあります。

各締約国政府代表からの意見陳述では、LAWSの定義、ロボットにより重大な人権侵害が行われた場合に誰か責任をとるのか、国際人権法には抵触しないのか、人道法により守られている市民への攻撃を防ぐことができるのか（攻撃目標の識別可能性）などの懸念が共有されました。兵器の完全自律化については多くの国が否定的で、攻撃目標の取捨選択は人間によって行われるべきであるという意見が多数を占めました。

本会議のまとめとして、議長からは、国際人道法はすべての武器に適用されうること、紛争下では、国際人道法などの関連国際法を遵守し、国家が開発した兵器による殺傷は、国家に責任が帰属すること、軍事利用と民生利用のバランスをとること、GGEとしては、民生利用のための開発を妨げないこと、そして、今回議論された3つの側面（技術、軍事、法／倫理的側面）については引き続き議論をし、CCWの目的に照らして、LAWSの特徴付けと共通認識を促進することとしてまとめられました。

2018年も同会議開催は決定しています。公式の場での会合が継続されるのは喜ばしいことですが、技術の進化の速度は目覚しく、LAWSが実際に誕生してしまう前に開発禁止を実現するため、今後は条約制定に向けた具体的な議論のさらなる加速が期待されます。今後もAARは人道支援専門組織としての知見と、地雷禁止キャンペーンで培ってきた経験を生かし、キラーロボットの規制に向けて引き続き提言を行ってまいります。