• 活動ニュース
• 駐在員・事務局員日記

人工知能（Artificial Intelligence：AI）の技術は日進月歩です。近年は、自動車の衝突防止機能や完全自動運転への開発に採用されるなど、これから人口が減少していく日本の社会において、AIはますます私たちの生活を支える重要な役割を果たしてくれるでしょう。一方で、AIはプログラムなどのわずかな変更ひとつで、人を殺傷するロボット（キラーロボット）になると言われ、その危険性について世界中の学者や宗教関係者が警鐘を鳴らしています。キラーロボットは、人間の判断や操作なしに攻撃を行う兵器で、その特性から自律型致死兵器システム（Lethal Autonomous Weapons Systems：LAWS）とも呼ばれます。まだ存在しないものの、実用化されれば甚大な人道的被害をもたらす危険性があります。

各国政府や専門家が協議

政府専門家会合の会場。前方は各国政府の席、後方は市民社会組織の席（以下写真はすべて2018年8月にスイス・ジュネーブで撮影）

日本でも、人工知能学会倫理委員会がAIを社会のなかで健全に活用することをうたう「人工知能学会　倫理指針」を2017年2月に策定するなど、国内のAI学者やロボット開発者の中で議論が活発になっています。
国際社会でも特定通常兵器使用禁止制限条約（Convention on Certain Conventional Weapons：CCW）の締約国125ヵ国および市民社会組織の中で議論が続いています。2018年は、4月と8月に専門家も交えて議論する公式協議、政府専門家会合（Group of Governmental Experts：GGE）がスイス・ジュネーブで開催されました。昨年に続き、AAR Japan［難民を助ける会］は、「キラーロボット反対キャンペーン（Campaign to Stop Killer Robots）」（28ヵ国64団体が加盟）の一員として参加しました。AARはこれまで同キャンペーンにおいて、アジアで唯一の加盟団体として本会合に出席していましたが、8月のGGEには、スリランカとカザフスタンのNGOも加わり、国際的な関心の高まりが見られます。

議論は紛糾

完全自律型兵器禁止、つまり人間が一切介入しない兵器の開発や使用の禁止の方向に、大多数の国が賛同しており日本政府代表団も「完全自律型兵器は受け入れられない」と表明しました。
一方で、人間の操作や判断が必要な兵器（LAWS）については、兵器の種類の多さや使用される状況がさまざまに想定されることから、各国の意見は交錯し、会議期間中にLAWSの定義付けや禁止の合意形成には至りませんでした。人間が兵器をコントロールすることが「重要な機能」であると多くの国が同意するものの、どの段階で介入すべきなのかがまとまりませんでした。

約1週間のGGE期間中、ランチタイムにはさまざまなテーマでサイドイベントが開催されました

そのため、会議最終日にはすでに多くの兵器を保有、開発する国から「LAWSの規制については時期尚早だ」という声明が相次ぎました。それに対して、「キラーロボット反対キャンペーン」をはじめとした市民社会側は、一斉に「今すぐにでも規制のための条約交渉をするべきだ」と反対を表明しました。各国が納得する結論に至るには、更なる時間を要するとみています。

ともに議論し、考えていきたい

私たちAARが運営委員を務める「キラーロボット反対キャンペーン」をはじめ、LAWSの禁止を訴えるNGOは、AIの開発そのものに反対しているわけではありません。
技術の進歩が私たちの生活に恩恵をもたらす一方で、兵器の開発にも利用され数えきれないほどの犠牲を生んだことも事実です。それと同様に、AI技術も私たちの生活を向上させるだけではなく、兵器に転用される危険性をはらんでおり、その点についての議論が必要だと考えています。

AIの特徴として、武器としての利用を目的とした核兵器や小型武器とは違い、私たちの周りにすでにあるAIが搭載された機器のプログラムを変更するだけで十分に殺傷を行えることが挙げられます。こうしたことからも、AIの正の側面も負の側面も多くの方々に知っていただき、LAWSの規制に向けた議論を市民社会の皆さんと一緒に議論を進めていきたいと考えています。

会議期間中、キラーロボット反対キャンペーンの結成5周年記念イベントが開催されました。それぞれ情報収集や関係構築に努め、結束力が増したように感じます

AIやロボットの開発に携わる専門家も、人を殺傷することを目的に開発するつもりはなくても、前述の通り、結果的に悪用されてしまう恐れは拭いきれません。そのためにも、できる限り早急に国際的なLAWSの規制を策定するべきです。人の生死がロボットに左右されない社会にするために、今後もこの課題について、社会全体で考えていかなければなりません。