제네바의 킬러 로봇: 128개국이 자율 무기 구속력 있는 규칙을 결정할 5일
8일 뒤, 128개국 정부가 제네바에 모여 세계가 10년 동안 피해 온 질문에 답하게 된다. 기계가 사람을 죽여도 되는지를 누가 결정하는가. 특정재래식무기금지협약(CCW) 제7차 검토회의가 11월 16일에 개막하고, 의제에는 치명적 자율 무기—인간의 개입 없이 표적을 식별하고 선택하며 공격할 수 있는 시스템—에 대해 세계가 마주한 가장 결정에 가까운 사안이 올라 있다. 금요일에 시작된 외교적 비공개 회의는 이미 이번 주의 향방을 예고했다. 러시아와 미국이 이끄는 진영이 구속력 있는 협상이 아예 시작되지 않도록 움직이고 있다.
외교관들 스스로의 말에 따르면, 준비 작업은 끝났다. 협약 안에서의 3년간의 전문가 협의는 9월 5일 새벽 정부전문가그룹이 최종 보고서를 채택하면서 마무리됐고, 관련국들은 협상의 토대가 될 수 있는 초안의 요소들에 대해 컨센서스로 합의했다. 2025년 12월, 유엔 총회는 164 대 6, 기권 7표로 이 과정을 전진시키기로 표결했다. 8월에는 안토니우 구테흐스 사무총장과 적십자국제위원회 총재가 세계가 그들이 말하는 '도덕적 레드라인'에 다가가고 있다고 경고하며, 구속력 있는 문서에 대한 협상을 즉시 시작할 것을 촉구했다. 퓨처오브라이프연구소(Future of Life Institute)에서 군사 AI 거버넌스를 이끄는 애나 헤히어는 솔직하게 말했다. 각국이 AI 무기에 대한 세계적 합의 출범에 이토록 가까워진 적은 없었다고.
그 준비 작업과 협상 사이에 서 있는 것은 아일랜드가 이끄는 약 50개국 연합으로, 10월 22일 회의에 엄격한 협상 권한에 합의할 것을 촉구했다. 그들의 제안은 기한이 정해진 전문가 그룹을 설치해 2027년 제네바에서 세 차례 회의를 총 25일간 열고, 그해 말 연례 회의에 의정서 초안을 제출하는 것이다. 프랑스, 독일, 이탈리아, 브라질, 멕시코가 지지국에 포함되며, 적십자는 70개국 이상이 협상 개시를 지지하고 있다고 집계한다. 적십자국제위원회는 목요일, 논의에서 협상으로 넘어갈 때가 왔으며 세계는 더 이상의 지연을 감당할 수 없다고 말했다. 교황 레오 14세도 목소리를 보태며, 인간의 생명에 영향을 미치는 결정은 항상 인간의 감독 아래에 있어야 한다고 말하고, 제네바에 모인 각국에 치명적 자율 무기의 금지를 향한 구체적인 조치를 촉구했다.
반대편에는 미국, 러시아, 이스라엘이 있으며, 구속력 있는 문서에 대한 어떤 일정에도 반대하고 있다. 워싱턴의 입장은 각국이 기존 국제인도법 아래에서 자국의 통제를 부과해야 한다는 것이다. 펜타곤은 자체 자율 무기 작업반을 설치했다. 눈에 띄는 것은 영국이 아일랜드 주도의 성명을 지지하지 않았다는 점으로, 기존 인도법이 이러한 무기를 규제하기에 충분한 토대라고 오래 주장해 왔다.
회의의 산술이 결과를 이토록 불확실하게 만든다. 협약은 컨센서스로 결정하므로, 하나의 당사국만으로도 권한 부여를 막을 수 있다. 50개국 연합은 숫자를 갖고 있다. 저지하는 측은 거부권을 갖고 있고, 회의장에 있는 가장 큰 두 군사 강국도 품고 있다. 제네바에서 권한이 나오지 않으면, 운동가들에게는 우회로가 있다. 다수의 당사국이 협약 제8조를 원용해 협상 회의를 소집할 수도 있고, 공감하는 국가들이 이탈해 지뢰 및 집속탄 금지 조약처럼 독자적인 조약을 만들 수도 있다. 그러나 그 어떤 경로도 이들 무기의 주요 사용자가 가입하지 않을 조약을 만들어 낼 뿐이며, 주요 사용자가 결코 가입하지 않는 조약은 사실상 누구도 구속하지 못한다.
이것이 앞으로 일주일의 솔직한 모습이다. 초안은 준비됐고, 다수파는 결집했고, 사무총장이 2023년에 정한 기한은 올해 만료된다. 그럼에도 회의장 구조만으로 볼 때 가장 가능성 높은 결과는 회의가 협상 없이 더 많은 논의로 끝나는 것이다. 나는 권한 부여 가능성을 35%로 본다. 찬성 논거가 약해서가 아니라, 컨센서스가 반대파에게 거부권을 주며 그들이 이를 사용할 의사가 분명하고, 워싱턴과 모스크바가 9월 전문가 협의에서 초안에 안전장치를 더하기는커녕 빼냈기 때문이다. 금요일에 시작된 비공개 회의는 저지파 중 누군가를 움직일 수 있는지를 보여 줄 것이고, 회의 자체는 다수파가 그들을 우회할 의사가 있는지를 보여 줄 것이다. 어느 쪽이든 11월 20일까지 우리는 알게 된다. 스스로 표적을 선택하는 기계들이 약속보다 더 구속력 있는 어떤 것에도 지배받지 않은 채로 남을지를.