인공지능의 군사적 이용에 대한 국제적 규제 – 국제규범에 관한 논의의 최근 동향 –

초록

지난 10년 동안, 인공지능의 군사적 이용에 관한 국제규범은 주로 특정 재래식무기 제한협약의 당사국들이 설치한 자율살상무기체계에 관한 정부 전문가그룹에서 논의되었다. 2019년 특정 재래식무기 제한협약 당사국 회합에서 이 정부 전문가그룹이 확인한 11개 항의 ‘지도원칙’이 채택되었으나, 그러한 무기를 사용하는 경우에 발생할 수도 있는 이른바 ‘책임 간극’ 문제는 여전히 미해결 상태라고 할 수 있다. 또 2023년 5월에는 아르헨티나를 포함한 14개국이 자율무기체계를 완전히 금지하는 ‘자율무기체계에 관한 의정서(제6의정서) 초안’을 이 정부 전문가그룹에 제출했으나, 이 초안에는 이런 무기체계의 부재를 검증할 방법을 규정한 조항이 없다. 인공지능의 군사적 이용은 이미 자율무기체계의 범위를 넘어섰을 뿐 아니라, 군사적 우위를 차지하기 위한 인공지능 군비경쟁도 시작된 것으로 보인다. 이런 군비경쟁이 계속되면, ‘적대적 사례’와 같은 기계학습의 취약성 때문이든 시스템 간의 상호작용과 같은 다른 요인 때문이든 ‘벼락 전쟁’과 같은 의도하지 않은 결과가 발생할 위험이 커질 것이다. 현재의 기술로는 군사용 인공지능 시스템의 존재를 탐지하거나 그 부재를 검증하기가 어렵거나 불가능하다고 하므로, 인공지능의 군사적 이용을 전면 금지하는 식으로는 이런 위험을 해소하기가 어렵거나 불가능할 것이다. 이런 위험을 줄일 수 있는 현실적인 방법은 검증 불가능한 전면 금지가 아니라 검증 가능한 부분적 제한이지만, 거대 인공지능 훈련에 필요한 고성능 반도체 칩의 수출 통제와 같은 무역제한조치는 WTO 협정상의 의무 위반에 해당할 소지가 있다. 현재 기술적으로 검증 가능한 방식은 인공지능 기술의 이용 여부와 관계없이 특정 무기나 전투 수단을 금지하거나 제한하는 것이지만, 이런 국제적 합의는 어려울 수도 있다. 2023년 7월 18일 국제 평화와 안전에 미치는 인공지능의 영향이 처음으로 유엔 안전보장이사회의 의제로 다루어졌으며, 이 회합에서 유엔 사무총장은 인공지능의 군사적 이용에 관한 규범, 규칙, 원칙을 발전시킬 다자 프로세스에 참여하도록 회원국들에 요청할 예정이라고 밝혔다. 이제 인공지능의 군사적 이용 문제는 유엔 안전보장이사회 유엔 사무총장이 언급한 다자 프로세스에서도 논의될 것이므로, 외교적 요소도 논의의 결과를 좌우하는 변수의 하나가 될 것이다.

키워드