탈리프 딘

뉴욕(IDN) — 미국이 20년에 걸친 치명적인 전쟁 후 8월 31일 아프가니스탄에서 마지막 병력을 철수하면서 워싱턴에서 나오는 메시지 중 하나는 분명했다. 미국은 중동 주변에 여전히 40,000명 이상의 미군이 주둔하고 있음에도 불구하고 미래의 모든 분쟁에서 “지상 전투”를 줄일 것이다.

한편 향후 흐름은, 특히 전 세계의 테러리스트 그룹에 대해, 대부분 드론 또는 무인 항공기(UAV) 배치 등의 ‘킬러 로봇’을 이용한 “그림자 전쟁”의 양상이 될 것이다.

당시 마지막 공격 중 하나는, 미국이 8월 29일 카불에서 잘못 식별된 IS-K 테러리스트의 은신처를 향해 헬파이어 미사일 한 발을 이용한 드론 공격을 시작했으며, 이로인해 민간인 10명이 사망했고 그중 7명은 어린이였다. 미 국방부는 이를 “비극적인 실수”라고 묘사했다. 하지만, 이러한 민간인 살해에 대해 누구도 처벌받지 않았다.

이 공격은 인공지능(AI)이 아니라 이라크, 리비아, 소말리아, 예멘, 시리아, 아프가니스탄의 내전과 전쟁터에서 자주 발생하였듯이 잘못된 지능에 의해 발생하게 되었으며, 이러한 공격으로 앞으로 더 많은 치명적인 재앙이 일어날 것이다.

한편, 2021년 12월 13일부터 17일까지 제네바에서 개최된 제6차 재래식 무기 협약(CCW) 재검토회의는 치명적인 자율무기체계(LAWS)의 미래에 대한 중요한 회의가 될 것으로 예상됐다. 그러나 이는 예상대로 실패했다.

유엔 협회 캠페인 책임자인 벤 도날드슨은 12월 18일 회의의 결론에서 “결과는 대다수 정부, 기술 커뮤니티 및 UN 사무총장의 긴급 조치를 향한 외침의 참혹한 묵살입니다.”라고 영국에 본사를 둔 lDN에 말했다.

그는 8년간의 논의에도 불구하고 자율무기와 떼지어 다니는 로봇에 대한 군사 투자가 급증하고 있는 가운데 유엔기구가 이를 위해 보여줄 것이 아무것도 없다는 것은 우연이 아니라고 말했다.

‘영국에서 킬러 로봇을 저지하기 위한 캠페인’의 운영위원이기도 한 도날드슨은은 “이러한 무기를 개발하는 소수의 강대국은 새로운 법적 구속력이 있는 규칙 마련을 통해 진행을 차단하는 동일한 책임이 있는 국가들입니다.”라고 말했다.

“포럼으로서 CCW의 한계가 드러났습니다. 그러나 국가, 시민사회, 기술 지도자들의 강력한 연합은 진전을 이루어야 한다고 결의했습니다”라고 그는 지적했다.

성공적인 집속탄과 지뢰 조약은 유엔 밖에서 진전이 이루어질 수 있다는 것을 보여주었고, 진보적인 국가들은 책임을 질 준비가 되어 있는 것으로 보인다.

“2022년에는 살인 결정을 기계에 아웃소싱하지 말아야 한다는 대다수 진지한 사람들이 이러한 무기를 금지하는 새로운 조약에 대한 작업을 시작할 것으로 예상합니다. 유엔의 조치를 저지한 것에 대한 책임이 있는 국가들은 “역사의 어느 편에 서기를 원하는가? 결정해야 합니다”라고  도널드슨은 언급했다.

12월 17일에 발표된 강력한 성명서에서 ‘킬러 로봇 금지 연합’의 지도자 중 하나인 국제앰네스티는, 이제 미국과 러시아를 포함해 이미 자율무기 개발에 막대한 투자를 하고 있는 소수의 국가가 유엔 재래식 무기 협약(CCW)의 합의 규칙을 이용하여 대다수 국가를 인질로 잡고 무기 시스템의 자율성에 대한 국제적 법적 대응을 저지하기 위해 노력하고 있음이 분명하다고 말했다.

제6차 CCW 검토회의가 새로운 법률 협상 조치에 합의하지 못한 후, 지뢰 및 집속탄 조약이 체결된 상황을 반영하는 법적 대응이 시급하다는 인식이 일고 있다.

“8년 동안 대다수의 국가와 논의한 결과, 무력 사용에 대한 의미 있는 인간의 통제를 보장하기 위한 새로운 국제법의 협상이 지속적으로 요구되고 있습니다. 제6차 검토 회의는 세계가 필요로 하는 결과에 미치지 못하는 충격적인 위임 통치안을 채택했습니다.  각 국가는 특정 목표를 향한 노력에 동의 없이 내년에도 CCW 회의를 계속할 것입니다.”라고 앰네스티는 말했다.

여성 국제 자유 평화 연맹의 레이 애치슨 이사는 미국이 제안한 행동 강령에 대해 “자율무기(러시아, 이스라엘, 인도 등)의 개발과 사용을 방지하기 위한 조약 협상을 방해하는 미국과 다른 국가들의 행태를 지켜 본 바로는, 합의에 의해 동의한 행동 강령은 효과가 없을 것”이라고 IDN에 말했다.

이 국가들은 지난 8년 동안 자율무기 시스템의 장점을 옹호했다. 애치슨은 “무기와 무력 사용에 대한 의미 있는 인간 통제를 보장하고 인권과 존엄성을 보호하는 명확한 금지 및 제한을 포함하는 법적 구속력 있는 장치가 필요합니다.”라고 말했다.

“반면 미국이 구상하는 행동 강령은 자율무기 개발을 당연한 것으로 간주하고 심지어 이를 조장하여 자율 폭력을 점점 더 정상화하고 있습니다. 우리는 무장한 드론과 기타 원격 전투 기술을 사용함으로써 그들이 수행하는 폭력으로부터 인간을 멀어지게 하는 길을 이미 걸어왔습니다.”

이 무기들은 엄청난 인명 피해와 민간인 사상자를 냈으며, 국제법을 훼손하고 무력 사용의 문턱을 낮추었고, 이러한 무기는 남반구에 거주하는 사람들에게 편향적으로 사용되고 실험되었다고 애치슨은 지적했다.

자율무기 시스템은 이러한 피해 등을 악화시킬 것다. 이러한 시스템의 개발은 다른 신흥 자율 및 인공지능(AI) 기술의 개발 맥락에서 고려되어야 한다.

얼굴, 음성, 보행 및 심장 인식 등의 생체 데이터 수집, 그리고 인간을 범주화하고 분류하는 감시 도구 및 예측 치안 소프트웨어 메커니즘은 전 세계적으로 군대와 경찰에서 점점 더 많이 사용되고 있다.

“우리는 정부, 군대, 경찰이 폭력과 통제를 위해 첨단 기술을 어떻게 사용하는지 지속적으로 목격하고 있습니다. 우리는 이러한 발전의 궤적과 그들이 적극적으로 건설하고 있는 세계를 볼 수 있습니다. 알고리즘, 센서 및 소프트웨어를 기반으로 무기가 작동하는 것을 금지하도록 지금 행동해야 합니다.”라고 애치슨은 선언했다.

앰네스티는 또한 성명서에서 오스트리아 외무장관 알렉산더 샬렌버그와 뉴질랜드 군축 및 군비 통제부 장관 필 트위포드 모두 자율무기를 규제하는 새로운 국제법의 개발을 촉구했다고 지적했다.

노르웨이와 독일의 새로운 정부 연합 협정은 이 문제에 대해 조치를 취할 것을 약속했다. 유엔에는 법적 수단을 요구하는 68개 정부의 일관된 지역 간 리더십이 존재한다.

수천 명의 기술 및 인공지능 전문가와 과학자들, 살인 로봇 중지 캠페인, 국제 앰네스티, 국제 인권 감시 기구, ICRC, 26명의 노벨상 수상자 및 광범위한 시민 사회가 새로운 국제법을 요구했다. 이제 킬러 로봇에 대한 외부 프로세스를 위한 단계가 설정되었다.

국제 적십자 위원회(ICRC)는 입장문에서, 자율무기 시스템은 사람이 처음 활성화하거나 발사한 후 센서를 통해 수신된 환경 정보에 응답하여 일반화된 “표적 프로파일”을 기반으로 자동으로 공격을 시작하거나 발동한다고 말했다.

이것은 사용자가 특정 표적과 결과적으로 발생하는 무력이 적용하는 정확한 시간 또는 위치를 선택하거나 심지어 알 수도 없다는 것을 의미한다.

자율무기 시스템의 사용은 그 효과를 예측하고 제한하는 것이 어렵기 때문에 위험이 수반된다. 무력과 무기 사용에 있어 인간의 통제와 판단력 상실은 인도주의적, 법적, 윤리적 관점에서 심각한 우려를 낳고 있다.

자율무기 시스템 기능이 일으키는 문제

• 무력 충돌의 영향을 받는 민간인과 전투원 모두에게 분쟁 확대의 위험 뿐만 아니라 해를 끼칠 위험이 있다.
• 국제 인도주의 법률, 특히 민간인 보호를 위한 수행에 관한 규칙을 포함한 국제법 준수에 대한 도전이 제기된다.
• 사실상 삶과 죽음에 대한 인간의 결정을 센서, 소프트웨어 및 기계 프로세스로 대체함으로써 인류에 대한 근본적인 윤리적 문제가 제기된다.

2015년부터 ICRC는 각 국가에 민간인 보호, 국제 인도주의 법률 준수 및 윤리적 수용을 보장하기 위해 자율무기 시스템에 대해 국제적으로 합의된 제한 설정을 촉구해왔다.

한편 안토니우 구테흐스 유엔 사무총장은 지난해 9월 자율 살상 무기보다 더 불안정한 발명품은 상상하기 어렵다고 밝혔다.

그는 2년 후에 열릴 예정인 미래 글로벌 정상 회의가 이러한 모든 문제와 그 이상을 고려할 것으로 예상된다고 말했다.

이 정상 회의는 또한 핵무기, 사이버 전쟁 및 치명적인 자율무기의 전략적 위험을 줄이기 위한 조치를 포함하는 평화를 위한 새 의제도 고려할 것이다.  

새로운 유엔 퓨처스 랩은 메가트렌드와 위험에 대한 정기 보고서를 발간할 것이다. 구테흐스 사무총장은 이러한 노력을 지원하기 위해 “우리는 21세기의 도전에 대한 보다 관련성 있고 시스템적인 다자간 및 다중적인 해결책을 제공하는 UN 2.0을 출범할 것입니다”라고 말했다. [IDN-InDepthNews – 2021년 12월 21일]

사진: UNMAS, MINUSMA Mark 국제 지뢰 인식의 날 그동안 많은 국가의 군 당국에서 지뢰 제거를 위해 로봇을 배치했지만 인공 지능을 사용하는 자율무기 규제에 대한 우려는 커지고 있다. UN 사진/Marco Dormino