녹색당 과학기술위원회 이준태

※본 뉴스레터 글은 저자의 보고서 챕터 <자율무기체계의 현황과 쟁점>¹의 내용을 토대로 재작성한 것입니다.

자율무기체계와 관련한 국제인도법적 쟁점

각국의 정부와 군대는 무기의 자동화와 자율화를 적극적으로 추진해왔습니다. 여기에는 신기술의 선점이라는 논리도 있지만 자율무기체계를 통해 분쟁이 좀 더 윤리적이고 경제적으로 만들 수 있다는 논리도 있습니다. 대표적으로 자율무기체계를 도입하는 논리로는 인간의 불완전한 판단과 개입을 줄이고 전투의 효율성을 높인다는 점, 아군 인명 손실을 최소화할 수 있으며 비용적으로도 경제적이라는 점², 또한 자율무기체계를 통해 정확한 정밀 공격을 할 수 있다는 측면과 위험한 상황에서 인간 병사 대신 투입할 수 있다는 측면에서 더 윤리적이라는 점 등이 있습니다. 그러나 이런 희망적 전망과는 다르게 자율무기체계는 기본적인 국제인도법 조항들을 위반할 위험이 매우 큽니다.

먼저 국제인도법이란 국제적 무력출동에서 교전자의 권리와 의무, 교전의 방법과 선택을 제한하고 교전의 희생자를 보호하기 위한 국제법과 국제 관습을 말합니다. 국제인도법의 목적은 무력충돌 상황에서 전투원과 비전투원(민간인)을 보호하기 위한 것입니다. 그래서 교전당사국이 전투 방법과 수단을 선택할 권리는 무제한적이지 않다는 점을 강조하죠. 자율무기체계와 관련하여 쟁점이 될 수 있는 국제인도법 조항을 정리하면 아래와 같습니다.

• 구별(distinction)의 원칙: 분쟁에서 적법한 공격대상은 적의 군사력을 약화시킬 수 있는 목표물(즉 군인과 군사시설)로 한정되며, 전투원과 비전투원을 구별해야한다는 원칙.³
• 비례성(proportionality)의 원칙: 예상되는 민간인 피해가 직접적인 군사적 이익을 초과해선 안 되며, 군사적 이익보다 민간인 피해가 더 큰 불균형 혹은 무차별 공격은 금지된다는 원칙.
• 예방(precautions)의 원칙: 군사작전 수행에 있어 민간인(및 민간물자) 피해를 최소화해야 한다는 원칙.
• 마르텐스 조항(Martens Clause): 제네바협약이나 관습법에서 특정 무기나 전쟁 방식에 대한 구체적인 제한과 금지를 명시하지 않더라도 “인도주의 원칙(principles of humanity)”과 “공공양심의 명령(dictates of public conscience)”에 반하는 경우 불법으로 간주된다는 원칙.

예컨대 현실에서 전투원과 민간인을 구분한다는 것은 단순히 표적(인간)이 군복을 입었는지, 무기로 해석될 수 있는 물건을 지니고 있는지 등의 정보만으로 판단내리기 어려운 경우가 많습니다. 표적의 의도를 평가하는 데서는 기계의 한계가 더욱 문제가 될 수 있기 때문이죠. 이는 모두 구별의 원칙을 위반할 수 있는 요소들입니다. 비근한 예로 최근 이미지 분석 AI가 미국의 한 학교에서 학생이 들고 있던 과자봉지를 총으로 판단해 경찰이 출동하는 일도 있었는데⁴, 자율무기체계의 경우 비슷한 종류의 오류로 심각한 피해를 발생시킬 수 있는 것입니다.

또한 국제인도법은 사용 이전에 신무기를 만들거나 구입하려는 경우 관련 국제법을 준수하는지를 검토해야한다는 점도 규정하고 있습니다.⁵ 자율무기체계를 개발 및 생산하거나 수입(획득)하려는 계획이 있는 국가들은 그 무기를 실전에서 잘못 사용할 경우 생기는 법적 책임과는 별개로 해당 무기가 국제법을 준수하는지에 대한 법적 검토를 수행해야하는 것입니다.

그런데 최신 기술을 선점하기 위해 각국은 막대한 예산을 쏟아 붓는 반면 적법성 검토에 대해서는 매우 소극적으로 대응하고 있어요. 예컨대, 미국의 경우 무기만 장착하면 공격용이 될 수 있는 프레데터(Predator) 드론에 대해 개발 당시 정찰용 혹은 감시용으로 개발됐다는 명목으로 적법성 검토가 필요 없다는 입장을 피력하기도 했죠.

자율무기체계와 관련한 윤리적, 형사사법적 쟁점

자율무기체계를 옹호하는 이들은 자율무기체계가 불완전한 판단에 의존하거나 감정에 휘둘리는 인간보다 민간인에게 위해를 주지 않을 것이라고 주장합니다. 하지만 특정 집단과 국가가 인간의 감정과 윤리성이 완전히 배제된 자율무기체계를 통해 더 효율성이 높고 잔인한 방식으로 큰 피해를 주기 쉬워집니다.

한편 전쟁의 비용이 감소한다는 찬성론자들의 경제성 논리는 다른 한편으로는 전시와 평시를 떠나서 더욱 쉽게 그 기술을 가진 집단이나 국가가 무력을 사용하기 용이해진다는 것이기도 합니다. 여기에 더해 윤리성이 배제된 자율무기체계의 공격이 이루어졌을 때 결과적으로 훨씬 더 큰 피해로 이어지기 쉽죠. 그런 의미에서 아군 피해를 최소화한다는 논리 역시 (특히 민간인을 포함한) 전체 피해는 기존의 재래식 분쟁보다 훨씬 커질 수 있다는 것과 동전의 양면일 수 있습니다.

또한 여기에서 구체적으로 논의하진 않았지만 분쟁 상황이 아닌 경우에도 자율무기체계가 사용된다면 국제인권법을 위반할 가능성이 높아요. 예컨대, 특정 권위주의 정부가 국내 반정부 세력에 대해 이들을 추적·감시하고 위협에 대응한다는 명목으로 자율무기체계를 사용한다면⁶ 일반 경찰력을 동원하는 것보다 인권법을 위반하거나 적법 절차를 준수하지 않는 결과를 초래할 가능성이 훨씬 더 커질 것입니다.⁷ 가령 헌법재판소가 “시민들의 저항과 군경의 소극적인 임무 수행 덕분”에 막을 수 있었다고 판시한 12·3 불법 계엄에서 만약 윤석열이 인간 병사가 아닌 기계를 투입했다고 상상해 보면, 자율무기체계 사용의 결과는 끔찍할 수 있다는 것을 쉽게 알 수 있죠.

또한 자율무기체계는 사법제도의 차원에서도 큰 과제를 제기합니다. 가령 자율무기체계를 통해 전쟁범죄 혹은 인도에 반한 범죄가 이루어졌다고 했을 때, 그 형사적 책임은 자율무기체계의 배치를 결정한 지휘관, 자율무기체계 알고리즘을 구성한 프로그래머, 자율무기체계 기술의 제작자, 그리고 살인로봇 중 누구에게 가야할 것인지가 문제가 되죠.

그 행위를 명령한 지휘관이 자율무기체계 배치로 인한 불법행위의 가능성을 충분히 인지했다면 지휘책임을 물을 수 있는 가능성이 높지만, 자율무기체계의 알고리즘과 작동 체계를 정확히 모르고 있다고 주장한다면(다른 용도의 AI 체계처럼 자율무기체계 역시 그 세부적인 알고리즘은 운용자가 정확히 다 알 수 없을 가능성이 높으므로), 사법 체계에서 죄를 묻기 쉽지 않을 수 있죠. 프로그래머나 제작자도 의도적으로 불법행위를 유발하려한 것이 입증되지 않고 자신들은 특정 알고리즘 구성과 프로그래밍만을 담당한 것이라고 주장하면 처벌이 쉽지 않고요.

그렇다면 ‘자율적으로’ 임무를 수행한 행위자로서 무생물 기계인 개별 자율무기체계에 책임을 물어야 할까요? 그렇다고 해당 자율무기체계를 물리적으로 구속하거나 프로그램에서 특정 기능을 제한한다고 책임성의 문제가 해소됐다고 볼 수 없죠. 이렇듯 자율무기체계는 책임성의 문제를 흐리게 만들고 피해자들에게는 유의미한 정의를 실현하지 못하게 될 것입니다.⁸

지난 회에서는 자율무기체계에 대한 개념과 현황을, 이번 회에서는 자율무기체계와 관련된 여러 쟁점을 살펴봤는데요. 다음 회에서는 이런 자율무기체계에 대한 문제점을 막기 위한 관련 규제 현황을 살펴 보겠습니다. 시민사회의 규제논의, 유엔과 같은 국가간 조직에서의 국제법 제정을 위한 논의, 그리고 이와 관련한 한국의 입장이 있습니다. 그리고 한국 정부의 관련 입장과 올해 시행된 인공지능기본법, 올해 발의된 국방인공지능법 등 국내법과 관련한 문제점도 함께 살펴보려 합니다. 어느 것도 녹록한 상황은 아니지만 문제점을 정확히 확인해야 대안도 논의할 수 있겠죠.

Green Geek을 구독하시면 지금 보시는 것과 같은 과학기술 소식과 정보를 받아보실 수 있습니다.

주석

1. 이준태, “6장 자율무기체계의 현황과 쟁점”, 『무기거래의 문제와 무기박람회』, 전쟁없는세상 기획, 2025. (https://withoutwar.org/?avada_portfolio=무기거래의-문제와-무기박람회) ↩︎
2. 예컨대, 미국은 아프가니스탄 전쟁에서 병사 1인당 연간 약 85만 달러가 소요됐지만, 전투로봇의 경우 그보다 훨씬 저렴한 비용으로 운용이 가능합니다. 김광우 2018. “자율살상무기(일명 킬러로봇)에 대한 국제법적 문제와 우리나라에 대한 정책적 시사점.” <국방과 기술> 473: 122-129. ↩︎
3. 전투원이더라도 전의를 상실한 전투원(항복 의사를 분명히 표시했거나 의식을 잃었을 경우 등)을 공격해서는 안 됩니다(제네바협약 제1추가의정서 제41조). ↩︎
4. BBC 2025. “Armed police handcuff teen after AI mistakes crisp packet for gun in US.” October 24. (https://www.bbc.com/news/articles/cgjdlx92lylo) ↩︎
5. 제네바협약 제1추가의정서 제36조는 “신무기, 전투수단 또는 방법의 연구·개발·획득 및 채택에 있어서 당사국은 동 무기 및 전투수단의 사용이 본 의정서 및 당사국에 적용 가능한 국제법의 다른 규칙에 의하여 금지되는지의 여부를 결정할 의무가 있다”고 규정하고 있습니다. ↩︎
6. 분쟁이나 내전 상황이 아니더라도 가령 시위대에 대해 실탄이 아닌 고무탄이나 최루탄 등이 장착된 드론 등의 자율 차량을 이용하는 방식을 생각해볼 수 있습니다. 이런 자율무기체계는 AI 감시 체계와 함께 2023년 10월 이전 가자지구와 서안지구의 점령지 팔레스타인(oPt)에서 일상적으로 팔레스타인인들을 대상으로 사용됐습니다. 로엔스틴, 앤터니 2023. <팔레스타인 실험실: 이스라엘은 어떻게 점령 기술을 세계 곳곳에 수출하고 있는가> 유강은 역. 소소의책. ↩︎
7. 인권법적 관점에서의 자율무기체계의 위험성에 주목한 글로는 다음 보고서가 있습니다. Amnesty International 2015. “Autonomous Weapons Systems: Five key human rights issues for consideration.” Amnesty International Publications. ↩︎
8. 이외에도 자율무기체계는 컴퓨터 시스템에 대한 의존도가 높은 만큼 사이버공격에 취약할 수 있다. 살상무기에 대한 해킹으로 예상치 못한 피해를 야기할 가능성도 그만큼 높아진다. 그리고 해킹이 발생하진 않더라도 복잡한 알고리즘과 환경에 따라 설정이 스스로 변경될 수 있다는 예측불가능성을 통해 그 운용자가 정확한 자율무기체계의 의사결정 과정을 파악할 수 없게 되는 ‘블랙박스’ 현상의 위험도 존재한다. ↩︎