메인으로

전쟁이 점점 게임처럼 변해간 거죠. 그런데 더 섬뜩한 변화는 그다음에 찾아왔습니다. 이제 일부 드론은 스스로 움직이기 시작했거든요. 

AI가 알아서 표적을 분석하고, 공격 우선순위까지 제안하기 시작한 겁니다.

규모도 무서운 속도로 커지고 있어요. 우크라이나는 2025년 FPV 드론 약 450만 대 구매 계획을 세웠고, 러시아는 2026년 3월 하루에만 약 1,000대의 드론과 타격 수단을 동원했습니다. 드론이 이제 포탄처럼, 매일 대량으로 소모되는 전쟁 물자가 되어버린 셈이죠.

AI 드론 전쟁, 얼마나 빠르게 커졌을까

▲ 두 수치는 '연간 조달 계획'과 '하루 동원량'으로 기준 단위가 다릅니다.

젤렌스키 우크라이나 대통령도 유엔 연설에서 AI 무기의 위험성을 직접 짚었습니다. "규제가 기술 속도를 따라가지 못하고 있다"고 말하며, AI 군사화가 새로운 국제 안보 위기가 될 수 있다고 강조했죠.

"킬러 로봇은 미래 기술이 아니라, 이미 전장에 들어오기 시작한 기술이다" 

▲ 출처: Campaign to Stop Killer Robots

―

드론과 AI 무기,
결정적 차이는 무엇일까

자율살상무기(LAWS)의 정의

―

사실 많은 분들이 드론과 AI 무기를 비슷한 거라고 생각하세요. 그런데 둘 사이엔 아주 결정적인 차이가 하나 숨어 있습니다.

누가 마지막 결정을 내리는가.

일반적인 드론은 사람이 조종해요. 아무리 멀리 떨어져 있어도, 마지막 버튼을 누르는 건 결국 인간이거든요. 그런데 자율살상무기(LAWS: Lethal Autonomous Weapons Systems)는 조금 다릅니다. 이 시스템은 스스로 표적을 찾고, 분석하고, 공격까지 할 수 있어요.

일반 드론 vs 자율살상무기(LAWS), 누가 결정하는가

국제적십자위원회(ICRC)는 자율살상무기를 이렇게 정의합니다.

이 문장에서 가장 섬뜩한 부분, 눈치채셨나요? 

바로 "인간의 개입 없이" 라는 말이에요. 

그래서 유엔과 ICRC가 끊임없이 강조하는 개념이 하나 있습니다. '의미 있는 인간 통제(Meaningful Human Control)'라는 건데요, 쉽게 말해 운전대를 절대 놓지 말자는 이야기입니다.

그런데 여기서 무서운 사실은..

AI 무기는 한 번 등장하면 정말 빠르게 퍼질 수 있다는 겁니다. 핵무기처럼 거대한 시설이 필요하지 않고, 훨씬 싸고 접근하기도 쉽거든요.

―

'누가 죽을지'를
기계가 결정합니다

가자지구 Lavender와 우크라이나 팔란티어 사례

―

'AI의 대부'라 불리는 제프리 힌튼 교수, 아마 한 번쯤 들어보셨을 거예요. 그가 2024년 노벨상 연회 연설에서 던진 경고가 있습니다.

사실 지금까지 전쟁에는 최소한 인간의 판단이라는 마지막 안전장치가 있었어요. 군인은 표적이 민간인인지 아닌지 구분해야 했고, 잘못된 공격이 벌어지면 반드시 책임질 사람이 있었죠. 그런데 이제는 AI가 표적을 추천하고, 인간은 그 판단을 승인하기 시작했습니다. 두 개의 전장이 그 현실을 정확히 보여줍니다.

먼저, 가자지구의 'Lavender' 논란부터 볼까요. 

2024년 +972 Magazine은 이스라엘군이 'Lavender'라는 AI 시스템을 활용해 약 3만 명을 표적 후보로 분류했다고 보도했습니다. 인간 검토는 제한적이었고, AI가 만든 리스트가 실제 공격 결정 과정에 깊숙이 개입했다는 의혹까지 나왔어요.

우크라이나 전장은 한발 더 나아갔습니다. 팔란티어(Palantir)의 플랫폼 'Gotham'은 드론 영상과 위성사진, 전장 데이터를 하나의 시스템으로 통합해요. 

AI가 이걸 분석해 러시아군의 탱크 위치, 포병 진지, 탄약고, 지휘소를 식별하고, 어떤 표적을 먼저 공격해야 가장 큰 전략적 효과를 낼 수 있는지 우선순위까지 제안합니다. 

지휘관은 좌표가 가득한 화면을 바라보며 결정을 내립니다. 그리고 그 클릭 한 번이, 실제 폭발로 이어지는 거죠.

결국 AI 무기의 진짜 무서운 지점은 따로 있는지도 모릅니다. 인간이 점점, 스스로 생각하지 않게 되는 전쟁이라는 것 말이에요.

―

AI 자율살상무기는
국제 안보 문제입니다

유엔이 우려하는 4가지 위험

―

AI는 인간보다 훨씬 많은 데이터를 처리할 수 있어요. 피로도 없고, 감정에 흔들리지도 않죠. 그런데 이게 마냥 좋은 얘기일까요? AI가 전쟁의 속도를 높이고 자국 병사의 희생을 줄일수록, 전쟁을 선택하는 문턱도 함께 낮아질 수 있습니다. 더 적은 부담으로, 더 쉽게 공격을 결정할 수 있는 세상이 되어버린 거예요.

유엔이 AI 자율살상무기를 단순한 기술 문제가 아니라 국제안보의 문제로 보는 이유가 바로 여기 있습니다.

유엔이 경고하는 자율살상무기 4대 위험

▲ 2024년 유엔 사무총장 보고서 「Lethal Autonomous Weapons Systems」참고

―

왜 아직
금지하지 못했을까요

안보 딜레마와 이중용도 문제

―

이렇게 위험하다면, 그냥 금지해버리면 되지 않을까요? 

실제로 유엔이나 국제적십자위원회(ICRC), 휴먼라이츠워치 같은 기구들은 강한 국제 규범이 필요하다고 꾸준히 목소리를 내고 있습니다. 그런데 현실은 생각보다 훨씬 복잡해요. 가장 큰 이유는, 아주 오래된 감정 하나 때문입니다.

불신.

국가들은 속으로 같은 질문을 던집니다. 

"우리가 먼저 멈췄는데, 상대는 계속 개발하면 어떡하지?" 

특히 미국·중국·러시아 같은 강대국들은 AI를 미래 군사력의 핵심으로 보거든요. 결국 모두가 위험하다는 사실은 알고 있습니다. 그런데도 아무도 먼저 손을 놓으려 하지 않아요. 국제정치에서는 이런 상황을 '안보 딜레마(Security Dilemma)'라고 부릅니다.

더 큰 문제는, AI 무기가 핵무기보다 훨씬 통제하기 어렵다는 점이에요. 핵무기는 우라늄 농축시설처럼 물리적 흔적이 남지만, AI 무기는 민간기술과 군사기술의 경계가 아주 흐릿합니다. "재난 구조용 드론 AI"로 개발된 기술이, 다른 곳에서는 순식간에 "자동 표적 추적 무기"로 둔갑할 수 있는 거죠. 이걸 '이중용도(dual-use)' 문제라고 부릅니다.

―

유엔의 경고,
인류 생존의 문제입니다

2024 유엔 사무총장 보고서와 구테흐스 발언

―

유엔은 AI 자율살상무기를 단순한 신무기 문제로 보지 않습니다. 국제안보와 인간 존엄성의 문제로 다루죠. 

2024년 유엔 사무총장 보고서 「Lethal Autonomous Weapons Systems」는 각국 정부, 국제기구, ICRC, 시민사회, 과학계, 산업계의 의견을 종합한 공식 문서인데요, 이 보고서가 강조하는 핵심은 딱 세 가지입니다.

안토니우 구테흐스 유엔 사무총장은 이를 두고 단호하게 말했습니다.

"정치적으로 용납할 수 없고, 도덕적으로 혐오스럽다."

―

가장 똑똑한 AI보다
멈춰 설 줄 아는 인간

AI 시대에도 인간 통제가 중요한 이유

―

사실 AI 무기의 가장 두려운 점은, 기계가 인간보다 더 정확해질 수 있다는 사실이 아니에요. 

진짜 문제는 조금 다른 데 있습니다. 

인간이 AI의 판단을 점점 '당연한 것'으로 받아들이게 된다는 점입니다. 시간이 흐를수록 인간은 판단하는 존재가 아니라, 그저 버튼만 누르는 존재로 남게 될지도 모릅니다.

지금 우리에게 필요한 건 더 빠른 기술 경쟁이 아니에요. 

어떤 결정만큼은 끝까지 인간의 손에 남겨둘 것인가, 그 질문에 대한 대화입니다.

그 경계를 어디에 그을지는, 결국 우리 사회가 기술 앞에서 얼마나 겸손할 수 있는가에 달려 있습니다. AI 자율살상무기가 우리에게 남긴 숙제, 이제는 미뤄둘 수 없을 것 같습니다.

글. 최연제 국장