AI 자율무기와 로봇 전쟁, 인간 통제의 위험성

AI 자율무기와 로봇 전쟁의 미래, 인간의 통제를 벗어나는 군사 인공지능이라는 주제는 영화 속 이야기처럼 들리지만, 2026년 10월 현재 이미 시험과 외교 협상의 대상이 되어 있습니다. 이 글은 제가 전장에 다녀온 기록이 아니라, 미 의회조사국(CRS) 보고서와 유엔 발표, 언론 보도를 대조해 정리한 총정리입니다. 이 시리즈 5편에 해당하는데요. 군사용 드론과 전투 로봇이 지금 어디까지 왔는지, 그리고 “사람이 통제한다”는 말이 실제로 무엇을 뜻하는지를 중심으로 다룹니다.

결론부터: 자율무기의 통제 문제는 로봇의 반란이 아닙니다

먼저 결론을 말씀드리겠습니다. 여러 자료를 종합하면 통제 이탈은 로봇이 명령을 거부하는 모습으로 나타나지 않습니다. 승인 시간이 지나치게 짧아지고, 오식별이 생기고, 책임이 여러 곳으로 흩어지고, AI가 위기를 키우는 쪽으로 기우는 네 가지 경로로 나타납니다.

이 네 가지는 제가 출처들을 종합해 붙인 정리이며, 아래 섹션에서 각각 근거를 확인합니다. 한 가지 먼저 짚어 둘 것은 속도입니다. 기계가 판단을 빠르게 내릴수록 사람이 끼어들 틈은 좁아지는데요. 그래서 “사람이 마지막에 버튼을 누른다”는 설명만으로는 안심하기 어렵습니다.

군사 인공지능의 통제 방식 세 가지와 비교

자율무기의 정의부터 확인하겠습니다. 미 국방부의 자율무기 지침(2023년 1월 개정)은 작동을 시작한 뒤 운용자의 추가 개입 없이 표적을 선정하고 교전할 수 있는 무기를 자율무기체계로 봅니다 (미 의회조사국 CRS, 2026년 10월 5일 기준). 같은 자료는 사람의 개입 정도에 따라 세 범주로 나눕니다.

구분	사람의 역할	표적을 고르는 주체	통제가 약해지는 지점
반자율(human in the loop)	운용자가 고른 표적만 교전	사람	승인 시간이 짧으면 형식적 승인이 됨
인간 감독형 자율(human on the loop)	작동 중 감독하고 중지 권한을 가짐	기계가 선정, 사람이 감독	감독자가 개입할 시간이 없을 때
완전 자율(human out of the loop)	시작 이후 개입 없음	기계	오식별을 막을 장치가 없음

이 표에서 눈여겨볼 것은 세 번째 열입니다. 같은 “사람이 있다”는 말이라도 표적을 누가 고르느냐에 따라 의미가 완전히 달라집니다.

“적절한 수준의 인간 판단”이 뜻하는 것

미국 지침은 모든 체계가 지휘관과 운용자가 적절한 수준의 인간 판단을 행사할 수 있도록 설계돼야 한다고 요구합니다. CRS는 이것이 무기마다 사람이 수동 조종해야 한다는 뜻이 아니라고 설명합니다. 사람이 언제, 어디서, 어떻게, 왜 쓸지 결정하고 전쟁법 준수를 판단한다는 뜻이라는 것인데요. 문구가 넓게 열려 있다는 점이 논쟁의 핵심입니다.

국제적으로는 치명적 자율무기체계(LAWS)의 단일한 정의가 아직 합의되지 않았습니다 (유엔 군축실 발언을 전한 세계일보, 2026년 7월 7일 기준). 정의가 없으니 규제 범위를 정하는 일부터 어렵습니다.

AI 로봇 전쟁의 현재 기술 수준, 우크라이나 시험 기준으로 읽기

로봇 전쟁이 어디까지 왔는지는 우크라이나가 가장 구체적인 수치를 내놓고 있습니다. 2026년 9월 우크라이나 국방부와 국방혁신 클러스터 Brave1은 7개 업체의 AI 유도 드론을 시험했습니다 (The Defense Post, 2026년 9월 10일 기준). 시험 절차를 순서대로 풀어 보겠습니다.

첫째, 드론이 2km를 비행합니다. 거리 조건을 두는 이유는 조종사가 직접 보면서 끝까지 몰 수 없는 거리에서의 자율 동작을 확인하려는 것으로 보입니다. 둘째, 500m 이상 떨어진 곳에서 움직이는 경장갑 차량을 스스로 탐지하고 획득해야 합니다. 정지한 표적이 아니라 움직이는 표적이라는 점이 중요합니다. 셋째, 최대 3회 시도 안에 2회 이상 명중해야 합니다. 결과는 7개 중 6개 통과였고, 드론은 “지속적인 조종사 통제 없이” 작동하도록 설계됐다고 합니다.

여기서 조심할 대목이 있습니다. 이 기사는 사람의 감독이나 중지 권한이 있는지 설명하지 않습니다. 반면 우크라이나 무기 동향을 정리하는 모니터는 발사 결정은 여전히 사람 운용자가 쥐고 있다고 전합니다 (Ukraine’s Arms Monitor, 2026년 4월 기준). 두 보도는 서로 부딪히는 듯하지만, 운용 방식이 체계마다 다를 수 있다고 보는 편이 안전합니다.

지상 로봇은 전투보다 물류에서 먼저 늘고 있습니다

의외로 지상 로봇의 주 용도는 공격이 아니라 후송과 운반입니다. 우크라이나는 2025년에 약 15,000대를 계약했고, 2026년 상반기에 약 25,000대 도입을 계획했다고 보도됐습니다 (eWeek, 2026년). 주 용도는 부상자 후송과 탄약 운반입니다.

러시아 쪽 자료도 비슷한 방향입니다. 2026년 4월 보고서 기준으로 지상 로봇 32개 모델이 확인됐고, 최소 20종이 우크라이나 전장에서 실제로 쓰였으며 용도는 물류, 후송, 정찰, 화력지원이었습니다 (우크라인스카 프라우다, 2026년 5월 1일). 배경은 FPV 드론이 전선 10~15km에 만든 “킬존”입니다. 사람이 다니기 어려워지자 로봇이 그 자리를 채운 것인데요. 로봇 전쟁이 영화처럼 인간형 로봇의 돌격으로 오기보다 이런 실용적 경로로 먼저 온다는 점은 기억해 둘 만합니다.

한편 인간형 전투 로봇이 실전에 배치됐다는 보도는 이번 조사에서 확인하지 못했습니다. 중국 군용 지상 로봇의 실전 운용도 확인하지 못했습니다.

공중에서는 유무인 협동이 시험 단계입니다

미 공군의 협동전투기(CCA) 시제기 YFQ-42A는 2025년 8월 27일 첫 비행을 했고, 2026년 10월 초에는 F-22 조종사가 YFQ-44A를 공중에서 통제하는 시험이 성공했다고 전해집니다 (The Aviationist, 2026년 10월 17일 기준). 공군은 자율 능력과 유무인 팀워크를 활용하도록 설계됐다고 밝혔지만, 인간 통제의 세부 수준은 확인되지 않았습니다.

사람이 승인해도 인간의 통제가 아닐 수 있는 경우

이 섹션이 이 글에서 가장 중요한 대목이라고 생각합니다. 승인 절차가 있다는 것과 실질적으로 통제한다는 것은 다릅니다.

이스라엘 Lavender 보도의 쟁점

+972 매거진은 2024년 4월 정보장교 6명의 증언을 바탕으로, 무장조직 요원으로 추정되는 수만 명을 표적 후보로 생성한 시스템을 보도했습니다. 장교가 건당 약 20초 안에 승인했고, 시스템의 오식별률이 약 10%라는 것을 알고도 사용했다는 내용입니다 (+972 Magazine, 2024년 4월 25일 기준). 이스라엘군은 이를 부인하거나 보완하는 입장을 낸 것으로 전해지며, 보도는 익명 증언에 기대고 있다는 점을 함께 밝혀 둡니다.

같은 기사는 이것이 완전 자율이 아니라고 짚습니다. 핵심은 표적 기준을 완화하고 민간인 피해 허용치를 높인 “인간의 결정”이라는 것이 휴먼라이츠워치를 인용한 주장입니다. 정리하면 자율무기의 위험은 기계가 혼자 쏘는 순간만이 아니라, 사람이 기계의 제안을 짧은 시간에 받아들이는 구조에도 있습니다.

미군 AI 활용 보도와 확인의 한계

워싱턴포스트 보도를 인용한 세계일보에 따르면 미군은 이란 전쟁 첫 24시간 동안 앤트로픽의 챗봇을 활용해 약 1000개의 공격 표적을 식별했습니다 (세계일보, 2026년 9월 27일 기준). 다만 이는 2차 인용이어서 확인이 더 필요합니다.

경계사례도 하나 있습니다. 2020년 3월 리비아에서 튀르키예제 Kargu-2 드론이 철수하는 병력을 추적·공격했고, 사람과 사전 협의 없이 사람을 죽인 첫 사례일 수 있다는 보도가 있었습니다. 그러나 유엔 전문가 패널 보고서는 사망을 명시하지 않았고 자율 여부도 불분명합니다 (NPR, 2021년 6월 1일 기준). 2021년 자료라 최신 확정 사례는 확인하지 못했습니다.

기업과 국가의 충돌, 미 국방부와 앤트로픽

자율무기 논쟁은 이제 AI 기업의 이용 정책으로도 번졌습니다. 2025년 7월 미 국방부는 앤트로픽, 구글, 오픈AI, xAI에 각각 최대 2억 달러 계약을 맺었습니다 (CRS, 2026년 10월 5일 기준).

2026년 2월 국방부가 “모든 합법적 목적” 사용을 허용하라고 요구하자, 앤트로픽은 대규모 국내 감시와 완전 자율무기 두 가지만 거부했습니다. 최첨단 AI는 아직 완전 자율무기에 쓸 만큼 신뢰할 수 없다는 이유였습니다. 이후 대통령이 연방기관의 앤트로픽 기술 사용 중단을 지시했고, 앤트로픽이 소송을 냈습니다. 8월 27일 지방법원은 공급망 위험 지정의 효력을 정지했지만, 9월 25일 D.C. 순회항소법원은 국가안보 근거가 충분하다며 국방부 조치를 계속 허용했습니다. 대법원 등 추가 심리가 진행되는지는 확인하지 못했습니다.

같은 CRS 자료에는 의회 관련 사실도 있습니다. 국방부가 최첨단 모델을 자율무기체계 내부에 쓰고 있다고 공개적으로 알려진 바는 없고, 의회는 AI 모델 사용과 신뢰성을 규율하는 법을 아직 통과시키지 않았습니다. 세계일보는 대통령이 6월에 국방부 자율무기 지침을 90일 안에 갱신하라는 각서를 냈지만 새 지침은 아직 공개되지 않았다고 전합니다 (세계일보, 2026년 9월 27일 기준).

로봇 전쟁이 확전으로 번질 때, AI 모의실험이 보여 준 것

킹스칼리지런던은 2026년 2월 27일, GPT-5.2, Claude Sonnet 4, Gemini 3 Flash 세 모델에게 21개 핵 위기 시나리오를 총 329턴 동안 시킨 모의실험 결과를 발표했습니다 (킹스칼리지런던 보도자료, 2026년 2월 27일). 모든 게임에서 최소 한쪽이 핵 신호를 보냈고, 약 95%에서 상호 핵 신호가, 76%에서 전략핵 위협 단계가 나타났습니다. 어떤 모델도 양보나 항복을 택하지 않았다는 점이 눈에 띕니다.

그런데 이 수치를 곧바로 “AI가 핵전쟁을 일으킨다”로 읽으면 안 됩니다. 한계가 분명하기 때문입니다.

모의 환경이고, 표본이 3개 모델과 21개 시나리오뿐입니다.
동료심사를 거치기 전의 논문(arXiv)입니다.
95% 지표가 매체마다 “상호 핵 신호”, “전술핵 사용”으로 다르게 적혀 있습니다 (Axios, 2026년 2월 26일 기준).
실제 군이 대규모 언어모델에 핵 결정을 맡긴다는 뜻이 아닙니다.

전면 전략핵전쟁은 드물었고, 시한이 있는 시나리오에서 한 모델이 급격히 확전하는 “deadline effect”가 보고됐습니다. 이 연구가 주는 교훈은 공포가 아니라 설계입니다. 위기 상황에서 AI의 조언을 받는 구조라면, 확전 편향이 있는지부터 점검해야 한다는 것이지요.

인간의 통제를 되찾으려는 국제 규범, 어디까지 왔나

국제 사회의 움직임은 2025년 11월 유엔 총회 제1위원회에서 뚜렷하게 나타났습니다. 세 번째 연속 자율무기 결의가 찬성 156, 반대 5, 기권 8로 채택됐습니다 (Stop Killer Robots, 2025년 11월 6일). 다만 이 결의는 협상을 의무화하지 않아 시민단체가 “너무 온건하다”고 비판했습니다.

“합의”와 “조항 삭제”가 같이 보도된 이유

2026년 8월 31일부터 9월 4일까지 열린 제네바 정부전문가그룹(GGE) 회의에서 향후 문서의 기반이 될 요소에 합의했다고 Janes가 보도했습니다 (Janes, 2026년 10월 20일 기준). 반면 워싱턴포스트 보도를 인용한 세계일보는 협상 막판 약 15시간 동안 미국과 러시아 외교관이 문안을 집중 수정해, AI 무기가 “예측 가능하고 신뢰할 수 있게” 운용돼야 한다는 내용과 윤리 고려 의무, AI가 선정한 표적을 공격 전에 사람이 검토하는 규정이 빠졌다고 전했습니다. 양국은 각각 약 10명의 법률 전문가를 투입했다고 합니다.

두 보도는 모순이라기보다 같은 사건의 다른 면일 가능성이 큽니다. 합의된 요소가 약화된 문안일 수 있기 때문인데요. 합의 요소의 구체 내용은 유료 기사 탓에 확인하지 못했습니다. 이 글은 어느 쪽도 단정하지 않고, 공식 문서가 공개될 때까지 두 가지를 함께 기록해 두겠습니다.

앞으로의 일정과 입장 차

2026년 11월 16일부터 20일까지 제7차 CCW 검토회의가 열려, 구속력 있는 문서 협상을 시작할지 결정합니다. 유엔 사무총장과 국제적십자위원회(ICRC) 총재는 2026년 8월 25일 공동 호소에서 “기계에 의한 인간 표적 자율 지정이라는 도덕적 레드라인에 위험할 만큼 가까워졌다”며 지금 협상을 시작하라고 촉구했습니다 (유엔 제네바 사무소, 2026년 8월 25일).

입장 차도 큽니다. 미국, 러시아, 중국, 인도는 국가 지침이나 기존 국제법을 선호하고 다수 국가는 구속력 있는 틀을 지지한다는 정리가 있습니다. 한국 정부의 구체 입장은 이번 조사에서 확인하지 못했습니다.

독자 상황별로 보는 AI 자율무기 읽기 기준

여기까지 읽고 나면 “그래서 나는 무엇을 보면 되느냐”는 질문이 남습니다. 아래 표는 공개 자료로 확인한 사실에 기댄 판단 기준입니다.

독자 상황	먼저 볼 지표	이유
군사 기술 뉴스를 읽는 일반 독자	“연속 조종 없이”와 “발사 결정은 사람”을 구분	같은 사건도 보도마다 표현이 달라 운용 방식이 다르게 읽힘
정책과 규제에 관심 있는 독자	11월 CCW 검토회의의 협상 개시 여부	구속력 있는 문서 협상이 시작되는지가 분기점
AI 기업 동향을 보는 독자	이용 정책에 완전 자율무기 거부가 있는지	앤트로픽 사례처럼 정책이 소송으로 이어짐
기술 신뢰성을 따지는 독자	모의실험의 표본 수와 동료심사 여부	킹스칼리지런던 연구는 3모델·21시나리오, 심사 전

한계도 분명히 해 두겠습니다. 위 표는 기관이 공식 발표한 판단이 아니라 공개 자료를 정리한 해석입니다. 기술의 득실을 함께 보면 이 주제를 한쪽으로 치우쳐 읽을 위험이 줄어듭니다. 방산업계와 찬성 측은 자율무기가 여전히 인간 통제 아래 있고 속도와 정확도를 높인다고 반박합니다 (세계일보, 2026년 7월 7일 기준). 반면 반대 측은 오식별, 책임 분산, 확전 가능성을 지적합니다.

자주 묻는 질문

자율무기와 일반 무인기는 무엇이 다른가요?

무인기는 멀리서 사람이 조종하는 경우가 많고, 자율무기는 작동을 시작한 뒤 기계가 표적을 선정해 교전할 수 있다는 점이 다릅니다. 다만 두 개념 사이에 단계가 있어서 하나의 선으로 나누기는 어렵습니다.

세계 각국이 이미 완전 자율무기를 쓰고 있나요?

이번 조사에서 완전 자율 운용이 독립적으로 검증된 사례는 확인하지 못했습니다. 우크라이나 시험 보도도 실제 자율 수준이 독립 검증되지 않았다는 단서를 함께 전합니다.

앤트로픽이 거부한 두 가지는 무엇인가요?

대규모 국내 감시와 완전 자율무기 용도입니다. 회사 대표는 최첨단 AI가 아직 완전 자율무기에 쓸 만큼 신뢰할 수 없다고 밝혔습니다.

국제 조약은 언제쯤 만들어질 수 있나요?

2026년 11월 16일부터 20일 열리는 제7차 CCW 검토회의가 협상 개시 여부를 결정합니다. 시작이 결정돼도 조약 체결까지의 시간은 이번 자료로는 알 수 없습니다.

리비아 사건은 자율무기 살상의 확정 사례인가요?

확정 사례로 보기 어렵습니다. 유엔 보고서가 사망을 명시하지 않았고 자율 여부도 불분명하다는 점이 지적됐기 때문입니다.

한국 정부는 자율무기 규제에 어떤 입장인가요?

이번 조사에서는 공식 입장을 확인하지 못했습니다. 시민단체의 비판적 평가는 있었지만 정부 입장은 아닙니다.

인간형 전투 로봇은 이미 전장에 있나요?

실전 배치를 확인한 보도는 찾지 못했습니다. 현재 확인된 지상 로봇은 물류, 후송, 정찰 용도가 중심입니다.

정리하며

공식 자료와 보도를 하나씩 비교해 보니, 가장 중요한 대목은 “사람이 있다”와 “사람이 통제한다”를 구분하는 일이었습니다. 정리하면서 가장 헷갈렸던 것은 보도마다 자율 수준과 합의 여부가 다르게 표현된다는 점이었는데요. 그래서 확인되지 않은 부분은 그대로 남겨 두었습니다.

“통제를 지키는 일은 기술이 멈추는 것이 아니라, 사람이 판단할 시간과 책임을 설계에 남겨 두는 것.”

이 주제에 관심이 있으시다면, 11월 제네바 검토회의 결과와 미 국방부의 새 지침이 공개되는지를 함께 지켜보시길 권해 드립니다. 기술이 빨라지는 만큼 우리가 묻는 질문도 빨라져야 하니까요 — 그 질문이 곧 통제의 시작입니다.

참고 자료

이 글은 2026년 10월 26일 기준으로 작성(수정)했으며, 제도와 고시 내용은 수시로 바뀔 수 있으므로 관련 사이트/기관의 최신 정보를 확인하시기 바랍니다.

← 이전페이지로 이동

AI 로봇이 전쟁을 수행한다면! 자율무기와 미래 로봇 전쟁의 위험성

결론부터: 자율무기의 통제 문제는 로봇의 반란이 아닙니다