미국·이스라엘이 구축한 AI 공격지원 시스템

미국과 이스라엘이 이란에서 보여준 화력 투사는, 미국이 1·2차 페르시아만 전쟁에서 과시했던 것보다 훨씬 더 빠른 속도와 압도적인 규모를 과시하고 있다. 두 동맹국은 2월 28일 하루 동안 수행한 공격 출격 횟수가, 1991년이나 2003년 전쟁에서 훨씬 더 대규모 병력이 투입된 상태에서 본격적인 전투 첫날 미국이 수행했던 횟수(각각 약 1300회)를 넘어선 것으로 여겨진다. 닷새 뒤, 미국의 전쟁장관인 피트 헤그세스는 "에픽 퓨리(Epic Fury) 작전은 2003년 이라크에서의 '충격과 공포' 작전의 공중전력의 두 배를 투사했다"고 자랑했다.

미국과 이스라엘이 대규모 출격과 미사일 발사를 동원할 수 있는 것은, 그들이 이전 어느 때보다 더 정밀하고 더 신속하게 표적을 생성할 수 있기 때문이다. 그리고 이들이 이와 같은 속도, 범위, 정밀도로 표적을 획득해낼 수 있는 것은 소프트웨어 사용이 크게 증가했기 때문이며, 여기에는 아직 제한적인 수준이지만 인공지능(AI)도 포함된다. 양국 군대는 이제 산업적 규모로 표적을 생성해 타격하고 있다.

전쟁 초기부터 표적 선정은 강도 높은 여론의 감시를 받아왔다. 2월 28일, 이란 남부 미나브의 한 여학교가 아마도 미국의 토마호크 순항미사일로 보이는 공격을 받아 175명이 사망했으며, 이들 대부분은 어린이였다. 3월 11일 뉴욕타임스는 미 국방부가 해당 공격이 인근 해군기지를 겨냥한 작전 중 발생한 표적 선정 오류의 결과였다고 판단했다고 보도했다. 피트 헤그세스 장관은 군에서 "무기력한 합법성"보다 "공격 효과"를 우선시하겠다는 점을 거듭 강조하고 국방부 내 민간인 피해 평가 예산을 대폭 삭감함으로써 민간인 생명에 대한 냉혹한 무시라는 인식을 자초할 위험을 감수해왔다. 워싱턴에 본부를 둔 인권 감시단체 HRANA에 따르면, 지금까지 이란에서는 약 1800명이 사망했으며, 이들 대부분은 민간인이다.

미국과 이스라엘의 현대화된 표적 선정 체계는 과거의 시스템에 비해 표적을 훨씬 더 정확하게 찾아내고, 공격당 민간인 피해를 최소화하는 데서 훨씬 뛰어나다. 미국에서는 이란 공격을 위한 이러한 산업적 과정이 플로리다주 탬파에 있는 중부사령부(CENTCOM) 본부에서 인간에 의해 운영된다. 이 사령부는 중동에서의 국방부 작전을 총괄한다. 이곳의 한 지휘관은 이란 핵시설 폭격이나 정권 전복과 같은 다양한 시나리오에 대한 선택지를 만들어낸다. 그의 "J2", 즉 정보국은 위성사진과 신호정보 등 여러 출처를 종합해 수천 개의 잠재적 표적 데이터베이스를 구축한다. 이 데이터베이스에는 학교와 병원 등 이른바 "타격 불가(no strike)" 목록도 포함돼 있다.

팔란티어, 앤트로픽 그리고 사람들

"무기 담당관"은 어떤 표적에 어떤 탄약이 필요한지를 결정한다. 예컨대 지하 시설에는 벙커버스터를, 건물에는 GPS 유도 합동직격탄(JDAM)을 사용하는 식이다. 변호사들도 표적을 검토하지만, 그 역할은 제한적이다. (표적을 검토하는 변호사는 "그건 할 수 없다"고 말하지 않는다고 한 전직 미군 지휘관은 말한다. "그는 '그건 할 수 있지만, 이런 결과가 따른다'고 말한다. 결국 최종적인 변호사는 지휘관이다.")

사령부의 J5(전략·기획 부서)는 이러한 모든 요소를 하나의 일관된 전쟁 계획으로 통합한 뒤, 이를 J3(작전 부서)에 넘긴다. J3는 궁극적으로 이 계획을 보통 이틀 앞을 내다보는 '공중 임무 명령'으로 세분화한다.

팔란티어의 '메이븐 스마트 시스템'을 통해 이라크 전쟁 규모의 작전을 기존 인력의 10분의 1로도 계획할 수 있음을 보여줬다

이 과정에는 오래전부터 소프트웨어가 활용돼 왔다. 소프트웨어는 표적의 위치와 구조를 바탕으로 해당 표적을 파괴할 확률과 민간인 피해 가능성을 추정하며, 폭발·열·파편의 영향을 시뮬레이션한다. 이러한 결과는 지도 위에 물이 튄 듯 삐죽삐죽한 가장자리를 가진 이미지로 표시되며, 때로는 '스플랫(splat)'이라고 불린다. 그러나 최근 몇 년 사이 이 기술은 범위와 정교함 면에서 비약적인 도약을 이뤘다.

미국 중부사령부와 나토(NATO)의 미군은 이제 미국 기업 팔란티어 테크놀로지스가 주로 구축한 '메이븐(Maven) 스마트 시스템'을 활용해 이 전체 과정을 한층 강화하고 있다. 메이븐은 '의사결정 지원' 도구로 알려져 있다. 이는 소셜미디어 피드와 같은 공개 정보와 위성 등 기밀 정보를 결합해 하나로 통합한다.

만약 이란인이 텔레그램(이란에서 이러한 소통에 선호되는 앱)에서 자신의 집 앞을 미사일 발사대가 지나가는 것을 봤다고 언급하면, 메이븐은 그 단편적인 정보를 이란 군용 무전기의 전자 신호를 탐지하는 전파 탐지 위성 데이터와 통합할 수 있다. 이어 메이븐은 표적을 생성하고, 각각을 타격하는 데 가장 적합한 무기를 계산하며, 사후 피해 평가까지 수행할 수 있다. 또한 메이븐은 현실 세계의 '디지털 트윈' 역할도 한다고, 이 프로그램을 총괄하는 나토 장교 아르넬 데이비드는 설명한다. 이를 통해 지휘관들은 특정 결정이 어떻게 전개될지를 시뮬레이션할 수 있다. 그의 말에 따르면 목표는 군사 지휘를 "머신 지원 기반의 예측 과학"으로 전환하는 것이다.

이 모든 것은 데이터를 훨씬 더 빠른 속도로 표적으로 전환할 수 있게 한다는 것을 의미한다. 미 육군 제18공수군단에서 메이븐 개발을 이끌었던 예비역 대령 조 오칼러헌은 최근 한 팟캐스트에서, 한 기밀 연구가 팔란티어의 '메이븐 스마트 시스템'을 통해 이라크 전쟁 규모의 작전을 기존 인력의 10분의 1로도 계획할 수 있음을 보여줬다고 말했다. 그는 이후 그 성능이 더 개선됐을 것이라고 덧붙였다. (메이븐은 2022년부터 우크라이나 지원에도 활용되고 있다.) 메이븐에 관여한 한 전직 나토 장군은 과거 수십 명이 수십 시간에 걸쳐 수행해야 했던 작업이 "2분으로 압축될 수 있다"고 말했다. 한 유럽 장군은 자신이 목격한 변화를 "연금술"에 비유했다. 그는 "우리는 하루 10개의 표적에서 300개로 이동하고 있다"며 "목표는 하루 3000개"라고 말했다.

이스라엘은 다른 소프트웨어를 사용하지만, 한 장교의 표현대로 이 과정 역시 "산업화"했다. 전쟁 준비 과정에서 미국 측 기획자들은 이스라엘 측이 수천 개에 달하는 이란 표적(각 표적에 필요한 탄약까지 포함)을 담은 '표적 목록'을 제시했을 때 놀라움을 금치 못했다. 여기에는 이란 지도부의 본부와 자택, 군대 및 민병대 기지, 미사일 발사대와 공장, 민간 인프라 등이 포함돼 있었다. 한 유럽 장군은 "이스라엘은 표적 생성을 위해 의사결정 지원 시스템에 내가 받아본 적 있는 것보다 훨씬 더 큰 자율성을 부여해왔다"고 말했다.

이스라엘의 이러한 체계는 1973년 욤키푸르 전쟁에 그 뿌리를 두고 있다. 당시 이스라엘 전투기들은 소련제 방공망에 의해 큰 피해를 입었다. 이는 이스라엘 공군이 적의 지대공 미사일에 대한 데이터를 체계적으로 수집·융합하도록 자극했고, 그 결과 1982년 시리아를 상대로 한 결정적인 승리에 기여했다. 이후 2006년 레바논에서 헤즈볼라와 벌인 전쟁에서는 새로운 문제가 드러났다. 전쟁이 34일간 장기화되자, 이스라엘 장성들은 "표적 목록이 바닥났다"고 불만을 토로했다.

당시 군 정보국장이었던 아모스 야들린은 지대공 미사일에 대응하기 위해 사용되던 방법을 모든 잠재적 표적으로 확장했다. 이후 이스라엘군의 참모총장은 하마스 표적을 정리한 제본된 목록을 항상 준비해두게 됐으며, 가자지구에서 로켓이 발사될 때마다 몇 분 안에 보복 타격 대상 하나를 선택할 수 있었다.

이 모든 것은 일종의 블랙박스처럼 보일 수도 있다. 그러나 지휘관들은 거의 10년에 걸쳐 시험된 메이븐과 기타 도구들이 만들어낸 표적 목록이 대체로 신뢰할 만하다고 주장한다. 이들은 기초 데이터에 따라 각 표적에 신뢰 수준을 부여한다. 또한 한 장교의 말에 따르면, 이러한 시스템은 바쁜 인간 분석가보다 민간 시설을 식별하는 데 더 뛰어난 경우가 많다.

미국과 이스라엘 군 모두에서 극단적인 상황—예컨대 다수의 비행체를 동시에 요격해야 하는 방공 시스템과 같은 경우—을 제외하면, 모든 표적은 인간의 승인을 거친다. 그러나 일부 내부 인사들은 공격의 규모와 속도가 커지면서, 컴퓨터가 스스로 생성한 표적에 실제로 발사를 수행하는 데 더 큰 재량을 부여하도록 유도하는 압력이 생기고 있음을 인정한다.

자율 공격에 대한 우려는 인공지능 모델 클로드(Claude)의 개발사인 앤트로픽과 미 국방부 간 논쟁의 핵심에 자리하고 있지만, 현재로서는 가설적 우려에 머물러 있다. (클로드는 메이븐 내부에서 일부 활용되고 있으나, 물체 식별과 같은 지리공간 작업에는 사용되지 않는다.) 나토 내부에서도 일부 국가는 "인간 통제의 상실"을 우려하고 있다고 이 기술에 관여한 한 인사는 말한다. 그는 "우리는 불과 4년 전만 해도 이해하지 못했을 속도의 변화 속에 있다"고 덧붙였다.

사용자의 잘못

많은 경우 컴퓨터 기반 표적 목록의 문제는 컴퓨터 자체보다 그것을 사용하는 인간과 더 관련이 있다. 한 이스라엘 소식통은 "AI는 유능한 정보장교를 더 뛰어나게 만들고 부수적 피해를 줄이는 데 도움이 될 수 있다"면서도 "그러나 정보장교가 단지 더 많은 표적을 만들어내려 하고 누가 피해를 입는지에는 덜 신경 쓴다면, AI는 그런 표적을 생성하는 데 도움을 줄 것"이라고 말했다.

이스라엘의 가자지구 공습은 방대한 표적 목록을 유지하는 데 또 다른 문제를 드러냈다. 한 분석가는 "공습으로 민간인이 사망했을 때 우리는 정보를 다시 점검하곤 했다"며 "많은 경우 하마스가 과거에 그 건물을 사용했지만 이미 떠났고, 이후 민간인 가족들이 들어와 살고 있었기 때문이었다"고 말했다. 이스라엘군은 주기적으로 표적을 '재검증'했지만, 그 빈도가 충분하지는 않았다.

미나브의 여학교를 겨냥한 공격 역시 표적 재검증 실패가 원인이었을 가능성이 있다. 한 관계자는 해당 장소가 과거 인근 해군기지의 일부였다고 뉴욕타임스에 밝혔다. 인간이 점점 더 많은 컴퓨터 생성 표적에 압도되면서 하루에 수행되는 공격 횟수도 크게 늘어나고 있는 상황에서, 이러한 참사의 위험을 최소화하는 것은 점점 더 어려운 과제가 될 것이다.

미국에서는 가장 큰 도전이 오히려 최고위층에서 비롯될 가능성이 있다. 피트 헤그세스 장관은 전쟁법을 무시하고 군 법무관들을 해임했으며 교전수칙을 완화했다. 또한 국방부 내 민간인 보호업무 인력을 90%나 감축했다고 한 관계자는 전했다.

중부사령부 내에서 활동하는 민간인 피해 대응팀은 헤그세스 취임 이전 대비 3분의 1 수준으로 줄었으며, 특히 기획 부서와 '타격 셀(strike cells)' 내 인력의 축소가 가장 컸다. 이러한 인력은 이란 현지 상황이 변해 미나브의 그 건물이 이제는 여학교되었다는 것을 알 수 있도록 도왔을 것이다.

이 관계자는 "기획 단계에서 더 많은 일을 할수록 미나브와 같은 사태를 덜 걱정하게 된다"고 말했다. 3월 8일 중부사령부는 이란 국민들에게 공습에 따른 불상사를 피하기 위해 집에 머물 것을 권고했으며, 주거 밀집 지역에 무기를 배치함으로써 민간인을 위험에 노출시키고 있다고 이란 지도부를 비난했다. 중부사령부는 "이 정권은 무고한 사람들의 안전을 노골적으로 무시하고 있다"고 말했다.

[읽어보신 소감은 어떠셨나요? 독자 여러분의 생각을 PADO에 보내주세요 (문의, 제안도 환영합니다!)]