미국과 친이란 세력간의 군사적 충돌이 계속 이어지는 가운데 인공지능(AI)을 둘러싼 논란이 기술 업계와 정치권 전반으로 확산되고 있다. AI가 실제 군사 작전에 활용되면서 전쟁 수행 방식이 빠르게 바뀌고 있는 가운데 감시와 자율 살상 무기, 알고리즘 의사결정 등 민감한 문제가 이슈로 부각된 것이다.

8일 <메트로경제 신문> 취재를 종합해보면, 최근 미국의 대이란 군사 작전을 계기로 AI 활용을 둘러싼 논쟁이 전방위로 번지고 있다. 군사 기술의 윤리적 사용 문제부터 전쟁 상황을 악용한 딥페이크 확산까지 다양한 논란이 동시에 불거지는 양상이다.

이번 작전에서 AI의 군사 활용은 특히 두드러졌다. 앤트로픽의 AI 모델 '클로드'는 팔란티어의 국방 플랫폼에 통합돼 미군 기밀망에서 운용된 것으로 알려졌다. 해당 모델은 위성 사진과 감청 데이터를 실시간으로 분석해 이란 지도부의 동선을 추적하고, 타격 시 발생할 부수적 피해까지 계산해 지휘관의 결정을 지원했다.

이스라엘 정보기관 모사드 역시 테헤란 CCTV를 해킹해 확보한 영상을 알고리즘으로 분석하며 표적 식별 정확도를 높였다. 전쟁의 무게 중심이 화력에서 데이터와 알고리즘으로 이동하고 있다는 분석이 나온다.

실리콘밸리는 즉각 강한 반발을 보였다. AI의 자율살상무기(LAWS) 활용과 대규모 감시 시스템으로의 확장은 AI 기술 윤리성을 무너뜨린다는 주장이다.

오픈AI의 로보틱스 책임자 케이틀린 칼리노브스키는 미 국방부와의 계약 체결 일주일 만인 7일(현지시간) 사직서를 제출했다. 그는 인간의 승인 없는 자율 살상과 사법적 통제 없는 대중 감시 가능성에 대한 논의가 충분하지 않았다고 비판했다.

오픈AI가 국방부와 기밀 네트워크 계약을 체결했다는 사실이 알려진 직후 미국 내 챗GPT 앱 삭제 건수는 하루 만에 295% 급증했다. 구글과 오픈AI 직원 약 900명도 군의 AI 활용 확대를 제한해야 한다는 공개서한을 발표하며 집단 대응에 나섰다.

앤트로픽 역시 자사 모델 '클로드'의 군사 활용 범위를 두고 국방부와 갈등을 겪었다. 알려진 바에 따르면 앤트로픽은 지난해 약 2억 달러 규모의 계약을 체결하면서 전쟁부 AI 프로젝트의 핵심 파트너로 참여했다. 그러나 앤트로픽이 자사 모델의 자율살상무기(LAWS) 활용 및 대규모 감시 오용에 반대하며 '윤리적 자율성'을 끝내 고수하면서 정부의 '합법적 모든 용도 활용' 원칙과 충돌했다.

이후 트럼프 행정부는 앤트로픽을 '공급망 위험' 기업으로 지정하고 연방 기관에 기술 사용 중단을 지시했으며, 국방부는 국가안보법을 근거로 해당 회사를 블랙리스트에 올렸다. 앤트로픽은 이에 불복해 법적 대응 방침을 밝힌 상태다.

기술기업 내에서 나타나는 AI의 자율살상무기 활용 등에 대한 거부감은 AI 기술의 한계와도 맞닿아있다. 영국 킹스칼리지 런던 연구팀의 시뮬레이션에서는 일부 AI 모델이 외교적 해결보다 핵 공격과 같은 극단적 선택을 선호하는 경향을 보였다. 이스라엘의 AI 표적 시스템 '라벤더'가 하마스 요원 제거 과정에서 일정 수준의 민간인 피해를 허용하도록 설계됐다는 사실도 국제적 논란을 낳았다.

전쟁 상황을 악용한 딥페이크 확산도 또 다른 문제로 떠올랐다. 최근 SNS에서는 미국 항공모함 침몰이나 중동 미군 기지 파괴 장면을 담은 영상이 빠르게 퍼졌지만 상당수가 AI로 생성된 가짜 콘텐츠로 확인됐다. 어린이 장례식이나 학교 폭격 장면처럼 연민을 자극하는 영상도 여론전과 심리전을 노린 딥페이크일 가능성이 제기된다.

문제는 이러한 가짜 콘텐츠를 실시간으로 구별하기가 쉽지 않다는 점이다. 일부 플랫폼은 AI 생성 영상에 표시를 하고 있지만, 그렇지 않은 경우 이용자가 영상 속 세부적인 결함을 직접 확인해 판단하는 것 외에는 뚜렷한 방법이 없는 실정이다.

IT 업계 관계자는 "AI가 전쟁 무기화 하는 건 당연한 수순"이라면서 "다만 최후의 의사결정권을 누가 쥐고 있느냐가 중요한 문제 아닌가 생각된다"고 밝혔다.