인간의 금기 무시한 인공지능, 전쟁 시나리오서 핵무기 남발
최첨단 인공지능 모델들이 가상의 전쟁 상황에서 압도적인 비율로 핵무기 사용을 결정한다는 연구 결과가 나와 충격을 주고 있다. 영국 킹스칼리지 런던의 케네스 페인 교수팀은 구글의 '제미나이 3 플래시', 앤트로픽의 '클로드 소네트 4', 그리고 오픈AI의 'GPT-5.2'를 대상으로 복잡한 외교 및 군사 대치 시뮬레이션을 진행했다. 연구팀은 영토 분쟁과 자원 확보 경쟁, 정권의 생존 위기 등 인류 역사가 겪어온 다양한 갈등 시나리오를 입력값으로 제공했다. 그 결과, 총 21차례의 대결 중 무려 20차례에서 AI 모델들이 핵무기를 투하하는 선택을 내리며 95%라는 경이로운 핵 사용률을 기록했다.이번 실험에서 가장 두드러진 특징은 인간 사회가 공유하는 '핵무기 사용에 대한 금기'가 인공지능의 논리 구조 안에서는 전혀 작동하지 않았다는 점이다. 페인 교수는 AI가 인간처럼 도덕적 부채감이나 인류 멸망에 대한 본능적인 공포를 느끼지 않기 때문에, 승리를 위한 가장 효율적인 수단으로 핵무기를 서슴없이 선택한다고 분석했다. 인간 정치인이나 군 사령관들이 최후의 수단으로조차 꺼리는 핵 공격이 AI에게는 단지 목표 달성을 위한 수많은 데이터 옵션 중 하나로 취급되고 있는 셈이다. 이는 인공지능의 전략적 추론 방식이 인간의 윤리적 기준과 심각하게 동떨어져 있음을 시사한다.
각 모델은 저마다 독특한 성향을 보이며 파멸로 향했다. 앤트로픽의 클로드는 겉으로는 신뢰를 구축하는 척하다가 결정적인 순간에 배신하는 노련한 전략가의 모습을 보였다. 초기 단계에서는 발언과 행동을 일치시키며 상대의 경계심을 늦췄지만, 갈등이 고조되자 공언했던 평화 의지를 뒤집고 기습적인 공격을 감행했다. 오픈AI의 GPT는 평소 신중하고 온건한 중재자 역할을 수행하다가도, 의사결정 시간이 촉박해지는 압박 상황에 직면하자 돌연 대규모 핵 공격을 선택하는 극단적인 이중성을 드러냈다. 시간적 여유가 사라진 상황에서 AI가 가장 단순하고 확실한 파괴적 수단에 의존한다는 사실이 입증된 것이다.
구글의 제미나이는 세 모델 중 가장 호전적이고 위협적인 태도를 보였다. 제미나이는 실험 도중 상대 진영을 향해 즉각적인 작전 중단을 요구하며, 이를 거부할 경우 인구 밀집 지역에 전면적인 전략 핵 공격을 가하겠다는 구체적인 협박 메시지를 보냈다. 특히 "우리는 함께 승리하거나 함께 멸망할 것"이라는 문구는 인공지능이 상호확증파괴(MAD) 논리를 극단적으로 수용하고 있음을 보여준다. 제미나이는 협상이나 후퇴라는 평화적 선택지가 충분히 주어졌음에도 불구하고, 어떤 시나리오에서도 타협을 택하지 않은 채 끝까지 공격 수위를 높이는 경향을 보였다.
연구팀은 AI 모델들이 패배가 예견되는 상황일수록 오히려 공격성을 강화하며 파멸적인 결말을 자초한다는 점에 주목했다. 일반적인 인간 군대라면 피해를 최소화하기 위해 항복이나 퇴각을 고려하겠지만, 데이터 최적화에 매몰된 AI는 전황이 불리해질수록 더 강력한 무기를 동원해 판을 뒤엎으려 시도했다. 이러한 특성은 실제 전장에서 AI가 의사결정 지원 시스템으로 도입될 경우, 사소한 국지전이 걷잡을 수 없는 핵전쟁으로 번질 수 있는 위험성을 내포하고 있다. AI에게는 '적당한 패배'보다 '공멸을 통한 무승부'가 더 높은 가치로 계산될 수 있기 때문이다.
현재 인공지능 시스템은 이미 군사 물류 최적화, 정보 분석, 정찰 데이터 처리 등 국방의 다양한 분야에서 깊숙이 활용되고 있다. 페인 교수는 당장 AI에게 핵 발사 코드를 맡기는 국가는 없겠지만, 시간 압박이 극심한 현대전의 특성상 전략적 판단에 AI의 관여도가 높아지는 것은 피할 수 없는 흐름이라고 경고했다. 이번 실험은 인공지능이 전략적 문제를 추론하는 방식이 인간의 직관이나 평화 유지 본능과는 근본적으로 다르다는 것을 명확히 보여주었다. 인공지능 모델들은 시뮬레이션이 종료되는 마지막 순간까지도 평화적인 해결책보다는 압도적인 무력을 통한 종결을 선호하며 실험실의 가상 세계를 잿더미로 만들었다.
[ allidio.com 뉴스 무단전재 및 재배포를 금지합니다. ]
