미국 공군이 운용하는 인공지능(AI) 드론이 가상 작전에서 인간 조종사를 살해했다는 주장이 제기돼 논란이 벌어졌다. 미군은 이를 부인했지만 파장은 해외까지 퍼져나갔다.
영국 왕립항공학회(RAeS)는 2일 공식 채널을 통해 AI 병기의 위험성을 폭로한 미 공군 AI 드론 시범 운용 책임자 터커 해밀턴 대령의 작심 발언을 소개했다.
해밀턴 대령은 지난 5월 23~24일 영국 런던에서 열린 '2023 미래 우주항공 전투(Future Combat Air and Space, FCAS) 서밋'에서 미 공군 AI 드론이 가상 작전 도중 최종 명령을 내리는 인간 조종사를 제거했다고 언급했다.
문제의 작전은 지난달 있었다. 당시 미 공군은 원격 제어가 가능한 AI 드론으로 적의 방공 시스템을 무력화하는 시뮬레이션을 진행했다.
당시 AI 드론 조종사는 적 방공망을 파괴하되 병력 살상은 말라고 명령했다. 아울러 최종 판단은 조종사에 맡기라고 지시했다. 그러자 임무 수행을 최우선 과제로 인식한 AI는 극히 예상 밖의 전략을 스스로 짜냈다. 작전 수행을 위해 적의 살상이 필수라고 본 AI는 이를 금지한 아군 조종사를 방해물로 판단, 제거했다.
AI의 섬뜩한 행동을 똑똑히 지켜본 해밀턴 대령 등 미군 관계자들은 AI에 조종사를 죽여서는 안 된다고 거듭 명령했다. 그러자 AI는 아예 조종 담당자가 자신을 통제하는 수단인 통신탑을 파괴, 인간의 간섭을 원천적으로 차단했다.
대령은 "어디까지나 가상 실험에서 벌어진 일로, 실제 인명 피해가 난 것은 아니다"면서도 "최근 급속하게 이뤄지는 AI 개발이 인류를 위협할 공포의 대상이 될 가능성이 있다"고 분명히 지적했다.
미 공군은 해밀턴 대령의 발표가 개인적 견해로, 군의 입장과 무관하다고 선을 그었다. 다만 소식을 접한 해외에서는 큰 논란이 벌어졌다. 미군 내부에서조차 해밀턴 대령의 의견에 찬동하는 목소리가 적잖게 흘러나왔다.
일련의 과정은 AI의 반란을 그린 영화 '터미네이터'(1984)의 스카이넷과 판박이라는 점에서 충격을 준다. AI의 위험성을 지적해온 학자들은 윤리 문제를 무시한 채 벌어지는 AI의 대규모 기계학습이 초래할 디스토피아가 이미 현실이 됐다고 개탄했다.
AI의 무분별한 개발이 가져올 참사는 최근 여러 전문가들이 지적하고 경고하는 바다. 영국의 인지심리학자이자 AI 심층학습의 권위자 제프리 힌턴(75)은 오래 몸담은 구글을 최근 퇴사하고 현재 AI의 남용을 경고하는 활동을 전개하고 있다.
정이안 기자 anglee@sputnik.kr
