미 국방부가 언젠가 벌어질지 모를 인공지능(AI)과 전쟁에 대비해 전문 해커 팀을 발족했다. AI는 인간의 생활 전반을 편리하게 보조할 것으로 기대되지만 영화 '터미네이터'의 스카이넷과 같이 인류 문명을 파괴할 우려도 제기되고 있다.
미 국방부 산하 고등연구계획국(DARPA)은 최근 공식 채널을 통해 인간에 적대적인 AI에 대응하는 화이트 해커 집단을 구성했다고 발표했다. 화이트 해커란 공익이나 학문적 연구를 위해 해킹하는 정보보안 전문가다.
DARPA가 팀을 만든 이유는 날로 커지는 AI의 존재감이다. 미국은 물론 유럽 각국이나 중국에서 개발된 AI는 전장에서도 위력을 보여주고 있다. DARPA는 이런 AI가 해킹되거나 자아를 가져 인간을 공격할 가능성에 대비하는 한편, 전문가 양성도 병행할 계획이다.
AI 전문 화이트 해커들은 '세이버(Securing AI for Battlefield Effective Robustness, SABER)' 미션을 수행한다. 인공지능이 오작동하지 않는지 감시하고 만약의 경우 약점을 파고들어 미군의 군사적 우위를 유지하는 것이 목표다.
AI의 영향력은 일상생활뿐만 아니라 군사 영역에서도 급속히 확대되고 있다. 정찰 드론부터 미사일 방어 체계 등 이미 AI가 채택된 시스템은 다방면에 존재한다. 파일럿을 대신해 전투기를 조종하는 AI도 상당 수준까지 발달했다.
DARPA 관계자는 "원래 기계학습 모델은 교묘하게 조작된 데이터로 시스템을 속이는 공격에 약하다. 예컨대 인간의 시각을 모방하는 컴퓨터 비전은 인간이라면 금방 알아차릴 수 있는 신호에 속아 넘어간다"고 설명했다.
이어 "심각한 것은 큰돈을 들여 개발한 AI가 복제돼 마음대로 이용될 가능성이 크다는 사실"이라며 "AI가 품은 약점들은 지난 10년간 집중 연구돼 왔지만, 현실에서 AI를 이용한 군사 시스템에 어떤 영향이 있는지 확실한 것은 알 수 없어 전문 팀이 필요하다"고 강조했다.
세이버 미션은 향후 1~3년간 진행되며 미군의 지상 및 항공 AI 시스템을 집중 관리한다. 적대적 AI를 색출하고 사이버·전자전 기술을 고도화하며 시스템의 취약성을 평가한다. 군용 AI가 실전 배치되기 전 보안 성능을 평가하는 것도 주된 임무다.
정이안 기자 anglee@sputnik.kr
