사람은 인공지능(AI)이 만든 얼굴을 제대로 구분하지 못하며, 진짜 얼굴보다 신뢰감을 갖는 것으로 나타났다. 딥페이크 등 AI를 활용한 얼굴 합성이 각종 범죄에 이용되는 상황에서 강력한 제도적 장치가 필요하다는 전문가 지적이 나왔다.
미국 캘리포니아대학교 버클리캠퍼스와 영국 랭커스터대학교 공동 연구팀은 이 같은 내용이 담긴 최신 논문을 15일 공식 홈페이지를 통해 발표했다.
연구팀은 AI 기술의 다양한 부작용과 위험성을 알아보기 위해 엔비디아(Nvidia) 사가 개발한 얼굴 합성 AI ‘스타일갠2(StyleGAN2)’를 동원한 실험을 기획했다. 진짜 인간의 얼굴과 AI가 만든 정교한 가짜 얼굴을 사람이 과연 어디까지 구분할 수 있는지가 핵심이었다.
우선 연구팀은 진짜 사람 얼굴 및 AI가 만들어낸 가짜 각 400장 등 총 800장의 사진 중에서 임의로 128장을 뽑아 피실험자 315명에 제시했다. 진짜 얼굴을 고르라고 부탁한 결과 정답률은 불과 45%였다.
이어 연구팀은 새로운 피실험자 219명을 대상으로 같은 실험을 진행했다. 다만 이번에는 AI가 그려낸 얼굴을 구분하는 방법을 알려줬다. 그럼에도 정답률은 59%로 1차 실험보다 14%p 올라가는 데 그쳤다.
마지막 실험에서 연구팀은 또 다른 참가자에게 128장의 얼굴 사진을 보여주고 신뢰할 수 있는 얼굴인지 아닌지 물었다. 그 결과 합성된 얼굴이 진짜 얼굴보다 7.7% 더 믿음직하다는 평가를 받았다.
이를 토대로 연구팀은 AI가 만든 가짜 얼굴을 사람이 구분하는 것은 결코 쉽지 않다는 결론을 내렸다. 더욱이 AI가 생성한 얼굴에서 더 신뢰감을 느낀다는 점에서 범죄 악용을 막을 가이드라인이 필요하다고 강조했다.
연구팀 관계자는 “우리는 타인의 얼굴만 보고 그를 신뢰할 수 있는지 무의식중에 판단한다”며 “얼굴에는 실로 풍부한 정보가 담겨 있고, 인간은 그것을 순식간에 읽을 수 있지만 AI는 그런 본능적 능력조차 속일 수 있다”고 경고했다.
합성한 얼굴이 보다 신뢰감을 주는 이유에 대해서는 “피실험자들은 사진 속 인물의 인종과 성별, 웃는 얼굴과 그렇지 않은 얼굴 등에서 서로 다른 감정을 느꼈다”며 “합성된 얼굴이 더 평균적인 얼굴에 가깝기 때문이 아닐까 현재 단계에서는 추측할 뿐”이라고 말했다.
이 관계자는 “인간이 합성된 얼굴을 구별하지 못하고, 게다가 신뢰감까지 느낀다는 결과는 아주 충격적”이라며 “딥페이크를 악용한 다양한 범죄를 막기 위한 강력하고 단호한 가이드라인이 반드시 만들어져야 한다”고 강조했다.
정이안 기자 anglee@sputnik.kr
