하루가 다르게 발달하는 인공지능(AI)은 단 2시간 대화로 인간의 정보와 성격까지 복제한다는 충격적인 연구 결과가 나왔다. 이런 기능이 악용될 경우 최악의 범죄가 기승을 부릴 가능성에 학계가 주목했다.
미국 스탠퍼드대학교 컴퓨터공학자 마이클 번스타인 교수 연구팀은 최근 조사 보고서를 내고 인간의 태도나 성격을 대화를 통해 습득하는 AI의 발달 속도가 상당히 빠르다고 소개했다.
고도의 생성형 AI의 탄생에 따라 기계가 인간의 친구나 연인처럼 행동하는 영화 '그녀' 같은 서비스가 이미 등장했다. AI가 인간과 이야기를 주고받는 것은 더 이상 놀라운 기술도 아니다.
연구팀은 AI가 인간과 대화하며 정보를 습득하는 수준을 알아보기 위해 구글 AI 개발팀 딥마인드와 협력해 실험에 나섰다. 인간과 대화하며 성격과 태도, 행동을 시뮬레이션하는 아키텍처를 설계하고 대화형 AI에 접목해 인간과 대면하게 했다.
실험은 AI가 인간에 대해 일련의 질문을 하고 그 대답을 듣는 방식으로 진행됐다. 질문은 미국인 일상생활을 알아보기 위해 만들어진 '아메리칸 보이스 프로젝트(American Voices Project)' 최신판을 이용했다. 이를 토대로 AI는 성장 경험, 가족·인간관계, 살아가며 겪은 사건, 인종차별에 대한 의견 등 다양한 질문을 던졌다.
AI는 미리 설정된 질문은 물론 사람들의 대답에 반응해 후속 질문도 추가했다. 이렇게 미국인 1052명을 약 2시간 동안 인터뷰한 AI는 대화 상대의 성격을 분석하고 시뮬레이션해 각각의 모의 인격을 만들었다.
번스타인 교수는 "AI의 모의 인격과 원래 인간 모두에게 같은 질문을 했더니 AI는 약 85%의 정확도로 사람과 같은 답변을 했다"며 "이 기술은 인간과 AI의 상호작용에 혁명을 일으켜 감정이나 사회적 신호에 자연스럽게 반응하는 로봇을 만들 수도 있다"고 기대했다.
교수는 "점점 발달하는 생성형 AI의 가장 큰 놀라움은 인간의 복사본을 만드는 데 필요한 데이터가 점점 줄어든다는 것"이라며 "AI가 인간의 삶에 필수가 되는 근미래에는 생산성 증대뿐만 아니라 감정적 유대까지 가능할 가능성이 있다"고 덧붙였다.
일부에서는 이번 기술이 범죄에 악용될 수 있다는 우려도 나왔다. 연구팀은 감쪽같은 딥페이크를 만들거나 AI가 인간을 사칭하는 범죄에 악용될 가능성을 인정하고 관련 규제 강화가 필요하다고 강조했다.
정이안 기자 anglee@sputnik.kr
