아마존 알렉사, 망자 음성 학습기능 논란
2022-06-26 11:43

아마존의 인공지능(AI) 비서 알렉사(Alexa)가 죽은 사람의 음성을 학습, 산 사람과 대화하는 기능을 탑재해 논란이 한창이다. 업계는 물론 AI 학계에서는 알렉사가 대중의 ‘불편한 골짜기’ 현상을 가중시킬 것으로 우려했다.

알렉사 수석 연구원이자 아마존 임원 로히트 파라사드는 최근 미국 라스베이거스에서 열린 그룹 공식 행사 ‘Amazon re: MARS 2022’에서 알렉사에 고인 음성으로 말을 거는 기능이 탑재된다고 발표했다.

로히트 파라사드는 “세상을 떠난 사랑하는 사람의 음성 데이터가 고작 1분 미만이어도 AI가 이를 학습하고 생전 목소리를 충실히 재현할 수 있다”며 “실제 음성과 똑같은 고품질 목소리로 안내하거나 대화가 가능할 것”이라고 전했다.

아마존 연례행사 ‘Amazon re: Mars’는 앰비언트 컴퓨팅, 즉 인간을 대신하고 돕는 컴퓨터 시스템 및 아이템을 테마로 열린다. MARS는 기계학습(Machine learning)과 자동화(Automation), 로봇(Robot), 우주(Space)의 머리글자다. 아마존의 핵심 컴퓨터 기술이 시연되는 자리여서 마니아들의 관심도가 높다.

사람을 닮은 로봇의 진화는 '불편한 골짜기' 현상을 가속화한다. <사진=pixabay>

최근 아마존은 짧은 음성 데이터를 활용해 긴 문장을 합성하는 AI 개발에 주력해 왔다. 실제로 올해 이벤트에서는 사망한 조모의 목소리를 학습한 알렉사가 잠들기 전 손자에게 책을 읽어주는 시연이 이뤄졌다.

로히트 프라사드는 “그간의 음성 AI가 한 사람의 목소리를 제대로 구현하려면 방대한 양의 데이터를 학습해야 했다”며 “알렉사는 아주 짤막한 음성에서 그 사람의 억양과 말투, 버릇 등을 잡아내 풍부한 문장을 만들 수 있다”고 강조했다.

AI 시스템인 알렉사는 아마존의 에코(Amazon Echo) 같은 스마트 스피커에 내장돼 구동한다. 아마존은 알렉사가 AI 황금시대에 사는 인류에 SF영화 속 장면들을 현실처럼 그려줄 것이라고 광고 중이다.

아마존의 음성 AI 비서 알렉사는 에코 등 스마트 스피커와 일체형으로 제작된다. <사진=아마존닷컴>

다만 알렉사는 그간 다양한 문제점을 노출했다. 2018년 시스템에서 기괴한 웃음소리를 내 사람들을 놀라게 했고, 2019년에는 심장박동에 대한 사용자 질문에 “칼로 심장을 찔러 목숨을 끊으라”고 안내해 논란이 됐다. 아마존은 그때마다 알렉사가 개발 도중에 작은 오류를 노출했을 뿐이라고 주장했다.

학계는 1분 안팎의 고인 목소리만으로 한 사람의 생전 대화를 흉내 내는 시스템이 범죄에 악용될 소지가 다분하다고 우려했다. 일부 학자는 망자의 목소리를 딴 알렉사와 사람의 대화가 위험하다고 경계했다. 모든 유족이 고인 목소리를 접하며 심리적 안정을 얻는다고 단정할 수 없기 때문이다. 죽은 이의 목소리를 학습해 사실상 사망자를 부활시키는 ‘챗봇’은 전부터 윤리적 문제로 잡음을 내왔다.

이와 관련, 아마존은 알렉사의 목소리 학습 기능에 대한 우려를 인지하고 있으며, 자체 규정을 만들어 조만간 발표한다고 전했다.

정이안 기자 anglee@sputnik.kr 

인기기사
추천기사
회사소개 | 윤리강령 | 개인정보취급방침 | 청소년보호정책 | 이메일무단수집거부
주소: 서울시 서대문구 신촌로 25 상록빌딩 4084
대표전화: 02-3144-0426
제호: 스푸트니크
등록번호: 서울 아 52776
발행일: 2019-12-31 | 등록일: 2019-12-30
청소년보호책임자: 임주환 | 발행·편집인: 김세혁
제휴문의: starzooboo@sputnik.kr
copyrightⓒ2019 sputnik all rights reserved