"통제가 가능할 때까지 AI 확산을 막아야 한다."
영국의 인지심리학자이자 인공지능(AI) 심층학습의 권위자 제프리 힌턴(75)이 남은 생을 AI의 남용을 경고하는 데 보내기로 작심했다. 기계 학습 능력의 토대를 마련한 그는 AI가 현재 방향대로 발전할 경우 영화 '터미네이터'의 스카이넷이 현실이 될 것으로 확신한다.
인공 신경망 연구 분야의 일인자인 제프리 힌턴은 AI의 폐해를 알리기 위해 최근 구글을 나왔다. 2013년부터 구글에서 AI를 연구한 그는 시간이 갈수록 심각한 위협을 느꼈고, 늦기 전에 이 사실을 알리려 나섰다. 장시간 AI를 연구하고 발전에 기여한 AI의 아버지는 왜 이제 와 기술의 영향력을 두려워할까.
제프리 힌턴의 논리는 간단하다. 이대로 AI가 방대한 학습 능력을 발전시키면 무서운 일이 벌어질 것이라는 것. 그는 최근 뉴욕포스트와 BBC, PBS 등 언론들과 인터뷰에서 "5년 전과 현재를 비교해 봐라. 그 차이가 앞으로도 계속될 것이라고 상상하면 무섭지 않나"라는 짤막한 말로 AI의 공포를 설명했다.
힌턴이 우려하는 부분은 크게 두 가지다. 하나는 인간이 따라잡을 수 없을 만큼 AI가 발달하는 것이고, 다른 하나는 AI의 악용을 사실상 막을 방법이 없다는 것이다. 그는 "AI의 주도권을 잡기 위해 대형 하이테크 기업들은 치열한 경쟁을 벌인다"며 "새 AI 기술이 공개되는 속도는 소름이 끼칠 만큼 빠르며, 사람들로부터 일자리를 빼앗고 유언비어를 퍼뜨리는 데 악용될 수 있다"고 지적했다.
그의 이야기는 안타깝게도 이미 현실이 됐다. 미국에서는 AI의 음성 합성 기능을 악용한 유괴나 사기 미수 사건이 여럿 벌어졌다. 이런 현상은 미국을 넘어 다른 국가에서도 속속 보고되고 있다.
힌턴은 AI가 이미 인간의 뇌를 넘어섰다고 본다. 실제로 2022년 구글과 오픈 AI는 이전보다 훨씬 많은 데이터를 기반으로 한 AI 시스템 개발에 착수했다. 힌턴에 따르면, 방대한 데이터를 분석하는 이런 AI 시스템은 인간의 지능을 능가하는 수준이다. 사람의 뇌보다 훨씬 효율적으로 움직이며 최적의 답을 내놓도록 설계됐기 때문이다.
그는 "AI는 뛰어난 시스템이니 편리한 것은 당연하다"면서도 "너무 진보한 기술이기 때문에 인간으로부터 일자리를 빼앗아갈 위험이 있다. 처음에는 허드렛일을 가져가겠지만, 나중에는 그 이상의 것을 앗아갈지도 모른다"고 우려했다.
AI의 범죄 악용은 걷잡을 수 없는 수준이 될 수 있다고 힌턴은 경고했다. 그는 "AI에 의해 만들어지는 가짜 뉴스가 퍼질 위험은 이미 많은 사람이 확인했다"며 "문제는 AI가 학습을 거듭해 인간을 뛰어넘으면 일반인은 물론 전문가도 무엇이 진실인지 알 수 없게 된다는 점"이라고 강조했다.
구글은 힌턴의 말에 동의하면서도 그의 우려를 불식할 방법이 얼마든 있다는 입장이다. 구글의 AI 개발 부문을 이끄는 제프 딘은 최근 공식 성명에서 "AI의 원칙을 발표한 최초의 기업으로서 구글은 책임 있는 접근을 계속할 것"이라며 "대담한 혁신을 이어가는 동시에 새로운 위험성을 깊이 이해하고 배우려 한다"고 전했다.
AI의 급격한 보급을 견제하는 움직임도 점차 속도를 내고 있다. 지난 3월 한 비영리 단체가 AI의 안전성을 확인하기 위해 개발을 일시 정지하도록 요구하는 서명 활동을 개시하자, 휴머노이드 개발에 열중하는 일론 머스크(52)와 애플 공동창업자 스티브 워즈니악(72) 등 AI 및 소프트웨어 전문가 1000명 이상이 동참했다.
AI의 발달을 주도한 학자들이 하나둘 회의를 느끼고 그 위험성을 경고하는 현실에 대중의 판단도 중요해졌다. 오픈 AI의 챗GPT 등 우리 일상은 이미 상당 부분 AI와 연관돼 있다. 기계가 인간을 말살하려 드는 영화 '터미네이터' 속 스카이넷 이야기가 현실이 되지 말라는 법이 없기에, 사용자들부터 경각심을 갖고 감시자가 돼야 한다는 게 제프리 힌턴의 주장이다.
정이안 기자 anglee@sputnik.kr
