인공지능(AI)이 흑인과 여성의 질병을 높은 확률로 놓친다는 연구 결과가 나왔다. 흑인 여성의 오진율은 무려 50% 수준으로 나타나 AI의 편향성에 대한 우려가 제기됐다.
미국 캘리포니아대학교 연구팀은 최근 조사 보고서를 내고 흉부 X선 사진 분석 결과 AI가 흑인과 여성의 질병을 잡아내는 확률이 유의미하게 떨어졌다고 밝혔다.
연구팀은 미국 스탠퍼드대학교가 2022년 개발한 AI 모델 첵스제로(CheXzero)를 이용해 다양한 유형의 질환 검출 정확도를 알아봤다. 이 과정에서 AI는 흑인과 여성의 오진율이 높다는 결론이 나왔다.
조사 관계자는 "국적이 제각각인 성인 남녀들의 흉부 X선 사진 수백 장을 검증한 결과 흑인 환자나 여성 환자, 또 40세 이하 환자의 경우 의사는 잡아내는 질병을 AI는 놓치고 말았다"고 설명했다.
특히 첵스제로는 환자가 흑인 여성일 때는 심비대 등의 이상을 50%의 높은 확률로 알아채지 못했다. 연구팀이 의도적으로 환자의 인종, 성별, 연령 정보를 X선 사진과 함께 제공한 뒤에야 오진 확률은 절반까지 떨어졌다. 다만 이런 효과는 일부 질환에 대해서만 나타났다.
조사 관계자는 "첵스제로 AI의 훈련에 사용된 데이터 세트에는 남성, 40~80세 연령대 및 백인 환자가 많이 포함된 점이 편향성의 원인일 것"이라며 "이번 연구는 AI가 받아들이는 정보가 편향되면 어떤 결과가 나오는지 보여준다"고 지적했다.
이어 "분명한 것은 AI가 편향성 등 아직 단점이 많다는 것"이라며 "사람의 목숨이 달린 병원 진단의 경우 AI에 많은 일을 맡기기는 아직 위험하다"고 강조했다.
이윤서 기자 lys@sputnik.kr
