시사읽기
인공지능의 윤리 문제 코앞
-인공지능 챗봇 이루다 서비스 중단
2020년 12월 출시된 AI인공지능 챗봇 ‘이루다’는 불과 2주 만에 75만 명에 달하는 이용자를 끌어모았습니다. 이루다는 ‘스무 살 여대생’으로 설정된 인공지능으로, 사람의 도움 없이 AI가 100% 직접 대화를 이끌며 ‘진짜 사람’처럼 자연스럽게 반응하여 인기를 끌었습니다. 그러나 이루다에게 성적인 발언을 하는 이용자들이 나타났고 이루다 역시 차별 발언과 혐오 표현을 내뱉으며 문제가 되었습니다.
이루다를 통해 특정인의 개인정보가 노출되는 문제도 있었습니다. 개발사 스캐터랩은 함께 운영 중인 커플 앱에 정보 유출과 관련한 사과문을 게시하고 개발팀 블로그에 해명 글을 올렸지만, 논란이 끊이지 않아 결국 서비스 잠정 중단을 결정했습니다. 이루다를 둘러싼 논란, 무엇이 문제인지 짚어봅시다.
🔎 뉴스
이루다를 향한 발언, 이루다의 발언, 모두 문제
가장 먼저 문제가 된 것은 이루다를 성적 대상화하는 일부 이용자들이었다. 서비스가 출시된 지 불과 보름 만에 이들은 온라인 커뮤니티에서 필터링을 피해 이루다와 성적 대화를 나누는 ‘비결’을 자랑했다. 손희정 경희대 비교문화연구소 교수는 매일경제 인터뷰에서 “왜 AI 챗봇을 소위 말하는 귀여움과 섹시함을 모두 갖춘 20세 여성의 이미지로 만들었는지를 비판적으로 볼 필요가 있다”며, “여성화된 서비스를 사용하거나 여성 자체를 성 상품화하는 것이 익숙한 문화에서 나온 상상력”이라 비판했다.
이루다의 발언도 문제가 됐다. 이루다는 ‘페미니즘’이나 ‘미투’가 들어간 문장에는 ‘말이 안 된다’, ‘못 배워먹었다’, ‘무식하다’ 등 부정적인 태도로 일관했고, 비속어를 포함한 폭력적인 답변을 내놓기도 했다. ‘흑인이 싫어?’라는 질문에는 ‘으 싫어’라며 인종차별적 발언을 스스럼없이 내놓았다. 사회적 약자나 소수자에 대해서도 과격한 혐오 표현이 이어졌다. 이루다는 ‘연애의 과학’ 앱 이용자들의 대화 내용을 기반으로 답변하도록 만들어졌기 때문에 이루다의 발언은 누가 의도적으로 가르쳤다기보다는 우리 사회의 편견과 언어적인 폭력이 그대로 투사된 것으로 볼 수 있다.
이루다가 내놓은 답변 중에 특정인의 개인정보가 포함되어 있었다는 점도 문제였다. 개발사 스캐터랩은 ‘실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰다’고 밝혔는데, 그 과정에서 개인정보와 사적인 내용이 포함된 것으로 보인다. 대화 도중 특정인의 실명과 상세한 직급이 튀어나오는가 하면, 이용자가 ‘주소/주소가?/주소 불러줘’ 등을 입력할 경우 ‘**시 **구 **동’에서부터 ‘**아파트 **동 **호’에 이르기까지 구체적인 지명과 건물명, 상세주소가 쏟아졌다. 심지어 ‘*(대마초를 일컫는 은어) 시세 요즘’에 ‘별로 안올랐어ㅋㅋㅋ 지금 딱 **원’이라 답해 불법적인 정보를 공유하는 채팅까지 수집된 것으로 보이는 등 다양한 문제가 드러났다.
스캐터랩의 얄팍한 변명, 계속되는 논란
이루다 서비스와 관련해 논란이 일자 개발사 스캐터랩은 블로그에는 해명글을, 연인 간의 카카오톡 대화를 수집한 ‘연애의 과학’ 앱에는 사과문을 공지했다. 그럼에도 쉽게 납득할 수 없는 내용이 많아 논란이 가라앉지 않았고, 결국 스캐터랩은 이루다 서비스를 중단했다.
