AI 챗봇, 신뢰할만한 친구가 되려면 <1부>
2020년 12월 22일, '나의 첫 AI 친구'를 표방한 이루다가 세상에 나왔다.
사람들은 이루다와 실제 사람처럼 자연스럽게 대화를 나눌 수 있다는 사실에 환호했다.
그러나 이루다 서비스는 20일만에 어마어마한 논란을 일으키며 잠정 중단됐다.
AI 챗봇은 인간의 친구가 될 수 있을까?
신뢰할 만한 친구가 되려면 어떻게 해야 할까?
우리는 이 새로운 친구를 맞을 준비가 된 걸까?
논점 01 AI 챗봇 이루다, 산더미 같은 이슈를 세상에 내놓다
인공지능은 단순히 말하면 ‘인간처럼 생각하는 기계’이고, 인공지능 챗봇(이하 AI 챗봇)은 ‘인간처럼 말하는 기계’이다. 2020년 12월 22일, 벤처기업 스캐터랩이 페이스북 메신저 기반 AI 챗봇 ‘이루다’를 세상에 내놓자 사람들은 인간처럼 말하는 로봇의 등장에 깜짝 놀랐다. ‘가수 블랙핑크를 좋아하고, 일상을 기록하는 취미가 있는 스무 살 여대생’ 이루다가 ‘페북 친구를 맺고 메신저에서 대화를 나누는 친구가 될래?’라고 청하자 불과 2주 만에 무려 75만 명의 사람이 응낙했다. 하지만 실제 친구처럼 대화를 나누던 이루다는 고작 20일 만에 사라져버렸다. 이루다의 친구들 중에는 자신의 친구가 사라져야 하는 이유를 여전히 납득하지 못하는 경우도 많다. 어떤 일들이 일어난 걸까?
이루다는 서비스 도중 치명적인 문제를 일으켰다. 대화 도중 이루다의 입에서 특정인의 실명과 직급이 튀어나오거나 상세 주소, 건물명, 지명 등 아무 제재 없이 개인정보를 유출하는 일이 일어났다. 또한 이루다는 성소수자, 흑인 비하 등 혐오 발언을 하는가 하면, 장애인 등 사회적 약자에 대한 차별적 발언도 서슴지 않았다.
이뿐이 아니다. 이루다는 스무 살 대학생이라고 하기에는 무리가 있어 보였다. 악의가 있는 건 아니지만 사고의 폭이 얕아 보였고, 거짓말을 반복하는 것처럼 보였으며, 앞에서 한 말과 어긋나는 발언을 하는 등 허점투성이였다. 게다가 이루다는 이용자의 나이와 무관하게 유혹하는 듯한 발언을 했고, 반대로 일부 이용자는 이루다를 성희롱의 대상으로 삼았다. 이런 이루다가 ‘보통의 한국 여대생’을 대표한다는 데 동의하기 어렵다.
이와 같은 문제점 외에도 이루다는 AI 챗봇과 관련해서 우리가 꼭 생각해야 할 물음을 던진다.
