비문학 읽기
《왜 로봇의 도덕인가》
로봇이 도덕적일 수 있을까?
인간은 빠른 속도로 진화 중인 로봇을 두고 딜레마에 빠졌다.
우리를 대신해서 모든 일을 처리하길 바라면서도 인간의 지시 없이 스스로 판단하고 행동하는 로봇에 대한 두려움에 사로잡혀 있다. 기계인 로봇한테는 마음이 없고, 따라서 로봇은 도덕적 판단을 할 수 없는데, 이런 로봇이 활개하게 된다면….
물론 현재 인공지능은 한두 살 먹은 어린아이의 것이라고 한다. 그럼에도 전투용 로봇은 인간에 위해를 가하고, 자율주행차는 예측하기 어려운 예외적 상황에서 판단을 내려야만 한다. 무엇보다 언젠가는 상상 속 로봇들이 현실이 될 것이다. 도덕은 인간만의 것일까? 로봇은 도덕적일 수 없을까? 로봇 윤리 입문서요, 로봇 도덕에 대한 안내서인 이 책의 문제제기에 귀기울여야 할 이유는 셀 수 없이 많다.
도덕이 왜 로봇에게 중요할까?
1967년, 철학자 필리파 풋Philippa Foot이 소개한 전차 문제는 초급 윤리 과정의 단골 주제다.
‘전차 한 대가 선로 분기점에 접근하고 있다. 현재 선로를 유지하면 다섯 명의 선로 작업반원이 죽게 된다. 선로를 바꾸면 단 한 명이 죽는다. 기관사는 선로를 바꿔야 할까?’
쉽게 답할 수 있는 문제가 아니다. 다행인 것은, 우리가 지금 이 문제의 해답을 고민하는 게 아니라는 사실이다. 이렇게 급박한 순간에 이루어지는 사람의 행동은 완벽할 필요가 없다. 행동의 옳고 그름을 판단하는 재판관조차 갑작스레 이루어진 사람의 행동이 완벽하게 윤리적일 수 없다는 사실을 잘 알고 있다. 그러나 만약 선로를 유지할지 바꿀지의 여부를 인공지능이 결정해야 한다면 어떨까?
인공지능이 단순히 ‘설계되는 것’일 뿐이라면, 인공지능의 설계자에게 책임을 물을 수 있다. 재판관은 인공지능 설계자에게 위급한 상황에 인공지능이 어떻게 행동하도록 설계했는지, 왜 그렇게 설계했는지 같은 다양한 질문을 할 수 있을 것이다. 그런데 만약 인공지능이 상황을 스스로 판단해 선로를 유지하거나 바꿨다면 대체 누구에게 책임을 물어야 할까?
이미 자율주행자동차는 상용화 직전이고 병원에서는 인공지능 왓슨이 진단과 처방을 내리고 있으며, 전투병 로봇은 인간에게 위해를 가한다. 로봇 윤리 문제는 절대 먼 미래의 이야기가 아니다.
어떤 사람들은 이러한 문제를 제기하며 인공지능 연구를 당장 멈추어야 한다고 주장한다. 하지만 저자는 자동차의 위험성을 예로 들며 단호하게 말한다.
“만약 사람들이 자동차가 얼마나 파괴적일지 100년 전에 알았다면 이 교통수단의 개발을 멈추었을까? 아마 아니었을 것이다. 대다수 사람들은 자동차의 혜택이 피해보다 더 크다고 믿는다. 우리는 AI 시스템의 파괴적 잠재력을 우려한다. 그런 까닭에 우리는 인공 도덕 분야를 한시바삐 앞당기려 하는 것이다.”
증명되지도 않은 파괴적인 잠재력을 우려해 인공지능 연구를 멈추자는 주장 때문에 인공지능 연구를 중단할 수는 없다. 그보다는 인공지능에 상응하는 인공 도덕을 구현하기 위한 연구를 서두르는 편이 현실적이다. 로봇에 도덕성을 구현하는 연구 말이다.
로봇이 도덕적일 수 있을까?
저자는 이 질문에 답하고자 마음에 관한 데카르트Descartes와 토마스 홉스Thomas Hobbes의 견해를 소개한다. 데카르트의 견해로는 기계 지능은 터무니없는 것이다. 물질적 세계에 몸이 있다면 마음은 비물질적인 세계에 존재하는 것으로, 인간만이 그 둘을 하나로 결합해 지적인 특성을 지닌다고 생각했기 때문이다. 하지만 토마스 홉스는 달랐다. 그는, 마음은 유기체의 어떤 부분의 운동에 지나지 않는다고 믿었다.
오랫동안 기계에는 의식이 있을 수 없고 따라서 기계가 무언가를 이해하거나 감정을 느낄 수 없다는 데카르트의 의견이 지배적이었다. 하지만 오늘날에는 비물질적인 것은 존재하지 않으며 마음 또한 마찬가지라는 홉스의 견해를 더 진지하게 받아들이게 되었다. 물론 그럼에도 인간의 뇌에는 어떤 특별한 것이 있어서 컴퓨터로는 얻을 수 없는 능력이 있다고 끊임없이 주장하는 사람들은 있지만. 그들의 믿음은 증명되지 않았으나, 그렇다고 그 믿음이 틀렸다고 증명된 것도 아니다.
로봇의 도덕을 이야기할 때 사람들이 기계의 마음을 거론하는 이유는, 인간의 마음이 도덕적 행위에 필수적이라고 생각하기 때문이다. 그러나 저자는 이렇게 문제제기한다. 사람과 비슷한 마음을 가지지 않고도 다룰 수 있는 도덕적 정보가 있지 않을까?
“연구해야 할 문제는, 인간과 비슷한 정도의 이해나 의식을 갖추지 못한 시스템으로는 결코 다룰 수 없는 도덕적인 정보가 존재하느냐 여부다. 컴퓨터 시스템이 감정을 갖지 않고서도 감정을 표현할 수 있듯이 컴퓨터 시스템이 인간 수준의 이해까지는 아니더라도 기호의 의미를 이해하는 듯 작동할 수 있을지 모른다.”
앨런 튜링Alan turing[1]이 제안한 튜링 테스트Turing test는 기계에 지능이 있는지를 판별하고자 고안된 테스트다. 테스트는 간단하다. 관찰자가 컴퓨터와 사람과 번갈아 대화하면서 컴퓨터의 반응을 인간의 반응과 구별할 수 없다면 컴퓨터에 지능이 있다고 볼 수 있다는 것이다. 완벽한 검사는 아니지만 어느 누구도 이보다 더 나은 검사 방법을 성공적으로 제시하지 못했다. 저자는 튜링 테스트와 같은 방식으로 기계의 도덕성에 대한 도덕적 튜링 테스트Moral Turing test를 제안한다.
“만약 당신이 어떤 도덕적 사안, 가령 모피를 얻기 위해 동물을 죽이는 것을 허용해야 하느냐에 관해 이웃 사람과 의견이 맞지 않더라도, 그 사람이 자신의 견해에 대해 적절한 이유를 댈 수 있다면 당신은 그를 도덕적 행위자로 여길 수 있다. 마찬가지로 도덕적 논의에 관여하는 기계가 이 기계에 질문을 던지는 사람의 견해와 다른 결론을 내놓더라도 인간과의 차이를 구별할 수 없을지 모른다.”
도덕 분야에서, 특정한 윤리적 사안에 관한 의견 불일치는 항상 있는 일이다. 어떤 사람이 완벽한 도덕적 판단을 내리지 못한다고 해서 도덕 행위자가 아니라고 판단하지 않는다. 그런데 왜 인공지능에 대해서만 유독 그러할까? 어쩌면 우리가 기계에 더 완벽한 도덕성을 요구하기 때문일지 모른다. 도덕적 튜링 테스트는 이런 문제를 회피할 수 있게 만든다.
도덕적인 로봇을 어떻게 만들 수 있을까?
로봇에 도덕성을 구현하는 세 가지 방법을 간단히 살펴보자. 저자는 각각 ‘하향식 접근법, 상향식(발전적) 접근법, 하향식과 상향식의 병합’이라고 이름 붙였다.
먼저 하향식 접근법은 도덕적 원칙을 바탕으로 인공지능을 설계하는 것이다. 예를 들면, ‘사람에게 해를 끼치지 말라’는 도덕적 원칙을 인공지능에 미리 탑재해 인공지능이 그 원칙을 따르게 하는 것이다. 그러나 이 방법으론 해결하기 어려운 도덕적 문제가 있다. 인간사회의 도덕적 원칙에는 논쟁이 따르게 마련이고, 누군가에겐 너무 당연해 보이는 것이 누군가에겐 그렇지 않을 수도 있다. 그중 어떤 원칙을 인공지능에 탑재할 것인가? 자기 스스로도 완전하지 않은 일개 인간이, 기계에 완전한 도덕성을 구현하려 하는 것은 모순이다.
“인간은 이 세상에 등장할 때부터 도덕적 행위에 능한 존재가 아니었다. 더구나 모든 사람들이 그런 상태로 이 세상을 하직하지도 않는다.”
상향식(발전적) 접근법은 인공지능이 무無에서 시작해 시행착오를 거치며 스스로 도덕적 원칙을 도출해내게끔 만들려는 시도다. 마치 갓난아이부터 시작해 어린 시절을 거치면서 조금씩 도덕성을 키우고 성인으로 성장하듯 기계의 도덕성을 학습시키려는 전략이 그중 하나다. 이 방법을 사용한다면 완전한 도덕성 구현은 어렵겠지만 인간만큼 뛰어난 도덕성을 구현할 수는 있지 않을까?
하지만 이 방법에도 해결하기 어려운 문제가 여럿 있다. 인공지능의 시행착오가 우리가 예측하는 범위를 훨씬 넘어서서, 인류가 상상할 수 없을 엄청난 피해를 일으킨다면? 만약 영화 <터미네이터>에서처럼 인공지능이 인류를 지배한다면?
이뿐만이 아니다. 인공지능이 구체적으로 어떤 도덕률을 ‘추구’하게 만들 것이며, 어떤 행동을 ‘기피’하게 만들 것인가? 그리고 어떻게 인공지능이 무언가를 ‘추구’하고 ‘기피’하게끔 설계할 것인가? 어린아이나 동물에게 상 또는 벌을 주듯, 기계에게도 상이나 벌을 줄 수 있을까? 상향식 전략도 도덕성에 대한 완전한 해답이 되기는 어려워 보인다.
상향식 접근법과 하향식 접근법을 병합하려는 세 번째 전략을 보자. 저자는 윤리적 덕을 지적인 덕과 구분해 설명하는, 아리스토텔레스의 덕 이론으로 이를 설명한다. 지적인 덕은 가르쳐서 얻을 수 있는 덕으로, 규칙이나 원칙을 사전에 인공지능에 설계해 넣어서(하향식 접근법) 구현할 수 있다. 반면 윤리적 덕은 품성이나 습관과 관련 있기에 인간 또는 인공지능이 시행착오를 통해 학습(상향식 접근법)해나가야 한다. 하향식 원리가 인공지능에게 도덕적 직관을 제공한다면, 상향식 원리는 시행착오를 통해 인공지능이 개별적인 도덕적 감수성을 형성하도록 한다.
로봇에겐 감정이 필요하다!
저자는 “도덕성은 자신의 욕구를 다른 경쟁하는 이웃의 욕구와 균형을 맞춰야 하는 다수의 행위자들 사이의 상호작용에서 출현한다”고 이야기한다. 도덕성은 보상과 처벌을 받는 단순한 훈육을 통해 생겨나는 것(상향식 접근법)도 아니고 어떤 초월적인 존재가 건네주는 교리(하향식 접근법) 따위는 더더욱 아니다. 그러니 우리는 도덕성의 사회적인 측면에 주목해야 한다. 저자는 인공지능 개발을 위해 이성을 뛰어넘는 무언가 즉, 감정이 필요하다는 사실을 역설한다.
“비록 정서와 감정이 의사결정을 비윤리적인 행위로 향하도록 편견을 줄 수도 있지만, 어쨌거나 그것들은 다른 식으로는 얻기 어려운 정보의 풍부한 공급원이다. (…) 종종 두려움은 마음이 위험의 원인을 의식적으로 알아차리기도 전에 느낌으로 찾아오기도 한다. (…) 정서적 상태는 정상적인 도덕 행동을 유발하는 친사회적 반응들의 핵심 요소다. 감정과 느낌은 사람들로 하여금 다른 이들의 심리 상태를 직관적으로 이해해 그들이 필요로 하는 것에 민감하게 반응하도록 도와준다.”
직관적이라는 표현에 주목하자. 사람은 매순간 여러 가지 직관적인 판단을 하고 그 판단에 따라 행동하지만, 모든 상황을 완전하게 이해해 판단을 내리는 것이 아니다. 그러한 판단과 행동에는 분명한 한계가 존재하는데, 그 한계가 우리의 삶을 반드시 불행하게 만드는 것은 아니다. 자장면을 먹을 지 짬뽕을 먹을지, 어디로 여행을 떠날 지 같은 단순한 의사결정에는 정서적 요소가 반드시 필요하다. AI기술의 선구자 가운데 한 명인 허버트 사이먼은 이를 두고, “의사결정이란 무제한적인 이성적 행위자가 최적이라고 여기는 것이 아니라 의사결정자의 범주 안에서 ‘충분히 훌륭한’ 것이기만 하면 족하다”라고 이야기한다.
인간을 뛰어넘는 지능을 가진 데 더해, 인간과 비슷한 수준의 정서적 능력과 사회성까지 지닌 인공지능을 상상하기란 쉬운 일이 아니다. 하지만 오늘날 인공지능 분야는 그런 방향으로 나아가고 있다. 인공지능 분야의 미래는 어떤 모습일까? 아직은 누구도 알 수 없다. 그러나 우리가 지금 꼭 알아야 할 사실이 있다. 인공지능 로봇에겐 지능만큼이나 도덕이 꼭 필요하다는 사실 말이다.
작가소개
웬델 월러치 (Wendell Wallach)
예일 대학교의 생명윤리를 위한 학제간 센터(Interdisciplinary Center for Bioethics)에 소속된 컨설턴트이자 윤리학자. 이 센터의 기술과 윤리에 관한 연구팀을 이끌고 있으며 동물 윤리, 안락사 문제, 신경윤리에 관한 다른 연구팀의 일원이기도 한 그는 인지과학에 관한 저널인 <토픽스 TopiCS>의 부주필을 맡고 있다. 저서로 《The undistracted mind》 《Rescued Art Stories》 등이 있다.
콜린 알렌 (Colin Allen)
인디애나 대학교의 과학철학사 및 인지과학 교수. 1960년에 영국에서 태어나 런던 대학교를 거쳐 UCLA에서 박사학위를 받았다. 논리학 및 언어철학을 공부했지만 좋은 철학은 좋은 과학에서 나오며 두 학문을 분리하는 것은 인위적이라고 믿는 그는, UCLA에 있으면서 인공 지능을 연구했으며 지난 10년 동안 도덕적 의사결정과 관련한 신기술 이슈에 전념했다. 저서로 《Logic Primer》 《Species of Mind》 《The Cognitive Animal》 《Nature's Purposes》 《The Evolution of Mind》 등이 있다.
