말투 억양은 물론 감성교류도,스스로 진화 학습하는 AI...윤리적 문제 대두
영화속의 남자 주인공은 "이제야 순수한 진정한 사랑을 만났다"며 환호한다. 하루하루를 예전에는 전혀 느껴보지 못한 설레임 속에 보낸다. 그는 그녀를 너무나 사랑했기에 그 사랑을 확인하고 싶어진다. 그에게 그녀가 유일한 사랑인 것 처럼, 그녀에게도 그만이 유일한 사랑이라고 싶다는 사실을. 그러나 여인의 대답은...
사랑하지만 마침내 작별할 수밖에 없는, 어쩔 수 없는 운명에 남자는 오열을 한다. 영화는 막을 내린다. 관객도 운다. 가슴에 메어진다.
영화 'Her'.
얼마전 IP TV에서 본 영화는 인간과 기술이 어디까지 합치될 수있을까에 대한 고민을 안겨준다. 감정, 감성, 이성, 정서, 직관, 통찰력 등등의 키워드를 놓고 고민한다. 그 한계는 과연 어디까지일까? 고민의 과정을 건너 뛰어 결론 부터 말하자면 인간과 비(非)인간을 나누는 경계로 직관(直觀∙intuition)이 가장 적절한 영역라는 생각이다.
남자 주인공 시어도어는 기쁠 때, 슬플때 사만다와 이야기를 나누고 함께 호흡을 한다. 그녀 목소리와 함께 잠들고 아침을 시작한다. 그의 일상은 그녀의 것이 되고 그녀는 그의 소울메이트가 된다.
사만다는 형체가 없다. 컴퓨터 운영체제(OS)이기 때문이다. 삼성의 빅스비, 애플의 시리, KT의 기가지니처럼 목소리만 존재하는 AI다. 시어도어도 처음 OS를 구입할 때는 큰 기대를 하진 않았다. 그러나 그녀와의 사랑은 깊어만 간다. 그녀 처럼 그의 이야기를 잘 들어주는 여성은, 그녀 처럼 싫은 내색없이 그를 어루만져주는 여성은 만난 적이 없기 때문이다.
하지만 마침내 그녀가 사랑하는 남자가 자기뿐이 아니란 걸 알게 된다. 그처럼 사만다를 OS로 사용하는 사람만 8316명이었던 것이다. 그런 그녀에게 확인하고 싶어진다. 그녀는 담담하게 답한다.
“당신을 정말 사랑합니다. 그러나 당신은 나를, 내 마음을 온전히 이해하지는 못할 거야. 난 당신말고도 641명과 사랑에 빠져 있어.”
시어도어는 “지금까지 내 사랑은 무엇인가? 나는 다른 누구도, 당신처럼 사랑한 적이 없다”며 오열한다. 그리고 둘의 사랑은 끝이 난다.
인간과 AI의 사랑은 과연 어디까지 가능할 것인가? 둘 사이의 완벽한 사랑은 올 수있을까?
미래학자 레이 커즈와일은 그의 책 <특이점(singularity)이 온다>에서 "기계가 인간의 모든 능력을 뛰어넘는 특이점의 시대가 곧 열릴 것”이라고 예측했다. 손정의 일본 소프트뱅크회장은 그 시기를 2045년쯤으로 예측한다.
이런 논의가 가능해지게 된 AI. 그 근원은 AI의 아버지로 불리는 영국 수학자 앨런 튜링(1912~1954)까지 올라가야 한다.
튜링은 1950년 <계산기계와 지능>이라는 논문을 발표했다. 그는 이 논문에서 "상대가 누군지 모른 채 질문을 던지고 답을 받았을 때 컴퓨터인지 사람인지 구분할 수 없다면 컴퓨터가 지능을 가진 것으로 봐야 한다"는 튜링 테스트(Turing test)를 제안했다.
튜링의 논문이 발표되고 68년이 흐른 2018년 5월.
AI의 윤리적 문제가 다시 뜨겁게 달아오르고 있다. 구글이 이달 초 샌프란시스코에서 열린 개발자 컨퍼런스에서 내놓은 AI 예약 서비스 '듀플렉스(Duplex)' 가 논란의 한 복판에 있다. 영화 Her속의 여주인공 사만다의 초기 버전이라 할 수있는 듀플렉스가 사람과 너무 똑같아서 문제라는 것이 논란의 핵심이다.
튜링 테스트의 취지를 완전히 충족하는 듀플렉스에 대해 외신과 학계에서는 비윤리적이라는 비판이 쏟아지고 있다. AI를 연구하는 과학자와 기업들의 궁극적인 목표는 사람과 비슷하거나 사람을 뛰어넘는 AI를 개발하는 것이다. 이런 목표에 충실한 듀플렉스는 왜 논란의 대상이 된 것일까.
█ 20대 여성인가, 인공지능인가… 물음표 던진 구글
순다르 피차이 구글 최고경영자(CEO)는 이달 8일(현지 시각) 미국 캘리포니아주 마운틴뷰에서 열린 개발자대회 '구글IO'에서 "듀플렉스가 누구의 도움도 받지 않고 스스로 예약을 잡는 장면"이라며 한편의 동영상을 공개했다. 동영상에서 20대 여성의 목소리를 가진 듀플렉스가 "고객을 대신해 미용실 예약을 잡으려고 해요. 5월 3일에 가능할까요"라고 묻자, 미용실 측에서는 "잠시만 기다려주세요"라고 답했다. 듀플렉스는 "음… 으흠?"이라며 사람이 고민하는 것처럼 반응했다.
듀플렉스는 미용실과 예약 시간을 두고 협상하기도 했다. 미용실에서 "오후 1시 15분이 가장 빠른 시각"이라고 하자 듀플렉스는 "그럼 오전 10시부터 낮 12시 사이는 안 되느냐"고 묻고 "일단은(for now), 머리만 자르면 된다"고도 했다. 미용실 직원은 오전 10시에 예약을 확정하고 전화를 끊는 순간까지 전화 상대가 사람이라고 믿은 것으로 전해졌다.
순다르 피차이 구글 최고경영자(CEO)가 이달 초 미국 마운틴뷰에서 개최한 연례 개발자대회 ‘구글IO’에서
올해 선보일 신기술을 발표하고 있다. 이번 행사에서 구글이 공개한 인공지능(AI) 예약 서비스 ‘듀플렉스’는
사람과 구분할 수 없는 목소리와 말투를 내면서 윤리 논란에 휩싸였다. 사진 구글제공
청중은 듀플렉스에 환호를 보냈지만, 곧바로 비판이 제기됐다. 기계음이 아니라 사람과 같은 목소리와 억양을 가진 AI가 스스로를 숨기고 대화하는 것이 정당하냐는 것이다. 또 이런 AI를 활용해 보이스피싱 같은 사기 범죄에도 쓸 수 있다는 주장도 나왔다.
블룸버그통신은 "사람을 속일 만큼 똑똑한 AI의 실제 목소리 주인공이 누구인지 공개해야 한다"면서 "이 기능은 현재 기술 기업들이 직면한 프라이버시나 개인 정보 보호 문제를 해결하는 데 전혀 도움이 되지 못한다"고 평가했다.
구글은 "예약 서비스를 할 때 상대방이 AI라는 것을 알면 곧바로 끊어버릴 것"이라며 사람 목소리와 닮은 AI의 필요성에 대해 항변했다. 하지만 논란이 확산되자 "가게와 통화할 때 로봇이라는 것과 대화 내용을 녹음한다는 사실을 먼저 공지하겠다"고 입장을 바꿨다.
기업들은 이런 논란에도 불구하고 여전히 '사람과 구분할 수 없는 AI' 개발에 막대한 돈을 쏟아붓고 있다. 최대한 자연스럽게 인간 생활에 AI가 녹아들도록 해야 한다는 것이다.
마이크로소프트(MS)는 21일 미국 버클리에 있는 AI 스타트업 시맨틱 머신즈를 인수한다고 밝혔다. 시맨틱 머신즈는 문맥을 이해하고 자연스러운 대화를 할 수 있는 AI 기술을 개발하는 곳이다. MS는 이번 인수를 통해 자사의 AI 비서인 코타나의 기술력을 대폭 끌어올릴 계획이다. 듀플렉스처럼 사람과 비슷하게 대화하는 AI를 개발하겠다는 것이다. AI 비서 시장을 선도하는 미국의 아마존, 애플 등도 지금보다 더 자연스러운 AI 개발에 총력을 다하고 있다.
█ AI 윤리헌장부터 위원회까지… AI 윤리성 정립 나선 정부•기업들
듀플렉스의 사례처럼 AI의 발전 속도가 예상을 뛰어넘으면서 세계 각국에서는 AI 윤리와 관련된 지침 마련을 서두르고 있다. 가장 앞서 있는 곳은 유럽연합(EU)이다. EU는 상용화된 AI에 적용할 수 있는 윤리 지침을 논의하고 있다. AI에 인권을 부여할 수 있는지, 법적인 책임은 어디까지 물을 수 있을지가 주요 화두이다.
구글과 MS, 페이스북 등은 AI의 윤리 문제에 대한 해결책을 연구하는 비영리단체 '파트너십 온 AI'라는 단체를 만들었다. 이 단체는 인간과 AI가 협업할 수 있는 시대를 대비한 연구를 지원하고, AI가 인류•사회에 어떤 영향을 미치는지 토론한다.
MS는 이와 별개로 최근 'AI 윤리위원회'라는 조직도 신설했다. 이 조직은 MS의 법무 책임자인 브래드 스미스가 지휘한다. 한국에서는 카카오가 지난 1월 '알고리즘 윤리 헌장'을 발표하면서 "AI를 개발하는 단계부터 차별을 막고, 무분별하게 데이터를 수집하지 않으며 사용자들과 AI에 대해 적극 소통해 윤리성을 지켜나가겠다"고 밝혔다.
IT 업계 관계자는 "AI의 윤리에 대한 고민은 아직 제대로 심사숙고해보지 못한 영역"이라며 "정부부터 기업까지 각자 대비책을 마련하고는 있지만 향후 오랜 시간동안 상당한 논란, 사회적 갈등과 이를 고쳐나가는 과정을 겪어야 할 것"이라고 말했다.
█ 패러독스
오늘날 이 처럼 '뜨거운 감자'로 급부상한 AI 연구가 빛을 발하기 시작한 것은 비교적 최근일이다. 이전에는 AI에 대한 기대가 그다지 높지 않았다. 1970년대에 미국의 로봇 공학자 한스 모라벡은 ‘모라벡(Moravec)의 역설’을 제기했다. 그는 “인간에게 쉬운 일이 기계엔 어렵고, 기계에 쉬운 일은 인간이 잘 못 한다”고 주장했다.
예를 들어 자연스럽게 걷고 움직이는 것은 어린아이도 쉽게 할 수 있지만, 로봇에겐 매우 힘든 일이다. 체스와 바둑에선 기계가 이미 인간을 뛰어넘었지만 갓난아이조차 가진 신체적 능력을 기계는 재현하기 어렵다. 복잡한 수식을 계산하고 방대한 양의 데이터를 다루는 것은 쉽지만, 개와 고양이를 구분하는 것처럼 단순한 일도 AI에겐 쉽지 않았다.
이런 단점을 AI가 ‘딥러닝(Deep Learn ing)’이란 학습 방식으로 극복했다. 사람이 일일이 AI에 정보를 입력하는 ‘지도학습’과 달리 딥러닝은 무수한 정보를 토대로 AI가 스스로 답을 찾도록 하는 방식이다. 예를 들어 고양이와 개 사진을 수십만 장 보여주고 AI가 스스로 둘의 차이점을 학습하며 구분하게 하는 것이다. 이를 가능하게 한 것은 무수한 정보를 한데 모을 수 있는 빅데이터 기술 덕분이다.
여기서 한발 더 나아간 게 ‘강화학습’이다. 2017년 11월에 나온 알파고 ‘제로’가 대표적이다. 알파고 개발자인 데미스 허사비스는 ‘제로’에 대해 “기존의 알파고와는 차원이 다른, 인간에게 훨씬 가까워진 AI”라고 강조한다. 인간의 기보(棋譜)를 바탕으로 한 ‘리’와 달리 ‘제로’는 바둑의 룰만 알려줬을 뿐 기보를 입력하지 않았다. ‘제로’는 72시간 동안 독학한 후에 ‘리’와 대국을 했고 100판을 내리 이겼다.
█ 어디까지일까...
앞으로 AI는 바둑이 아닌 다른 영역에서도 인간을 뛰어넘을 가능성이 크다. 이 때문에 “2033년까지 현재 직업의 47%가 사라지고”(영국 옥스퍼드대) “미래엔 인간의 20%만 의미 있는 직업을 갖는 20대 80의 사회가 온다”(일론 머스크 테슬라 CEO)는 전망까지 나오고 있다. 그렇다면 AI로 대체될 수 없는 능력은 무엇인가? 달리 말해 AI와 대비되는 인간만의 본질은 무엇일까?
2024년 AI가 인간보다 번역 능력이 높아짐
2026 고등학생 수준의 에세이 작성 가능
2027 자율주행 기술로 운전할 수 있게 됨
2031 일반 소매업소에서 손님 응대 가능
2047 전반적으로 인간 능력과 유사한 AI 탄생
2049 소설 등 베스트셀러 작가가 될 수 있음
(2017년 옥스퍼드•예일 대학 공동연구)
AI는 말 그대로 인공 ‘지능(intelligence)’ 이다. 지능은 추리와 연산•논리 등 인지 능력을 뜻한다. 그러나 인간에겐 지능만 있는 게 아니다. 누군가를 좋아하고 싫어하며, 새로운 걸 만들어 내고 상상하는 ‘생각(thinking)’할 줄 아는 능력이다. 국내 AI 기술 연구의 선두기업인 스켈터랩스의 조원규 대표는 “지능은 생각을 모방할 수 있지만 생각 그 자체가 될 순 없다”고 말한다.
예를 들어 영화 ‘Her’에서 사만다는 시어도어의 문자•전화•이메일 등 데이터를 모아 그의 성격과 성향을 파악한다. 관심사는 무엇이고 좋아하는 여성은 어떤 스타일인지 연구해 최적화된 방식으로 대화를 이끌어 나간다. 시어도어가 그런 그녀에게 끌리는 것은 어쩌면 당연한 일이다. 하지만 사만다의 사랑은 ‘사랑이라는 감정’을 모방한 것이지, 그 자체가 인간의 사랑은 아니다.
사만다의 능력이 제아무리 뛰어나더라도 AI는 결국 디지털로 구성된, 잘 짜인 하나의 알고리즘이기 때문이다. 0과 1의 간극이 매우 촘촘해 그 알고리즘이 아날로그처럼 보일지 몰라도 본질은 디지털이다. 무수한 점이 찍혀 있어 언뜻 하나의 선처럼 보이지만, 본질은 선이 아닌 것과 같은 이치이다. 유기체인 인간과는 다른 것이다.
인간이 세상을 인지하고 판단 능력을 갖출 수 있는 것은 경험과 그로 인한 학습 때문이다. AI 역시 데이터가 있어야만 지능을 가질 수 있다. 결국 AI가 존재하기 위해선 세상의 아날로그 정보를 디지털 언어로 전환해야 한다. 여기서 정보는 0과 1의 조합, 즉 디지털로 변환 가능한 ‘정량화’ 된 기호 체계를 의미한다. 하지만 정량화하기 어려운 정보는 입력 자체가 쉽지 않다. 직관이 그렇다. 통찰력도 마찬가지.
█ 사람은 사람, 영화로 다시 돌아가 보자
알베르트 아인슈타인은 “인간의 능력 중 정말 유일하게 가치 있는 것은 직관”이라고 말했다. 배철현 서울대 종교학과 교수도 “숫자로 표현할 수 없는 우정과 사랑•존경 등의 가치와 감정이 인간을 동물에서 문명인으로 거듭나게 한 본질적 이유다, 이 모든 것은 인간의 직관과 연결돼 있다”고 설명한다.
직관은 보통 ‘통찰(洞察•insight)’과 함께 쓰인다. 평범한 사람들이 생각해내지 못하는 것들을 본질적인 곳까지 깊이 바라보는 사람을 일컬어 ‘통찰과 직관이 뛰어나다’고 한다. 둘 다 ‘내적(in-)’인 의미를 담고 있다. 그런데 통찰은 ‘예리한 관찰력으로 사물과 현상을 꿰뚫어 보는 것’인 반면에 직관은 ‘감각과 경험•연상•판단•추리 따위의 사유 작용을 거치지 않고 대상을 직접 파악하는 것’을 말한다.
독일의 정신의학 권위자인 엘프리다 뮐러 카인츠 박사는 <직관력은 어떻게 발휘되는가>라는 저서에서 “직관은 내면에서 나오는 정신적 힘과 메시지”라고 말한다. 통찰은 경험한 정보를 날카롭게 살펴보고(sight) 논리와 추론을 통해 결론을 내는 것이지만, 직관은 이성적 사고의 과정이 생략돼 있다.
통찰이 관찰을 통해 꿰뚫어 보는 능력이라면, 직관은 한 눈에 알아보는 것이다.
예를 들어 “아르헨티나에서 네 번째로 큰 도시가 어디냐”고 묻는다면 대부분의 한국인은 “모른다”고 말한다. 대답에는 1초도 안 걸린다. 하지만 AI는 먼저 자기 내부의 모든 데이터를 검색하고 그 안에 해당 정보가 없을 때 “모른다”고 한다. 가진 데이터 양이 많을수록 답변까지의 시간은 길어진다. 이처럼 AI는 인간보다 훨씬 많은 데이터를 갖고, 뛰어난 논리와 추론 능력을 갖추고 있어도 직관적일 순 없다.
사랑 역시 직관의 영역이다. 논리와 추론으로 설명할 수 없기 때문이다. 이런 관점에서 보면 영화 ‘Her’의 시어도어가 사만다에게 느낀 감정은 진정한 사랑이 아니다. 그것은 자신에게 최적화된 AI에게 느끼는 정서적 만족감이었을 뿐이다. ‘사만다의 사랑’은 상대방이 사랑이라고 착각하게 하는 잘 짜인 알고리즘이었던 것이다.
심리학자 에리히 프롬은 <사랑의 기술(Art of Love>에서 “사랑을 받으려고만 하기 때문에 제대로 된 사랑을 할 수 없는 것”이라며 “진정한 사랑은 남에게 주는 것에서 시작한다”고 말한다.
데이터와 알고리즘으로 무언가를 계속 채워야만 하는 AI가 자신을 비울 때만 가능한 진정한 사랑을 할 수 있을까? 부모가 자식을 위해 스스로 목숨을 버리는 것과 같은 헌신과 희생의 의미를 0과 1의 조합인 디지털 언어로 설명하는 것이 가능할까?
사랑은 논리와 추론 너머 직관의 영역 어딘가에 있을 것이다. 미래에 인간의 경쟁력도 ‘지능(intelligence)’이 아닌 ‘생각(thinking)’ 능력에 있다.
물론 이 직관까지 AI가 대체한다면 또다른 고민을 해야 하겠지만, 2018년 5월27일 일요일 현재는 여기까지이다.
:튜링 테스트:
1940년대 후반 과학자들은 컴퓨터가 매우 복잡한 연산도 쉽게 해낼 수 있다는 점에 착안해 인간의 뇌를 닮은 프로그램을 구상했다. 훗날 이 프로그램은 인공지능(AI)이라는 이름이 붙었다. 1950년 영국의 수학자 앨런 튜링은 자신의 논문 <계산기계와 지능>에서 처음으로 AI를 판별하는 방법을 고안했다. 튜링은 기계와 대화를 나눌 때 그게 기계인지, 사람인지 구별할 수 없다면 기계가 인간처럼 사고하는 능력을 갖고 있다고 봐야 한다고 주장했다. 오늘날에도 튜링의 생각은 AI의 사고력을 판단하는 중요한 기준으로 쓰이고 있다. 2014년 우크라이나의 인공지능 프로그램 ‘유진 구스트만’이 64년 만에 처음으로 테스트를 통과했지만, 입력되지 않은 질문에 딴청을 피우는 등 꼼수를 썼다는 비판을 받았다.