(사진=구글)

지난주 구글 개발자 행사(I/O)에 등장한 구글 듀플렉스. 미용실 예약해주는 로봇이자 참된 리액션 서비스(?!) 기억 하시죠 ^^

인상깊었는데 어딘가 찝찝했습니다. 그러다 이런 기사를 봤습니다.

보고 느낀 건, 기술도 기술이지만 의식이 뒤쳐지면 안될텐데–였습니다.

듀플렉스의 데모를 보고 처음에는 사람 말에 추임새를 넣고 반응하는 것이 신기하다가 (Um, uhu)

-> ‘근데 이걸 왜 신기해하고 있지?’라는 생각이 들었고

+ 동시에 영화 ‘Her’에서 테오도르가 화났을 때 “사만다(운영체제), 니가 왜 한숨을 쉬어!”라고 말했던 장면이 떠오르더군요.

-> 그리곤 이 서비스를 일상적으로 사용하게 된다면 도덕, 윤리적으로 문제가 없는 것일까.

라는 결론에 이르렀습니다. 진지하게 다시 한번 생각해보게 되더군요. 

(물론 저같은 ‘소심인’에게는 편리한 서비스가 될 수도 있겠지만ㅋㅋㅋ! ‘나쁜놈’은 있게 마련이니까요)

찾아보니, 역시 다들 “그동안 ‘영화, 소설에서 나온 미래에 일어날 일’들이 완전히 소설은 아니라는 것을 구글이 증명해주고 있다”, “데모로 보여준 것은 정말 현실에서 일어날 수 있는 최선의 유즈케이스다. 나쁜 일은 늘 일어날 수 있다”라고 이야기하더라고요.

레딧 : https://www.reddit.com/r/philosophy/comments/8j6p2r/google_duplex_we_need_to_talk_about_the_ethics/   

씨넷 : https://www.cnet.com/news/google-duplex-assistant-bot-deception-scary-ethics-question/

관련 영상 : https://www.youtube.com/watch?v=Y0otgRmscUk

포춘 : http://fortune.com/2018/05/11/google-duplex-virtual-assistant-ethical-issues-ai-machine-learning/

그렇기 때문에 구글의 자연어 처리 및 서비스화하는 스킬이 대단하다는 것을 넘어서, 이 서비스가 일상이 됐을 때 사람들이 청각적으로 느낄 언캐니 밸리라든지 도덕적, 윤리적, 법적 문제에 대비해야 한다는 논의도 함께 나옵니다. 생각보다 빨리 현실적으로 생각해봐야 한다는 이야기죠.

가장 많이 제기하는 문제는 이겁니다. 

“전화 건 사람이 봇이라는 것을 미리 이야기해야 하는 것인가?”

이 질문에서 뻗어나갔을 때…대략적으로라도 기준이 있어야겠죠?

우선 윤리적으로 두 개의 가치체계가 있었습니다.

1) 다른 사람의 ‘웰빙’을 침해하는가(이 경우 업장에서 전화를 받는 사람)

2) 나의 ‘웰빙’에는 문제가 없는가(구글과 듀플렉스 사용자) 입니다.

여기서 말하는 웰빙이 무엇이냐고 하면, 1)번의 웰빙으로는 ‘사용자를 불편하게 하지 않는지, 나아가 사용자에게 고통을 주지는 않는지’ / ‘자율성을 주는지’가 있고요.

2)번의 웰빙은 ‘나의 대리인으로서 다른 사람에게 내 인성과 평판을 깎아 먹지는 않는가’ / ‘서비스를 너무 많이 사용하면 사람들이 이제 내가 콩으로 죽을 쑨대도..그러니까 듀플렉스가 아니라 내가 전화를 건 거라고 이야기 해도 안 믿을텐데’가 있습니다. 각각에 대해 조금만 더 설명하면요.

1) 다른 사람의 웰빙을 침해하는가

–듀플렉스가 전화를 걸었을 때 전화 받은 사람이 고통받지 않을까의 문제입니다. 불편하게 하진 않을까 이런 우려죠. 솔직히 이건 사람보다 기계가 훨씬 예의바를 것이라고 생각합니다.

–자율성도 침해하지는 않을 것 같습니다. 상대편이 봇이든 아니든, 그걸 알든 말든 전화를 받은 사람이 그냥 대응을 하면 되니까요. 궁금한 것 있으면 묻고, 아님 전화를 거부할 수도 있고요.

여기서 잠깐..아까 마지막에 나왔던 신뢰 이슈는 사실 개인과 개인 사이의 대화를 넘어 사회적으로 본다면 1)번의 웰빙 항목에도 들어가야한다고 생각합니다. 내가 받은 전화의 상대편이 당장 날 괴롭히든 아니든, 현실에서는 최악의 상황이 일어날 수도 있기 때문에 로봇인지 여부를 알아야하고, 또 확실히 사업용인지, 이 봇을 쓰자고 한 최종 결정자가 누구인지를 알아야 한다고 생각합니다.

슬슬 기술이 인간의 오감에 대한 신뢰를 무너뜨리고 있기 때문입니다. 이미 페이스북 가짜 뉴스 사건으로 사람들이 본인 바운더리를 벗어나서 이성을 어디까지 발휘할 수 있을지를 시험받았고요. 온라인에서 이미지로 여러 사실들, 아니면 감정들까지도 조작당할 수 있다는 것을 알고 있으니까요.

2) 나의 웰빙에는 문제 없는가

–듀플렉스가 나의 대리인으로서 전화를 걸 때 내 평판이나 내 인성을 깎아먹지는 않는가. 아까 이야기했듯이 아마 더 공손할지도 모르죠.

–신뢰도의 문제는 좀 심각합니다. 전화를 받는 쪽에서 이게 듀플렉스인지, 아니면 사람인지를 믿을 수 없는 지경까지 갈 수도 있기 때문에요.

구글은 의도했든, 의도하지 않았든 한 발짝 앞선 인공지능 기술을 보여줄 때마다 생각할 거리를 던져주네요. 알파고도 그렇고, 나중에 소개할 기회가 있겠지만 구글 딥마인드가 현재 실험 및 개발하고 있는 서비스들도 그렇고요.

이번I/O만 해도 어시스턴트 목소리에 남성 목소리를 넣었습니다. 그동안 구글 뿐만 아니라 음성 인식 및 반응 기계에 ‘디지털 비서’라는 이름을 달아놓고 여성의 목소리만 넣어서, 미래를 만들어가는 데 결정적인 역할을 할 IT 영역에서 편견과 고정관념을 고착화한다는 비판을 받아왔기 때문에 의미있는 변화라고 생각합니다. 또 듀플렉스 역시 이렇게 윤리, 도덕(선) 문제를 한번 더 생각해보게 만들었고요.

그렇다고 기술을 안쓸 것은 아니니…그러니까, 나쁜 놈 때문에 기술을 거부하자는 건 자동차 타지 말자는 얘기나 마찬가지니까요. 이런 서비스들을 일상적으로 사용하게 될 때 스스로를, 기계를 경계하자는 의미에서 서비스와 신기술이 나올 때마다 문제를 계속 제기해야만 하겠죠. 

마지막은 영화 Her의 장면들입니다. 

-테오도르 :  You feel real to me.

-사만다 : Thank you Theodore, that means a lot.

-캐서린 : So you are dating with computer?

-테오도르 : She is not just a computer.

-캐서린 : You’ve always wanted a wife without the challenges of actually dealing with anything real and I’m glad that you found someone.