**오바마의 와이어드 인터뷰, 전문은 아니고 중요한 부분만 발췌해 옮겨봤습니다. 오바마, MIT 미디어랩 디렉터 조이 이토, 와이어드 편집장 스캇 대디치

Barack Obama Talks AI, Robo-Cars, and the Future of the World

인터뷰. 백악관은 AI를 어떻게 생각할까. 희망, overhype, 두려움 등에 대해 이야기를 나눴다.

오바마 : AI는 이미 모두의 삶에 조금은 스며든 것 같다. 우리가 대중문화의 틀 안에서, 혹은 여기서 보여준 모습으로 AI를 이해하기 때문에 알아채지 못하는 것 같다.

우선 범용 AI와 특정 용도로 사용하는 AI가 있는데 SF에서는 범용 AI에 대해서만 이야기한다. 백악관의 과학 관련 어드바이저들과 이야기해보면 SF에 나온 상황이 펼쳐지려면 아직 한참 멀었다고 한다. 물론 특용 AI를 사용할 때 우리의 상상력을 더 넓히거나, 자유의지와 선택의 기로를 직면했을 때 생각해봐야할 문제긴 하다.(자율주행차) 알고리즘과 컴퓨터는 지금도 진화중이고 갈수록 복잡한 작업을 하게 될테니까. 지금은 의학, 교통부터 전기를 송출하고 분할할 때 등 삶의 모든 측면에서 이미 AI를 사용하고 있다고 생각한다. 좀더 생산적이고 효율적인 경제 상황을 만드는 데에 도움을 준다. 물론 불평등을 심화하고 일자리를 줄이며 임금 상승을 억제하는 부정적인 결과도 예상한다.

조이 이토 : 나는 AI와 관련된 핵심적인 컴퓨터 과학 공부를 백인 남학생들이 많이 하고 있고 이 분야를 개척해가는 게 걱정된다. 왜냐면 그들은 사람보다 컴퓨터와 대화하는 것에 더 익숙해서다. 그 친구들은 SF에 나오는 범용 AI가 일반화되면 정치, 사회 등 온갖 골치아픈 문제가 해결될 것이라고 진심으로 믿고 있다. 갈수록 AI가 컴퓨터 과학 이외의 문제라고 느껴지는데, 이런 면에선 정말 걱정이다. 그런 흐름을 반영하기 위해 미디어랩에서는 ‘확장된 지능(Extended Intelligence)’라는 용어를 사용한다. 사회적인 가치를 AI에 녹여내는 방법이 중요하기 때문이다. 그래서 인류 모두가 AI의 기본적인 면을 이해하고 있어야 한다고 생각한다.

오바마 : 조이에게 자율주행차 얘길 들었다. 기계는 스스로 판단내릴 수 있을만큼의 수준이 됐다. 교통사고 사상자를 줄이고 교통 체계의 효율성을 높이는 방향으로 기술을 발전되고 있다. 게다가 이산화탄소 배출도 줄일 수 있다. 그런데 이런 자율주행차에 과연 어떤 가치를 심어야 하는가. 운전하면서 매번 선택의 순간을 맞지 앟나. 예를 들어 사고의 순간에 행인을 칠 것인가, 아니면 대신 벽을 박아서 스스로에게 해를 입힐 것인가. 도덕적인 이슈인데, 누가 룰을 정하는지가 문제다.

조이 이토 ; 많은 사람들이 ‘더 많은 사람을 살리는 쪽을 선택하도록 프로그래밍 해야 한다’고 한다. 동시에 ‘난 자율주행차 안 살 것’이라고 말한다.ㅋㅋ

오바마 : 정부는 AI 기술이 지금처럼 초기 단계일 때 수천 개의 꽃을 피우도록 도와야한다고 본다. 기술 개발 전 과정에 개입을 적게 하면서도, R&D 투자는 많이 하는 방식으로. 투자는 기초-응용을 연계하는 방식으로. 하지만 기술이 개발될수록 구조에 스며드는 양상이 중요하다. 아주 다루기 힘든 문제기도 하다. 이게 정부의 개입을 키우는 데에 일조하기도 한다. 기술이 어떤 틀 안에 갇혀야 한다는 건 아니지만 규제가 기술보다 광범위한 가치 체계를 반영해야 한다는 사실엔 변함이 없다. 특정 사람이나 그룹에 불이익이 된다는 것을 (일부러라도) 찾아내야 하는 집단이다. (중략)

대디치 : 과연 정부, 기업, 학계 중 누가 연구의 중심인가?

조이 이토 : 전통적으로 학계는 정부 지원을 받았다. 하지만 요즘엔 수십억 달러 규모로 운영되는 연구실이 기업들 내부에 다 있다.

오바마 : 그런 데 투자하는 곳들과 당연히 컨택을 많이 한다. 예를 들어 래리 페이지? 그와 이야기해보면 그렇다. “무슨 일이 있어도, 관료들이 우리가 유니콘 찾아서 투자하는 것을 막지 않았으면 한다” 하지만 문제는 기초 연구에 들이는 전반적인 commitment가 줄어든 것이다.

그들은 자존감이 낮아졌다. 이데올로기나 레토릭이 너무 넘쳐서. 정말 대단한 기술은 50년이 걸리더라도 혁신적인 프로젝트의 형태로 지속적으로 수행돼야 한다. 예를 들어 1960년대부터 시작된 우주 개척 프로그램이 있다. 그때 당시 여기에 매년 800억달러가 들어갔다.(현재 화폐 가치로). GDP의 절반이었다. AI에도 그만큼 투자해야하는데 지금 보면 10억달러 정도밖에 붓지 못한다. 정부가 이 혁신적인 기술을 개발하고 그 가치를 추구하는 많은 커뮤니티에 힘을 보태야한다고 생각한다. 아까 우리가 이야기했던 가치, 윤리, 도덕의 문제를 꺼낼 기회를 최대한 많이 줘야하니까. 하지만 너무 부족하다.

대디치 : 우주개척 프로그램과 비슷한 프로젝트라는 인식을 퍼뜨릴 방법이 있을까?

오바마 : 정부가 투자하고 데이터를 수집, 비축하는 게 군사용으로만 쓰이진 않는다. 예를 들어 제놈 데이터베이스는 정부가 직접 오픈했다. 하버드나 스탠포드 대학교는 그런 데이터들을 혼자만 갖고 있다. 하지만 이런 정보가 하나의 그룹의 수입원이 돼선 안된다고 생각한다.

대디치 : 하지만 AI 개발에는 분명히 리스크가 있다. 오픈AI를 비롯한 여러 단체가 AI의 악영향을 걱정한다.

오바마 ; 당장의 걱정부터 보자. 특용 AI에서 일어날 수 있는 문제부터 해결해야 한다. 예를 들어 다양한 변수를 예측할 수 있는 바둑 컴퓨터가 있다 치자(알파고를 이야기하는 듯). 이걸로 뉴욕 증시에서 이익 극대화하는 알고리즘을 개발하면 시장이 붕괴될 수 있다. 혹은 통합성을 저해할 수 있고. 국방에서도 문제가 일어날 수 있다. 핵무기를 발사하는 AI 알고리즘이 발명되면 말이다. 물론 우리 보안팀은 이런 일이 절대 일어날 수 없다고 하지만.

나는 지금도 충분하다고 본다. 더 잘해야 한다는 이슈지. 조이 이토 : 동의한다. 사람들의 우려는 ‘범용 AI가 생긴다면’, ‘10년 뒤에 높은 가능성으로 일어날 수 있는 일’이라는 걸 의미한다. 하지만 이런 일이 생기려면 순서가 있어야 한다. 12단계, 내지는 24단계로 보다. 그래서 미리 알아챌 수 있다.

오바마 : 코드를 빼지 뭐.ㅋㅋㅋ아니, 사실 어떤 보안이든, 사이버 보안도, 좀 다르게 생각해야 한다. 막아낸다는 것보다, 일상적으로 연구해서 대처방안을 시스템화하는 것이다. 공격이 들어올 때 버튼을 하나 누르면 프로토콜에 따라 일을 착착 진행한다든지, 이런 식으로. 문제 ㅅ애길 때 백신을 더 현명하게 만들고 사용할 수 있도록 말이다.

조이 이토 : 보안에 있어서는 ‘완벽’할 수 없다. 대신 엄격한 명령, 질서를 세울 순 있다. 의학에서 모든 병원균을 없애는 건 어려우니 나쁜 박테리아와 싸우도록 해서 면역력을 기르는 것처럼 말이다.

대디치 : 이게 새로운 군비경쟁화 되지 않을까?

오바마 : 확실히 AI 연구에 국제적인 norm, 프로토콜이 있어야한다고 본다. 검증된 AI 기계를 만들어야 하므로. 아직 초기 단계지만 하고 있다. 흥미로운 건, 공격과 수비가 불분명하단 거다. 그리고 사람들이 정부를 불신하지 않는 것이다. 세계적인 지형에서 보면, 러시아, 중국, 이란이 문제다. 효율적으로 AI를 드라이브하려면 마주해야할 문제기도 하다.

오바마 : 근데 이제 경제적인 시각도 필요할 것 같다. 많은 이들이 기계가 직업을 대체할 거라고 걱정한다. 하지만 나는 긍정적인 면을 보고 싶다. 이제까지 새로운 기술을 받아들이면서 항상 이 걱정을 했지만 결국 많은 일자리가 창출됐고, 덕분에 미국으로 이민 오는 사람도 많아졌다. 삶의 질도 상승했다. 내 생각에 우린 지금 AI와 다른 기술을 광범위하게 적용할 수 있게 됐다고 본다. 하이스킬을 지닌 사람들은 이 시스템에 적응해서 성공한다. 컴퓨터를 잘 써서 제품을 만들어 팔 수 있고 목표를 달성할 수 있기 때문이다. 반면 낮은 스킬을 요구하는 일자리는(보통 낮은 임금) 전환기를 맞았다. 일자리가 바로 대체되진 않겠지만 임금은 더 낮아질 수 있기 때문이다. 앞으로 이에 대한 사회적인 대화가 있어야 한다. 컴퓨터를 어떻게 훈련시키며, 정말 모든 경우의 수를 고려하게 할 수 있을지다.

조이 이토 : 지금 이미 그 어느 때보다 많이 생산하는데 이익은 소수 그룹에 집중된다. 모든 이들이 최소 생계 유지비를 보유하지 않았다. 특히 문화 예술 부분을 지원할 때 고려를 많이 하는 사항이다. 새로운 기술을 사회에서 효율적으로 사용하는 데에 적용할 수 있는 사회 규약이 있는지. 또 우리 경제 수준이 그럴만 한지. 정확히 어떤 일자리가 사라질지는 모른다. 의미가 없기도 하고. 왜냐면 의료 체계를 꿰뚫은 컴퓨터를 가졌고, 진단도 잘하지만 간호사를 대체하진 않았다.

왜냐면 인건비가 낮으니까. 대신 변호사나 회계사 같은 높은 수준의 연봉을 받는 일자리는 좀 사라졌을지도 모른다. 반면 예술 등 컴퓨터가 대체할 수 없는 일들은 있다. ‘기본 소득’에 대해 어떻게 생각하는지는 모르지만 학자, 예술가 등이 살기가 팍팍해지면서 대안 모델이 생겼다.

오바마 : 맞다. 사회규약을 다시 짜야한다는 건 바로 그런 의미다. 지금, 기본 소득에 대해 논의하는 건 맞는 일인 것 같다. 다만 일반 대중이 받아들일 것인가가 앞으로 10년~20년 간의 논쟁거리다. 많은 직업이 대체될 것이다. 하지만 논쟁점은 AI가 적용될수록 사회가 더 부유해질 것인지, 생산과 유통의 차이를 좁힐 것인지, 사람들이 하루에 얼마나 일을 할지다.

예를 들어보자. 교사는 하는 일에 비해 봉급을 적게 받는다. 컴퓨터가 대체하기도 어려운 직업이다. 그래서 우리가 가치있다고 생각하는게 뭔지, 사람들이 그 일에 얼마만큼을 지불할 용의가 있는지 합의하는 과정이 있었는지를 봐야한다. 교사, 간호사, 보육사, 아빠든 엄마든 집에서 일하는 사람, 예술가 등등, 우리가 가치있다고 생각하지만 봉급은 적은 사람들이 있다. 이 이야기를 해야한다고 본다. ——- 대디치 : 정부의 최대 과제를 해결한다고 할 때 어떤 기술이 유용한가?

오바마 : Customer friendly한 서비스를 만드는 게 최대 과제다. 세금 신고하는 걸 피자 주문만큼, 비행기 표 구매만큼 쉽게 처리해야 한다. 투표를 독려하거나 빅데이터를 더 쉽게 이용하도록 하거나 온라인에서 양식을 쉽게 작성하도록 하는 일도 마찬가지다. 하지만 역시 기술만큼이나 연방정부, 주정부, 더 낮은 단위의 정부가 협력하는 게 선결돼야한다. 정부와 사영역의 인력 차이가 크진 않은데 기술적인 차이는 엄청나다. 처음 대통령이 돼서 백악관 올 때 상황실에 기대를 많이 했다. 마이너리티 리포트에 나오는 톰 크루즈의 사무실 같을 거라고 생각했다.

근데 전혀 아니었음ㅋㅋㅋㅋ 뭐 테러리스트 잡을 때 영화에서 보는 것처럼 삐까번쩍한 기술 쓰지 않는다. 또 다른 이슈로는 기후변화가 있다. 이제 ‘스탑’ 버튼을 눌러야할 때인데, 관련 기술을 더 개발해야 한다고 생각한다.

**영화 <스타트렉>, <마션>의 팬. 스타트렉에서는 기술보단 인간의 특성을 잘 파악했다는 점을 주시했다.