안녕하세요! 아웃스탠딩 막내 김지윤입니다ㅎㅎ

요즘 블로쿠체인에 쩔어있어서(?!) 잠시 반성하는 마음으로(?!) 오늘은 인공지능 소식들을 열심히 읽고 있는데요. 비록 지난 11월에 나온 리포트지만 요즘 인공지능을 연구하는 분위기를 설명해주는 말이 많아서 AI Index Report를 간략히 공유해볼까 합니다. 

지난해 말부터 인공지능, 특히 스스로 설명할 수 있는 인공지능(XAI) 얘기가 많았습니다. 머신러닝, 딥러닝의 경우 큰 데이터에서 새로운 패턴을 찾아 결과를 내는 데 탁월한데요. 그 결과가 왜 나타나는지, 그 과정을 다 파헤치기는 어렵다는 말이 나옵니다. 흔히 ‘블랙박스 문제’라고들 하죠. 작년 아웃스탠딩에서 ‘의사들이 인공지능을 꺼리는 이유’ 중 하나로 “과정에 대한 설명을 알 수 없다”는 점을 꼽았습니다.

그래서 최근 들어서도 인공지능의 결과를 역추론할 수 있어야 한다거나 투명하게 과정을 납득할 수 있는 AI라야 신뢰할 수 있다는 기사들이 왕왕 나옵니다. 데이터 편향성, 기술의 불완전함에 설명하지 않는 기업 등등에 대한 지적도 꾸준히 등장하면서 ‘사회에 보다 보편적으로 쓰이기 위해서 인공지능이 내놓은 결과에 대해 설명할 수 있어야 하고, 윤리적으로 정당해야 한다‘는 겁니다.

(참조 – 무엇이 인공지능을 쓸모없게 만드는가)

(참조 – 신뢰할 수 있으려면 설명할 수 있어야 한다)

(참조 – 검색엔진을 위한 데이터는 이미 편향됐다)

MIT 미디어랩에서는 아예 인공지능 윤리 관련 강좌를 개설했고요. 딥마인드팀에서 인공지능 윤리 관련 부서를 따로 만든 건 이미 유명하죠:) 미국 국방성의 연구계획국(DARPA)가 2016년부터 ‘설명할 수 있는 인공지능’을 연구해온 것도 익히 알려져있고요.

그렇다면 앞서 언급했던 AI Index 보고서에서는 어떤 이야기가 나올까요? 2017년 인공지능 연구, 인공지능 강좌 수, 인공지능 관련 스타트업, 투자규모 등이 모두 무럭무럭 자랐고요. 더불어 인공지능이 사회에 미칠 영향과 인공지능에 대해 사회적으로 바라보려는 시도(메타AI)를 상당 부분 언급합니다. 발언을 매-우 간단히 정리해보자면 아래와 같습니다:)

“AI가 얼마나 효율적인지, 완벽한지 여부를 넘어 
그게 인간 생활에 끼치는 영향력을 거론해야 해요”

(하버드대 HCI 전공 바바라 그로츠교수)

“당장 눈에 보이는 오류를 좇아서는 안됩니다.

등잔 밑에 있는 열쇠를 찾아야지, 왠지 그 열쇠가

있을 것만 같은 위치를 찾아 헤매면 안되는거죠”

“쉽게 얻을 수 있는 데이터가 반드시

가장 유익하리라는 보장은 없습니다.

현재 우리가 가장 쉽게 얻는 데이터는

서구, 그 중에서도 미국에 국한돼있어요”

(브리티시컬럼비아대 컴퓨터공학과 알렌 맥워쓰 교수)

“보다 세심하게 인공지능 정책을 펼치는 국가가

더 빠르게 나아갈 겁니다. 반면에 빈곤한 정책을

고수하는 국가는 그저 뒤쳐진 채 남겨질 겁니다”

(스탠퍼드대 컴퓨터공학과 앤드류 응 교수)

“다양성, 포용력은 매우 중요한 지표입니다”

“우리는 편견, 차별적인 문화적 패턴, 그리고

체계적으로 배제하도록 학습된 행동 때문에

인간성을 잃고 있으니까요”

(3대 미국 최고기술책임자 및 사업가 메간 스미스)

이 외에도 앞으로 인공지능이 인간 사회에 어떤 창의성, 어떤 새로운 방법을 제시할지 여러 전문가의 코멘트를 통해 알 수 있습니다. 몇 년 전까지만 해도 IT(Internet Technology)라 하면 왠지 제 자신과 동떨어진 인상을 받았는데요. 확실히 인공지능은 점차 우리의 일상, 수면 아래로까지 차오르는 듯합니다. 작년 하반기부터 자주 언급됐듯이 훗날 인공지능이 “전기처럼 쓰인다”고 하네요.

아웃스탠딩 커뮤니티 글로 편하게 쓴다는 게 왠지 길어졌네요;; 이정도에서 마무리해봅니다. 앞으로도 우리들을 둘러싼 IT, 그 원리와 더불어 그 원리를 활용하는 사람들의 이야기를 전하겠습니다. 다들 불금불금 좋은 밤 되시기를 바랍니다…!

(참조 – 2017 인공지능의 모든 것!)

(참조 – 인공지능의 가까운 미래, 아마존고)