구글 자회사 딥마인드의 인공지능(AI) 알파고가 수많은 묘수를 내놓으며 이세돌 9단에 승리했을 때 개발자들은 정작 AI가 어떻게 그 수를 놨는지 알지 못했다. AI를 흔히 ‘블랙박스’에 비유하는데 이는 사용자는 물론 개발자조차 원리를 완벽히 설명할 수 없기 때문이다. AI가 내놓는 결과가 어떻게 학습됐고 데이터 가운데 어디서 나왔는지 역추적이 불가능하다. 전문가들은 이런 방식으로 기술이 계속해서 발전할 경우 AI가 어떤 방식으로 학습하는지 모르기 때문에 편향성을 가질 수 있다고 보고 있다.