https://www.facebook.com/yann.lecun/posts/10156248637927143

딥러닝의 3대천왕은 제프리 힌튼, 얀 르쿤, 요슈아 벤지오입니다. 제프리 힌튼은 딥러닝이란 용어를 처음 만든 사람으로 토론토대 교수입니다. 얀 르쿤은 80년대 후반 CNN 모델을 개발하였고 현재 페이스북 AI 수장입니다. 요슈아 벤지오는 몬트리올대 교수로 word2vec의 기반이 되었던 NNLM(Neural Network Language Model)을 창안하였습니다.

최근 3대천왕 중 얀 르쿤과 요슈아 벤지오가 SNS로 설전을 벌였습니다. 거기에 스튜어트 러셀이 가세했습니다. 대부분의 대학에서 교재로 사용중인 AI Modern Approach의 저자입니다. 얀 르쿤이 최근 작성한 다음과 같은 글이 문제가 되었습니다.

만약 초지능이 개발된다고 해도 인류를 정복할 욕구가 없을 것이라 주장합니다. 인간처럼 진화를 통해 생성된 본능이 없기 때문입니다. 여기에 스튜어트 러셀과 요슈아 벤지오는 반대 의견을 냈습니다. 컴퓨터에서 삭제되면 자신도 사라지기 때문에, 초지능 역시 스스로를 보존하려는 본능이 생긴다고 합니다. 페이스북 댓글을 보시면 세 사람이 주고받은 의견들을 확인하실 수 있습니다.

저도 요슈아 벤지오와 스튜어트 러셀의 의견에 공감이 갑니다. 인간이 초지능의 행동을 예측하기는 어렵습니다. 개미가 사람의 생각을 이해하는 것과 마찬가지입니다. 우리가 컨트롤할 수 없는 존재 자체가 문제입니다. 핵폭탄 보다 훨씬 더 위험할 수 있습니다. 핵을 사용하는 것은 결국 사람의 손에 달려있습니다. 그러나 초지능은 자유의지를 갖게 되므로, 우리가 마음대로 조정하기는 불가능합니다.

물론 초지능이 언제 탄생할지는 아무도 모릅니다. 레이 커즈와일은 <특이점이 온다>라는 책에서 2045년이라고 예측했습니다. 빠르던 느리던 결국 언젠가는 그런 날이 올거라 생각합니다. 최악의 경우를 대비해서 미리 준비가 필요할 것 같습니다.