글 수 69

얀 르쿤과 요슈아 벤지오, 초지능에 대한 설전

조회 수 122 추천 수 0 2019.10.07 19:55:39


Don't Fear the Terminator

 

https://www.facebook.com/yann.lecun/posts/10156248637927143

 

 

 

딥러닝의 3대천왕은 제프리 힌튼, 얀 르쿤, 요슈아 벤지오입니다. 제프리 힌튼은 딥러닝이란 용어를 처음 만든 사람으로 토론토대 교수입니다. 얀 르쿤은 80년대 후반 CNN 모델을 개발하였고 현재 페이스북 AI 수장입니다. 요슈아 벤지오는 몬트리올대 교수로 word2vec의 기반이 되었던 NNLM(Neural Network Language Model)을 창안하였습니다.

 

최근 3대천왕 중 얀 르쿤과 요슈아 벤지오가 SNS로 설전을 벌였습니다. 거기에 스튜어트 러셀이 가세했습니다. 대부분의 대학에서 교재로 사용중인 AI Modern Approach의 저자입니다. 얀 르쿤이 최근 작성한 다음과 같은 글이 문제가 되었습니다.

 

만약 초지능이 개발된다고 해도 인류를 정복할 욕구가 없을 것이라 주장합니다. 인간처럼 진화를 통해 생성된 본능이 없기 때문입니다. 여기에 스튜어트 러셀과 요슈아 벤지오는 반대 의견을 냈습니다. 컴퓨터에서 삭제되면 자신도 사라지기 때문에, 초지능 역시 스스로를 보존하려는 본능이 생긴다고 합니다. 페이스북 댓글을 보시면 세 사람이 주고받은 의견들을 확인하실 수 있습니다.

 

저도 요슈아 벤지오와 스튜어트 러셀의 의견에 공감이 갑니다. 인간이 초지능의 행동을 예측하기는 어렵습니다. 개미가 사람의 생각을 이해하는 것과 마찬가지입니다. 우리가 컨트롤할 수 없는 존재 자체가 문제입니다. 핵폭탄 보다 훨씬 더 위험할 수 있습니다. 핵을 사용하는 것은 결국 사람의 손에 달려있습니다. 그러나 초지능은 자유의지를 갖게 되므로, 우리가 마음대로 조정하기는 불가능합니다.

 

물론 초지능이 언제 탄생할지는 아무도 모릅니다. 레이 커즈와일은 <특이점이 온다>라는 책에서 2045년이라고 예측했습니다. 빠르던 느리던 결국 언젠가는 그런 날이 올거라 생각합니다. 최악의 경우를 대비해서 미리 준비가 필요할 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
초지능을 막을 수 있는 방법 - 스튜어트 러셀 깊은바다 2019-10-11 70
얀 르쿤과 요슈아 벤지오, 초지능에 대한 설전 깊은바다 2019-10-07 122
인공지능 관련 테드(TED) 강연 목록 file 깊은바다 2019-10-05 450
인공지능과 엔트로피 깊은바다 2019-09-18 175
신입사원의 한숨을 덜어줄 기술, RPA 깊은바다 2019-09-15 183
인공지능은 인간을 차별하는가? 깊은바다 2019-08-28 64
오래된 AI 판별법 '튜링테스트'...여전히 유효한가? 깊은바다 2019-08-16 251
이것만 기억하세요 AI AI AI, 손정의 소프트뱅크 회장 청와대 접견 깊은바다 2019-08-09 107
중국의 아파트에 설치된 안면인식 시스템 깊은바다 2019-07-26 82
의식에 관한 연구로 유명한 Hod Lipson의 인터뷰 깊은바다 2019-07-15 75
데미스 하사비스 - 전이학습이 일반 인공지능으로 가는 열쇠 깊은바다 2019-07-10 158
이유를 설명해주는 딥러닝, XAI (Explainable AI) 깊은바다 2019-07-04 362
공유 경제와 자동화의 그늘 [2] 깊은바다 2019-05-18 103
소프트뱅크는 이제 AI트래픽으로 성장한다 깊은바다 2019-05-16 119
AI가 어떻게 인간 존엄성을 회복시키는가 깊은바다 2019-04-18 91