레플리
글 수 108

얀 르쿤과 요슈아 벤지오, 초지능에 대한 설전

조회 수 731 추천 수 0 2019.10.07 19:55:39


Don't Fear the Terminator

 

https://www.facebook.com/yann.lecun/posts/10156248637927143

 

 

 

딥러닝의 3대천왕은 제프리 힌튼, 얀 르쿤, 요슈아 벤지오입니다. 제프리 힌튼은 딥러닝이란 용어를 처음 만든 사람으로 토론토대 교수입니다. 얀 르쿤은 80년대 후반 CNN 모델을 개발하였고 현재 페이스북 AI 수장입니다. 요슈아 벤지오는 몬트리올대 교수로 word2vec의 기반이 되었던 NNLM(Neural Network Language Model)을 창안하였습니다.

 

최근 3대천왕 중 얀 르쿤과 요슈아 벤지오가 SNS로 설전을 벌였습니다. 거기에 스튜어트 러셀이 가세했습니다. 대부분의 대학에서 교재로 사용중인 AI Modern Approach의 저자입니다. 얀 르쿤이 최근 작성한 다음과 같은 글이 문제가 되었습니다.

 

만약 초지능이 개발된다고 해도 인류를 정복할 욕구가 없을 것이라 주장합니다. 인간처럼 진화를 통해 생성된 본능이 없기 때문입니다. 여기에 스튜어트 러셀과 요슈아 벤지오는 반대 의견을 냈습니다. 컴퓨터에서 삭제되면 자신도 사라지기 때문에, 초지능 역시 스스로를 보존하려는 본능이 생긴다고 합니다. 페이스북 댓글을 보시면 세 사람이 주고받은 의견들을 확인하실 수 있습니다.

 

저도 요슈아 벤지오와 스튜어트 러셀의 의견에 공감이 갑니다. 인간이 초지능의 행동을 예측하기는 어렵습니다. 개미가 사람의 생각을 이해하는 것과 마찬가지입니다. 우리가 컨트롤할 수 없는 존재 자체가 문제입니다. 핵폭탄 보다 훨씬 더 위험할 수 있습니다. 핵을 사용하는 것은 결국 사람의 손에 달려있습니다. 그러나 초지능은 자유의지를 갖게 되므로, 우리가 마음대로 조정하기는 불가능합니다.

 

물론 초지능이 언제 탄생할지는 아무도 모릅니다. 레이 커즈와일은 <특이점이 온다>라는 책에서 2045년이라고 예측했습니다. 빠르던 느리던 결국 언젠가는 그런 날이 올거라 생각합니다. 최악의 경우를 대비해서 미리 준비가 필요할 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
간단히 정리하는 인공지능의 역사 file 깊은바다 2017-03-15 10995
퍼지를 이용한 인공지능 깊은바다 2016-03-25 7630
퍼지논리를 사용한 속도제어 구현 file 깊은바다 2016-03-25 4028
인공지능 관련 테드(TED) 강연 목록 file 깊은바다 2019-10-05 4026
지대넓얕 팟캐스트 AI와 영생 - 특이점이 온다 깊은바다 2017-05-02 3978
Prolog로 간단한 추론 프로그램 만들기 깊은바다 2018-02-08 3153
인공지능과 자의식 깊은바다 2017-03-19 2549
우리나라 AI 기업 현황 조사 보고서 [1] 깊은바다 2017-06-30 1687
인공지능이 의식을 가질 수 있는가 file [2] 깊은바다 2017-09-05 1600
인공지능과 엔트로피 깊은바다 2019-09-18 1576
딥러닝이 상식에 취약한 이유 file 깊은바다 2021-08-21 1564
인공지능 설계 순서 깊은바다 2020-01-12 1511
강인공지능의 출현 시기 file 깊은바다 2018-10-25 1457
베이지안 추론 깊은바다 2018-01-12 1306
모라벡의 역설은 틀렸다? file 깊은바다 2018-06-30 1271