레플리
글 수 108

얀 르쿤과 요슈아 벤지오, 초지능에 대한 설전

조회 수 731 추천 수 0 2019.10.07 19:55:39


Don't Fear the Terminator

 

https://www.facebook.com/yann.lecun/posts/10156248637927143

 

 

 

딥러닝의 3대천왕은 제프리 힌튼, 얀 르쿤, 요슈아 벤지오입니다. 제프리 힌튼은 딥러닝이란 용어를 처음 만든 사람으로 토론토대 교수입니다. 얀 르쿤은 80년대 후반 CNN 모델을 개발하였고 현재 페이스북 AI 수장입니다. 요슈아 벤지오는 몬트리올대 교수로 word2vec의 기반이 되었던 NNLM(Neural Network Language Model)을 창안하였습니다.

 

최근 3대천왕 중 얀 르쿤과 요슈아 벤지오가 SNS로 설전을 벌였습니다. 거기에 스튜어트 러셀이 가세했습니다. 대부분의 대학에서 교재로 사용중인 AI Modern Approach의 저자입니다. 얀 르쿤이 최근 작성한 다음과 같은 글이 문제가 되었습니다.

 

만약 초지능이 개발된다고 해도 인류를 정복할 욕구가 없을 것이라 주장합니다. 인간처럼 진화를 통해 생성된 본능이 없기 때문입니다. 여기에 스튜어트 러셀과 요슈아 벤지오는 반대 의견을 냈습니다. 컴퓨터에서 삭제되면 자신도 사라지기 때문에, 초지능 역시 스스로를 보존하려는 본능이 생긴다고 합니다. 페이스북 댓글을 보시면 세 사람이 주고받은 의견들을 확인하실 수 있습니다.

 

저도 요슈아 벤지오와 스튜어트 러셀의 의견에 공감이 갑니다. 인간이 초지능의 행동을 예측하기는 어렵습니다. 개미가 사람의 생각을 이해하는 것과 마찬가지입니다. 우리가 컨트롤할 수 없는 존재 자체가 문제입니다. 핵폭탄 보다 훨씬 더 위험할 수 있습니다. 핵을 사용하는 것은 결국 사람의 손에 달려있습니다. 그러나 초지능은 자유의지를 갖게 되므로, 우리가 마음대로 조정하기는 불가능합니다.

 

물론 초지능이 언제 탄생할지는 아무도 모릅니다. 레이 커즈와일은 <특이점이 온다>라는 책에서 2045년이라고 예측했습니다. 빠르던 느리던 결국 언젠가는 그런 날이 올거라 생각합니다. 최악의 경우를 대비해서 미리 준비가 필요할 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
손정의, 20년 안에 인간은 금붕어같은 존재가 될 것 file 깊은바다 2024-03-13 69
한국 NVIDIA 전 지사장과 나눈 대화 - 기술이 아닌 아이디어의 시대 깊은바다 2023-11-15 137
생성AI는 이제 기술보다 인프라로 접근해야 한다 깊은바다 2023-11-15 118
한국전파진흥협회에서 강의한 챗GPT와 메타버스 영상입니다 file 깊은바다 2023-11-12 100
LLM 2명 타요 file [7] 깊은바다 2023-11-08 294
손정의와 데미스 하사비스, AGI는 10년 안에 가능 [1] 깊은바다 2023-10-06 166
GPT-4가 인간보다 창의적 [1] 깊은바다 2023-08-14 206
생성AI 경제 모델, 기존 AI와 어떻게 다른가? 깊은바다 2023-08-11 180
MBC 탐사기획 스트레이트 - 챗GPT 혁명, 인공지능의 습격 file 깊은바다 2023-06-06 119
딥마인드CEO, 인간수준 AI 몇년내 가능 깊은바다 2023-05-05 134
AI 대부 제프리 힌튼, 구글 퇴사…수십년 AI 연구 후회 깊은바다 2023-05-04 183
초거대AI의 시대, 인공지능 개발자의 미래는 깊은바다 2023-02-17 129
인공지능 개발자는 앞으로 무엇을 해야 할까 깊은바다 2023-02-17 109
초지능 탄생 만화 - 특이점이 왔다 file 깊은바다 2023-01-20 285
언어로만 훈련된 초거대모델의 한계점 깊은바다 2022-12-26 229