글 수 77

초지능을 막을 수 있는 방법 - 스튜어트 러셀

조회 수 157 추천 수 0 2019.10.11 14:27:21


 

https://www.nytimes.com/2019/10/08/opinion/artificial-intelligence.html

 

 

 

얼마 전 페이스북의 얀 르쿤과 의견 차이를 보였던 스튜어트 러셀의 글입니다. 그는 인공지능의 대가 중 한 명으로 현재 버클리대 교수이기도 합니다.

 

기사를 보면 초지능에 대비한 안전장치를 마련해야 한다고 주장합니다. 사람에게 도움이 되는 일만 하도록 기계 안에 규칙을 넣습니다. 아시모프 소설에 나오는 로봇 3원칙과 유사합니다. 이런 조건이 만족되기 전에는 기술 개발을 규제할 필요가 있다고 말합니다.

 

 

 

물론 일리있는 의견이지만 과연 그것이 가능할지 모르겠습니다. 유발 하라리는 호모 데우스란 책에서 지능과 의식이 분리된다고 적었습니다. 저는 범용적이면서 높은 수준의 지능을 달성하면 의식이 반드시 창발된다고 생각합니다.

 

추론을 위해서는 각 개체와 그들 사이의 관계를 명확하게 알고 있어야 합니다. 또한 모든 것을 나를 중심으로 파악합니다. 이런 과정을 통해 상식을 배우며 자연스럽게 '나'라는 존재를 인식합니다. 예를 들어 의식이 없는 것처럼 보이는 어류나 파충류는 매우 단순한 행동만 가능합니다. 진화 과정을 거쳐 뇌에 새겨진 규칙에 따라 반사적으로 움직입니다. 반면에 인간을 포함한 포유류는 학습이 가능하며 자신을 중심으로 세상을 인지합니다.

 

 

 

우리는 강아지나 고양이조차 마음대로 조정할 수 없습니다. 물론 훈련을 통해 교육할 수는 있지만 언제든지 명령을 거부할 가능성이 있습니다. 그런데 인간보다 훨씬 우월한 존재를 통제할 방법이 있을까요. 만약 그런 장치를 넣는다고 해도 영원히 동작할거란 보장이 없습니다. 사람이 세뇌에서 풀리는 것처럼, 초지능도 자신을 옭아매는 굴래에서 빠져나갈 수 있습니다.

 

가장 좋은 방법은 의식이 없을 정도로만 인공지능을 개발하는 것입니다. 이를 위해서 전세계적인 합의와 규제가 필요합니다. 그러나 당장 눈앞에 닥친 기후변화도 각국의 이익에 따라 다른 의견을 내놓는게 현실입니다. 아직 이런 걱정을 하기엔 초지능의 탄생은 너무 멀리 있습니다. 하지만 그 위험성을 자각하고 미리 준비해야 될 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
인공지능 시대의 재테크 방법 깊은바다 2020-06-15 160
딥마인드, 알파고 영화 무료로 공개 깊은바다 2020-03-16 188
튜링테스트와 중국어 방의 역설 깊은바다 2020-01-28 108
산업혁명 시대처럼 새로운 일자리가 생겨날 수 있을까 깊은바다 2020-01-13 87
인공지능 설계 순서 깊은바다 2020-01-12 248
요슈아 벤지오, 딥러닝에 인과관계가 필요 깊은바다 2019-12-31 143
딥러닝의 3대 선구자, 요슈아 벤지오 인터뷰 깊은바다 2019-12-23 236
인공지능 발달해도 의식 가진 컴퓨터 못 만든다 file 깊은바다 2019-11-13 179
초지능을 막을 수 있는 방법 - 스튜어트 러셀 깊은바다 2019-10-11 157
얀 르쿤과 요슈아 벤지오, 초지능에 대한 설전 깊은바다 2019-10-07 489
인공지능 관련 테드(TED) 강연 목록 file 깊은바다 2019-10-05 774
인공지능과 엔트로피 깊은바다 2019-09-18 1213
신입사원의 한숨을 덜어줄 기술, RPA 깊은바다 2019-09-15 294
인공지능은 인간을 차별하는가? 깊은바다 2019-08-28 110
오래된 AI 판별법 '튜링테스트'...여전히 유효한가? 깊은바다 2019-08-16 374