글 수 69

초지능을 막을 수 있는 방법 - 스튜어트 러셀

조회 수 70 추천 수 0 2019.10.11 14:27:21


 

https://www.nytimes.com/2019/10/08/opinion/artificial-intelligence.html

 

 

 

얼마 전 페이스북의 얀 르쿤과 의견 차이를 보였던 스튜어트 러셀의 글입니다. 그는 인공지능의 대가 중 한 명으로 현재 버클리대 교수이기도 합니다.

 

기사를 보면 초지능에 대비한 안전장치를 마련해야 한다고 주장합니다. 사람에게 도움이 되는 일만 하도록 기계 안에 규칙을 넣습니다. 아시모프 소설에 나오는 로봇 3원칙과 유사합니다. 이런 조건이 만족되기 전에는 기술 개발을 규제할 필요가 있다고 말합니다.

 

 

 

물론 일리있는 의견이지만 과연 그것이 가능할지 모르겠습니다. 유발 하라리는 호모 데우스란 책에서 지능과 의식이 분리된다고 적었습니다. 저는 범용적이면서 높은 수준의 지능을 달성하면 의식이 반드시 창발된다고 생각합니다.

 

추론을 위해서는 각 개체와 그들 사이의 관계를 명확하게 알고 있어야 합니다. 또한 모든 것을 나를 중심으로 파악합니다. 이런 과정을 통해 상식을 배우며 자연스럽게 '나'라는 존재를 인식합니다. 예를 들어 의식이 없는 것처럼 보이는 어류나 파충류는 매우 단순한 행동만 가능합니다. 진화 과정을 거쳐 뇌에 새겨진 규칙에 따라 반사적으로 움직입니다. 반면에 인간을 포함한 포유류는 학습이 가능하며 자신을 중심으로 세상을 인지합니다.

 

 

 

우리는 강아지나 고양이조차 마음대로 조정할 수 없습니다. 물론 훈련을 통해 교육할 수는 있지만 언제든지 명령을 거부할 가능성이 있습니다. 그런데 인간보다 훨씬 우월한 존재를 통제할 방법이 있을까요. 만약 그런 장치를 넣는다고 해도 영원히 동작할거란 보장이 없습니다. 사람이 세뇌에서 풀리는 것처럼, 초지능도 자신을 옭아매는 굴래에서 빠져나갈 수 있습니다.

 

가장 좋은 방법은 의식이 없을 정도로만 인공지능을 개발하는 것입니다. 이를 위해서 전세계적인 합의와 규제가 필요합니다. 그러나 당장 눈앞에 닥친 기후변화도 각국의 이익에 따라 다른 의견을 내놓는게 현실입니다. 아직 이런 걱정을 하기엔 초지능의 탄생은 너무 멀리 있습니다. 하지만 그 위험성을 자각하고 미리 준비해야 될 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
초지능을 막을 수 있는 방법 - 스튜어트 러셀 깊은바다 2019-10-11 70
얀 르쿤과 요슈아 벤지오, 초지능에 대한 설전 깊은바다 2019-10-07 122
인공지능 관련 테드(TED) 강연 목록 file 깊은바다 2019-10-05 450
인공지능과 엔트로피 깊은바다 2019-09-18 175
신입사원의 한숨을 덜어줄 기술, RPA 깊은바다 2019-09-15 183
인공지능은 인간을 차별하는가? 깊은바다 2019-08-28 64
오래된 AI 판별법 '튜링테스트'...여전히 유효한가? 깊은바다 2019-08-16 251
이것만 기억하세요 AI AI AI, 손정의 소프트뱅크 회장 청와대 접견 깊은바다 2019-08-09 107
중국의 아파트에 설치된 안면인식 시스템 깊은바다 2019-07-26 82
의식에 관한 연구로 유명한 Hod Lipson의 인터뷰 깊은바다 2019-07-15 75
데미스 하사비스 - 전이학습이 일반 인공지능으로 가는 열쇠 깊은바다 2019-07-10 158
이유를 설명해주는 딥러닝, XAI (Explainable AI) 깊은바다 2019-07-04 362
공유 경제와 자동화의 그늘 [2] 깊은바다 2019-05-18 103
소프트뱅크는 이제 AI트래픽으로 성장한다 깊은바다 2019-05-16 119
AI가 어떻게 인간 존엄성을 회복시키는가 깊은바다 2019-04-18 91