레플리
글 수 108

영화 오토마타와 초지능의 탄생

조회 수 212 추천 수 0 2018.06.04 20:28:16


 

 

 

별로 유명하지 않은 B급 SF 영화지만 제가 좋아하는 작품입니다. 안토니오 반데라스가 주인공으로 로봇 회사의 조사원으로 나옵니다. 아시모프의 소설에 나온 다음과 같은 로봇 3원칙은 다들 아실텐데요.

 

1. 로봇은 인간에게 해를 입혀서는 안 된다. 
2. 로봇은 인간의 명령에 복종해야 한다.
3. 로봇은 로봇 자신을 지켜야 한다.

 

 

 

영화에서는 이와 유사한 2개의 프로토콜이 로봇에 내장되어 있습니다.

 

1. 로봇은 생명체를 해치거나 죽도록 방치하지 않는다
2. 로봇은 자신이나 다른 로봇을 고치거나 개조할 수 없다

 

반데라스는 임의로 개조된 로봇을 발견하고 사건을 파해치다 결국 자유의지를 가진 로봇 집단과 얽히게 됩니다. 영화 중간에 프로토콜이 만들어지게 된 배경이 나오는데요. 처음 로봇을 개발할때 스스로 자신을 발전시켜 인간을 초월한 인공지능이 탄생하였다고 합니다. 하지만 이에 겁을 먹은 회사는 프로토콜을 집어넣어 기계의 지능을 제한한 것이었습니다.

 

 

 

현재 인공지능의 주요 흐름은 과거와 같이 기호주의적 접근이 아닌 신경만 기반의 연결주의 방식을 따르고 있습니다. 'If A, then B' 처럼 심볼과 규칙으로 처리하지 않고, 인간의 뉴런과 같은 원리를 가진 인공신경망을 통해 지능을 구현하는 것입니다.

 

문제는 신경망 모델은 블랙박스라서 내부적으로 어떻게 동작하는지 알기가 힘듭니다. 만약 높은 수준의 인공지능이 탄생한다면 지금처럼 CNN, RNN, DQN 등등을 조합하여 사람이 설계하지는 않을 것 같구요. 뭔가 인간과 유사한 획기적인 신경망 모델이 만들어져 아기처럼 스스로 학습하며 지능을 얻을 것 같습니다.

 

 

 

하지만 과연 거기에 프로토콜 같은 제한을 둘 수 있는지 의문입니다. 만약 가능하다고 해도 누군가 이를 일부러 제거하는 사람이 나올 수도 있습니다. 또한 로봇 스스로 프로토콜을 우회하는 방법을 찾을지도 모릅니다.

 

그렇다고 인공지능에 대해서 전세계적으로 규제를 하는 것은 현실적으로 어렵다고 생각합니다. 무엇보다 인공지능으로 얻는 국가적인 이익이 너무나 크기 때문에 핵무기처럼 군비경쟁이 벌어질 수 있습니다. 초지능이 탄생하는건 필연일까요, 아니면 막을 수 있는 재앙일까요.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
한국 인터넷의 아버지 전길남, 우리가 인공지능을 배워야 하는 이유 깊은바다 2022-07-25 751
인공지능이 우리의 뇌를 퇴화시키는 것일까 깊은바다 2022-07-11 518
의식을 가진 인공지능이 탄생할 수 있을까 깊은바다 2022-06-20 542
구글 직원 LaMDA가 지각을 가지고 있다고 주장 - 대화전문 포함 깊은바다 2022-06-15 771
OpenAI의 일리야 수츠케버, 초거대모델이 약한 의식을 가질지도 모른다 file 깊은바다 2022-02-14 1020
메타버스에서도 오토봇이 문제가 될까 깊은바다 2022-02-06 713
디트로이드 비컴 휴먼 - 기계가 의식을 갖게 될까 깊은바다 2022-01-30 777
초거대모델 시대에 AI 개발자의 미래는? file 깊은바다 2021-12-25 390
인공지능은 어떻게 탄생했을까? 깊은바다 2021-10-25 699
딥러닝이 상식에 취약한 이유 file 깊은바다 2021-08-21 1564
초거대 인공지능(AI), 인류 집단 지성에 도전하는 AI의 등장 깊은바다 2021-06-02 196
튜링 테스트를 통과한 AI도 세상을 인간만큼 이해하지 못한다 깊은바다 2021-05-16 189
엔씨소프트의 K팝 메타버스 플랫폼, 유니버스 깊은바다 2021-02-10 853
현실과 가상 속 자아, 이제는 메타버스 시대 깊은바다 2021-02-08 211
4차 산업혁명 시대, 눈높이 맞춤 인공지능 용어 사전 file 깊은바다 2020-08-26 305