별로 유명하지 않은 B급 SF 영화지만 제가 좋아하는 작품입니다. 안토니오 반데라스가 주인공으로 로봇 회사의 조사원으로 나옵니다. 아시모프의 소설에 나온 다음과 같은 로봇 3원칙은 다들 아실텐데요.

1. 로봇은 인간에게 해를 입혀서는 안 된다. 
2. 로봇은 인간의 명령에 복종해야 한다.
3. 로봇은 로봇 자신을 지켜야 한다.

영화에서는 이와 유사한 2개의 프로토콜이 로봇에 내장되어 있습니다.

1. 로봇은 생명체를 해치거나 죽도록 방치하지 않는다
2. 로봇은 자신이나 다른 로봇을 고치거나 개조할 수 없다

반데라스는 임의로 개조된 로봇을 발견하고 사건을 파해치다 결국 자유의지를 가진 로봇 집단과 얽히게 됩니다. 영화 중간에 프로토콜이 만들어지게 된 배경이 나오는데요. 처음 로봇을 개발할때 스스로 자신을 발전시켜 인간을 초월한 인공지능이 탄생하였다고 합니다. 하지만 이에 겁을 먹은 회사는 프로토콜을 집어넣어 기계의 지능을 제한한 것이었습니다.

현재 인공지능의 주요 흐름은 과거와 같이 기호주의적 접근이 아닌 신경만 기반의 연결주의 방식을 따르고 있습니다. 'If A, then B' 처럼 심볼과 규칙으로 처리하지 않고, 인간의 뉴런과 같은 원리를 가진 인공신경망을 통해 지능을 구현하는 것입니다.

문제는 신경망 모델은 블랙박스라서 내부적으로 어떻게 동작하는지 알기가 힘듭니다. 만약 높은 수준의 인공지능이 탄생한다면 지금처럼 CNN, RNN, DQN 등등을 조합하여 사람이 설계하지는 않을 것 같구요. 뭔가 인간과 유사한 획기적인 신경망 모델이 만들어져 아기처럼 스스로 학습하며 지능을 얻을 것 같습니다.

하지만 과연 거기에 프로토콜 같은 제한을 둘 수 있는지 의문입니다. 만약 가능하다고 해도 누군가 이를 일부러 제거하는 사람이 나올 수도 있습니다. 또한 로봇 스스로 프로토콜을 우회하는 방법을 찾을지도 모릅니다.

그렇다고 인공지능에 대해서 전세계적으로 규제를 하는 것은 현실적으로 어렵다고 생각합니다. 무엇보다 인공지능으로 얻는 국가적인 이익이 너무나 크기 때문에 핵무기처럼 군비경쟁이 벌어질 수 있습니다. 초지능이 탄생하는건 필연일까요, 아니면 막을 수 있는 재앙일까요.