유명한 게임인 디트로이트: 비컴 휴먼의 스토리 영상입니다. 해리슨 포드 주연의 블레이드 러너와 약간 비슷합니다. 인공지능을 가진 안드로이드가 자아를 깨닫고 인간에게 맞선다는 이야기입니다. 이 게임은 그래픽도 매우 뛰어나지만 영화 못지 않은 연출이 정말 인상적입니다.

과연 인공지능이 의식을 가질 수 있을까요. 정말 흥미로운 주제입니다. 인류의 미래를 결정하게 될테니까요. 많은 사람들은 기계는 절대로 의식을 가질 수 없다고 주장합니다. 반면에 어떤 이들은 인간이 단지 실리콘 기반 생명체를 위한 중간단계일 뿐이라고도 말합니다.

저는 개인적으로 인공지능이 언젠가는 의식을 갖게 될거라 생각합니다. 사람의 뇌가 물리학적으로 자아를 만들어 낸다면, 실리콘으로 이루어진 기계 역시 똑같은 과정을 거칠 수 있습니다. 단지 그게 10년 후가 될지, 100년 또는 1000년 후가 될지는 아무도 모르겠지만요.

복잡계 시스템에서 창발(emergence)이란 개념이 있습니다. 단순한 것에서 복잡한 현상이 스스로 발생한다는 이론입니다. 가장 대표적인 예로 플로킹(flocking) 알고리즘이 있습니다. 새나 물고기의 움직임을 시뮬레이션하는 방법입니다. 분리, 정렬, 응집, 회피라는 4가지 단순한 조건만으로도 매우 복잡한 무리 행동이 창발됩니다. (https://bl.ocks.org/veltman/995d3a677418100ac43877f3ed1cc728)

인간의 뇌 역시 마찬가지입니다. 뉴런 하나의 동작은 매우 심플합니다. 여러 입력을 가중치를 곱해서 모두 더하고, 그 합이 특정 역치를 넘어가면 다음 뉴런으로 전달합니다. 그러나 이 뉴런들이 거대한 네크워크를 형성했을 때는 지능이 발현합니다. 의식 역시 창발의 한 형태가 아닐까 합니다.

빌 게이츠, 스티브 호킹, 일론 머스크 등은 인간을 뛰어넘는 초지능에 대해서 우려를 표했습니다. MIT 교수인 맥스 테그마크는 그의 책 라이프 3.0에서 비슷한 의견을 보였습니다. 다만 초지능을 피할 수 없다면, 인간에게 우호적이도록 유도해야 한다고 말합니다. 우리의 존재가 기계의 마음에 따라 결정된다는 사실이 좀 걱정되긴 하지만요. 요즘 딥러닝의 발전 속도를 보면 이런 예측이 먼 미래의 일만은 아닌 것 같습니다.