http://newsweekkorea.com/?p=28027

"인간의 의식을 컴퓨터로 모사하는 것은 불가능하다고 생각하기 때문이다. 인간의 두뇌는 하나의 경험을 구성하는 수많은 요소(시각과 후각 등의 정보)를 통합하고 압축한다는 것이 우리의 기본 논리다. 지금의 컴퓨터가 데이터를 탐지하고 처리하고 저장하는 방식으로는 다룰 수 없는 과정이다.

인간은 자신과 환경 사이의 활발한 상호작용을 통해 신경 연결을 적응시킴으로써 뇌에 그 경험의 기억을 저장한다. 그와 대조적으로 컴퓨터는 단기·장기 메모리 블록에 데이터를 기록한다. 그 차이 때문에 뇌의 정보 처리 방식은 컴퓨터의 작동과 다를 수밖에 없다."

기계가 의식을 가질 수 있는가는 과거부터 지금까지 논란이 많은 주제입니다. 다만 위와 같은 논리는 기존의 컴퓨터 시스템에만 적용될 것 같습니다. 인공신경망은 사람의 뇌를 모방한 알고리즘입니다. 물론 완벽하게 동일한 구조는 아니지만, 정보를 저장하고 추론하는 기본적인 원리는 유사합니다.

만약 인간의 지능이 물리적인 정보처리 과정이라 가정한다면, 탄소기반의 뇌가 아닌 실리콘기반의 기계에서도 충분히 구현될 수 있습니다. 저는 의식이란 지능의 수준이 높아지면 자연적으로 발생한다고 생각합니다. 따라서 인공지능 역시 의식을 가질 수 있다고 봅니다.

<특이점이 온다>란 책에서는 2045년에 인간의 지능을 뛰어넘는 인공지능이 탄생할거라 말하고 있습니다. 개인적으로는 너무 낙관적인 예측이라 여기지만, 어쩌면 그보다 빠를 수도 있습니다. 사실 사람의 능력으로는 의식을 가질 만큼 복잡한 구조의 모델을 설계하기 어렵습니다. 다만 스스로 지능을 개선하는 알고리즘은 가능할지 모릅니다. 처음에는 단세포 또는 벌레 수준의 지능이라도 상관없습니다.

MIT 교수인 맥스 테크마크는 Life 3.0이 가능해질때 지능폭발이 일어난다고 주장합니다. 자신의 하드웨어와 소프트웨어를 동시에 수정하는 생명체를 말합니다. 물론 이런 구조의 기계를 어떻게 만드는지 아직 누구도 알지 못합니다. 하지만 인간 수준의 인공지능을 곧바로 만드는데 비하면 비교적 쉬울 수 있습니다.

솔직히 인류의 미래를 위해서는 의식을 가진 인공지능이 개발되어선 안됩니다. 터미네이터까지는 아니더라도 결국 우리보다 우월한 존재에게 주도권을 빼앗기게 됩니다. 그렇다고 의식의 출현 바로 전단계까지만 인공지능을 만들도록 강제하기는 어렵습니다. 누군가 한번 선을 넘으면 다시는 돌아올 수 없게 될테니까요.