https://www.nytimes.com/2019/10/08/opinion/artificial-intelligence.html

얼마 전 페이스북의 얀 르쿤과 의견 차이를 보였던 스튜어트 러셀의 글입니다. 그는 인공지능의 대가 중 한 명으로 현재 버클리대 교수이기도 합니다.

기사를 보면 초지능에 대비한 안전장치를 마련해야 한다고 주장합니다. 사람에게 도움이 되는 일만 하도록 기계 안에 규칙을 넣습니다. 아시모프 소설에 나오는 로봇 3원칙과 유사합니다. 이런 조건이 만족되기 전에는 기술 개발을 규제할 필요가 있다고 말합니다.

물론 일리있는 의견이지만 과연 그것이 가능할지 모르겠습니다. 유발 하라리는 호모 데우스란 책에서 지능과 의식이 분리된다고 적었습니다. 저는 범용적이면서 높은 수준의 지능을 달성하면 의식이 반드시 창발된다고 생각합니다.

추론을 위해서는 각 개체와 그들 사이의 관계를 명확하게 알고 있어야 합니다. 또한 모든 것을 나를 중심으로 파악합니다. 이런 과정을 통해 상식을 배우며 자연스럽게 '나'라는 존재를 인식합니다. 예를 들어 의식이 없는 것처럼 보이는 어류나 파충류는 매우 단순한 행동만 가능합니다. 진화 과정을 거쳐 뇌에 새겨진 규칙에 따라 반사적으로 움직입니다. 반면에 인간을 포함한 포유류는 학습이 가능하며 자신을 중심으로 세상을 인지합니다.

우리는 강아지나 고양이조차 마음대로 조정할 수 없습니다. 물론 훈련을 통해 교육할 수는 있지만 언제든지 명령을 거부할 가능성이 있습니다. 그런데 인간보다 훨씬 우월한 존재를 통제할 방법이 있을까요. 만약 그런 장치를 넣는다고 해도 영원히 동작할거란 보장이 없습니다. 사람이 세뇌에서 풀리는 것처럼, 초지능도 자신을 옭아매는 굴래에서 빠져나갈 수 있습니다.

가장 좋은 방법은 의식이 없을 정도로만 인공지능을 개발하는 것입니다. 이를 위해서 전세계적인 합의와 규제가 필요합니다. 그러나 당장 눈앞에 닥친 기후변화도 각국의 이익에 따라 다른 의견을 내놓는게 현실입니다. 아직 이런 걱정을 하기엔 초지능의 탄생은 너무 멀리 있습니다. 하지만 그 위험성을 자각하고 미리 준비해야 될 것 같습니다.