글 수 497
"과학자들이 생각해온 초지능 AI의 통제 방법은 두 가지다. 첫 번째는 인터넷과 다른 모든 기술 장치로부터 차단하여 AI를 외부 세계와 아예 접촉하지 못하게 하는 것이다. 하지만 이 방법은 AI의 능력을 제한해 훨씬 덜 강력한 초지능 AI를 탄생시킬 뿐이다.
인류에게 가장 이익이 되는 초지능 AI를 탄생시킬 수 있는 다른 하나의 통제 방법은 인간에게 결코 해를 가할 수 없는 윤리 원칙을 프로그래밍하는 것이다. 하지만 막스플랑크연구소의 과학자들은 AI를 통제하기 위한 프로그램 역시 한계를 지니고 있다고 밝혔다."
초지능은 인간의 지능을 훨씬 뛰어넘는 인공지능을 말합니다. 일단 인간 수준의 AI가 만들어진다면 초지능까지는 금방 도달합니다. 자신을 스스로 개선할 수 있고, 그 속도가 진화의 굴레를 벗어나 매우 빠르기 때문입니다.
만약 초지능이 탄생한다면 사람이 통제하기는 거의 불가능합니다. MIT 교수인 맥스 테그마크가 '라이프3.0'이란 책에서 자세히 설명하기도 했습니다. 인터넷을 차단하든 셧다운 코드를 심든, 어딘가는 취약점이 있기 마련입니다. 한번 우리의 손을 빠져나가면 다시는 돌이킬 수 없습니다.
그래서 책에서는 새로운 대안을 제시합니다. 인간에게 우호적인 초지능을 개발하는 것이 유일한 방법이라 말합니다. 하지만 우리의 운명을 다른 존재의 결정에 맡긴다는게 꺼림직합니다. 역사적으로 보면 강자가 약자를 위하는 경우가 거의 없으니까요. 아직 먼 미래의 일이지만 한번쯤 고민해볼 필요가 있을 듯 합니다.