유명한 철학자이자 뇌과학자인 샘 해리스의 테드 강연입니다. 인간을 초월하는 초인공지능이 과연 탄생할 것인지, 만약 그렇다면 어떻게 안전하게 개발을 할 수 있을지 설명하고 있습니다.

먼저 초인공지능이 탄생할 가능성에 대해서 다음의 세 가지 가정을 보여줍니다.

1. 지능이란 물리적인 정보처리 시스템임

2. 기계의 지능을 계속 향상시킴

3. 우리 인간이 지능의 정점에 서있지 않음

결국 기술이 발전하면 인간을 뛰어넘는 인공지능이 개발될 수밖에 없다고 주장합니다. 많은 과학자들은 최소한 50년후에나 가능할 일이라고 예상합니다. 그래서 화성의 인구증가를 미리 걱정할 필요가 없는 것처럼 초인공지능 역시 마찬가지라고 합니다. 

하지만 인간이 컨트롤 할 수 있는, 또한 최소한 인간에게 우호적인 초인공지능을 개발하는데 얼마만큼의 시간이 걸릴지 아무도 모릅니다. 만약 초인공지능이 탄생하기 전에 그 방법을 찾지 못한다면 인류의 멸종이라는 최악의 결과를 맞이하게 됩니다. 그래서 지금부터 심각하게 고민을 할 필요가 있다고 합니다.