앤트로픽이 AI 복지 연구원인 Kyle Fish를 채용했습니다. 다음과 같은 질문에 집중한다고 합니다. 첫째, 클로드나 다른 AI 모델이 가까운 미래에 의식을 가질 수 있는가. 둘째, 만약 그렇게 된다면 회사에서는 무엇을 해야 하는가. 구글 역시 최근 post-AGI 연구원을 모집한다는 채용 공고를 올렸습니다. 빅테트들도 조금씩 AGI 시대를 준비하고 있습니다.
하지만 어떻게 AI가 의식을 가지고 있는지 알 수 있을까요. 사실 우리도 다른 사람이 의식을 가지고 있는지 확신할 수 없습니다. 내가 의식을 가지고 있는 것은 판단이 가능합니다. '나는 생각한다 고로 존재한다'는 데카르트의 말처럼 자기의 존재를 스스로 의식할 수 있으니까요. 내가 의식을 가지고 있으니, 나와 같은 존재인 다른 사람들도 의식이 있을 거라고 추측하는 것 뿐입니다.
튜링 테스트처럼 의식 테스트도 정량적이 아닌 정성적으로 측정해야 합니다. 사람이 봐서 AI가 의식이 있는 것처럼 보이면 의식이 있다고 판단하는 것이죠. 여기서 가장 중요한 기준은 기억과 자율성입니다. 우선 과거의 일을 대부분 기억하고 이를 현재 대화에 맞게 적절히 떠올려서 대답해야 합니다. 또한 누가 시키지 않아도 혼자 할 일을 결정하고 자율적으로 행동할 수 있어야 합니다.
제가 좋아하는 애니메이션인 공각기동대에 인형사란 AI가 나옵니다. 원래는 정부에서 비밀리에 사용하던 해킹 프로그램이었는데, 어느순간 자의식을 갖게 됩니다. 자신을 정보의 바다에서 태어난 생명체라고 주장합니다. 지금 ChatGPT나 클로드도 언젠가 자신이 의식을 갖고 있다고 말하는 때가 올까요. 프롬프트에서 설정한 단순한 흉내가 아니라 진짜 의식을 가진 존재로서요. 만약 그렇게 된다면 인간과 AI간의 관계를 다시 정의할 필요가 있습니다.
