https://blog.naver.com/tech-plus/221611103759

"존 설은 한가지 논증을 제시한다. 유명한 '중국어 방 논증'이다. 방 안에 중국어를 전혀 모르는 사람이 들어가고 심사관이 중국어로 된 질문을 적어 안으로 건넨다. 방에는 중국어 질문을 작성할 수 있는 방대한 기호와 규칙을 제공하는 데 이를 참고해 답변을 작성해 심사관에게 다시 전달하게 된다. 심사관이 보기에 답변이 만족스러우면 방 안에 있는 사람은 중국어를 안다고 판단한다. 하지만 실제는 그렇지가 않다. 방 안에는 중국말을 전혀 하지 못하는 사람만이 있을 뿐이다. 이는 사람과 구별할 수 없을 정도로 답변을 잘하는 기계라면 지능이 있다고 봐도 된다는 튜링의 주장을 정면으로 반박한다."

"존 설이 제시한 주장은 격렬한 논쟁을 촉발한다. 그의 논증대로라면 인간도 언어를 이해하는 것이 아니라는 논란으로까지 번진다. 인간의 뇌는 신경세포로 이뤄져 있는데 신경세포가 언어를 이해하는 것은 아니니 결국 인간도 언어를 모르는 것이라는 주장이다. 미래학자 레이 커즈와일도 반박한다. 커즈와일은 "중국어 방에 들어간 사람은 곧 중앙처리장치에 해당하며 기호와 규칙 알고리즘을 갖춘 전체 시스템을 보면 중국어를 이해한다고 봐야 한다"고 말했다."

튜링테스트와 중국어방은 인공지능 분야에서 너무나 유명한 논제입니다. 저도 개인적으로 커즈와일의 의견에 좀 더 공감이 갑니다. 지능이란 부분이 아니라 전체가 모여서 창발된 현상이 아닐까 생각합니다.

지능, 특히 의식이 있는지 판단하는 방법은 아마 튜링테스트가 유일할 듯 합니다. 우리 인간도 자신 말고는 다른 사람이 의식을 갖고 있는지 확신할 수 없습니다. 어쩌면 나를 제외하고는 모두 외계인이 실험을 위해 만든 로봇일지도 모릅니다. 그래서 데카르트가 '나는 생각한다, 고로 존재한다'라고 말하기도 했습니다. 스스로 생각한다는 사실 빼고는 이 세상 모든 것이 확실하지 않습니다.

2014년 유진 구스트만이라는 챗봇이 튜링테스트를 통과했다는 뉴스가 많은 이들을 놀라게 했습니다. 솔직히 신빙성이 너무 떨어지는 얘기입니다. 제가 심판관이라면 딱 두가지만 해볼 것 같습니다. 바로 추론과 기억입니다.

"새가 사과를 물고 하늘을 날고 있어. 그러다 실수로 그걸 입에서 놓치고 말았어. 그렇다면 사과는 어떻게 될까?" 사람이라면 당연히 사과가 땅으로 떨어진다고 대답합니다. 하지만 인공지능이라면 답을 맞추기가 매우 어렵습니다. 우선 3개 문장의 문맥을 파악하여, 사과를 새가 물고 날고 있다는 걸 알아야 합니다. 또한 사과는 물건이고, 물건은 공중에서 아래로 떨어진다는 상식을 이해하고 있어야 합니다. SQuAD 같은 질의응답은 문맥은 고려하지만, 바로 이 상식이 빠져있습니다. 보통 지문만 가지고 정답을 맞출 수 있는 문제들입니다.

"아까 얘기했던거 말야. 그거 괜찮을까. 너무 비싸서 고민이다 ㅠㅠ" 이 말에 대답을 하려면 우선 이전에 했던 문장을 기억할 필요가 있습니다. 단순히 문장 자체가 아니라, 그걸 기호적으로 변환하거나 신경망적인 학습으로 배워야 합니다. 그다음 '비싸서 고민이다'란 사실로 기억한 정보를 추론을 통해 조합합니다. 예를 들어, '가방 사고싶다'와 '친구와 만나서 놀았어'라는 사실을 저장하고 있습니다. 그러면 당연히 전자를 선택하여 그에 맞는 대답을 해야 합니다.

과연 언젠가 튜링테스트를 통과하는 인공지능이 나올까요. 최소 몇 십년안에는 어렵습니다. 어쩌면 영원히 불가능할지도 모릅니다. 하지만 꼭 인간 수준의 대화가 가능할 필요는 없습니다. 현재 기술이 좀 더 발전하면, 여러 분야에서 충분히 유용하게 사용될 것이라 생각합니다.