A good interview of Steven Pinker about ChatGPT, its potential uses and limitations.

He says, as I do, that LLMs make up stuff, make stupid mistakes, and don't have common sense, because they do not possess world models

--------------------------------

얼마 전 페이스북의 AI 수장인 얀 르쿤이 위와 같은 글을 남겼습니다. 항상 느끼는 거지만 얀 르쿤은 너무 원론적인 면에 집착하는 것 같습니다. 학자 출신이라서 그렇겠지만 기업의 리더로서는 약점이라 생각합니다. 물론 현재 LLM은 실수가 많고 상식이 부족합니다. 그래도 다양한 분야에서 충분히 유용하게 사용할 수 있습니다.

OpenAI의 샘 알트먼은 과거 스타트업을 직접 창업하기도 했고 유명한 VC인 와이콤비네이터의 대표로 일했습니다. 그래서 실제 제품을 만들고 혁신하는 일에 중점을 둡니다. 이미 3년 전부터 GPT-3를 상용화했고 Dalle나 기타 서비스들도 API로 제공하고 있습니다. 그런 노하우들이 쌓여서 ChatGPT가 세상에 나올 수 있었습니다.

구글이나 페이스북은 아직 LLM을 내부적으로만 테스트하고 제품으로 출시하지 않았습니다. 물론 대기업으로서 조심스럽긴 하겠지만, 이 격차가 앞으로 계속 벌어질거라 봅니다. 그런 면에서 국내에서는 네이버가 매우 잘하고 있습니다.