생성 에이전트는 ChatGPT로 심즈와 같은 NPC 인공지능을 구현한 방법입니다. NPC의 행동 뿐만 아니라 대화까지 모두 ChatGPT가 수행할 수 있습니다. 앞으로 초거대 AI는 생성 에이전트나 AutoGPT처럼 스스로 행동하는 방식으로 발전하지 않을까 합니다. 지금처럼 질문에 대답만 하는 것은 한계가 있으니까요.
생성 에이전트의 1저자는 스탠포드대에 재학중인 박준성님입니다. 본인과 지도교수님이 게임을 좋아한 것이 논문을 구현하는데 영향을 주었다고 하네요. 최근 초거대 AI의 특징으로 창발적인 현상을 들고 있습니다. 창발이란 단순한 행동들이 합쳐져서 복잡한 행동이 나오는 것을 말합니다.
예를 들어, 새나 벌레는 무리 행동을 하는데 몇 개의 단순한 규칙만 가지고 있습니다. 다른 개체와 적당한 거리를 유지하거나 동일한 방향과 속도를 유지하는 등등. 이런 규칙만으로도 놀랄만큼 복잡하고 유연하게 군집 형태를 유지합니다.
생성 에이전트에서도 창발적인 행동을 관찰할 수 있었습니다. 사용자가 한 에이전트에게 발렌타인데이 파티를 한다고 명령을 내렸습니다. 그러자 그 에이전트가 다른 에이전트들에게 파티에 대해 알리기 시작했습니다. 흥미롭게도 이런 소식이 여러 번 다른 에이전트들에게 전달되면서 파티를 주최한 에이전트의 귀에도 들리게 되었습니다. 과거의 게임들은 이런 이벤트들을 미리 사람이 설계를 해서 구현해놓아야 했습니다.
GPT-3 역시 마찬가지입니다. 이전 버전인 GPT-2에서 보지 못했던 다양한 현상들이 나타났습니다. 프롬프트가 주어지면 거기에 맞는 페르소나를 갖는다던가, in-context learning으로 대화를 하면서도 학습이 가능한 점이 대표적입니다. 이런 사례들은 개발자들이 미리 예상하지 못했던 특징들입니다. 앞으로 더 성능이 높은 모델이 나오면 또 어떤 새로운 현상이 창발될지 모릅니다. 그만큼 AI를 제어하는데 더 어려움이 있겠지만요.