https://www.wired.com/story/ai-fueled-dungeon-game-got-much-darker/

AI Dungeon은 텍스트로 하는 어드벤처 게임입니다. 과거 MUD 같은 경우는 2~3단어의 단문으로만 써야 했습니다. 이제는 GPT-3를 사용하기 때문에 긴 문장으로 입력이 가능해졌습니다. 또한 게임의 상황을 설명하는 글도 미리 짜여진 것이 아니라 문맥을 고려하여 새로 만들어냅니다. 덕분에 사용자가 원하는 어떤 방향이라도 플레이할 수가 있습니다.

하지만 성적인 내용이 문제가 되었습니다. GPT-3는 자체 데이터로 파인튜닝하는 서비스도 제공하고 있습니다. 아마 기존 어드벤쳐 게임들로 훈련한 데이터에 성인물이 포함되어 있는 듯 합니다. 결국 OpenAI에서 문제를 삼아 개발사에 수정을 요청했고, 자체적인 필터링 모듈을 추가했습니다. 그런데 이게 제대로 작동하지 않아서 일반적인 문장도 걸려진다고 합니다. 반대로 은유적인 표현으로 되어 있는 것은 잡지를 못합니다.

앞으로 GPT-3 같은 생성모델이 대중화가 될 텐데요. 이렇게 부적절하거나 편향적인 말을 필터링하는 기능이 매우 중요해질거라 생각합니다. 특히 한 문장만 따로 떼어내서 판단하면 안되고, 여러 문장의 문맥을 파악해야만 해결이 가능할거라 봅니다.