글 수 206


mage walking up to a castle

 

https://www.wired.com/story/ai-fueled-dungeon-game-got-much-darker/

 

 

 

AI Dungeon은 텍스트로 하는 어드벤처 게임입니다. 과거 MUD 같은 경우는 2~3단어의 단문으로만 써야 했습니다. 이제는 GPT-3를 사용하기 때문에 긴 문장으로 입력이 가능해졌습니다. 또한 게임의 상황을 설명하는 글도 미리 짜여진 것이 아니라 문맥을 고려하여 새로 만들어냅니다. 덕분에 사용자가 원하는 어떤 방향이라도 플레이할 수가 있습니다.

 

하지만 성적인 내용이 문제가 되었습니다. GPT-3는 자체 데이터로 파인튜닝하는 서비스도 제공하고 있습니다. 아마 기존 어드벤쳐 게임들로 훈련한 데이터에 성인물이 포함되어 있는 듯 합니다. 결국 OpenAI에서 문제를 삼아 개발사에 수정을 요청했고, 자체적인 필터링 모듈을 추가했습니다. 그런데 이게 제대로 작동하지 않아서 일반적인 문장도 걸려진다고 합니다. 반대로 은유적인 표현으로 되어 있는 것은 잡지를 못합니다.

 

앞으로 GPT-3 같은 생성모델이 대중화가 될 텐데요. 이렇게 부적절하거나 편향적인 말을 필터링하는 기능이 매우 중요해질거라 생각합니다. 특히 한 문장만 따로 떼어내서 판단하면 안되고, 여러 문장의 문맥을 파악해야만 해결이 가능할거라 봅니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
모두의 AI학교 아이펠(AIFFEL) 부산/대구/울산 캠퍼스 교육생 모집 file 모두의연구소 2022-06-23 90
kaggle 사이트 관련 [1] gat 2022-06-21 151
카카오톡 오픈채팅방 문의 [1] 외계공룡 2022-06-19 170
챗봇 빌더와 챗봇 모델을 사용하여 직접 개발하는 방법의 차이점은 무엇인가요? [1] 에이아이 2022-06-17 278
해당 기술에 대해 궁금합니다. 아까그분 2022-06-14 181
안녕하세요. 잘부탁드려요~!!! [1] jungjunn 2022-03-31 1513
메타, 메타버스 개발용 AI '빌더 봇' 선봬 깊은바다 2022-02-26 739
일상대화 챗봇 기반 메타버스 플랫폼을 만드실 백엔드 개발자 모집 깊은바다 2022-01-12 401
word2vec 질문입니다. [1] 노력하는돌 2021-09-13 1079
안녕하세요. 제가 속해있는 회사에서 딥러닝 엔지니어를 채용합니다. 깊은바다 2021-08-02 927
딥러닝에 대한 질문드려용 [1] 병쥐 2021-05-17 175
GPT-3를 사용한 AI Dungeon, 문장 필터링에 문제 발생 깊은바다 2021-05-07 183
최근에 KoGpt2 모델 써보신분 있으신가요? [2] 안녕하세영 2021-04-15 491
기존 RNN, Transformer 보다 강력한 시계열 망 입니다. 가을전설 2021-04-08 211
일상대화 챗봇에 도전하실 서버 개발자분을 CTO로 모십니다 깊은바다 2021-04-01 315