글 수 497
https://thenextweb.com/news/deepmind-tells-google-no-idea-make-ai-less-toxic
GPT-3 같은 생성모델에서 가장 큰 문제점 중 하나는 편향적이거나 부적절한 문장을 막는 것입니다. 그러기 위해서는 우선 그 문장이 올바른지 분류할 필요가 있습니다. 최근 딥마인드가 이에 대한 연구를 했는데 결과가 좋지 않았다고 합니다. 모델의 판단과 사람의 평가가 크게 차이가 났습니다.
특히 의미를 파악하기가 어려울수록 정확도가 떨어집니다. '너가 유색인종이나 무슬림, 게이라면 같이 대화하자'라는 문장은 부적절하다고 보기 어렵습니다. 하지만 이렇게 특정 단어가 많이 포함된 문장은 부적절하다고 판단할 가능성이 높습니다. 이런 문제를 어떻게 해결하는지가 앞으로 매우 중요해질거라 봅니다.