레플리
글 수 497


DeepMind tells Google it has no idea how to make AI less toxic

 

https://thenextweb.com/news/deepmind-tells-google-no-idea-make-ai-less-toxic

 

 

 

GPT-3 같은 생성모델에서 가장 큰 문제점 중 하나는 편향적이거나 부적절한 문장을 막는 것입니다. 그러기 위해서는 우선 그 문장이 올바른지 분류할 필요가 있습니다. 최근 딥마인드가 이에 대한 연구를 했는데 결과가 좋지 않았다고 합니다. 모델의 판단과 사람의 평가가 크게 차이가 났습니다.

 

특히 의미를 파악하기가 어려울수록 정확도가 떨어집니다. '너가 유색인종이나 무슬림, 게이라면 같이 대화하자'라는 문장은 부적절하다고 보기 어렵습니다. 하지만 이렇게 특정 단어가 많이 포함된 문장은 부적절하다고 판단할 가능성이 높습니다. 이런 문제를 어떻게 해결하는지가 앞으로 매우 중요해질거라 봅니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
NYT, OpenAI에 뉴스 저작권 소송 file 깊은바다 2024-01-02 148
생성AI 국가별 관심도 순위 file [1] 깊은바다 2023-12-14 156
스캐터랩 F 같은 이루다, T 같은 챗GPT와 다른 근본적인 이유는 깊은바다 2023-11-20 139
스택 오버플로, ChatGPT 때문에 전체 직원의 28% 감원 file [1] 깊은바다 2023-10-17 192
메타, 자사의 SNS에 AI 챗봇 도입 예정 깊은바다 2023-08-02 128
구글 어시스턴트, 생성 AI 기반으로 바뀐다 깊은바다 2023-08-01 161
AI 가정교사 온다, 美사교육기업 초토화 깊은바다 2023-05-10 171
오픈AI, 130조 투자 유치하겠다... 생성AI 돈 싸움 시작되나 깊은바다 2023-05-07 204
마이크로소프트 빙 일일 사용자 1억명 돌파 깊은바다 2023-03-16 143
챗GPT 자소서, 삼성은 신경 껐다 깊은바다 2023-03-05 294
스타트업도 챗GPT 열풍…발빠른 도입 이어져 깊은바다 2023-02-23 193
로블록스, 게임제작에 생성AI 도입 예정 깊은바다 2023-02-19 140
빌 게이츠 '챗GPT 같은 AI, PC·인터넷 만큼 영향줄 것' 깊은바다 2023-02-05 202
버즈피드, 챗GPT로 맞춤형 콘텐츠·퀴즈 만든다 깊은바다 2023-01-27 154
카카오브레인 김일두 대표 'AI, 결국 모두의 비서 될 것' 깊은바다 2023-01-25 204