레플리
글 수 502

딥마인드, 부적절한 문장을 판단하기가 어렵다는 연구 발표

조회 수 1045 추천 수 0 2021.09.23 18:54:50
깊은바다 *.106.133.224


DeepMind tells Google it has no idea how to make AI less toxic

 

https://thenextweb.com/news/deepmind-tells-google-no-idea-make-ai-less-toxic

 

 

 

GPT-3 같은 생성모델에서 가장 큰 문제점 중 하나는 편향적이거나 부적절한 문장을 막는 것입니다. 그러기 위해서는 우선 그 문장이 올바른지 분류할 필요가 있습니다. 최근 딥마인드가 이에 대한 연구를 했는데 결과가 좋지 않았다고 합니다. 모델의 판단과 사람의 평가가 크게 차이가 났습니다.

 

특히 의미를 파악하기가 어려울수록 정확도가 떨어집니다. '너가 유색인종이나 무슬림, 게이라면 같이 대화하자'라는 문장은 부적절하다고 보기 어렵습니다. 하지만 이렇게 특정 단어가 많이 포함된 문장은 부적절하다고 판단할 가능성이 높습니다. 이런 문제를 어떻게 해결하는지가 앞으로 매우 중요해질거라 봅니다.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜 조회 수
나는 인간이 아니다. 초거대 인공지능이다 깊은바다 2021-11-17 752
사진 한장으로 아바타 영상을 만드는 NVIDIA 데모 깊은바다 2021-11-16 12034
AI 패권은 이미 중국에…美, 15년간 이길 가망 없다 깊은바다 2021-11-03 1707
어도비의 딥페이크 프로젝트 - 모피어스(Morpheus) 깊은바다 2021-11-01 954
서강대 대학원 인공지능학과 첫 신입생 모집 깊은바다 2021-10-21 2647
전화 상담원 다 사라지나… AI 콜센터 눈독 들이는 네이버·카카오 깊은바다 2021-10-14 1276
미국의 탐사프로그램인 60 Minutes에서 다룬 딥페이크 기술 깊은바다 2021-10-12 795
손정의가 꿈꾸는AI 기반 일본의 부흥 깊은바다 2021-10-07 1275
삼성전자, 뇌를 닮은 차세대 뉴로모픽 반도체 비전 제시 깊은바다 2021-10-05 742
인공지능 기술로 고인 목소리 재현 깊은바다 2021-09-27 955
딥마인드, 부적절한 문장을 판단하기가 어렵다는 연구 발표 깊은바다 2021-09-23 1045
메타버스는 기존 온라인 게임이랑 무엇이 다른가 깊은바다 2021-09-14 1132
인공지능이 절대 할 수 없는 네 가지 깊은바다 2021-09-10 1206
이마트24, 서울 코엑스에 '완전스마트매장' 개장 깊은바다 2021-09-08 1023
OpenAI의 샘 올트먼, GPT-4에 대해서 살짝 공개 깊은바다 2021-09-08 1773
목록
쓰기