글 수 460


DeepMind tells Google it has no idea how to make AI less toxic

 

https://thenextweb.com/news/deepmind-tells-google-no-idea-make-ai-less-toxic

 

 

 

GPT-3 같은 생성모델에서 가장 큰 문제점 중 하나는 편향적이거나 부적절한 문장을 막는 것입니다. 그러기 위해서는 우선 그 문장이 올바른지 분류할 필요가 있습니다. 최근 딥마인드가 이에 대한 연구를 했는데 결과가 좋지 않았다고 합니다. 모델의 판단과 사람의 평가가 크게 차이가 났습니다.

 

특히 의미를 파악하기가 어려울수록 정확도가 떨어집니다. '너가 유색인종이나 무슬림, 게이라면 같이 대화하자'라는 문장은 부적절하다고 보기 어렵습니다. 하지만 이렇게 특정 단어가 많이 포함된 문장은 부적절하다고 판단할 가능성이 높습니다. 이런 문제를 어떻게 해결하는지가 앞으로 매우 중요해질거라 봅니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
세계적 인공지능 석학, AI의 편향을 말하다 깊은바다 2021-12-04 34
GPT-3 대기자 명단이 사라지고 바로 사용 가능해짐 깊은바다 2021-11-23 365
패션 모델 옷 갈아입히고, 포즈 바꾸고… AI가 한 일입니다 깊은바다 2021-11-22 373
나는 인간이 아니다. 초거대 인공지능이다 깊은바다 2021-11-17 508
사진 한장으로 아바타 영상을 만드는 NVIDIA 데모 깊은바다 2021-11-16 533
AI 패권은 이미 중국에…美, 15년간 이길 가망 없다 깊은바다 2021-11-03 869
어도비의 딥페이크 프로젝트 - 모피어스(Morpheus) 깊은바다 2021-11-01 797
서강대 대학원 인공지능학과 첫 신입생 모집 깊은바다 2021-10-21 573
전화 상담원 다 사라지나… AI 콜센터 눈독 들이는 네이버·카카오 깊은바다 2021-10-14 752
미국의 탐사프로그램인 60 Minutes에서 다룬 딥페이크 기술 깊은바다 2021-10-12 648
손정의가 꿈꾸는AI 기반 일본의 부흥 깊은바다 2021-10-07 751
삼성전자, 뇌를 닮은 차세대 뉴로모픽 반도체 비전 제시 깊은바다 2021-10-05 623
인공지능 기술로 고인 목소리 재현 깊은바다 2021-09-27 844
딥마인드, 부적절한 문장을 판단하기가 어렵다는 연구 발표 깊은바다 2021-09-23 967
메타버스는 기존 온라인 게임이랑 무엇이 다른가 깊은바다 2021-09-14 1036