레플리
글 수 497


DeepMind tells Google it has no idea how to make AI less toxic

 

https://thenextweb.com/news/deepmind-tells-google-no-idea-make-ai-less-toxic

 

 

 

GPT-3 같은 생성모델에서 가장 큰 문제점 중 하나는 편향적이거나 부적절한 문장을 막는 것입니다. 그러기 위해서는 우선 그 문장이 올바른지 분류할 필요가 있습니다. 최근 딥마인드가 이에 대한 연구를 했는데 결과가 좋지 않았다고 합니다. 모델의 판단과 사람의 평가가 크게 차이가 났습니다.

 

특히 의미를 파악하기가 어려울수록 정확도가 떨어집니다. '너가 유색인종이나 무슬림, 게이라면 같이 대화하자'라는 문장은 부적절하다고 보기 어렵습니다. 하지만 이렇게 특정 단어가 많이 포함된 문장은 부적절하다고 판단할 가능성이 높습니다. 이런 문제를 어떻게 해결하는지가 앞으로 매우 중요해질거라 봅니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
전화 상담원 다 사라지나… AI 콜센터 눈독 들이는 네이버·카카오 깊은바다 2021-10-14 1248
미국의 탐사프로그램인 60 Minutes에서 다룬 딥페이크 기술 깊은바다 2021-10-12 768
손정의가 꿈꾸는AI 기반 일본의 부흥 깊은바다 2021-10-07 1243
삼성전자, 뇌를 닮은 차세대 뉴로모픽 반도체 비전 제시 깊은바다 2021-10-05 727
인공지능 기술로 고인 목소리 재현 깊은바다 2021-09-27 929
딥마인드, 부적절한 문장을 판단하기가 어렵다는 연구 발표 깊은바다 2021-09-23 1024
메타버스는 기존 온라인 게임이랑 무엇이 다른가 깊은바다 2021-09-14 1104
인공지능이 절대 할 수 없는 네 가지 깊은바다 2021-09-10 1178
이마트24, 서울 코엑스에 '완전스마트매장' 개장 깊은바다 2021-09-08 993
OpenAI의 샘 올트먼, GPT-4에 대해서 살짝 공개 깊은바다 2021-09-08 1742
AI 필요한 분야 1순위는 '의료'…만족도 낮은 AI는 '챗봇' 깊은바다 2021-09-06 1042
발 킬머의 목소리를 딥러닝으로 구현한 탑건 후속편이 나올까 깊은바다 2021-09-02 6383
교촌치킨 로봇이 튀긴다...첫 로봇매장 오픈 깊은바다 2021-08-27 980
GPT-3로 만든 피싱 이메일이 사람이 작성한 것보다 더 효과적 깊은바다 2021-08-24 1073
테슬라 AI 데이, 안드레이 카파시의 발표 영상 깊은바다 2021-08-24 996