글 수 141


 

https://www.venturesquare.net/845452

 

 

 

"심심이는 이와 관련된 다수의 데이터를 보유하여 윤리 검증 모듈을 도입한 사례로 눈길을 끌고 있다. 실제로 심심이는 2010년대 중반 소셜 챗봇에 대한 윤리 문제가 본격적으로 드러날 때 근본적인 윤리 문제 해결을 위해 연구개발 역량을 집중해왔다. 그 결과 수백만 명의 해당 언어 사용자들에게 챗봇 대화를 10회 이상 교차 검증하도록 하는 크라우드소싱 플랫폼을 개발하는데 성공했다. 현재까지 30개 이상의 언어에서 약 3,500만 문장을 검수했고 해당 데이터로 신경망 모델을 제작해 대화 관련 윤리 검증 모델 개발에 성공했다는 설명이다."

 

심심이는 앱 안에 '나쁜말 미션'이라는 메뉴가 있습니다. 다른 사용자들이 가르친 말들을 보기로 보여주고 어떤 것이 부적절한지 선택을 합니다. 미션을 마치면 심심이와 대화할 수 있는 포인트를 보상으로 줍니다. 여기서 수집한 라벨 정보로 나쁜말을 필터링하는 딥러닝 모델을 개발했습니다. 이렇게 사용자를 라벨링에 참여시키는 것도 좋은 방법이라고 생각합니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
챗봇에서 캐릭터는 사용자와 애착을 형성하는 중요한 요소 file 깊은바다 2022-05-19 132
스마일게이트에서 공개한 혐오표현과 인간성평가 데이터셋 깊은바다 2022-03-29 766
우리는 영원할 수 있을까 - 사람을 챗봇으로 복제하기 깊은바다 2022-03-17 814
GPT-3, Dialogflow, 카카오i 오픈빌더 요금 비교 file 깊은바다 2022-03-02 983
70%의 사용자가 웹페이지 검색보다 챗봇을 선호 깊은바다 2022-03-01 792
더 인간적인 챗봇이 장사도 잘한다 깊은바다 2022-02-20 712
AI 기반 챗봇 구현을 위한 기술 동향 깊은바다 2022-01-21 666
키워드로 살펴본 2022 AI봇 트렌드 - 초거대모델, 메타버스, 디지털 휴먼 깊은바다 2022-01-14 497
심심이, 부절절한 문장 판단을 위해 사용자들의 참여를 유도 깊은바다 2022-01-07 366
챗봇의 윤리문제와 방안 file 깊은바다 2021-12-05 259
Woebot도 사람과 비슷한 정도로 유대감이 형성됨 깊은바다 2021-10-27 778
일상대화 챗봇 Replika의 인공지능 기술 깊은바다 2021-10-22 787
이루다 출시 후 200일, 스캐터랩 '팀'의 기록일지 깊은바다 2021-10-08 819
일상대화 챗봇의 가장 핵심은 방대한 데이터에 기반한 다양성 깊은바다 2021-10-06 728
일상대화 챗봇이 사람들간의 관계를 약화시키는게 아닐까 깊은바다 2021-08-31 974