글 수 242
https://www.venturesquare.net/845452
"심심이는 이와 관련된 다수의 데이터를 보유하여 윤리 검증 모듈을 도입한 사례로 눈길을 끌고 있다. 실제로 심심이는 2010년대 중반 소셜 챗봇에 대한 윤리 문제가 본격적으로 드러날 때 근본적인 윤리 문제 해결을 위해 연구개발 역량을 집중해왔다. 그 결과 수백만 명의 해당 언어 사용자들에게 챗봇 대화를 10회 이상 교차 검증하도록 하는 크라우드소싱 플랫폼을 개발하는데 성공했다. 현재까지 30개 이상의 언어에서 약 3,500만 문장을 검수했고 해당 데이터로 신경망 모델을 제작해 대화 관련 윤리 검증 모델 개발에 성공했다는 설명이다."
심심이는 앱 안에 '나쁜말 미션'이라는 메뉴가 있습니다. 다른 사용자들이 가르친 말들을 보기로 보여주고 어떤 것이 부적절한지 선택을 합니다. 미션을 마치면 심심이와 대화할 수 있는 포인트를 보상으로 줍니다. 여기서 수집한 라벨 정보로 나쁜말을 필터링하는 딥러닝 모델을 개발했습니다. 이렇게 사용자를 라벨링에 참여시키는 것도 좋은 방법이라고 생각합니다.