글 수 115


인공지능 챗봇 '이루다' 페이스북 캡처.

 

http://mobile.busan.com/view/biz/view.php?code=2021010919123748382

 

 

 

요즘 이루다가 인기를 얻고 있는 만큼 논란도 거세지고 있습니다. 크게 성희롱, 편향, 개인정보유출 3가지 문제인데요. 이전 핑퐁 모델을 기반으로한 드림이나 파이팅 루나는 모든 대화를 직접 작성하였습니다. 반면에 루다는 수집한 카톡 대화를 전처리만 하여 그대로 대답에 사용합니다. 100억건의 데이터인 만큼 사람이 전수 검사하기 불가능합니다. 그래서 이런 취약점들이 더 잘 드러나지 않았나 생각됩니다.

 

특히 개인정보유출이 가장 심각한 사항이라 봅니다. 성희롱이나 편향은 다른 인공지능에서도 이슈가 많이 되어서 익숙한 편입니다. 지속적으로 노력하면 충분히 보완할 수 있습니다. 그러나 개인정보는 다릅니다. 비식별화가 힘들기도 하지만, 100% 가능하다고 해도 여전히 문제가 남습니다. 회사가 자신의 개인정보를 남용하지 않을 거라고 완전히 신뢰하기 어렵기 때문입니다.

 

아시다시피 카톡 대화는 스캐터랩의 다른 앱인 연애의 과학에서 수집했습니다. 카톡에서 대화기록을 해당앱으로 보내면 바로 서버로 전송하여 분석합니다. 이때 먼저 로컬에서 사용자가 민감한 대화를 수정하거나 삭제하는 과정을 추가하면 어떨까 합니다. 물론 대화량이 많은 만큼 대부분 그대로 넘기겠지만, 자신의 개인정보에 통제권을 가지고 있다고 느끼게 됩니다.

 

지금 스캐터랩은 여기에 대처하느라 정신이 없으실 텐데요. 아무쪼록 잘 해결이 되었으면 합니다. 좋은 선례를 남겨야 후발 업체들도 더욱 안전하고 사회에 도움이 되는 챗봇을 개발할 수 있으니까요.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
일상대화 챗봇 이루다, 일시 중단 결정 깊은바다 2021-01-14 59
20살 AI '이루다'를 아시나요…그녀를 둘러싼 3가지 논란 깊은바다 2021-01-14 77
중국의 일상대화 챗봇 샤오이스(Xiaoice)에 대한 심층 기사 깊은바다 2020-12-13 263
게임에서 바라본 챗봇 - 캐릭터를 표현하는 챗봇을 구현하기 위한 키워드들 file 깊은바다 2020-11-24 140
구글홈(네스트) 허브의 킬러 콘텐츠는 유튜브 file 깊은바다 2020-11-13 86
알렉사 스킬의 등록 개수가 감소하고 있는 이유 깊은바다 2020-11-09 123
SM엔터테인먼트의 걸그룹 에스파, 인공지능 아바타를 전면에 내세움 깊은바다 2020-10-30 168
AI 스피커에서 맥락 이해를 위한 카이스트의 실험 깊은바다 2020-10-28 146
UX 관점에서 본 챗봇과 음성봇 - 문맥 처리 방법 깊은바다 2020-10-17 139
플로차트 방식의 새로운 챗봇 빌더 - Dialogflow CX file 깊은바다 2020-09-06 347
'헤이, 카카오!'를 불러야 하는 이유 - 호출어 인식 방법 깊은바다 2020-09-02 119
코로나로 인기를 얻고 있는 챗봇, 셰리 터클의 반대 의견 깊은바다 2020-08-25 179
2020년 Alexa Prize 소셜봇 우승팀 - Emora file 깊은바다 2020-08-07 187
챗봇 시장 활성화 먼저, 카카오 유료화는 그 후에 깊은바다 2020-07-30 172
AI 챗봇 '루다'와 랜선 친구가 됐다 - 스캐터랩 대표 인터뷰 깊은바다 2020-07-30 256