글 수 121


인공지능 챗봇 '이루다' 페이스북 캡처.

 

http://mobile.busan.com/view/biz/view.php?code=2021010919123748382

 

 

 

요즘 이루다가 인기를 얻고 있는 만큼 논란도 거세지고 있습니다. 크게 성희롱, 편향, 개인정보유출 3가지 문제인데요. 이전 핑퐁 모델을 기반으로한 드림이나 파이팅 루나는 모든 대화를 직접 작성하였습니다. 반면에 루다는 수집한 카톡 대화를 전처리만 하여 그대로 대답에 사용합니다. 100억건의 데이터인 만큼 사람이 전수 검사하기 불가능합니다. 그래서 이런 취약점들이 더 잘 드러나지 않았나 생각됩니다.

 

특히 개인정보유출이 가장 심각한 사항이라 봅니다. 성희롱이나 편향은 다른 인공지능에서도 이슈가 많이 되어서 익숙한 편입니다. 지속적으로 노력하면 충분히 보완할 수 있습니다. 그러나 개인정보는 다릅니다. 비식별화가 힘들기도 하지만, 100% 가능하다고 해도 여전히 문제가 남습니다. 회사가 자신의 개인정보를 남용하지 않을 거라고 완전히 신뢰하기 어렵기 때문입니다.

 

아시다시피 카톡 대화는 스캐터랩의 다른 앱인 연애의 과학에서 수집했습니다. 카톡에서 대화기록을 해당앱으로 보내면 바로 서버로 전송하여 분석합니다. 이때 먼저 로컬에서 사용자가 민감한 대화를 수정하거나 삭제하는 과정을 추가하면 어떨까 합니다. 물론 대화량이 많은 만큼 대부분 그대로 넘기겠지만, 자신의 개인정보에 통제권을 가지고 있다고 느끼게 됩니다.

 

지금 스캐터랩은 여기에 대처하느라 정신이 없으실 텐데요. 아무쪼록 잘 해결이 되었으면 합니다. 좋은 선례를 남겨야 후발 업체들도 더욱 안전하고 사회에 도움이 되는 챗봇을 개발할 수 있으니까요.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
제조사만의 음성비서를 만들 수 있는 Alexa Custom Assistant update 깊은바다 2021-03-02 22
챗봇이란, 챗봇 개념 쉽게 이해하기 깊은바다 2021-02-19 128
전문가보다 아기 같은 페르소나를 가진 챗봇이 사용자에게 호감 깊은바다 2021-02-08 139
타로챗봇 라마마 대표 인터뷰 깊은바다 2021-02-05 149
챗봇 대화만으로 수익을 얻을 수 있을까 file 깊은바다 2021-02-01 214
인공지능 챗봇(Chatbot), 챗봇 역사의 모든 것 깊은바다 2021-01-27 142
일상대화 챗봇 이루다, 일시 중단 결정 깊은바다 2021-01-14 90
20살 AI '이루다'를 아시나요…그녀를 둘러싼 3가지 논란 깊은바다 2021-01-14 109
중국의 일상대화 챗봇 샤오이스(Xiaoice)에 대한 심층 기사 깊은바다 2020-12-13 286
게임에서 바라본 챗봇 - 캐릭터를 표현하는 챗봇을 구현하기 위한 키워드들 file 깊은바다 2020-11-24 160
구글홈(네스트) 허브의 킬러 콘텐츠는 유튜브 file 깊은바다 2020-11-13 101
알렉사 스킬의 등록 개수가 감소하고 있는 이유 깊은바다 2020-11-09 156
SM엔터테인먼트의 걸그룹 에스파, 인공지능 아바타를 전면에 내세움 깊은바다 2020-10-30 186
AI 스피커에서 맥락 이해를 위한 카이스트의 실험 깊은바다 2020-10-28 166
UX 관점에서 본 챗봇과 음성봇 - 문맥 처리 방법 깊은바다 2020-10-17 161