레플리
글 수 186


인공지능 챗봇 '이루다' 페이스북 캡처.

 

http://mobile.busan.com/view/biz/view.php?code=2021010919123748382

 

 

 

요즘 이루다가 인기를 얻고 있는 만큼 논란도 거세지고 있습니다. 크게 성희롱, 편향, 개인정보유출 3가지 문제인데요. 이전 핑퐁 모델을 기반으로한 드림이나 파이팅 루나는 모든 대화를 직접 작성하였습니다. 반면에 루다는 수집한 카톡 대화를 전처리만 하여 그대로 대답에 사용합니다. 100억건의 데이터인 만큼 사람이 전수 검사하기 불가능합니다. 그래서 이런 취약점들이 더 잘 드러나지 않았나 생각됩니다.

 

특히 개인정보유출이 가장 심각한 사항이라 봅니다. 성희롱이나 편향은 다른 인공지능에서도 이슈가 많이 되어서 익숙한 편입니다. 지속적으로 노력하면 충분히 보완할 수 있습니다. 그러나 개인정보는 다릅니다. 비식별화가 힘들기도 하지만, 100% 가능하다고 해도 여전히 문제가 남습니다. 회사가 자신의 개인정보를 남용하지 않을 거라고 완전히 신뢰하기 어렵기 때문입니다.

 

아시다시피 카톡 대화는 스캐터랩의 다른 앱인 연애의 과학에서 수집했습니다. 카톡에서 대화기록을 해당앱으로 보내면 바로 서버로 전송하여 분석합니다. 이때 먼저 로컬에서 사용자가 민감한 대화를 수정하거나 삭제하는 과정을 추가하면 어떨까 합니다. 물론 대화량이 많은 만큼 대부분 그대로 넘기겠지만, 자신의 개인정보에 통제권을 가지고 있다고 느끼게 됩니다.

 

지금 스캐터랩은 여기에 대처하느라 정신이 없으실 텐데요. 아무쪼록 잘 해결이 되었으면 합니다. 좋은 선례를 남겨야 후발 업체들도 더욱 안전하고 사회에 도움이 되는 챗봇을 개발할 수 있으니까요.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
상담챗봇에 대한 뉴욕타임즈의 기사 깊은바다 2021-06-03 289
일상대화 챗봇 레플리카(Replika)의 의상과 AR 기능 file 깊은바다 2021-05-30 622
챗봇 분석을 위한 20가지 측정 항목 깊은바다 2021-05-19 964
챗봇을 위한 대화는 어떻게 디자인할까 - 챗봇의 기본 요소 정리 깊은바다 2021-04-20 424
컨슈머인사이트, 2019~2020 AI스피커 이용현황-만족도 비교 깊은바다 2021-03-26 230
목적지향 대화인 알렉사 프라이즈 태스크봇(Alexa Prize TaskBot) 대회 깊은바다 2021-03-17 202
제조사만의 음성비서를 만들 수 있는 Alexa Custom Assistant 깊은바다 2021-03-02 209
챗봇이란, 챗봇 개념 쉽게 이해하기 깊은바다 2021-02-19 624
전문가보다 아기 같은 페르소나를 가진 챗봇이 사용자에게 호감 깊은바다 2021-02-08 331
타로챗봇 라마마 대표 인터뷰 깊은바다 2021-02-05 333
챗봇 대화만으로 수익을 얻을 수 있을까 file 깊은바다 2021-02-01 405
인공지능 챗봇(Chatbot), 챗봇 역사의 모든 것 깊은바다 2021-01-27 372
일상대화 챗봇 이루다, 일시 중단 결정 깊은바다 2021-01-14 167
20살 AI '이루다'를 아시나요…그녀를 둘러싼 3가지 논란 깊은바다 2021-01-14 200
중국의 일상대화 챗봇 샤오이스(Xiaoice)에 대한 심층 기사 깊은바다 2020-12-13 618