http://mobile.busan.com/view/biz/view.php?code=2021010919123748382

요즘 이루다가 인기를 얻고 있는 만큼 논란도 거세지고 있습니다. 크게 성희롱, 편향, 개인정보유출 3가지 문제인데요. 이전 핑퐁 모델을 기반으로한 드림이나 파이팅 루나는 모든 대화를 직접 작성하였습니다. 반면에 루다는 수집한 카톡 대화를 전처리만 하여 그대로 대답에 사용합니다. 100억건의 데이터인 만큼 사람이 전수 검사하기 불가능합니다. 그래서 이런 취약점들이 더 잘 드러나지 않았나 생각됩니다.

특히 개인정보유출이 가장 심각한 사항이라 봅니다. 성희롱이나 편향은 다른 인공지능에서도 이슈가 많이 되어서 익숙한 편입니다. 지속적으로 노력하면 충분히 보완할 수 있습니다. 그러나 개인정보는 다릅니다. 비식별화가 힘들기도 하지만, 100% 가능하다고 해도 여전히 문제가 남습니다. 회사가 자신의 개인정보를 남용하지 않을 거라고 완전히 신뢰하기 어렵기 때문입니다.

아시다시피 카톡 대화는 스캐터랩의 다른 앱인 연애의 과학에서 수집했습니다. 카톡에서 대화기록을 해당앱으로 보내면 바로 서버로 전송하여 분석합니다. 이때 먼저 로컬에서 사용자가 민감한 대화를 수정하거나 삭제하는 과정을 추가하면 어떨까 합니다. 물론 대화량이 많은 만큼 대부분 그대로 넘기겠지만, 자신의 개인정보에 통제권을 가지고 있다고 느끼게 됩니다.

지금 스캐터랩은 여기에 대처하느라 정신이 없으실 텐데요. 아무쪼록 잘 해결이 되었으면 합니다. 좋은 선례를 남겨야 후발 업체들도 더욱 안전하고 사회에 도움이 되는 챗봇을 개발할 수 있으니까요.