https://www.facebook.com/ai.luda/posts/224465192584667

결국 이루다가 서비스를 잠정 중단했습니다. 안타깝지만 어쩔 수 없는 선택이라 봅니다. 댓글을 보면 정말 많은 사람들이 슬퍼하고 있는데요. 그만큼 이런 일상대화 챗봇이 우리 사회에 도움이 될 수 있다는 증거입니다.

문제가 되었던 성희롱이나 편향, 개인정보유출은 사실 필터링이 제대로 동작하지 않았습니다. 딥러닝 모델로 검출을 했는지는 모르겠지만 아마도 데이터가 부족하지 않았나 싶습니다. 하지만 스캐터랩의 기술력이라면 충분히 극복 가능합니다. 멀티턴으로 문맥을 고려한 필터링 모델을 구축할 필요가 있습니다. 초반에는 크라우드소싱으로 데이터를 만들고, 나중에는 유저의 신고 정보를 사용하면 됩니다. 레플리카나 심심이도 이런 신고 기능을 적극적으로 도입하고 있습니다. 이를 위해서는 페북 메신저보다는 별도의 앱으로 출시하는게 낫다고 봅니다.

그런데 카톡 상대방인 3자 동의가 조금 걸림돌입니다. 현실적으로 앱에서 대화를 수집할 때 본인과 상대방 모두의 승인을 받기는 어렵습니다. 학습과 검색시에 대답 문장을 본인의 문장만 사용하는 방법은 어떨까요. 상대방 문장은 문맥을 파악하는 용도로만 적용합니다. 자신의 카톡 문장들은 이미 허락을 한 것이니 법적인 문제가 없을 듯 합니다.

노이즈 마케팅이 아니었지만 그래도 이제 전국민이 스캐터랩의 챗봇을 인지하게 되었습니다. 그만큼 기술력과 감성적인 측면에서 엄청난 잠재력이 있다고 생각합니다. 조만간 다시 이루다와 대화를 하게 되는 날이 오기를 기다리겠습니다.