- AI Dev - 인공지능 개발자 모임
- 정보공유
- 챗봇 딥러닝
글 수 282
http://ndc.vod.nexoncdn.co.kr/NDC2018/slides/NDC2018_0033/index.html
NDC2018에 발표되었던 것으로 딥러닝으로 욕설을 탐지하는 방법을 설명하고 있습니다. 예전에 관련 기사를 소개한 적이 있었는데 최근에 발표자료가 공개되었습니다.
지금까지 유저들의 욕설을 방지하기 위해서는 금칙어를 검사하는 것이 보통이었습니다. 하지만 단어를 변형하거나 중간에 숫자를 넣는 등 우회할 방법이 다양하기 때문에 그리 효과적이지 않았습니다. 또한 '경제개발5개년계획'처럼 욕설로 오탐하는 경우도 많았습니다.
딥러닝의 CNN을 사용하여 새로운 욕설 탐지기를 개발하였는데, 문맥의 의미나 단어의 패턴을 정확하게 판단하기 때문에 90%의 정확도를 보인다고 합니다. 먼저 프로그램으로 한번 문장을 거르고 욕설일 확률이 높은 것만 따로 검토하여 운영자의 부담이 상당히 줄어들었습니다. 앞으로 대부분의 게임이나 웹서비스에서 이런 기술이 사용될 것이라 생각합니다.