글 수 92

욕설을 찾는 BERT 모델 - Purifier

조회 수 126 추천 수 0 2019.08.28 02:54:11


ap_graph

 

https://github.com/teammatmul/project-purifier

 

 

 

BERT로 욕설을 판단하는 모델입니다. 웹사이트에서 바로 테스트 해보실 수 있습니다. 띄어쓰기를 하지 않거나 중간에 기호가 삽입되면 약간 정확도가 떨어집니다. 그 외에는 상당히 잘 찾아냅니다.

 

욕설의 위치를 마스킹하는 기능도 추가되었습니다. 데이터셋은 단지 '욕설/정상'으로만 라벨이 달려있습니다. 설명에는 puri attention layer를 사용하여 욕설인 토큰을 찾는다고 합니다.

 

무엇보다 크롤링한 10만개의 문장들에 일일이 라벨을 달았다는게 대단합니다. 게다나 욕설을 읽는 스트레스까지 포함하면 고생이 상당했을 텐데요^^; 모델을 구현하는 능력도 중요하지만, 데이터 수집하고 정제하는 노력도 필수적인 것 같습니다.

 

 

 

< 테스트 사이트 >

-> http://www.matmul.net/purifier

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
딥러닝 기반 자연어 언어모델 BERT - Colab 실습 코드 포함 file 깊은바다 2019-09-02 160
욕설을 찾는 BERT 모델 - Purifier 깊은바다 2019-08-28 126
딥러닝을 활용한 뉴스 메타 태깅 깊은바다 2019-08-26 92
100억건의 카카오톡 데이터로 
똑똑한 일상대화 인공지능 만들기 - 핑퐁 멀티턴 file 깊은바다 2019-08-20 211
새로운 자연어처리 벤치마크 - SuperGLUE 깊은바다 2019-08-15 130
딥러닝을 사용하여 심심이의 나쁜말 필터링 기능 구현 깊은바다 2019-08-14 116
위키에서 질문의 답을 찾는 딥러닝 모델, 페이스북의 DrQA file 깊은바다 2019-08-03 110
페이스북이 발표한 사전훈련 언어모델 RoBERTa file 깊은바다 2019-07-30 207
케라스로 만든 한글 Seq2Seq 챗봇 소스코드 깊은바다 2019-07-13 381
딥러닝 자연어처리 강의 - Natural Language Processing with PyTorch 깊은바다 2019-07-06 233
딥러닝을 사용하여 의도 및 엔티티를 파악하는 챗봇 소스코드 file 깊은바다 2019-06-25 523
가짜뉴스를 생성 또는 판별하는 딥러닝 모델 - Grover 깊은바다 2019-06-01 264
GPT2를 Colab에서 테스트할 수 있는 코드 깊은바다 2019-05-21 272
인간의 언어를 이해하는 기계, NLU 깊은바다 2019-05-17 352
Jay Alammar의 트랜스포머 한글 번역글 깊은바다 2019-05-09 279