레플리
글 수 72

파이썬으로 3줄 요약기 만들기

조회 수 10812 추천 수 0 2018.01.19 04:18:57


설명 :  http://blog.theeluwin.kr/post/146188165713/summariz3

테스트 : https://summariz3.herokuapp.com/

 

 

 

현재 다음이나 네이버 뉴스를 보면 자동요약 기능이 있습니다.

긴 문장을 2~3 문장으로 짧게 줄여주어 쉽게 내용을 파악할 수 있게 해줍니다.

이런 기능을 간단하게 파이썬으로 구현한 글입니다.

 

요약을 하기 위한 가장 단순한 방법은 전체 문서에서 가장 중요한 문장을 찾는 것입니다.

대표적으로는 TF-IDF(Term Frequency-Inverse Document Frequency)를 들 수 있는데

단어의 중요도를 먼저 계산한 뒤 각 단어들을 포함한 문장의 중요도를 찾을 수 있습니다.

그리고 가장 수치가 높은 문장을 고릅니다.

 

 

 

위의 글에서는 TextRank라는 알고리즘을 사용하였습니다.

구글에서 검색시 사용하는 PageRank와 비슷한데

각 문장을 Node로 설정하고 Node와 Node 사이의 연결에 가중치를 주어 문장을 뽑아냅니다.

이 연결 가중치는 두 문장에서 같은 단어를 포함하는 유사도를 측정하여 계산하였습니다.

 

이런 방법은 단순히 문장을 그대로 추출하는 것인데

더 발전하면 여러 문장의 의미를 조합하여 새로운 문장을 생성할 수도 있습니다.

영어의 경우 많이 연구되고 있지만 아직 한글은 자연어처리에 어려움이 있는 듯 합니다.

 

 

 

< 챗봇 개발자 모임 >

- 페이스북 그룹에 가입하시면 챗봇에 대한 최신 정보를 쉽게 받으실 수 있습니다.

https://www.facebook.com/groups/ChatbotDevKR/

엮인글 :
List of Articles
제목 글쓴이 날짜sort 조회 수
APEACH – 혐오 발화 평가데이터를 만드는 새로운 방법 깊은바다 2022-04-22 1103
윈도우에서 간편하게 Mecab 설치방법 - pyeunjeon 깊은바다 2021-06-15 500
자연어처리 벤치마크 GLUE의 한글 버전인 KLUE 공개 file 깊은바다 2021-05-22 690
모두의 말뭉치에 새로운 일상 대화 추가 file 깊은바다 2021-04-06 562
자연어처리 벤치마크인 SuperGLUE도 인간의 기록을 경신 [1] 깊은바다 2021-01-21 550
한국어 문장 분리기, KSS(Korean Sentence Splitter) 파이썬 포팅 file 깊은바다 2020-12-23 6165
파이썬 한국어 말뭉치 패키지 - Korpora file 깊은바다 2020-09-12 1512
세종 말뭉치보다 9배 더 큰 한글 코퍼스 공개 - 모두의 말뭉치 file 깊은바다 2020-08-27 3154
한국어 전처리 기법 모음 깊은바다 2020-07-31 4539
예일대의 자연어-SQL 데이터셋, Spider 깊은바다 2020-07-12 531
IBM 왓슨의 자연어처리 방식 깊은바다 2020-06-26 626
매주 한편씩 글을 작성하는 자연어처리 블로그 - 위클리 NLP 깊은바다 2020-06-12 1129
인간의 언어를 이해하는 기계, NLU에는 어떤 것이 있을까? 깊은바다 2020-06-05 417
한글 자모 분리 및 합치기 파이썬 패키지 [1] 깊은바다 2020-03-03 3245
Machine Learning for Kids로 감정분석 깊은바다 2020-02-09 932