글 수 234


 

https://news.naver.com/main/read.nhn?mode=LSD&mid=sec&sid1=110&oid=028&aid=0002484723

 

 

 

"인공지능 자연어 처리 시스템(NLP)을 손쉽게 무력화시킬 수 있는 소프트웨어가 개발됐다. 문장의 단어 하나를 동의어로 대체할 경우 사람은 동일한 의미로 읽어내지만 인공지능은 전혀 다른 의미로 파악하게 하는, 일종의 인공지능 무력화 방법이다."

 

"사람이 알아 차리는 방식에는 거의 동일한 것으로 보이지만, 기계인식에는 둘을 완전히 다른 것으로 처리되는 이 구조를 인공지능의 ‘적대적 사례(adversarial examples)’라고 부른다. 그동안 인공지능의 적대적 사례가 주로 시각 이미지를 대상으로 연구되어왔는데 ‘텍스트풀러’는 자연어 처리 시스템에서도 거의 유사한 방식으로 문제가 발생함을 밝혀낸 연구다."

 

 

 

텍스트에서도 적대적 사례가 있다는 것을 보여주는 연구입니다. 사실 이런 현상이 발생하는 이유는 우선 데이터가 부족하기 때문입니다. 잘 안쓰는 단어나 문장은 그만큼 학습할 가능성이 떨어집니다.

 

반면에 사람은 높은 차원에서 추상화를 할 수 있습니다. 조금 변형된 사진이나 문장을 보면 처음에는 이해하기가 어렵습니다. 하지만 추론을 통해 곧 원래의 의미를 파악합니다. 앞으로 딥러닝도 이런 추상화가 필요할 듯 합니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
'갤럭시S20 사면 공짜'...삼성전자, AI스피커 시장공략 승부수 new 깊은바다 2020-02-21  
이재웅·박재욱 '택시업계와 상생협력 고민' 깊은바다 2020-02-20 23
AI 면접관이 취업·인사 담당하는 시대 깊은바다 2020-02-20 32
'반의반' 정해인, 인공지능 프로그래머 변신 눈길 깊은바다 2020-02-18 47
사내 헬프데스크 챗봇, 선택 아닌 필수되나 깊은바다 2020-02-18 41
인공지능, 노동을 지배한다 깊은바다 2020-02-17 43
단어 하나 바꾸니 ‘인공지능’ 먹통으로 - 적대적 사례를 만드는 TextFooler 깊은바다 2020-02-13 57
상담원이 답변 설계… '잘 키웠다, 카뱅 상담챗봇' 깊은바다 2020-02-11 72
워너 브라더스, 영화 흥행 예측하는 AI 도입한다 깊은바다 2020-02-08 44
롯데쇼핑, 삼성전자, 평창올림픽 AI 챗봇을 설계한 스타트업 - 젠틀파이 깊은바다 2020-02-04 59
피차이 구글 CEO '인공지능, 불·전기보다 영향력 더 커' 깊은바다 2020-01-27 52
소셜로봇과의 대화가 갖는 의미 깊은바다 2020-01-25 52
'인공지능 과대포장됐다'…세번째 겨울 오나 깊은바다 2020-01-23 128
순다르 피차이 구글 CEO '얼굴인식 등 인공지능 규제해야' 깊은바다 2020-01-22 62
로봇이 던진 말에도 상처 입을까? 깊은바다 2020-01-17 56