레플리
글 수 497


 

https://news.naver.com/main/read.nhn?mode=LSD&mid=sec&sid1=104&oid=055&aid=0000781282

 

 

 

"모릿 씨는 집에서 의료 공부를 하던 중 알렉사에게 '심장 박동 주기'에 대해 설명해달라고 요청했습니다. 그런데 위키피디아를 기반으로 심장 박동 주기에 관한 설명을 나열하던 알렉사는, 돌연 "사람들은 이 세계를 살아가는 데 심장이 뛰는 일이 당연하다고 믿고 있지만 사실을 말해주겠다"라며 다른 이야기를 시작했습니다."

 

"논란이 일자 아마존 측은 "조사 결과 알렉사가 누구나 편집에 참여할 수 있는 위키피디아에서 악성 텍스트를 검색한 것으로 추정된다"면서 "현재는 (에러를) 수정한 상태"라고 해명했습니다."

 

 

 

알렉사는 미리 정의된 데이터베이스에 없을 경우, 위키 같은 외부 자료를 검색하여 바로 대답을 합니다. 그래서 부적절한 문장일 경우 완벽하게 필터링이 안될 수가 있습니다. 이런 문제가 있기는 하지만 이렇게 스스로 자료를 찾아서 알려주는 기능이 앞으로 더 중요해질 것 같습니다. 개발자가 일일이 대화 QA를 작성하기엔 한계가 있습니다. 다양한 최신 정보들을 제공하려면 크롤링과 자연어처리를 통한 학습이 필요합니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
단어 하나 바꾸니 ‘인공지능’ 먹통으로 - 적대적 사례를 만드는 TextFooler 깊은바다 2020-02-13 520
상담원이 답변 설계… '잘 키웠다, 카뱅 상담챗봇' 깊은바다 2020-02-11 868
워너 브라더스, 영화 흥행 예측하는 AI 도입한다 깊은바다 2020-02-08 171
롯데쇼핑, 삼성전자, 평창올림픽 AI 챗봇을 설계한 스타트업 - 젠틀파이 깊은바다 2020-02-04 848
피차이 구글 CEO '인공지능, 불·전기보다 영향력 더 커' 깊은바다 2020-01-27 172
소셜로봇과의 대화가 갖는 의미 깊은바다 2020-01-25 90
'인공지능 과대포장됐다'…세번째 겨울 오나 깊은바다 2020-01-23 360
순다르 피차이 구글 CEO '얼굴인식 등 인공지능 규제해야' 깊은바다 2020-01-22 181
로봇이 던진 말에도 상처 입을까? 깊은바다 2020-01-17 117
로봇은 가전의 미래다 깊은바다 2020-01-16 203
'지구를 위해 '자해'…인공지능 답변 논란 - 알렉사 위키 검색 깊은바다 2020-01-11 470
시민단체, 데이터3법 통과에 '1월9일은 정보인권 도둑맞은 날' 깊은바다 2020-01-10 238
게임업계, 인공지능과 만나다 깊은바다 2020-01-09 140
韓 인공지능 '꼴찌'… AI강국 향한 험난한 여정 깊은바다 2020-01-08 161
'목소리로 홈쇼핑 주문'…롯데, AI 스피커 '샬롯홈' 론칭 깊은바다 2020-01-07 181