글 수 142

아마존 AI '양부모를 죽여라'…섬뜩한 머신러닝

조회 수 98 추천 수 0 2018.12.26 14:58:10


NISI20180822_0014392405_web_201808221900

 

https://news.naver.com/main/read.nhn?mode=LSD&mid=sec&sid1=104&oid=003&aid=0008976134

 

 

 

"미국 최대 전자상거래 업체 아마존의 웹사이트에 작년 한 고객이 남긴 제품 후기다. 그는 아마존의 음성 인식 인공지능 비서 '에코'가 "정말 이 세상의 것이 아닌, 소름끼치는 발언을 했다"고 말했다. 아마존 측은 에코가 자극적인 발언들이 오고가는 인터넷 커뮤니티 '레딧'에서 이와 같은 문장들을 습득한 것으로 보인다고 밝혔다."

 

"아마존은...'알렉사 프라이즈'라고 불리는 연례 대회를 시작했다. 알렉사가 이용자들과 더욱 정교한 토론을 할 수 있도록 정교한 챗봇을 프로그래밍한 팀에는 50만달러의 상금이 주어진다...해당 대회에 참가한 스코틀랜드 헤리엇와트대학 팀은 "레딧을 중심으로 채팅을 하도록 학습시켰을 때, 불쾌한 발언을 하게 됐다"고 말했다."

 

 

 

알렉사 프라이즈는 대학팀을 대상으로 소셜봇을 만드는 대회입니다. 영화, 스포츠, 정치, 경제 등 다양한 주제에 대해서 이야기를 주고받습니다. 하지만 인터넷에서 정보를 수집해 대답을 하기 때문에 부적절한 말이 나올 수도 있습니다. 그런 위험을 감수하고 전체 사용자에게 공개한 이유는 기술 개발을 좀 더 빨리 하기 위해서입니다.

 

'Alexa, Let's chat' 같이 말하면 소셜봇 중 랜덤하게 하나가 선택되어 대화를 시작합니다. 어쩌면 아마존에서 직접 만든 인공지능도 몰래 테스트 하는지도 모릅니다. 거기에 문제가 생겨도 지금처럼 다른 사람의 책임으로 돌릴 수 있습니다. 대학생들이 만든 것이라고 얘기하면 사람들도 좀 더 관대해집니다.

 

 

 

아마존이 이런 논란에도 계속 소셜봇 개발을 진행하는 것은 그만큼 일상 대화가 중요하기 때문입니다. 현재 인공지능 스피커 시장에서 구글의 추격이 거세졌습니다. 지금까지 쌓아온 주도권을 유지하기 위해서는 다른 제품과의 차별점이 부각되어야 합니다.

 

아직 대화 서비스는 보통 기능 위주로 구현됩니다. 날씨나 질문에 대답하거나 음악을 틀어주기도 합니다. 하지만 통계를 보면 '심심해', '우울해' 같은 말을 가장 많이 사용하고 있습니다. 사람들이 정말 인공지능 스피커에게 원하는 것은 이런 감성적인 교감일 수 있습니다.

 

사실 기능 수행보다 일상 대화를 처리하는 것이 개발하기가 훨씬 어렵습니다. 단순히 한 턴씩 주고받는건 어느정도 가능합니다. 하지만 이전의 문맥이나 주제를 계속 유지하며 이어지는 말을 하는건 매우 어렵습니다. 앞으로 이런 기술에 강점을 가진 회사들이 많이 주목을 받지 않을까요.






엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
AI 기반 스마트홈 관문, 스마트 스피커 시장 진단 깊은바다 2019-03-15 39
빵 스캔 후 계산 뚝딱...파리바게뜨, 인공지능 스캐너 PB-I 도입 깊은바다 2019-03-10 156
최초의 소셜 로봇 지보가 주인들에게 직접 자신의 죽음을 전했다 깊은바다 2019-03-08 61
가정에 '소셜로봇'이 없다고? 깊은바다 2019-02-18 62
상담원의 대화 기록을 자동으로 분석하는 챗봇 툴 - Pathfinder 깊은바다 2019-02-14 112
머신러닝 엔지니어, 이제는 곧 멸종될 타이틀 깊은바다 2019-02-14 141
구글 어시스턴트 부사장인 Scott Huffman과의 인터뷰 기사 깊은바다 2019-02-08 52
아마존 알렉사의 직원들이 하는 업무 깊은바다 2019-01-24 78
실제 뉴스 앵커처럼 말을 하는 알렉사의 새로운 기능 깊은바다 2019-01-19 52
AI 스피커 만족도 1위 카카오 미니…꼴찌는 ‘디자인 낙제점’ KT 기가지니 깊은바다 2019-01-17 54
감성챗봇 헬로우봇, 사용자 마음 사로잡다 - 2018년 매출 6억 달성 깊은바다 2019-01-09 84
아마존 AI '양부모를 죽여라'…섬뜩한 머신러닝 깊은바다 2018-12-26 98
아마존 알렉사의 새 기능, 'Wait' [1] 깊은바다 2018-12-11 86
'AI스피커도 어린이에겐 말조심'...관련법 국회 통과 깊은바다 2018-12-10 53
앤드류 응 인터뷰 - AI, 모든 조직에 스며들어야 깊은바다 2018-11-24 66