글 수 89

아마존 AI '양부모를 죽여라'…섬뜩한 머신러닝

조회 수 66 추천 수 0 2018.12.26 14:58:10


NISI20180822_0014392405_web_201808221900

 

https://news.naver.com/main/read.nhn?mode=LSD&mid=sec&sid1=104&oid=003&aid=0008976134

 

 

 

"미국 최대 전자상거래 업체 아마존의 웹사이트에 작년 한 고객이 남긴 제품 후기다. 그는 아마존의 음성 인식 인공지능 비서 '에코'가 "정말 이 세상의 것이 아닌, 소름끼치는 발언을 했다"고 말했다. 아마존 측은 에코가 자극적인 발언들이 오고가는 인터넷 커뮤니티 '레딧'에서 이와 같은 문장들을 습득한 것으로 보인다고 밝혔다."

 

"아마존은...'알렉사 프라이즈'라고 불리는 연례 대회를 시작했다. 알렉사가 이용자들과 더욱 정교한 토론을 할 수 있도록 정교한 챗봇을 프로그래밍한 팀에는 50만달러의 상금이 주어진다...해당 대회에 참가한 스코틀랜드 헤리엇와트대학 팀은 "레딧을 중심으로 채팅을 하도록 학습시켰을 때, 불쾌한 발언을 하게 됐다"고 말했다."

 

 

 

알렉사 프라이즈는 대학팀을 대상으로 소셜봇을 만드는 대회입니다. 영화, 스포츠, 정치, 경제 등 다양한 주제에 대해서 이야기를 주고받습니다. 하지만 인터넷에서 정보를 수집해 대답을 하기 때문에 부적절한 말이 나올 수도 있습니다. 그런 위험을 감수하고 전체 사용자에게 공개한 이유는 기술 개발을 좀 더 빨리 하기 위해서입니다.

 

'Alexa, Let's chat' 같이 말하면 소셜봇 중 랜덤하게 하나가 선택되어 대화를 시작합니다. 어쩌면 아마존에서 직접 만든 인공지능도 몰래 테스트 하는지도 모릅니다. 거기에 문제가 생겨도 지금처럼 다른 사람의 책임으로 돌릴 수 있습니다. 대학생들이 만든 것이라고 얘기하면 사람들도 좀 더 관대해집니다.

 

 

 

아마존이 이런 논란에도 계속 소셜봇 개발을 진행하는 것은 그만큼 일상 대화가 중요하기 때문입니다. 현재 인공지능 스피커 시장에서 구글의 추격이 거세졌습니다. 지금까지 쌓아온 주도권을 유지하기 위해서는 다른 제품과의 차별점이 부각되어야 합니다.

 

아직 대화 서비스는 보통 기능 위주로 구현됩니다. 날씨나 질문에 대답하거나 음악을 틀어주기도 합니다. 하지만 통계를 보면 '심심해', '우울해' 같은 말을 가장 많이 사용하고 있습니다. 사람들이 정말 인공지능 스피커에게 원하는 것은 이런 감성적인 교감일 수 있습니다.

 

사실 기능 수행보다 일상 대화를 처리하는 것이 개발하기가 훨씬 어렵습니다. 단순히 한 턴씩 주고받는건 어느정도 가능합니다. 하지만 이전의 문맥이나 주제를 계속 유지하며 이어지는 말을 하는건 매우 어렵습니다. 앞으로 이런 기술에 강점을 가진 회사들이 많이 주목을 받지 않을까요.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
실제 뉴스 앵커처럼 말을 하는 알렉사의 새로운 기능 깊은바다 2019-01-19 20
AI 스피커 만족도 1위 카카오 미니…꼴찌는 ‘디자인 낙제점’ KT 기가지니 깊은바다 2019-01-17 19
감성챗봇 헬로우봇, 사용자 마음 사로잡다 - 2018년 매출 6억 달성 깊은바다 2019-01-09 46
아마존 AI '양부모를 죽여라'…섬뜩한 머신러닝 깊은바다 2018-12-26 66
아마존 알렉사의 새 기능, 'Wait' [1] 깊은바다 2018-12-11 59
'AI스피커도 어린이에겐 말조심'...관련법 국회 통과 깊은바다 2018-12-10 30
앤드류 응 인터뷰 - AI, 모든 조직에 스며들어야 깊은바다 2018-11-24 45
다음달 미국에선, 택시기사 없는 택시가 달린다 깊은바다 2018-11-19 36
구글 홈페이지, 더이상 검색창 ‘달랑’ 아니다 - 구글 디스커버 깊은바다 2018-11-12 61
카카오 카풀과 택시 파업 깊은바다 2018-10-27 53
구글 어시스턴트, 시리·알렉사보다 정답률 뛰어나 깊은바다 2018-10-24 52
가열되는 아이폰 신제품 고가 논란…애플, 기능 혁신보다 명품 마케팅에만 몰두 [1] 깊은바다 2018-10-22 37
무인점포 아마존고 '내가 음료수 산 걸 어떻게 알지?' 깊은바다 2018-10-22 53
DARPA 상식 챌린지 깊은바다 2018-10-13 51
사용자에게 먼저 물어보는 Alexa Hunches 깊은바다 2018-09-22 60