레플리
글 수 497

아마존 AI '양부모를 죽여라'…섬뜩한 머신러닝

조회 수 175 추천 수 0 2018.12.26 14:58:10


NISI20180822_0014392405_web_201808221900

 

https://news.naver.com/main/read.nhn?mode=LSD&mid=sec&sid1=104&oid=003&aid=0008976134

 

 

 

"미국 최대 전자상거래 업체 아마존의 웹사이트에 작년 한 고객이 남긴 제품 후기다. 그는 아마존의 음성 인식 인공지능 비서 '에코'가 "정말 이 세상의 것이 아닌, 소름끼치는 발언을 했다"고 말했다. 아마존 측은 에코가 자극적인 발언들이 오고가는 인터넷 커뮤니티 '레딧'에서 이와 같은 문장들을 습득한 것으로 보인다고 밝혔다."

 

"아마존은...'알렉사 프라이즈'라고 불리는 연례 대회를 시작했다. 알렉사가 이용자들과 더욱 정교한 토론을 할 수 있도록 정교한 챗봇을 프로그래밍한 팀에는 50만달러의 상금이 주어진다...해당 대회에 참가한 스코틀랜드 헤리엇와트대학 팀은 "레딧을 중심으로 채팅을 하도록 학습시켰을 때, 불쾌한 발언을 하게 됐다"고 말했다."

 

 

 

알렉사 프라이즈는 대학팀을 대상으로 소셜봇을 만드는 대회입니다. 영화, 스포츠, 정치, 경제 등 다양한 주제에 대해서 이야기를 주고받습니다. 하지만 인터넷에서 정보를 수집해 대답을 하기 때문에 부적절한 말이 나올 수도 있습니다. 그런 위험을 감수하고 전체 사용자에게 공개한 이유는 기술 개발을 좀 더 빨리 하기 위해서입니다.

 

'Alexa, Let's chat' 같이 말하면 소셜봇 중 랜덤하게 하나가 선택되어 대화를 시작합니다. 어쩌면 아마존에서 직접 만든 인공지능도 몰래 테스트 하는지도 모릅니다. 거기에 문제가 생겨도 지금처럼 다른 사람의 책임으로 돌릴 수 있습니다. 대학생들이 만든 것이라고 얘기하면 사람들도 좀 더 관대해집니다.

 

 

 

아마존이 이런 논란에도 계속 소셜봇 개발을 진행하는 것은 그만큼 일상 대화가 중요하기 때문입니다. 현재 인공지능 스피커 시장에서 구글의 추격이 거세졌습니다. 지금까지 쌓아온 주도권을 유지하기 위해서는 다른 제품과의 차별점이 부각되어야 합니다.

 

아직 대화 서비스는 보통 기능 위주로 구현됩니다. 날씨나 질문에 대답하거나 음악을 틀어주기도 합니다. 하지만 통계를 보면 '심심해', '우울해' 같은 말을 가장 많이 사용하고 있습니다. 사람들이 정말 인공지능 스피커에게 원하는 것은 이런 감성적인 교감일 수 있습니다.

 

사실 기능 수행보다 일상 대화를 처리하는 것이 개발하기가 훨씬 어렵습니다. 단순히 한 턴씩 주고받는건 어느정도 가능합니다. 하지만 이전의 문맥이나 주제를 계속 유지하며 이어지는 말을 하는건 매우 어렵습니다. 앞으로 이런 기술에 강점을 가진 회사들이 많이 주목을 받지 않을까요.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
전화 상담원 다 사라지나… AI 콜센터 눈독 들이는 네이버·카카오 깊은바다 2021-10-14 1248
미국의 탐사프로그램인 60 Minutes에서 다룬 딥페이크 기술 깊은바다 2021-10-12 768
손정의가 꿈꾸는AI 기반 일본의 부흥 깊은바다 2021-10-07 1243
삼성전자, 뇌를 닮은 차세대 뉴로모픽 반도체 비전 제시 깊은바다 2021-10-05 727
인공지능 기술로 고인 목소리 재현 깊은바다 2021-09-27 929
딥마인드, 부적절한 문장을 판단하기가 어렵다는 연구 발표 깊은바다 2021-09-23 1024
메타버스는 기존 온라인 게임이랑 무엇이 다른가 깊은바다 2021-09-14 1104
인공지능이 절대 할 수 없는 네 가지 깊은바다 2021-09-10 1178
이마트24, 서울 코엑스에 '완전스마트매장' 개장 깊은바다 2021-09-08 993
OpenAI의 샘 올트먼, GPT-4에 대해서 살짝 공개 깊은바다 2021-09-08 1742
AI 필요한 분야 1순위는 '의료'…만족도 낮은 AI는 '챗봇' 깊은바다 2021-09-06 1042
발 킬머의 목소리를 딥러닝으로 구현한 탑건 후속편이 나올까 깊은바다 2021-09-02 6385
교촌치킨 로봇이 튀긴다...첫 로봇매장 오픈 깊은바다 2021-08-27 980
GPT-3로 만든 피싱 이메일이 사람이 작성한 것보다 더 효과적 깊은바다 2021-08-24 1073
테슬라 AI 데이, 안드레이 카파시의 발표 영상 깊은바다 2021-08-24 996