레플리
글 수 497

아마존 AI '양부모를 죽여라'…섬뜩한 머신러닝

조회 수 175 추천 수 0 2018.12.26 14:58:10


NISI20180822_0014392405_web_201808221900

 

https://news.naver.com/main/read.nhn?mode=LSD&mid=sec&sid1=104&oid=003&aid=0008976134

 

 

 

"미국 최대 전자상거래 업체 아마존의 웹사이트에 작년 한 고객이 남긴 제품 후기다. 그는 아마존의 음성 인식 인공지능 비서 '에코'가 "정말 이 세상의 것이 아닌, 소름끼치는 발언을 했다"고 말했다. 아마존 측은 에코가 자극적인 발언들이 오고가는 인터넷 커뮤니티 '레딧'에서 이와 같은 문장들을 습득한 것으로 보인다고 밝혔다."

 

"아마존은...'알렉사 프라이즈'라고 불리는 연례 대회를 시작했다. 알렉사가 이용자들과 더욱 정교한 토론을 할 수 있도록 정교한 챗봇을 프로그래밍한 팀에는 50만달러의 상금이 주어진다...해당 대회에 참가한 스코틀랜드 헤리엇와트대학 팀은 "레딧을 중심으로 채팅을 하도록 학습시켰을 때, 불쾌한 발언을 하게 됐다"고 말했다."

 

 

 

알렉사 프라이즈는 대학팀을 대상으로 소셜봇을 만드는 대회입니다. 영화, 스포츠, 정치, 경제 등 다양한 주제에 대해서 이야기를 주고받습니다. 하지만 인터넷에서 정보를 수집해 대답을 하기 때문에 부적절한 말이 나올 수도 있습니다. 그런 위험을 감수하고 전체 사용자에게 공개한 이유는 기술 개발을 좀 더 빨리 하기 위해서입니다.

 

'Alexa, Let's chat' 같이 말하면 소셜봇 중 랜덤하게 하나가 선택되어 대화를 시작합니다. 어쩌면 아마존에서 직접 만든 인공지능도 몰래 테스트 하는지도 모릅니다. 거기에 문제가 생겨도 지금처럼 다른 사람의 책임으로 돌릴 수 있습니다. 대학생들이 만든 것이라고 얘기하면 사람들도 좀 더 관대해집니다.

 

 

 

아마존이 이런 논란에도 계속 소셜봇 개발을 진행하는 것은 그만큼 일상 대화가 중요하기 때문입니다. 현재 인공지능 스피커 시장에서 구글의 추격이 거세졌습니다. 지금까지 쌓아온 주도권을 유지하기 위해서는 다른 제품과의 차별점이 부각되어야 합니다.

 

아직 대화 서비스는 보통 기능 위주로 구현됩니다. 날씨나 질문에 대답하거나 음악을 틀어주기도 합니다. 하지만 통계를 보면 '심심해', '우울해' 같은 말을 가장 많이 사용하고 있습니다. 사람들이 정말 인공지능 스피커에게 원하는 것은 이런 감성적인 교감일 수 있습니다.

 

사실 기능 수행보다 일상 대화를 처리하는 것이 개발하기가 훨씬 어렵습니다. 단순히 한 턴씩 주고받는건 어느정도 가능합니다. 하지만 이전의 문맥이나 주제를 계속 유지하며 이어지는 말을 하는건 매우 어렵습니다. 앞으로 이런 기술에 강점을 가진 회사들이 많이 주목을 받지 않을까요.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
이통3사, 앞다퉈 ‘AI 콜센터’ 시장 뛰어든 이유 깊은바다 2021-06-25 378
초대규모 AI 시대, 네이버가 전 세계에서 상용화 가장 빠를 것 깊은바다 2021-06-23 230
커지는 회의론…자율주행 실현 어려운 5가지 이유 깊은바다 2021-06-23 162
KT, 새로운 AI 스피커 '기가지니3' 출시 깊은바다 2021-06-18 117
환상과 실망의 역사…인공지능 붐, 이번에는 다를까 깊은바다 2021-06-16 175
예능 프로에 나온 챗봇 기획자 깊은바다 2021-06-10 402
LG가 점찍은 미래사업 '로봇'… 투자 성적표 '신통찮네' 깊은바다 2021-06-08 180
GPT-3의 10배 크기인 중국의 Wu Dao 초거대 모델 깊은바다 2021-06-06 201
메타버스 속 인공지능 깊은바다 2021-05-30 171
딥마인드, 모회사인 구글에게 비영리기구로 전환해달라고 요청 깊은바다 2021-05-24 238
AI 기술력 뽐낸 구글…기존보다 1000배 센 '몬스터급 검색' 모델 공개 깊은바다 2021-05-21 1006
강의실엔 교수도 교과서도 없지만… AI 대학, 하버드 아성 흔들다 깊은바다 2021-05-18 274
우울하다면 '애쉬' 에게 말을 거세요...청소년 자살 막는 챗봇 깊은바다 2021-05-12 181
중국산 로봇 개 '알파독' 등장…가격 275만원 깊은바다 2021-05-08 180
인공지능 범죄예측 정확도 83%…경찰, 내달 본격도입 깊은바다 2021-05-04 181