![질문-응답을 통한 데이터 수집(ESM)은 위와 같이 진행되었다. [1] 랜덤하게 또는 움직임이 감지되었을 때 ESM 질문은 트리거된다. [2] 스마트 스피커가 “지금 대화하기 좋은가요?”라고 질문한다. [3] 방에 있는 실험자들은 질문에 바로 응답한다. 대화하기 좋으면, “네”라고 대답하고, 무엇을 하고 있었는지 말한다. [4] 대화하기 좋지 않으면, “아니요”라고 대답하고, 무엇을 하고 있었는지 말한다. 실험자의 응답은 녹음되어 데이터로 수집된다.](http://www.aitimes.kr/news/photo/202010/18191_19837_218.jpg)
http://www.aitimes.kr/news/articleView.html?idxno=18191
현재 AI 스피커의 한계 중 하나는 매우 수동적이라는 점입니다. 사용자가 명령을 내려야만 거기에 대답을 합니다. 사람도 비슷합니다. 시키는 일만 하는 직원보다는, 미리 일을 찾아서 해놓는 사람이 더 인정을 받습니다. 이렇게 인공지능이 먼저 작업을 하거나 사용자에게 질문을 하기 위해서는 맥락 이해가 필수적입니다.
2018년 아마존이 Alexa Hunches라는 기능을 내놓기도 했습니다. 사용자가 이전에 말했던 명령 패턴을 분석하여 먼저 질문을 합니다. 예를 들어 특정 시간에 매일 불을 끄라고 했던 걸 파악하고, 그 시간에 '불을 끌까요'하고 미리 물어봅니다. 하지만 아직은 조명, 현관문, 스위치 등 몇몇 IoT 기기에 한정되어 있습니다.
AI 스피커가 선제적으로 질문을 하기 위해서는 지금이 적절한 상황인지 알고 있어야 합니다. 카이스트에서 이런 맥락 이해에 관한 연구를 수행했습니다. 학생 기숙사에 직접 제작한 기기를 설치하고 데이터를 수집했습니다. 20분 정도 시간을 두고 랜덤하게, 또는 동작을 인식하여 변화가 있으면 '지금 대화하기 좋은가요?'하고 물어봅니다. '예'와 '아니요'로 대답을 하고, 지금 무엇을 하고 있었는지 간단하게 설명합니다.
이렇게 모은 데이터를 분석한 결과는 다음과 같습니다. 게임이나 쉬고 있을 때, 기기 앞에 다가왔을때 '예'를 많이 합니다. 반대로 일하고 있거나 기기에서 멀어질때는 주로 '아니요'라고 답합니다. 상식적으로 생각해도 그럴 것 같지만, 이를 실험으로 증명했다는데 의의가 있습니다. 지금은 사람이 직접 무엇을 하고 있었는지 알려주지만, 영상 인식을 사용하면 인공지능이 스스로 판단할 수 있을 것입니다.
사실 중요한 것은 기술보다 사생활 침해 같은 윤리적인 측면입니다. 카메라로 자신의 모습을 일거수일투족 찍고 있다는게 꺼림직할 수 밖에 없습니다. 당연히 기기에서만 처리하는 엣지 컴퓨팅이 필수적입니다. 그렇다고 해도 해킹이나 소프트웨어적인 결함으로 데이터가 유출될 가능성은 여전히 존재합니다.
현재 AI 스피커도 카메라가 달린 모델들이 있습니다. 특히 가정용 로봇은 반드시 영상을 입력으로 받아야 합니다. 이런 프라이버시 문제를 어떻게 극복할지, 사생활에 대한 사람들의 인식이 바뀔 수 있는지가 관건이라고 봅니다.
< “Hello There! Is Now a Good Time to Talk?”: Opportune Moments for Proactive Interactions with Smart Speakers >
- https://kimauk.github.io/file/paper/IMWUT20_smartspeaker.pdf