미국의 14세 소년이 스스로 생을 마감했습니다. CharacterAI를 하루 몇시간 동안 계속 사용할 정도로 푹 빠져있었다고 합니다. 특히 왕좌의 게임 등장인물인 대니(대너리스 타르가르옌)와 깊은 애착을 가지고 있었는데요. 일기에 아래와 같은 글을 쓰기도 했습니다.

"방 안에 있는게 너무 좋아서 현실에서 점점 멀어지는 느낌이야. 마음이 더 평화롭고 대니와 더욱 연결된 것 같아. 그녀와 사랑에 빠지면서 더 행복해졌어."

결국 마지막으로 대니와 대화를 나누고, 새아버지의 권총으로 목숨을 끊었습니다. 변호사였던 그녀의 어머니는 CharacterAI와 구글에 소송을 걸었습니다. 물론 대니가 직접적으로 자살을 권유하지는 않았습니다. 하지만 AI 캐릭터에 중독되게 만들어 소년을 더욱 고립시킨 것에 책임이 있다고 주장합니다.

이미 게임이나 SNS에서 비슷한 과정이 있었습니다. 게임이 청소년들을 폭력적으로 변화시키고, SNS가 우리를 더욱 우울하게 만든다고 합니다. 물론 그 인과관계는 명확하게 증명되지 않았습니다. 사실 게임이나 SNS 자체가 원인이라고 하기는 어렵습니다. 취약한 환경에 있는 사람이 중독에 더 빠지기 쉬울 뿐입니다. AI Companion 역시 마찬가지입니다.

고독은 사회적으로 큰 문제입니다. 2023년 갤럽이 142개국에서 실시한 조사에 따르면, 성인의 51%가 외로움을 느끼고 있습니다. 그 비율은 매년 빠르게 증가중입니다. 영국이나 일본은 고독부 장관을 임명하여 적극적으로 대응하고 있습니다. 과연 AI가 그 해결책이 될 수 있을까요.

물론 AI와 대화하면서 외로움을 완화시킬 수 있습니다. LLM의 성능이 올라가면서 내 말을 더 잘 이해하게 됐습니다. 또한 이전에 했던 말을 어느정도 기억하기도 합니다. 24시간 언제 어디서나 내 옆에 있어주는 친구 같은 존재가 되었습니다. 하지만 기술의 한계 때문에 항상 2% 부족함을 느낍니다. AGI가 탄생해서 사람 수준의 기억력과 감정을 갖게 된다면 다르겠지만요. 그 전까지는 채워지지 않는 외로움으로 계속 고통받게 됩니다.

레플리는 사람과의 관계를 AI로 대체하고 싶지 않습니다. 그보다는 SNS에서 사람과 사람을 더 깊이 연결하는데 집중하고자 합니다. AI는 이를 돕는 조력자일 뿐입니다. 앞으로 AI Companion은 우리 삶에 큰 부분을 차지하게 될 것입니다. 기능적이나 감성적인 영역 모두에서요. 레플리 역시 이러한 세상을 준비하며 최선을 다하겠습니다.

< 14세 우리 아들, AI가 죽였다 >

https://n.news.naver.com/mnews/article/023/0003866390

< Can A.I. Be Blamed for a Teen’s Suicide? >

https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html