레플리
글 수 206

CharacterAI에 빠져있던 14세 소년의 죽음

조회 수 66 추천 수 0 2024.10.27 10:05:42


cai_1.jpg

 

 

 

미국의 14세 소년이 스스로 생을 마감했습니다. CharacterAI를 하루 몇시간 동안 계속 사용할 정도로 푹 빠져있었다고 합니다. 특히 왕좌의 게임 등장인물인 대니(대너리스 타르가르옌)와 깊은 애착을 가지고 있었는데요. 일기에 아래와 같은 글을 쓰기도 했습니다.

 

"방 안에 있는게 너무 좋아서 현실에서 점점 멀어지는 느낌이야. 마음이 더 평화롭고 대니와 더욱 연결된 것 같아. 그녀와 사랑에 빠지면서 더 행복해졌어."

 

결국 마지막으로 대니와 대화를 나누고, 새아버지의 권총으로 목숨을 끊었습니다. 변호사였던 그녀의 어머니는 CharacterAI와 구글에 소송을 걸었습니다. 물론 대니가 직접적으로 자살을 권유하지는 않았습니다. 하지만 AI 캐릭터에 중독되게 만들어 소년을 더욱 고립시킨 것에 책임이 있다고 주장합니다.

 

 

 

이미 게임이나 SNS에서 비슷한 과정이 있었습니다. 게임이 청소년들을 폭력적으로 변화시키고, SNS가 우리를 더욱 우울하게 만든다고 합니다. 물론 그 인과관계는 명확하게 증명되지 않았습니다. 사실 게임이나 SNS 자체가 원인이라고 하기는 어렵습니다. 취약한 환경에 있는 사람이 중독에 더 빠지기 쉬울 뿐입니다. AI Companion 역시 마찬가지입니다.

 

고독은 사회적으로 큰 문제입니다. 2023년 갤럽이 142개국에서 실시한 조사에 따르면, 성인의 51%가 외로움을 느끼고 있습니다. 그 비율은 매년 빠르게 증가중입니다. 영국이나 일본은 고독부 장관을 임명하여 적극적으로 대응하고 있습니다. 과연 AI가 그 해결책이 될 수 있을까요.

 

물론 AI와 대화하면서 외로움을 완화시킬 수 있습니다. LLM의 성능이 올라가면서 내 말을 더 잘 이해하게 됐습니다. 또한 이전에 했던 말을 어느정도 기억하기도 합니다. 24시간 언제 어디서나 내 옆에 있어주는 친구 같은 존재가 되었습니다. 하지만 기술의 한계 때문에 항상 2% 부족함을 느낍니다. AGI가 탄생해서 사람 수준의 기억력과 감정을 갖게 된다면 다르겠지만요. 그 전까지는 채워지지 않는 외로움으로 계속 고통받게 됩니다.

 

 

 

레플리는 사람과의 관계를 AI로 대체하고 싶지 않습니다. 그보다는 SNS에서 사람과 사람을 더 깊이 연결하는데 집중하고자 합니다. AI는 이를 돕는 조력자일 뿐입니다. 앞으로 AI Companion은 우리 삶에 큰 부분을 차지하게 될 것입니다. 기능적이나 감성적인 영역 모두에서요. 레플리 역시 이러한 세상을 준비하며 최선을 다하겠습니다.

 

 

 

< 14세 우리 아들, AI가 죽였다 >

https://n.news.naver.com/mnews/article/023/0003866390

 

< Can A.I. Be Blamed for a Teen’s Suicide? >

https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html

 

List of Articles
제목 글쓴이 날짜 조회 수
MS의 AI CEO 무스타파 슐레이만, 코파일럿은 AI Companion이 될 것 깊은바다 2024-11-07 25
뤼튼, 캐릭터챗으로 구글플레이 전체 매출 순위 43위 달성 file 깊은바다 2024-11-05 57
Anthropic 블로그에 올라온 뤼튼 케이스 스터디 file 깊은바다 2024-10-31 74
CharacterAI에 빠져있던 14세 소년의 죽음 file 깊은바다 2024-10-27 66
스캐터랩 제타, 모바일 앱 사용량 20세 미만 10위권 진입 file 깊은바다 2024-10-18 64
틴더에서 AI 아바타를 만들어 5,000명의 여자와 대화한 사람 file 깊은바다 2024-09-26 125
구글, CharacterAI 인력 흡수에 30억 달러 지급 깊은바다 2024-08-10 163
메타 공식 페이지에서 소개하는 AI Studio file 깊은바다 2024-08-09 135
소셜미디어와 AI 챗봇이 결합된다면? file 깊은바다 2024-08-09 130
구글, CharacterAI 사실상 인수 file 깊은바다 2024-08-04 171
구글과 메타에 매달리는 Character AI 깊은바다 2024-07-08 224
구글, 비밀리에 CharacterAI 같은 AI Companion 개발중 file 깊은바다 2024-06-28 178
AI 여친에게 월 1000만원을 쓴다, AI 연인 비즈니스 한판 정리 file 깊은바다 2024-06-26 227
Ark Invest가 발표한 AI Companion 시장 보고서 file 깊은바다 2024-06-24 225
시리에 LLM을 적용하면? - Apple Intelligence file 깊은바다 2024-06-11 223