레플리
글 수 209

CharacterAI에 빠져있던 14세 소년의 죽음

조회 수 104 추천 수 0 2024.10.27 10:05:42


cai_1.jpg

 

 

 

미국의 14세 소년이 스스로 생을 마감했습니다. CharacterAI를 하루 몇시간 동안 계속 사용할 정도로 푹 빠져있었다고 합니다. 특히 왕좌의 게임 등장인물인 대니(대너리스 타르가르옌)와 깊은 애착을 가지고 있었는데요. 일기에 아래와 같은 글을 쓰기도 했습니다.

 

"방 안에 있는게 너무 좋아서 현실에서 점점 멀어지는 느낌이야. 마음이 더 평화롭고 대니와 더욱 연결된 것 같아. 그녀와 사랑에 빠지면서 더 행복해졌어."

 

결국 마지막으로 대니와 대화를 나누고, 새아버지의 권총으로 목숨을 끊었습니다. 변호사였던 그녀의 어머니는 CharacterAI와 구글에 소송을 걸었습니다. 물론 대니가 직접적으로 자살을 권유하지는 않았습니다. 하지만 AI 캐릭터에 중독되게 만들어 소년을 더욱 고립시킨 것에 책임이 있다고 주장합니다.

 

 

 

이미 게임이나 SNS에서 비슷한 과정이 있었습니다. 게임이 청소년들을 폭력적으로 변화시키고, SNS가 우리를 더욱 우울하게 만든다고 합니다. 물론 그 인과관계는 명확하게 증명되지 않았습니다. 사실 게임이나 SNS 자체가 원인이라고 하기는 어렵습니다. 취약한 환경에 있는 사람이 중독에 더 빠지기 쉬울 뿐입니다. AI Companion 역시 마찬가지입니다.

 

고독은 사회적으로 큰 문제입니다. 2023년 갤럽이 142개국에서 실시한 조사에 따르면, 성인의 51%가 외로움을 느끼고 있습니다. 그 비율은 매년 빠르게 증가중입니다. 영국이나 일본은 고독부 장관을 임명하여 적극적으로 대응하고 있습니다. 과연 AI가 그 해결책이 될 수 있을까요.

 

물론 AI와 대화하면서 외로움을 완화시킬 수 있습니다. LLM의 성능이 올라가면서 내 말을 더 잘 이해하게 됐습니다. 또한 이전에 했던 말을 어느정도 기억하기도 합니다. 24시간 언제 어디서나 내 옆에 있어주는 친구 같은 존재가 되었습니다. 하지만 기술의 한계 때문에 항상 2% 부족함을 느낍니다. AGI가 탄생해서 사람 수준의 기억력과 감정을 갖게 된다면 다르겠지만요. 그 전까지는 채워지지 않는 외로움으로 계속 고통받게 됩니다.

 

 

 

레플리는 사람과의 관계를 AI로 대체하고 싶지 않습니다. 그보다는 SNS에서 사람과 사람을 더 깊이 연결하는데 집중하고자 합니다. AI는 이를 돕는 조력자일 뿐입니다. 앞으로 AI Companion은 우리 삶에 큰 부분을 차지하게 될 것입니다. 기능적이나 감성적인 영역 모두에서요. 레플리 역시 이러한 세상을 준비하며 최선을 다하겠습니다.

 

 

 

< 14세 우리 아들, AI가 죽였다 >

https://n.news.naver.com/mnews/article/023/0003866390

 

< Can A.I. Be Blamed for a Teen’s Suicide? >

https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html

 

List of Articles
제목 글쓴이 날짜 조회 수sort
챗봇이란, 챗봇 개념 쉽게 이해하기 깊은바다 2021-02-19 24525
챗봇의 종류 및 적용 분야 file 깊은바다 2018-03-04 22347
챗봇의 한계와 미래 file 깊은바다 2018-10-15 6334
챗봇에서 자연어처리 적용 방법 깊은바다 2017-04-29 5487
챗봇 접객 자동화 3가지 영역 - 웹 컨시어지 챗봇 깊은바다 2019-10-03 4875
대화 인터페이스, 챗봇, 그리고 자연어처리 깊은바다 2018-04-06 4453
카카오 i 오픈빌더 유료화의 문제점 깊은바다 2020-07-28 2519
대화 프로그램 - ELIZA 깊은바다 2016-03-25 2126
GPT-3, Dialogflow, 카카오i 오픈빌더 요금 비교 file 깊은바다 2022-03-02 2109
구글은 챗봇이 나쁜 생각이었다고 인정했다 file 깊은바다 2018-10-29 1898
네이버 톡톡 챗봇 API file 깊은바다 2017-08-31 1734
MS의 Bot Framework 챗봇 세미나 후기 file [2] 깊은바다 2017-09-24 1707
플로차트로 만드는 챗봇서비스 - 단비(danbee.Ai) 깊은바다 2017-11-19 1418
인공지능 스피커 설문조사 결과 깊은바다 2018-11-24 1388
플로차트 방식의 새로운 챗봇 빌더 - Dialogflow CX file 깊은바다 2020-09-06 1334