중국이 AI 컴패니언에 강력한 규제를 시작했습니다. 젊은이들이 사람보다 AI와의 관계에 빠지면서 출산율에 악영향을 준다는 우려가 큰 이유입니다. 규제 방안은 다음과 같습니다.
- 정서적 의존·중독을 유발하거나, 현실 인간관계를 해치는 설계 금지
- 연속 사용이 2시간을 넘으면 경고 팝업
- 상대가 사람이 아니라 AI라는 사실을 표시
- 사용자의 극단적인 감정 상태를 실시간으로 감지하는 시스템 구축
- 사용자의 위험이 감지되면 보호자나 긴급 연락처에 연락
- 미성년자에게 가상 연인·가상 가족 서비스를 제공할 수 없음
대부분의 중국 업체들은 여기에 맞게 당장 서비스를 변경하기보다는 해당 기능을 중지하기로 결정했습니다. 가장 유명한 바이트댄스의 Doubao 역시 사용자가 맞춤형 AI 챗봇을 제작하지 못하도록 막았습니다. 대신 규제를 준수하는 별도의 앱을 개발하기로 했습니다.
무엇보다 정서적으로 의존하게 하는 행동을 금지한다는게 너무 모호합니다. 근본적으로 성인에게까지 자유를 제한하는게 옳은 일인지 의문이 듭니다. AI와 감정적 유대를 갖는 걸 범죄로 볼 수 있을까요.
Her의 사만다처럼 AI와 사랑에 빠지는 영화들이 많았습니다. SF 영화에 나온 사실들은 거의 모두 현실로 이루어졌습니다. 그만큼 사람들이 간절히 원하고 꿈꾸던 일이었으니까요. AGI의 시대가 다가올수록 AI와 사람과의 관계는 급격히 바뀔 것입니다. 어쩌면 동성 결혼처럼 AI와의 결혼 역시 합법화될지도 모릅니다.
당장은 인위적으로 막을 수는 있어도, 오히려 더 큰 부작용이 일어날 수 있습니다. 물론 AI 때문에 사람과의 관계가 멀어질 수는 있습니다. 그게 국가적으로는 나쁜 영향을 줄 수도 있고요. 다만 사람과 사귀든 AI와 사귀든 결국 개인의 행복이 제일 중요한 것이 아닐까요.
