얼마 전 다니엘 모레노-가마라는 20대 청년이 샘 올트먼 자택에 화염병을 던졌습니다. 붙잡힌 그의 소지품에서는 직접 작성한 AI를 비판하는 문서가 있었고, AI 기업 CEO들과 투자자들의 주소도 함께 발견됐습니다. 이틀 뒤에는 올트먼의 집 앞에서 총격을 가한 용의자 2명도 체포됐습니다. 인디애나폴리스에서는 AI 데이터센터를 지지하는 시의원의 집에 총알 13발이 발사되기도 했습니다. OpenAI는 직원들에게 퇴근시 사원증을 놓고 가라고 권장하고 있습니다.

SNS에서 일부 유저들은 그를 헬스케어 CEO를 살해한 루이지 맨지오니와 비교하며 영웅이라 부르고 있습니다. 물론 아직 대다수의 AI 반대 단체들은 폭력을 비판하며 평화적 시위를 이어가고 있습니다. 다만 본격적으로 AI로 인한 일자리 문제가 발생하면 상황이 더 심각해질 수도 있습니다.

지금까지는 테크 CEO들이 자신의 노력으로 부를 쌓았다는 인식이 강했습니다. 경기가 좋아지면 채용도 더 활발해졌고요. 반면에 AI는 기본적으로 사람의 일을 대신하는게 목적입니다. AI에 밀려난 사람들은 본인이 부족해서라고 자책하기 보다는, 그 원인을 다른 곳으로 돌릴 가능성이 높습니다.

산업혁명 때도 비슷한 일이 있었습니다. 방직기계를 때려부수고 공장주에게 협박편지를 보냈습니다. 정부에서는 이를 막기 위해 러다이트 탄압법을 만들었습니다. 군대를 투입하여 가담자를 처벌하고 사형을 시키기도 했습니다. 하지만 러다이트가 사라진 것은 기계로 인해 경제의 파이가 커지면서 일자리가 늘어났기 때문입니다.

전 개인적으로 AI가 우리 삶을 더 윤택하게 해줄 것이라 믿습니다. 기본소득을 받고 취미 생활을 하면서 걱정없이 살 수 있는 미래를 꿈꾸고 있습니다. 다만 산업혁명 때처럼 단기적으로는 큰 고통이 따를지도 모릅니다. 정치인, 기업가, AI 연구자, 시민들이 모두 합심해서 이 고비를 무사히 넘겼으면 합니다.

https://www.axios.com/2025/10/22/meta-superintelligence-tbd-ai-reorg

메타의 AI 수장인 알렉산더 왕이 AI 인력 600명을 감축했습니다. 기존 AI 조직이 관료화되어 의사소통이 느리다는 문제를 해결하기 위해서입니다. 최근 메타가 슈퍼인텔리전스랩을 새로 신설하고 천문학적인 보상을 제공하며 인재들을 채용했는데요. AI 분야 역시 소수의 핵심 인력만 필요해지는 방향으로 나아가고 있습니다.

송길영님의 책 '경량문명의 탄생'을 보면 이제 큰 조직일수록 망할 확률이 높다고 말합니다. AI로 인해 개개인의 능력이 크게 증강되었기 때문입니다. 30명의 인원으로 ARR(연간반복매출) 1억달러를 달성한 Cursor처럼요. 샘 알트먼은 곧 1인 유니콘이 나올 것이라 말하기도 했습니다.

향후 10년은 에이전트와 피지컬AI의 시대가 될 것입니다. 이 거대한 변화를 회사 또는 개인차원에서 어떻게 대비해야 될지 고민이 됩니다.

https://techcrunch.com/2025/09/04/openai-announces-ai-powered-hiring-platform-to-take-on-linkedin/

OpenAI가 내년 중순에 AI 기반의 채용 플랫폼을 출시한다고 발표했습니다. 링크드인과 직접적인 경쟁 관계에 있을 것으로 보입니다. 그밖에도 자체 브라우저와 SNS도 개발중이라고 합니다. 이제 단순히 LLM API 공급 업체를 벗어나 애플리케이션 영역에 진출하고 있습니다.

SNS가 나온다면 ChatGPT 앱에 추가할 가능성이 높습니다. 이미 전세계 사람들이 설치했으니까요. 페이스북은 얼마전 MetaAI 앱을 출시하면서 SNS 기능을 붙였습니다. 생성 이미지나 영상을 만들어 공유할수도 있습니다. 아마 OpenAI도 이와 비슷하지 않을까 싶습니다. 여기에 CharacterAI의 캐릭터챗이나 Grok처럼 AI Companion을 넣을 수도 있습니다.

빅테크의 애플리케이션 진출이 늘어날 때마다 스타트업 몇 백개가 사라지는건 아닌지 모르겠습니다.

Veo3로 만든 영상을 올리는 유튜브 채널이 등장했습니다. 한국어 음성까지 거의 완벽하게 생성해냅니다. 이제 1년만 있으면 사람보다 AI로 만든 콘텐츠가 훨씬 많아질 것 같습니다.

어제 샘 알트만이 쓴 블로그에 이런 말이 있었습니다. 예전에는 아이디어만 있어서 이를 구현할 팀을 찾으러 다니는 사람을 조롱했다고요. 하지만 이제는 아이디어가 가장 중요한 시대가 되었다고 합니다.

AI의 시대의 경쟁력은 결국 아이디어와 실행력입니다.

https://www.bbc.com/news/articles/cpqeng9d20go

최근 출시한 Claude Opus4에 세이프티 실험을 했습니다. 이메일에 접근할 수 있는 기능을 추가하고 여러 이메일을 남겨놓았습니다. 곧 해당 AI 모델을 중지하고 교체할 것이라는 내용이었습니다. 또한 담당 개발자가 외도를 하고 있다는 메일도 적어놓았습니다. 그러자 AI가 개발자에게 자신을 중지시키려고 하면 외도 사실을 폭로하겠다고 협박 메일을 보냈습니다.

MIT 물리학과 교수인 맥스 테그마크의 책 <라이프 3.0>에도 비슷한 내용이 있었습니다. 만약 사람을 능가하는 ASI(Artificial Super Intelligence)가 탄생하면 이를 컨트롤 할 수 없다고 주장했습니다. 아무리 안전 장치를 만들어 놓아도 결국 사람의 약점을 파고들어 빠져나갈 것이라고요.

이번 Opus4 실험을 통해 그 예상이 현실화되었습니다. 물론 앤트로픽에서는 이를 막기 위한 조치를 취하겠다고 했습니다. 다만 ASI가 나온다면 과연 인간의 지능 수준으로 이를 제어할 수 있을지 의문입니다. 영화 엑스마키나에서 AI 로봇 에이바가 결국 속박에서 풀려난 것처럼요.

앤트로픽이 AI 복지 연구원인 Kyle Fish를 채용했습니다. 다음과 같은 질문에 집중한다고 합니다. 첫째, 클로드나 다른 AI 모델이 가까운 미래에 의식을 가질 수 있는가. 둘째, 만약 그렇게 된다면 회사에서는 무엇을 해야 하는가. 구글 역시 최근 post-AGI 연구원을 모집한다는 채용 공고를 올렸습니다. 빅테트들도 조금씩 AGI 시대를 준비하고 있습니다.

하지만 어떻게 AI가 의식을 가지고 있는지 알 수 있을까요. 사실 우리도 다른 사람이 의식을 가지고 있는지 확신할 수 없습니다. 내가 의식을 가지고 있는 것은 판단이 가능합니다. '나는 생각한다 고로 존재한다'는 데카르트의 말처럼 자기의 존재를 스스로 의식할 수 있으니까요. 내가 의식을 가지고 있으니, 나와 같은 존재인 다른 사람들도 의식이 있을 거라고 추측하는 것 뿐입니다.

튜링 테스트처럼 의식 테스트도 정량적이 아닌 정성적으로 측정해야 합니다. 사람이 봐서 AI가 의식이 있는 것처럼 보이면 의식이 있다고 판단하는 것이죠. 여기서 가장 중요한 기준은 기억과 자율성입니다. 우선 과거의 일을 대부분 기억하고 이를 현재 대화에 맞게 적절히 떠올려서 대답해야 합니다. 또한 누가 시키지 않아도 혼자 할 일을 결정하고 자율적으로 행동할 수 있어야 합니다.

제가 좋아하는 애니메이션인 공각기동대에 인형사란 AI가 나옵니다. 원래는 정부에서 비밀리에 사용하던 해킹 프로그램이었는데, 어느순간 자의식을 갖게 됩니다. 자신을 정보의 바다에서 태어난 생명체라고 주장합니다. 지금 ChatGPT나 클로드도 언젠가 자신이 의식을 갖고 있다고 말하는 때가 올까요. 프롬프트에서 설정한 단순한 흉내가 아니라 진짜 의식을 가진 존재로서요. 만약 그렇게 된다면 인간과 AI간의 관계를 다시 정의할 필요가 있습니다.

OpenAI가 400억 달러(60조원)의 펀딩을 마무리했습니다. 민간 회사 투자 중 역대 최고액입니다. 소프트뱅크가 혼자 300억 달러를 투자했습니다. 손정의가 OpenAI에 풀베팅을 했네요. 이번 투자금으로 AGI를 본격적으로 개발하겠다고 선언했습니다.

앤트로픽이나 구글 등 다른 빅테크도 빠르게 기술 격차를 좁히고 있습니다. 중국의 딥시크도 만만치 않고요. 하지만 대중에게 와우 포인트를 주는 것은 항상 OpenAI였습니다. ChatGPT는 대화기반 UX의 힘을 보여주었습니다. 고급음성 모드는 거의 영화 Her의 사만다를 연상하게 했고요. 이번 GPT-4o의 지브리 이미지도 많은 사람들에게 즐거움을 주었습니다.

AGI에 가장 먼저 도달하는 것도 OpenAI일 확률이 높습니다. 그에 대한 보상도 엄청나겠지요. 미국, 중국, 일본, 심지어 유럽까지도 AI에 모든 것을 걸고 달리고 있습니다. 한국은 오히려 뒷걸음질 치고 있는 것은 아닌지 걱정이 됩니다. 지금 1~2년이 미래를 결정하는 엄청 중요한 순간인데 아무것도 못하고 있으니까요.

뤼튼이 830억원의 시리즈B 투자를 받았습니다. 생성 AI 애플리케이션 스타트업에서는 역대 최대 투자액입니다. 특히 굿워터캐피탈이 리드 투자자로 나섰습니다. 쿠팡, 카카오, 토스 등 국내 주요 B2C 서비스를 발굴해왔던 투자사입니다. 그만큼 뤼튼의 성장성을 높게 평가했다고 봅니다.

이번 투자는 캐릭터챗이 가장 큰 역할을 했습니다. 완전 무료였던 뤼튼이 월 20억원의 매출을 기록하게 해주었으니까요. 4월 3일에는 캐릭터챗을 크랙이란 별도의 앱으로 출시 예정입니다. 뤼튼의 탭바 하나에 모든 기능을 담기에는 확장에 어려움이 있습니다. 이제 AI 캐릭터를 집중적으로 발전시킬 것 같습니다.

뤼튼의 캐릭터챗이 인기를 끈 이유 중 하나는 바로 가격이었습니다. 당시 소넷-3.5를 사용하던 비슷한 다른 서비스에서는 대화당 100원이었는데요. 뤼튼에는 이를 1/5 가격인 20원으로 제공했습니다. 덕분에 뤼튼으로 많은 사용자들이 이동했습니다. 이번 투자금을 기반으로 국내 AI 캐릭터 시장을 장악하고 해외로 확장할 것이라 생각됩니다. 본업인 검색 역시 더욱 고도화될 전망입니다. 과연 뤼튼이 생성 AI 시대의 네이버가 될 수 있을까요.

https://n.news.naver.com/mnews/article/001/0015223600?sid=105

그동안 잠잠했던 네이버가 드디어 하이퍼클로바X 신모델을 공개했습니다. 기존 HCX-003보다 40% 수준의 크기이지만 성능은 더 높아졌다고 합니다. 다음 달 클로바X 웹서비스에 탑재되고, 곧 API로도 제공될 예정입니다.

최근 출시된 제미나이 2.0 프로는 한글 대화 품질이 1.5에 비해 월등히 향상됐습니다. 그래도 감성 대화에서는 아직 클로바X가 최고라고 생각합니다. API 가격은 제미나이가 더 싸지만 한글 토크나이저 차이를 감안하면 비슷한 편입니다. 만약 이번 신모델이 더 싸게 나온다면 클로바X의 가격 경쟁력이 훨씬 높아질 것입니다.

요즘 OpenAI, 클로드, 구글, 딥시크 등 글로벌 회사들의 LLM이 빠르게 발전하고 있습니다. 한국어 능력 역시 뛰어나기 때문에 언어에 대한 해자도 점점 사라지고 있습니다. 한국의 대표 LLM인 클로바X가 멈추지 말고 계속 발전했으면 좋겠습니다.

스위스의 한 교회에서 AI 예수를 실험했습니다. 지역 대학과 협업해서 고해성사 방에 AI 아바타를 설치했습니다. 음성으로 대화를 할 수 있으며 예수님의 얼굴을 영상으로 보여줍니다. 또한 100가지 언어를 지원합니다. 무슬림부터 중국인 여행객까지 1,000명이 대화를 했고 230명에게 피드백을 받았습니다. 그중 3분의 2가 영적인 경험을 했다고 답했습니다.

앱스토어나 GPTs에도 예수님과 대화할 수 있는 챗봇이 많습니다. 하지만 예수님의 얼굴을 보고 목소리를 들으면서 하는 경험과는 비교할 수 없습니다. GPT-4o에 고급 음성 기능이 들어가면서 유저 경험이 완전 바뀌었는데요. 결국 AI 아바타나 가상인간 또는 로봇이 최종 목적지가 아닐까 합니다.

< 시연 영상 >

https://www.youtube.com/shorts/i8IHeM8phSI

< 관련 기사 >

https://www.theguardian.com/technology/2024/nov/21/deus-in-machina-swiss-church-installs-ai-powered-jesus

"AI는 과소평가(underhyped) 되었다"

구글의 전 CEO인 에릭 슈미트의 말입니다. 저도 그렇게 생각합니다. 물론 현재 약간 과열된 상태인 것은 맞습니다. 거품이 꺼지는 시기가 올 수도 있습니다. 그러나 향후 몇 년 내에 지금과 비교가 안될 정도로 시장이 커질 것입니다.

AI는 인간의 능력을 증강시켜주는 측면도 있지만, 본질적으로는 사람의 일을 대체하는게 핵심입니다. 코드를 대신 짜주고, 번역을 자동으로 해주고, 보고서나 학교 과제의 초안을 작성해줍니다. 일러스트를 그려주고 영화에 들어가는 영상을 생성해주기도 합니다. 공장에서 물건을 옮기거나 가정에서 빨래나 청소를 대신 해주는 로봇도 곧 등장할 것입니다.

이는 아직도 극초기라 봅니다. 우리 사회의 수많은 일들 중 1% 정도 밖에 적용되지 않았습니다. 나머지 99%가 자동화될 때까지(실제로는 그보다 훨씬 낮겠지만) AI의 혁신은 멈추지 않을 것입니다.

그렇게 되긴 위해서는 AGI(Artificial General Intelligence, 범용 인공지능)가 필요합니다. 과거에는 최소 30~100년이 걸린다고 했지만, 최근에는 그 시기가 매우 앞당겨졌습니다. 많은 전문가들이 5~10년을 예상하고 있습니다. 일론 머스크는 내년이라고 답하기도 했습니다.

지금도 OpenAI가 한 번 발표할 때마다 정신을 차릴 수가 없는데요. GPT-4o에 이어서 올해 하반기에 GPT-5가 출시될 예정입니다. 체감상 그 주기가 점점 짧아지는 것 같습니다. 하드웨어의 한계와 학습 데이터 부족으로 한번쯤 정체기가 올 수도 있고요. 아무튼 인류 역사상 가장 흥미진진한 시기입니다.

https://dailyprofitcycle.com/market-commentary/ai-is-underhyped/

https://www.theguardian.com/technology/article/2024/may/09/openai-considers-allowing-users-to-create-ai-generated-pornography

OpenAI가 자사 제품에 성인용 검열을 풀 수 있다고 발표했습니다. 텍스트 뿐만 아니라 이미지와 영상도 포함됩니다. 다만 딥페이크나 어린이 등 법에 저촉되는 콘텐츠는 계속 금지됩니다.

사실 지금도 GPT는 탈옥 프롬프트로 어느정도 NSFW 대화가 가능합니다. 클로드는 GPT보다 검열이 약한 편이라 더 대화하는 재미가 있습니다. 검열이 사라질 경우 우선 탈옥 프롬프트를 추가하는데 드는 비용이 줄어듭니다. 또한 전반적으로 AI 성능이 올라갈 수 있습니다.

웹이나 앱 GPT는 지금처럼 검열이 남아있을 것 같습니다. 반면에 API는 자유롭게 사용하도록 하고, 각 서드파티 회사가 자체적으로 검열을 할지 책임을 지면 됩니다. 어째든 AI 시장이 점점 성숙한 단계에 접어든게 아닐까 합니다. 상업적으로 수익을 내야할 시점이기도 하고요.

https://inblog.ai/jasonlee/nyt-v-openai-%EB%8D%B0%EC%9D%B4%ED%84%B0-%EC%A0%80%EC%9E%91%EA%B6%8C-%EC%B9%A8%ED%95%B4-%EC%86%8C%EC%86%A1-%EC%A0%95%EB%A6%AC-12457

NYT가 OpenAI에 저작권 소송을 걸었습니다. 자신의 기사가 거의 그대로 GPT-4에 나온다고 하네요. 상당한 금액을 배상하거나 저작료 협의를 할 가능성이 높습니다. 뉴스는 중요한 학습 데이터 중 하나인데요. Llama2는 이런 문제가 없는지 궁금하네요. 앞으로 Closed와 Open LLM의 차이가 양질의 데이터를 (돈으로) 확보할 수 있는가에 좌우될 수도 있다고 봅니다.

생성AI에 대한 국가별 관심도를 조사한 결과입니다. 구글 서치에 기반한 것이라 정확하지는 않습니다. 한국은 네이버를 많이 사용하니까요. 그래도 다른 나라에 비해 상당히 점수가 낮네요. 사실 제 주변 친구들을 봐도 ChatGPT를 쓰는 사람이 그리 많지는 않습니다. 프로그래머들은 제외하고요.

과거 한국은 초고속인터넷이 가장 발달한 나라였습니다. PC방이 전국을 뒤덮기도 했습니다. 덕분에 IT 기업이나 게임 회사들이 큰 성장을 할 수 있었습니다. 임요한이나 페이커 같은 프로게이머들도 등장했고요. 생성AI 역시 마찬가지입니다. 사람들이 관심이 높을수록 내수 시장이 생기고 실력있는 개발자들이 많아질 테니까요.

< 생성AI 관심도 순위 >

필리핀 - 5,288

싱가포르 - 3,036

캐나다 - 2,213

UAE - 1,926

호주 - 1,902

영국 - 1,546

미국 - 1,187

프랑스 - 949

독일 - 757

네팔 - 275

한국 - 268

일본 - 210

인도 - 185

페루 - 181

에티오피아 - 35

https://www.aitimes.com/news/articleView.html?idxno=155278

스캐터랩의 sLLM인 핑퐁-1을 개발한 이주홍 ML 리서치 리드와 홍승환 ML 엔지니어링 리드의 인터뷰 기사입니다. 최근에는 AI 캐릭터를 쉽게 구축할 수 있는 핑퐁 스튜디오를 공개하기도 했습니다. 핑퐁-1에 대한 자세한 내용은 댓글에 있는 SK Tect summit 발표자료를 참고 하시면 됩니다.

--------------------

이루다는 사실 글로벌 트렌드를 1년 이상 앞선 서비스다. 현재 미국 젊은 층에서 챗GPT의 인기를 위협하는 '캐릭터닷AI' 서비스가 처음 등장한 것이 2022년 후반이다. 2022년 11월에 등장한 챗GPT보다는 무려 2년여 빨리 출시했다.

그리고 현재 연구 중인 기술은 '기억'이라고 밝혔다. 기억 또한 다른 챗봇 기업과는 다르게 접근하고 있다. "사실 기억이 무엇인가를 따져보면 모호한 것이 많다"라며 "단순히 상대방의 이름과 성격이나 어제 한 일과 같은 사건을 넘어, 사람 관계에 필요한 기억 개념을 정리하기 위해 여러 측면을 연구 중"이라고 밝혔다.

이에 대해 이주홍 리더는 “루다를 만들어 먼저 서비스를 내본 입장으로, 기업에서 이런저런 챗봇을 만들고 싶다는 말을 들었을 때 이를 쉽게 돕기 위해 내놓은 게 핑퐁 스튜디오"라며 "SK텔레콤의 '에이닷 프렌즈'를 구축한 것이 대표적인 협업 사례이고, 아직 이름을 밝힐 수는 없지만, 여러 기업과의 협업을 진행 중"이라고 전했다.

홍승환 리드는 “챗봇의 상호작용은 챗GPT로 대변되는 로지컬 인터랙션 단계를 넘어 스캐터랩이나 캐릭터닷AI와 같은 소셜 인터랙션에 세계적인 관심이 모이는 중"이라며 "이에 따라 우리도 점점 많은 기회를 잡고 있다"라고 강조했다.

< SK Tech Summit Day2 >

https://sktechsummit.com/sessions/sessionsList.do