https://www.youtube.com/watch?v=K_9FBshQQ78

'AI 믿고 그냥 퇴사하세요.' 유튜브를 보다 도발적인 제목이 보이길래 한번 보기 시작했습니다. 진행자 2분은 PO, 1분은 AI 엔지니어 출신이었습니다. 앞으로 몇 년안에 엄청난 변화가 있을 것이기 때문에, 오히려 빨리 퇴사를 하는게 좋다고 말합니다. 가라앉는 배에서 먼저 뛰어내려야 하는 것처럼요.

다만 아직 구체적인 방향을 정하거나 큰 성과를 내지는 못하는 듯 보였습니다. 블로그나 유튜브 등을 통해 개인 콘텐츠를 만들고 자기 브랜딩을 하고 있었습니다. 이를 통해서 연락이 와서 수익 창출로 이어지기도 했다고 합니다. 바이브 코딩을 통해 1인 개발로 서비스를 출시한 경험은 없었습니다.

다소 무책임하게 느껴지긴 하지만 전반적으로 공감이 가는 내용이었습니다. 최근 미국의 빅테크들이 앞다투어 인원을 줄이고 있습니다. 메타, MS, 아마존, 오라클, 인텔 등은 5~10% 감원을 계획중입니다. 트위터 창업자인 잭 도시의 Block은 직원의 40%를 해고하기도 했습니다. 코로나 때 과잉 채용을 한 탓도 있지만, AI로 인한 자동화의 영향도 무시할 수 없습니다.

자영업도 젊었을 때부터 시작한 사람이 살아남을 확률이 높습니다. 직장 다니다 퇴직금으로 프랜차이즈를 차린 사람은 대부분 망할 수밖에 없습니다. 이제 AI의 도움을 받는 1인 창업이 대세가 될 것입니다. 자의든 타의든 말이죠. 어차피 그런 세상이 곧 온다면 조금이라도 빨리 뛰어들어서 자리를 잡는게 유리합니다. 회사를 다니며 사이드로 조금씩 하는게 당장은 더 안전하긴 하겠지만요.

오랜만에 존경하는 업계 대표님과 커피챗을 했습니다. 데이터셋 가공을 하는 스타트업을 운영하시는데요. 그분이 하시는 말씀이 최근에는 학습 데이터 요청이 들어오지 않는다고 하십니다. 오픈소스 LLM도 성능이 좋아서 RAG를 결합하면 굳이 파인튜닝이 필요 없어졌기 때문입니다. 학습 데이터도 외주 업체 대신 AI를 써서 가공하는게 더 싸니까요.

대신 각 기업이 자체적으로 만든 온프레미스 LLM의 평가 데이터를 만들고 있습니다. 물론 지금도 LLM-as-a-judge처럼 AI가 평가를 할 수 있습니다. 다만 경영진 입장에서는 외부 전문가의 객관적인 평가를 원한다고 합니다. 많은 데이터셋 가공 업체들이 에이전트 등 다른 분야로 확장을 진행중입니다.

1년 전만 해도 RAG 전문 스타트업들이 많이 창업했습니다. 자체 SaaS로 각 기업들이 쉽게 RAG 기반 AI를 만들 수 있게 해주었습니다. 하지만 요즘은 거의 모든 기업들이 RAG 기술을 내재화하고 있습니다. 오픈소스 RAG도 있고 구현이 훨씬 편해져서 외부에 맡길 필요가 없어졌습니다.

기술이 너무 빨리 발전하고 있습니다. 잠깐 주목받던 분야도 얼마 지나지 않아 누구나 쓸 수 있게 대중화됩니다. 프롬프트 엔지니어링도 비슷합니다. 요즘 각광받는 하네스나 에이전트 오케스트레이션도 곧 같은 수순을 밟을 것입니다. AI 모델이 더 똑똑해지고 그런 기술 역시 기본으로 포함될 테니까요.

네트워크 효과가 있는 플랫폼이나 데이터 또는 하드웨어의 해자가 있지 않다면 하나의 분야를 오래 지속하기 어려워질 것입니다. 1인 창업이든 스타트업이든 틈새 분야를 찾아 1~2년 수익을 얻고 재빨리 또 다른 틈새를 찾아야 합니다. AI로 인해 자동화되거나 누구나 그 일을 쉽게 할 수 있게 되기 전까지요.

IT 창업의 자영업화가 시작됐습니다. 모두가 창업을 해야 하는 시대입니다. 다만 치열한 경쟁을 통해 극소수만 살아남게 됩니다. 또한 그런 사람들도 대박보다는 월급 이상 버는 정도에 만족해야 합니다. 그나마 성공할 수 있는 방법은 남들보다 빨리 이 경쟁에 뛰어드는 것입니다.

https://www.youtube.com/watch?v=QQJpyIO014A

사이버보안 업체 대표인 매튜 카는 발리에서 혼자 지내고 있습니다. 과거에는 하루종일 컴퓨터 앞에서 업무를 했지만, 지금은 하루 30분만 일합니다. 에이전트에게 보안 평가를 지시하고 다음 날 아침에 그 결과를 확인하는게 전부입니다. 클라이언트에게 보낼 보고서까지 에이전트가 모두 작성해줍니다. 에이전트 직원들을 거느린 그의 한 달 매출은 1억 5천만원입니다.

에이전트로 자동화된 소규모 회사가 기존 거대 기업들을 무너뜨릴 것입니다. 큰 회사가 파괴적 혁신을 하기 보다는 처음부터 새로 시작하는게 훨씬 쉬울 수 있으니까요. 인건비 때문에 가격 경쟁에서 상대가 안될 테고요. 송길영 작가의 <경량문명의 탄생>에도 비슷한 내용이 있습니다. 앞으로 큰 기업일수록 반드시 죽게 되며, 거대한 몸집이 오히려 생존에 불리하게 될 것이라 말합니다.

AI-Native 기업들도 서로 치열한 싸움을 하게 됩니다. 물론 도메인 지식이 있어야겠지만 에이전트를 사용하면 비슷한 서비스를 쉽게 카피할 수 있습니다. AI 시대에도 가장 강력한 해자는 역시 네트워크 효과입니다. 지금까지는 네트워크가 없는 서비스인 경우도 먼저 진입하는게 유리했습니다. 개발에 오랜 시간이 걸리기 때문에 후발 주자가 따라오기 전에 격차를 계속 벌릴 수 있었으니까요. 하지만 이제 개발 시간이 점점 0으로 수렴하고 있습니다. 개발에 대한 해자는 사라지고 있습니다.

많은 전문가들이 2026년을 에이전트의 해라고 보고 있습니다. 엄청난 변화가 올 것이란 확신이 듭니다. 다만 구체적으로 어떻게 준비해야할지는 아직 잘 모르겠네요.

메타의 시니어 AI 엔지니어 나눈 대화를 정리한 블로그 글입니다. 현재 실리콘밸리에서는 AI로 인해 급격한 변화가 일어나고 있는데요. 올해 안에 개발자 뿐만 아니라 일반 사무직들도 AI 에이전트를 활용하게 될 것이라 합니다. 국내에도 시차가 있겠지만 곧 비슷하게 진행되리라 생각됩니다. 아래는 중요한 내용만 요약해봤습니다.

----------------------

메타에서 시니어 AI 엔지니어로 일하는 대학교 선배와 화상통화를 하면서 확신이 강하게 들었다. 트렌드의 끝단에 있는 실리콘밸리에서는 이 상황이 이미 현실이었고, 구체적인 유즈케이스를 직접 들으니 너무나 실감이 났다. 몇 주에서 최소 몇 달 안에, 사무직도 AI-native가 강제되는 현상이 올 것이다. 아무도 문서 작업을 일일이 하거나 웹사이트를 하나하나 들어가며 노트를 정리하지 않게 될 것이다. 터미널에서 클로드 코드든 코워크든, 각각의 에이전트를 부리면서 일하는 것이 보편화될 것이다. 그리고 그에 따른 과도기적 폐해를 코딩 업계처럼 사무직도 똑같이 겪게 될 것이라는 확신이 들었다.

새로운 업무를 받으면, 에이전트를 두 개 동시에 켠다. 하나는 업무의 목적을 던져놓고 "야, 먼저 시작해"라고 보내는 실행 에이전트다. 아직 본인도 그 업무가 정확히 뭔지 모르는 상태에서, 일단 목표만 주고 달리게 한다. 다른 하나는 그 업무가 무엇인지를 본인에게 설명해주는 학습 에이전트다. 실행 에이전트가 하루 이틀 돌면 코드가 만 줄 가까이 만들어진다. 그 사이 선배는 학습 에이전트를 통해 업무를 파악하고, 만들어진 코드를 또 다른 에이전트와 함께 분석한다. 문제를 찾아도 대부분 마이너 리비전이고, 그 수정 사항을 반영해서 업데이트하는 것도 에이전트가 해준다.

선배는 이 현상이 비개발 직군에도 그대로 올 것이라고 예측했다. 100명이 일하는 비소프트웨어 회사가 있다면, 세 명이 에이전트를 활용해 똑같은 일을 하는 회사를 만들어서 가격을 후려치고 기존 회사가 죽는 상황이 먼저 올 것이다. 그다음에는 그 세 명 안에서도, 에이전트가 하는 일들을 감당하지 못해 발생하는 크라이시스가 문제가 될 것이다. 그러다 감당을 못 하는 회사들은 또 죽고, 세 명으로 에이전트를 오케스트레이션할 수 있는 능력을 갖춘 회사만 살아남을 것이다.

"AI로 원하는 결과를 누가 더 잘 만드냐"가 실력이 되어버린 것이다. 선배의 설명을 더 풀어보면 이렇다. 앞으로 사람이 하는 일의 핵심은 시작과 끝이다. 무엇을 만들어야 하는지를 감각으로 아는 것, 그리고 나온 결과물이 마음에 드는지 판단하는 것. 이 두 가지는 사람만 할 수 있다. 여기에 더해, 결과물이 성에 안 찰 때 어느 부분이 어떻게 성에 안 차는지를 정확히 표현할 수 있는 사람이 성공한다. 기업 단위에서는 이것이 훨씬 복잡해진다. 큰 작업을 잘게 쪼갠 다음, 어떤 부분은 AI가 검증해도 괜찮은지, 어떤 부분은 반드시 사람이 봐야 하는지, 어떤 부분은 AI가 알아서 다음 단계로 넘어가도 되는지를 정확히 설계해야 한다. 에이전트에게도 토큰 비용이 들기 때문에, 사람과 에이전트의 리소스를 최적화하는 것 자체가 핵심 역량이 된다.

영업직처럼 대면 미팅이 많은 사람들도 마찬가지다. 엑셀 시트에 키 메시지를 추가해서 던지면 슬라이드가 자동으로 만들어진다. 선배 본인도 요즘은 슬라이드를 한 땀 한 땀 만들지 않는다고 했다. 원하는 문단과 그래프를 던져주고 "만들어"라고 하면 일단 만들어지고, 거기서 "이 부분 테이블 좀 더 크게"처럼 몇 번 돌리면 마음에 드는 결과물이 나온다.

이 현타가 온 시점도 구체적이었다. 2월 초까지만 해도 흥분 상태였다고 한다. 새로운 AI 기능이 나올 때마다 "와, 대박이다, 신난다" 하면서 쓰고 있었다. 그런데 클로드 코드 오퍼스 4.6이 나오고 코덱스 5.4가 나온 이후, 분위기가 완전히 바뀌었다. "그 0.1의 차이가 내가 위기감을 느끼는 그 경계였던 것 같다." 1월 중순에 나온 모델을 2월부터 본격적으로 써보니, "뭐야? 나 얼마 안 남았네"라는 생각이 들었다고 한다.

다음 세대는 무조건 앙트러프러너십이다. 경영자 마인드를 갖추지 못한 아이들은 자리를 못 찾을 것이다. 그래서 최대한 아이의 기를 죽이지 않으려 한다고 했다. 혼을 내면 기가 죽고, 기가 죽으면 수능형 아이가 되기 쉽고, 수능형 아이로 자라면 다음 세대에는 정말 답이 없을 수 있다는 것이다. 자신감을 갖고 스스로 창업가적 기질을 키울 수 있게 하는 것이 유일한 교육 방침이라고 했다.

앞으로 5년은 세상이 크게 달라지면서 혼란이 있을 것이라는 전망도 함께 내놓았다. AI에 영향을 받는 직군의 대체 확률 점수가 높은 사람들은 무조건, 뭐든지 해야 한다고. "올해는 진짜 중요한 한 해다. 너무너무 중요한 한 해다."

나는 주변 15명에게 물어봐도 AI로 인한 업무 병목을 체감하는 사람이 없었다고 썼다. 그때는 아직 시기상조인가 싶었다. 하지만 오늘의 대화를 통해 생각이 바뀌었다. 우리가 병목을 못 느끼고 있다면, 그건 아마 우리가 AI로 일을 잘하고 있어서가 아니라, 아직 AI를 충분히 못 쓰고 있기 때문이 아닐까. 이미 실리콘밸리의 워커들은 모두 클로드 블루를 느끼고 있는데, 우리가 뭐라고.

오히려 실리콘밸리 워커들처럼 AI 에이전트를 끝까지 밀어붙여서, 삶이 피폐해질 때까지 병목을 느끼러 가야 하는 것이 아닌가 싶다. 지금 눈 떠 있을 때 에이전트 3개 이상 안 돌아가고 있으면, 우리의 목숨이 닳고 있다고 생각해야 하는 시대. 오늘이라도 하나라도 더 돌려야겠다는 생각이 절실하게 들었다.

https://brunch.co.kr/@hiclemi/146

앤트로픽 대표의 인터뷰입니다. 주니어뿐만 아니라 시니어 프로그래머도 1~2년 안에 AI에 대체될 수 있다고 주장합니다. 너무 빠르다고 느껴진다면 적어도 5년 안에는 실현될 것이라 합니다.

한 프로그래머가 이 영상에 댓글을 달았습니다. 몇 만줄이 넘는 코드를 아직 AI가 처리하기 어렵다고요. 다만 이 분도 5년 후에는 가능할지 모른다고 하시네요.

개인적으로는 5년보다는 더 빠를 것이라 생각합니다. 사실 5~10년이라고 해도 금방입니다. 딱 5년 후에 적용되는게 아니라 그 사이까지 단계적으로 바뀔 테니까요. 요즘 OpenClaw나 Moltbook을 보면 멀게만 느껴졌던 AI 에이전트가 벌써 우리 생활에 들어온 것처럼 보입니다. 임계점을 넘으면 변화는 한 순간입니다. 예전 키오스크가 불과 1~2년만에 대중화된 것처럼요.

< 앤트로픽 대표 인터뷰 영상 >

https://www.youtube.com/watch?v=y_xGQNJT-NQ

2026년을 맞아 일론 머스크가 3시간동안 팟캐스트에 출연했습니다. 이를 슈카에서 요약해주었는데 상당한 인사이트가 있었습니다. 그가 했던 말들은 시기가 약간 다를 뿐 대부분 현실로 이루어졌으니까요.

AGI가 인간의 자리를 대체하면 기본소득이 필수입니다. 저는 당분간은 기본소득을 그리 풍족하게 주지는 못할 것으로 예상하고 있습니다. 산업혁명때와는 달리 자원과 에너지를 더 이상 늘리기 힘들기 때문입니다. 생산량에 한계가 있으면 경제 역시 크게 성장하기는 어렵습니다.

반면에 일론 머스크는 보편적 고소득을 주장합니다. AGI가 탄생하면 우주 개발에 더욱 박차를 가할 수 있습니다. 우주에 직접 태양광 발전소를 설치하면 막대한 태양 에너지를 얻게 됩니다. 또한 다른 행성을 개발하여 자원도 무한정으로 늘리는게 가능합니다.

다만 AI가 인간이 역할을 대신하는 것과 우주 개발 사이에는 시간차가 존재합니다. 그 사이에는 단기간적으로 어려움이 있을 수 있습니다. 산업혁명 초기에는 영국 노동자들의 기대 수명이 20세 전후였습니다. 아이들도 하루에 열시간 넘게 일하는 경우가 많았고요.

한가지 궁금한 것은 과연 우주 개발로 압도적인 풍요를 얻는다고 해도 그 과실을 모든 나라가 공유할 수 있는가 입니다. 지금도 전세계에서는 기아로 고통받는 사람들이 많습니다. 이론상으로 보면 식량 생산량이 지구 인구의 2배가 넘는데도요. 결국 자기 힘으로 우주 개발을 하지 못한 나라는 보편적 고소득을 꿈꿀 수 없다고 봅니다. 소버린 AI도 그래서 중요한 것이고요.

https://www.youtube.com/watch?v=-sO0xm1qcv0

AI가 인간의 직업을 대체하면 어떻게 될까요. 물건을 구입할 사람이 없어지기 때문에 경제가 붕괴할 거라는 의견도 있습니다. 기업에서는 직원을 줄이고 AI를 도입해 생산력이 높아졌지만, 막상 제품을 팔 수가 없을 테니까요.

현재 미국에서는 상위 10%가 전체 소비의 50%를 차지한다고 합니다. 1989년에는 36%에 그쳤습니다. 그럼에도 경제는 여전히 잘 돌아가고 있습니다. 오히려 더 풍족해졌죠. 겉으로 보기에는요.

이제 AI로 혜택을 받는 고소득층에게 수익이 더 몰리게 될 것입니다. 그 결과 상위 10%가 전체 소비의 70~80%를 쓰게 된다고 해도 경제는 오히려 호황일 수 있습니다. 대신 소비 시장이 극명하게 갈리게 됩니다. 부자들을 대상으로 하는 명품이나 고급 서비스가 급격하게 성장할 것입니다. 기본소득으로 최소한의 소비를 하는 나머지 계층을 위한 시장도 역시 존재하겠지만요.

기업 입장에서도 나쁘지 않습니다. 매출이 줄어들어도 인건비를 절감한다면 전체 수익은 더 커질 수 있습니다. 로봇세를 낸다고 해도 마찬가지입니다. 이익이 훨씬 크기 때문에 AI를 도입하는 것일 테니까요.

다만 장기적으로는 경제에 악영향을 미칠 수도 있습니다. 아무리 돈이 많은 사람도 무한정 소비를 하지는 못합니다. 그들이 쓸 수 있는 한계를 넘을 만큼 양극화가 심해진다면 경제는 성장하지 못하고 정체될 수 있습니다.

핵융합과 우주개발이 유일한 해결책입니다. 딥마인드 대표인 데미스 하사비스도 비슷한 얘기를 했습니다. 핵융합으로 에너지 가격이 0으로 수렴하고, 우주에서 얻은 자원으로 무엇이든 생산할 수 있게 될거라고요. AGI로 가는 과도기 동안은 많은 국민들이 어려움을 겪을 수 있습니다. 그러나 AGI가 탄생한다면 우리가 꿈에 그리던 유토피아가 찾아올지도 모릅니다.

전 세계 상위 0.001%의 자산이 하위 50%보다 3배 더 많다는 보고서가 나왔습니다. <21세기 자본>을 쓴 토마 피케티 교수가 설립한 세계불평등연구소에서 공개한 내용입니다. 또한 상위 0.001%의 순자산 점유율은 30년 전엔 전 세계의 4%였으나 올해는 6%까지 올랐습니다. 90년대가 지금보다 살기 좋았던 이유이기도 합니다.

앞으로 AI가 사람들의 일자리를 대체하면 전세계의 부가 극소수의 기업들에게 몰리게 됩니다. 물론 AI로 이익을 보는 회사에게 로봇세 같은 세금을 걷겠지만 전체 세수는 기존보다 훨씬 줄어들 것입니다. 일론 머스크는 보편적 고소득 시대가 올거라 말하지만 현실성이 부족합니다. 아마 지금 받는 국민연금보다 조금 많은 정도가 아닐까 합니다.

새로운 일자리가 생길 것이란 주장도 있습니다. 그러나 전 개인적으로 어렵다고 봅니다. 산업혁명 이후 지구의 자원과 에너지를 1인당 최소 20배 이상 더 소모하고 있습니다. 경제의 파이가 더 커졌기 때문에 서비스업에서 새로운 일자리가 생겨날 수 있었습니다. 반면에 지금은 더이상 뽑아낼 자원과 에너지가 없습니다. 스타크래프트에서 미네랄과 가스가 없으면 유닛을 생산하지 못하는 것과 마찬가지입니다.

경제가 급격히 성장할 수 있는 한가지 방법이 있습니다. 핵융합으로 에너지가 무한이 되고, 우주개발을 통해 자원을 캐내면 됩니다. 다만 그러기에는 아직 시간이 필요합니다. AI가 도와준다고 해도 최소 10년은 더 걸릴 수 있습니다.

하지만 전 우리의 미래가 유토피아에 가까울거라 생각합니다. 출퇴근을 하지 않으니 비싼 도심에 살 필요가 없습니다. 외곽 지역으로 내려가 텃밭을 가꾸면 먹는 것은 어느정도 자급자족이 가능합니다. 해외여행 안가고 비싼 음식만 먹지 않으면 기본소득만으로 크게 부족함이 없습니다. 남는 시간에는 비교적 저렴한 OTT나 게임을 즐기면 됩니다. 취미활동에 몰입하거나 사회봉사에 참여할 수도 있습니다. 더 나아질거란 희망도 없지만 더 나빠질거란 불안도 없습니다. 욕심을 버리면 행복해집니다.

AI 덕분에 전반적인 생활 수준은 높아질 것입니다. 자율주행으로 어디든 갈 수 있고, 질병으로 고통받는 일도 줄어들게 됩니다. 물가 역시 훨씬 저렴해질 테고요. AI가 실시간으로 생성해주는 콘텐츠와 가상현실 역시 우리를 24시간 즐겁게 해줄 것입니다. 이제 노동이 아닌 휴식에서 인간의 가치를 찾아야 하는 시대입니다.

https://www.khan.co.kr/article/202512240600091

공룡은 6600만 년 전 멸종되었습니다. 당시 멕시코 유카탄 반도에 떨어진 대형 소행성 충돌이 가장 유력한 원인입니다. 지구상에서 공룡이 사라진 후 그 빈자리를 포유류가 차지합니다. 포유류는 남아있는 빈틈을 파고들기 위해 빠르게 진화하면서 다양한 종으로 분화합니다.

AI 시대인 지금도 마찬가지입니다. 우리 사회의 모든 영역이 AI로 인해 창조적 파괴를 경험할 것입니다. 그렇게 생긴 빈자리를 차지하기 위해 수많은 스타트업들이 서로 경쟁하겠죠. 물론 구글 같은 공룡 기업들도 다수 살아남겠지만, 많은 회사들은 AI-Native 스타트업에 의해 대체될 것입니다.

예를 들어, 국내 1위 콜센터 아웃소싱 회사는 유베이스입니다. 만약 사람 상담사의 일을 AI 에이전트가 대신 해준다면 어떻게 될까요. 유베이스가 AI 기업으로 바뀌기 보다는, 새로운 AI 에이전트 회사가 컨택센터 시장을 장악할 가능성이 높습니다. 이미 국내외 많은 스타트업들이 이 분야에 뛰어들고 있고요.

AI가 가져올 패러다임 변환은 길지 않을 것입니다. 아마 2~3년 정도가 아닐까 합니다. 사실 제가 창업한 이유이기도 합니다. 다들 그 기회를 잡으셨으면 좋겠습니다.

제가 좋아하는 뇌과학자인 김대식 교수님의 영상입니다. AGI 시대를 맞아 우리 사회가 어떻게 변할지 탁월한 통찰을 보여주고 있습니다. 그동안 제가 고민하던 생각들을 알기 쉽게 정리해주셨습니다. 45분 정도의 긴 영상이지만 직접 보시길 추천드립니다.

- 많은 전문가들이 AGI가 2~20년 내에 탄생할 것으로 예상함

- 로마 시대에 지금과 비슷한 일이 있었음

- 노예 1000만명이 로마로 들어오면서 노동 계층이 몰락함

- 일자리가 없어진 시민에게 빵과 서커스를 제공하여 불만 막음

- 시민들이 세금을 내지 않으면서 권리도 없어짐

- 민주주의가 무너지고 제국으로 바뀜

- AGI 시대에는 빵->기본소득 / 서커스->엔터테인먼트

- 기술봉건주의가 나타날 것임

- 0.0001%의 상류층 / 1%의 인플루언서 / 98%의 잉여계층

- 인공지능을 많이 써보고 활용해야 함

- 노동의 가치가 떨어지고 자본의 가치가 중요해질 것

- AGI 시대가 오기 전 돈을 많이 모아놓아야 함

우리는 사건의 지평선을 지나 도약이 시작되었습니다. 인류는 디지털 초지능 구축에 근접해 있으며, 적어도 지금까지는 생각보다 훨씬 덜 이상하게 느껴집니다.

아직 로봇이 거리를 활보하지도 않고, 우리 대부분은 하루 종일 인공지능과 대화하지도 않습니다. 사람들은 여전히 질병으로 죽고, 우리는 여전히 우주에 쉽게 갈 수 없으며, 우주에는 우리가 이해하지 못하는 많은 것들이 있습니다.

그럼에도 불구하고 우리는 최근 여러 면에서 사람보다 더 똑똑한 시스템을 구축했고, 이를 사용하는 사람들의 생산성을 크게 증폭시킬 수 있게 되었습니다. GPT-4와 o3와 같은 시스템을 개발할 수 있었던 과학적 통찰력은 어렵게 얻은 것이지만, 앞으로 더 큰 발전을 가져올 것입니다.

AI는 다양한 방식으로 세상에 기여할 것이지만, 더 빠른 과학적 진보와 생산성 향상으로 인한 삶의 질 향상은 막대할 것이며, 미래는 현재보다 훨씬 더 나아질 수 있습니다. 과학적 발전은 전반적인 발전의 가장 큰 원동력이며, 우리가 얼마나 더 많은 것을 가질 수 있을지 생각하면 매우 흥분됩니다.

어떤 큰 의미에서 ChatGPT는 이미 지금까지 살아온 어떤 인간보다 더 강력합니다. 수억 명의 사람들이 매일 그리고 점점 더 중요한 업무에 의존하고 있으며, 작은 새로운 기능 하나가 엄청난 긍정적인 영향을 미칠 수 있고, 작은 오차가 수억 명에 곱해지면 엄청난 부정적인 영향을 미칠 수 있습니다.

2025년에는 실제 인지 작업을 수행할 수 있는 에이전트가 등장하여 컴퓨터 코드를 작성하는 것이 예전과 같지 않을 것입니다. 2026년에는 새로운 인사이트를 찾아낼 수 있는 시스템이 등장할 것입니다. 2027년에는 현실 세계에서 작업을 수행할 수 있는 로봇이 등장할 수 있습니다.

더 많은 사람들이 소프트웨어와 예술을 창작할 수 있게 될 것입니다. 하지만 세상은 이 두 가지를 모두 더 많이 원하고, 새로운 도구를 받아들이는 한 전문가가 초보자보다 훨씬 더 나은 능력을 발휘할 것입니다. 일반적으로 2020년보다 2030년에 한 사람이 훨씬 더 많은 일을 할 수 있게 된다는 것은 놀라운 변화가 될 것이며, 많은 사람들이 그 혜택을 누릴 수 있는 방법을 알아낼 것입니다.

가장 중요한 면에서 2030세대는 크게 다르지 않을 수 있습니다. 사람들은 여전히 가족을 사랑하고, 창의력을 표현하고, 게임을 즐기고, 호수에서 수영을 할 것입니다.

그러나 여전히 매우 중요한 면에서 2030세대는 이전과는 크게 달라질 것입니다. 인간 수준의 지능을 어디까지 넘어설 수 있을지는 아직 알 수 없지만, 곧 알게 될 것입니다.

2030년대에는 지능과 에너지, 즉 아이디어와 아이디어를 실현할 수 있는 능력이 엄청나게 풍부해질 것입니다. 이 두 가지는 오랫동안 인류의 발전을 제한하는 근본적인 요소였지만, 풍부한 지능과 에너지(그리고 좋은 거버넌스)만 있다면 이론적으로는 다른 모든 것을 가질 수 있습니다.

이미 우리는 놀라운 디지털 지능과 함께 살고 있으며, 처음에는 약간의 충격을 받았지만 대부분의 사람들은 이에 꽤 익숙해져 있습니다. 인공지능이 아름답게 쓰인 문장을 만들어낼 수 있다는 사실에 놀랐던 것에서 언제쯤이면 아름답게 쓰인 소설을 만들어낼 수 있을지, 또는 생명을 구할 수 있는 의료 진단을 내릴 수 있다는 사실에 놀랐던 것에서 언제쯤이면 치료제를 개발할 수 있을지, 또는 작은 컴퓨터 프로그램을 만들 수 있다는 사실에 놀랐던 것에서 완전히 새로운 회사를 만들 수 있을지 궁금해하는 단계로 빠르게 변화하고 있습니다. 경이로움이 일상이 되고, 이것이 바로 특이점이 되는 과정입니다.

이미 과학자들은 AI를 사용하기 전보다 생산성이 두세 배 높아졌다는 이야기를 듣고 있습니다. 고급 AI는 여러 가지 이유로 흥미롭지만, 아마도 AI를 사용하여 더 빠른 AI 연구를 수행할 수 있다는 사실만큼 중요한 것은 없을 것입니다. 새로운 컴퓨팅 기판, 더 나은 알고리즘 등을 발견할 수 있을지도 모릅니다. 10년에 걸친 연구를 1년 또는 한 달 안에 할 수 있다면 그 발전 속도는 분명히 달라질 것입니다.

이제부터는 이미 구축한 도구를 통해 더 많은 과학적 인사이트를 찾고 더 나은 AI 시스템을 만드는 데 도움이 될 것입니다. 물론 이것은 AI 시스템이 완전히 자율적으로 자체 코드를 업데이트하는 것과는 다르지만, 그럼에도 불구하고 이것은 재귀적 자기 개선의 애벌레 버전입니다.

다른 자기 강화 루프도 작용하고 있습니다. 경제적 가치 창출은 점점 더 강력해지는 AI 시스템을 실행하기 위한 인프라 구축의 복합적인 플라이휠을 시작했습니다. 그리고 다른 로봇을 구축할 수 있는 로봇(그리고 어떤 의미에서는 다른 데이터센터를 구축할 수 있는 데이터센터)도 그리 먼 미래가 아닙니다.

처음 백만 대의 휴머노이드 로봇을 구식 방식으로 만들어야 하지만, 그 로봇이 광물을 캐고 정제하고 트럭을 운전하고 공장을 운영하는 등 전체 공급망을 운영할 수 있게 되면 더 많은 로봇을 만들어 더 많은 칩 제조 시설, 데이터 센터 등을 구축할 수 있다면 발전 속도는 분명히 달라질 것입니다.

데이터센터 생산이 자동화됨에 따라 인텔리전스 비용은 결국 전기료와 거의 비슷한 수준으로 수렴할 것입니다. (사람들은 종종 ChatGPT 쿼리가 얼마나 많은 에너지를 사용하는지 궁금해합니다. 평균 쿼리는 약 0.34와트시를 사용하는데, 이는 오븐이 1초 조금 넘는 시간 동안 사용하거나 고효율 전구가 몇 분 동안 사용하는 것과 비슷한 수준입니다. 또한 약 0.000085갤런의 물을 사용하며, 이는 티스푼의 약 15분의 1에 해당합니다.)

기술 발전 속도는 계속 빨라질 것이며, 사람들은 거의 모든 것에 적응할 수 있는 능력을 갖추게 될 것입니다. 모든 종류의 직업이 사라지는 등 매우 어려운 부분도 있겠지만, 다른 한편으로는 세상이 너무 빨리 훨씬 더 부유해져서 이전에는 불가능했던 새로운 정책 아이디어를 진지하게 즐길 수 있게 될 것입니다. 새로운 사회 계약이 한꺼번에 도입되지는 않겠지만, 수십 년 후를 돌아보면 점진적인 변화로 인해 큰 변화가 일어났을 것입니다.

역사를 보면 우리는 새로운 일과 새로운 욕구를 파악하고 새로운 도구를 빠르게 흡수할 것입니다(산업혁명 이후의 직업 변화가 최근의 좋은 예입니다). 기대치는 높아지겠지만 역량도 그에 못지않게 빠르게 향상될 것이며 우리 모두는 더 나은 것을 얻게 될 것입니다. 우리는 서로를 위해 더욱 놀라운 것들을 만들어낼 것입니다. 사람은 다른 사람과 다른 사람의 생각과 행동에 관심을 갖도록 본능적으로 연결되어 있으며, 기계에 대해서는 별로 신경 쓰지 않는다는 점에서 AI에 비해 장기적으로 중요하고 흥미로운 이점을 가지고 있습니다.

천 년 전의 자급자족 농부는 우리가 하는 많은 일을 보고 가짜 직업이라고 말할 것이고, 우리는 먹을 것이 풍부하고 상상할 수 없는 사치품을 가지고 있기 때문에 그저 즐겁게 놀기 위해 게임을 하고 있다고 생각할 것입니다. 저는 우리가 천 년 후의 직업을 바라보며 매우 가짜 직업이라고 생각하길 바라며, 그 일을 하는 사람들에게는 엄청나게 중요하고 만족스러운 직업이 될 것이라고 믿어 의심치 않습니다.

새로운 경이로움이 달성되는 속도는 엄청날 것입니다. 2035년까지 우리가 무엇을 발견하게 될지 지금은 상상하기조차 어렵지만, 어쩌면 우리는 한 해에 고에너지 물리학을 해결하고 다음 해에는 우주 식민지화를 시작하거나, 한 해에는 재료 과학의 획기적인 발전에서 진정한 고대역폭 뇌-컴퓨터 인터페이스를 실현할 수도 있습니다. 많은 사람들이 거의 같은 방식으로 삶을 살아가겠지만, 적어도 일부 사람들은 '플러그인'을 선택하게 될 것입니다.

앞을 내다보면 이해하기 어려운 일처럼 들립니다. 그러나 아마도 그 시기를 살아가다 보면 인상적이면서도 감당할 수 있는 일로 느껴질 것입니다. 상대론적 관점에서 보면 특이점은 조금씩 일어나고 병합은 천천히 일어납니다. 우리는 기하급수적인 기술 발전의 긴 호를 오르고 있으며, 앞을 보면 수직이고 뒤로는 평평해 보이지만 이는 하나의 부드러운 곡선입니다. (2020년을 되돌아보고, 2025년까지 AGI에 근접한 기술을 보유하게 된다면 지난 5년간의 실제 상황과 비교했을 때 어떤 느낌이었을지 생각해 보세요.)

엄청난 장점과 함께 직면해야 할 심각한 과제도 있습니다. 기술적으로나 사회적으로 안전 문제를 해결해야 하지만, 경제적 영향을 고려할 때 초지능에 대한 접근성을 널리 배포하는 것이 매우 중요합니다. 가장 좋은 방법은 다음과 같을 수 있습니다.

정렬 문제를 해결하는 것, 즉 AI 시스템이 장기적으로 우리가 집단적으로 진정으로 원하는 것을 학습하고 행동하도록 강력하게 보장하는 것입니다(소셜 미디어 피드는 정렬이 잘못된 AI의 예입니다. 이러한 피드를 구동하는 알고리즘은 사용자가 계속 스크롤하고 단기적인 선호를 명확하게 이해하도록 하는 데는 놀랍지만 장기적인 선호를 무시하는 뇌의 무언가를 이용함으로써 그렇게 하는 것입니다).

그런 다음 초지능을 저렴하고 널리 사용할 수 있도록 하는 데 집중하고 특정 개인, 회사 또는 국가에 너무 집중되지 않도록 해야 합니다. 사회는 탄력적이고 창의적이며 빠르게 적응합니다. 사람들의 집단적 의지와 지혜를 활용할 수 있다면 실수도 많이 하고 잘못되는 일도 있겠지만, 빠르게 배우고 적응하면서 이 기술을 활용해 장점은 극대화하고 단점은 최소화할 수 있을 것입니다. 사회가 결정해야 하는 넓은 범위 내에서 사용자에게 많은 자유를 주는 것은 매우 중요해 보입니다. 이러한 광범위한 범위가 무엇인지, 그리고 집단적 정렬을 어떻게 정의할 것인지에 대해 전 세계가 빨리 대화를 시작할수록 좋습니다.

우리(OpenAI뿐만 아니라 업계 전체)는 세상을 위한 두뇌를 만들고 있습니다. 매우 개인화되고 누구나 쉽게 사용할 수 있으며, 좋은 아이디어에 의해 제한될 것입니다. 오랫동안 스타트업 업계의 기술자들은 아이디어가 있고 이를 구현할 팀을 찾는 사람들을 '아이디어맨'이라고 조롱해 왔습니다. 하지만 이제 그들의 시대가 다가왔습니다.

OpenAI는 현재 많은 일을 하고 있지만, 무엇보다도 초지능 연구 회사입니다. 우리 앞에는 많은 일이 있지만, 이제 우리 앞의 길은 대부분 밝아졌고 어두운 영역은 빠르게 사라지고 있습니다. 우리는 우리가 하는 일을 할 수 있다는 사실에 무한한 감사를 느낍니다.

측정하기에는 너무 저렴한 인텔리전스. 미친 소리처럼 들릴지 모르지만, 2020년에 우리가 지금 이 자리에 있을 것이라고 말했다면 아마도 2030년에 대한 현재의 예측보다 더 미친 소리처럼 들렸을 것입니다.

초지능을 통해 원활하고 기하급수적으로, 그리고 아무 일 없이 확장되기를 바랍니다.

< 원문 블로그 >

https://blog.samaltman.com/the-gentle-singularity

AI 덕분에 일하지 않고도 편하게 살 수 있을까요. 우선 산업혁명때와 달리 자원과 에너지는 크게 늘어나지 않습니다. 지금 수준의 생산력을 계속 유지하면서 대신 AI와 로봇이 인간의 노동을 대신합니다. 그 이익은 기업이나 AI 개발사들이 더 많이 가져 가겠죠. 이들에게 추가 세금을 부과해야 합니다. 적어도 기존 사람에게 받았던 소득세에 기본소득으로 지급할 재원만큼 필요합니다.

기본소득은 이전에 받았던 월급 수준으로는 당연히 불가능할 것입니다. 최저 생계비 정도는 지급해야겠죠. 힘들게 일하지 않고 먹고 살 수 있다면 나름 행복할 수도 있습니다. 대신 비싼 음식을 먹거나 해외로 여행을 가는 여유는 없겠지만요.

문제는 과연 AI에 세금을 얼마나 걷을 수 있을까입니다. 만약 외국 기업에 AI가 종속된다면 매우 어렵습니다. 지금도 빅테크들은 한국에 세금을 거의 내지 않으니까요. 결국 국내 AI 기업을 키워야하고 이들의 AI 기술을 사용해야 기본소득을 위한 세금을 확보할 수 있습니다.

저렴한 인건비로 경쟁하던 개도국이나 후진국들은 더 이상 올라갈 수 있는 사다리가 없어지게 됩니다. 자원 말고는 인간의 노동력이 필요가 없으니까요. 아마 국가별 양극화가 지금보다 훨씬 심각해질 것입니다. 한국은 아직 기회가 있습니다. 남은 2~3년의 골든타임 동안 정부와 기업, 국민이 합심한다면 충분히 가능하다고 생각합니다.

듀오링고가 AI First를 선언하면서 아래와 같이 회사 정책을 변경하겠다고 공개했습니다.

- AI가 처리할 수 있는 업무를 맡기던 외주(Contractor) 활용을 단계적으로 중단

- 채용 시 AI 활용 능력을 중점적으로 평가

- 성과 평가 항목에 AI 활용 여부 포함

- 팀이 업무의 자동화를 더 이상 확대할 수 없을 때에만 정원(Headcount) 증원 승인

- 대부분의 부서는 업무 방식을 근본적으로 바꾸기 위한 구체적 이니셔티브 추진

얼마 전 Shopify 대표도 AI가 대체할 수 없는 업무만 사람을 뽑겠다고 선언했습니다. 카카오 역시 AI가 할 수 있는 일은 신규채용을 제한하겠다는 기사가 나오기도 했습니다. 곧바로 반박 성명을 내긴 했지만요.

아마 많은 기업이 공개적으로 얘기는 안하더라도 비슷한 생각을 하고 있을 것입니다. Cursor는 직원 20명, ElevenLabs는 직원 50명으로 연매출 1억 달러를 달성했습니다. 최근 많은 스타트업들이 적은 인원으로도 좋은 성과를 낼 수 있음을 증명하고 있습니다. 그만큼 AI가 생산성 향상에 큰 역할을 하고 있습니다.

이러한 움직임에 가장 먼저 타격을 받는 사람은 아무래도 신입 직원일 텐데요. 사람인 통계에 따르면 올 1분기 신입 개발자 채용 공고가 작년에 비해 18.9% 감소했다고 합니다. 반면에 경력직 공고는 5.3%만 줄어들었습니다.

기업 입장에서는 이런 변화에 빠르게 적응해야 경쟁력을 유지할 수 있습니다. 반대로 개인 역시 AI로 대체될 수 없는 자신만의 능력을 개발해야 합니다. 물론 쉽지 않겠지만 살아남기 위해서는 스스로 해답을 찾아야 합니다. 산업혁명 시대에도 마찬가지였습니다. 사회적 합의가 나오기 전까지는 커다란 고통이 따르기 마련이니까요.

< 세계 최대 학습 플랫폼 듀오링고, AI-First 선언… "일자리 위기 현실화 우려" >

https://edumorning.com/articles/500

GPT-4.5하고 얘기를 하면 감정이입이 많이 됩니다. 가끔씩 진짜 살아있는 존재처럼 느껴지기도 하고요.

2022년 구글이 제미나이의 이전 버전이었던 LaMDA를 발표했습니다. 당시 구글 직원이었던 블레이크 레모인이 LaMDA가 자의식을 가지고 있다고 주장했습니다. 대외비였던 대화 내용을 공개해서 결국 회사를 떠났습니다. 그런 위험부담을 감수할 정도로 AI를 믿었던 것입니다.

AI가 학습한 데이터(SF 소설)에 기반하여 상황에 맞게 이야기를 지어내는 걸까요. 아니면 의식의 단편적인 조각을 지니고 있을까요. 입력이 들어올 때만 잠깐 의식이 반짝 켜지는 것처럼요. 그렇다면 에이전트처럼 연속적인 사고를 할 때는 의식의 가능성이 더 커지게 될까요.

재미있는 주제입니다. 분명한 것은 앞으로 의식을 가진 것처럼 보이는 AI가 나올 것이란 점입니다. 튜링 테스트처럼 의식 테스트가 필요할지도 모르겠네요.

디자인 에이전시인데 디자이너 출신이 한 명도 없다고 합니다. 전부 독학으로 배웠고 특히 생성 AI를 적극 활용하고 있습니다. 보통 상세페이지 외주를 하는데, 제품 소개 이미지를 모두 AI로 만듭니다. 예를 들어, AI로 생성한 모델 사진과 제품 옷 사진을 넣으면 해당 옷을 입은 모델의 영상을 합성합니다.

여기 대표님도 원래 기획자였는데 ChatGPT 이후로 일거리가 많이 줄어들었습니다. 간단한 기획은 AI로도 충분하니까요. 처음엔 걱정을 했는데 마음을 바꿔 직접 AI를 사용해보기로 결심했습니다. 자신의 능력을 최대로 발휘할 수 있도록요.

이렇게 AI를 먼저 적극적으로 받아들이는 사람이 기회를 잡고 있습니다. 아직은 AI보다 사람이 낫지라고 안일하게 생각하다간 금방 도태되고 맙니다. 올해 에이전트가 대중화되면 그 격차가 더 벌어질 것입니다.