레플리
글 수 118

샘 알트만, 우리는 이미 특이점에 도달했다

조회 수 80 추천 수 0 2025.06.11 11:18:11


우리는 사건의 지평선을 지나 도약이 시작되었습니다. 인류는 디지털 초지능 구축에 근접해 있으며, 적어도 지금까지는 생각보다 훨씬 덜 이상하게 느껴집니다.

 

아직 로봇이 거리를 활보하지도 않고, 우리 대부분은 하루 종일 인공지능과 대화하지도 않습니다. 사람들은 여전히 질병으로 죽고, 우리는 여전히 우주에 쉽게 갈 수 없으며, 우주에는 우리가 이해하지 못하는 많은 것들이 있습니다.

 

그럼에도 불구하고 우리는 최근 여러 면에서 사람보다 더 똑똑한 시스템을 구축했고, 이를 사용하는 사람들의 생산성을 크게 증폭시킬 수 있게 되었습니다. GPT-4와 o3와 같은 시스템을 개발할 수 있었던 과학적 통찰력은 어렵게 얻은 것이지만, 앞으로 더 큰 발전을 가져올 것입니다.

 

AI는 다양한 방식으로 세상에 기여할 것이지만, 더 빠른 과학적 진보와 생산성 향상으로 인한 삶의 질 향상은 막대할 것이며, 미래는 현재보다 훨씬 더 나아질 수 있습니다. 과학적 발전은 전반적인 발전의 가장 큰 원동력이며, 우리가 얼마나 더 많은 것을 가질 수 있을지 생각하면 매우 흥분됩니다.

 

어떤 큰 의미에서 ChatGPT는 이미 지금까지 살아온 어떤 인간보다 더 강력합니다. 수억 명의 사람들이 매일 그리고 점점 더 중요한 업무에 의존하고 있으며, 작은 새로운 기능 하나가 엄청난 긍정적인 영향을 미칠 수 있고, 작은 오차가 수억 명에 곱해지면 엄청난 부정적인 영향을 미칠 수 있습니다.

 

2025년에는 실제 인지 작업을 수행할 수 있는 에이전트가 등장하여 컴퓨터 코드를 작성하는 것이 예전과 같지 않을 것입니다. 2026년에는 새로운 인사이트를 찾아낼 수 있는 시스템이 등장할 것입니다. 2027년에는 현실 세계에서 작업을 수행할 수 있는 로봇이 등장할 수 있습니다.

 

더 많은 사람들이 소프트웨어와 예술을 창작할 수 있게 될 것입니다. 하지만 세상은 이 두 가지를 모두 더 많이 원하고, 새로운 도구를 받아들이는 한 전문가가 초보자보다 훨씬 더 나은 능력을 발휘할 것입니다. 일반적으로 2020년보다 2030년에 한 사람이 훨씬 더 많은 일을 할 수 있게 된다는 것은 놀라운 변화가 될 것이며, 많은 사람들이 그 혜택을 누릴 수 있는 방법을 알아낼 것입니다.

 

가장 중요한 면에서 2030세대는 크게 다르지 않을 수 있습니다. 사람들은 여전히 가족을 사랑하고, 창의력을 표현하고, 게임을 즐기고, 호수에서 수영을 할 것입니다.

 

그러나 여전히 매우 중요한 면에서 2030세대는 이전과는 크게 달라질 것입니다. 인간 수준의 지능을 어디까지 넘어설 수 있을지는 아직 알 수 없지만, 곧 알게 될 것입니다.

 

2030년대에는 지능과 에너지, 즉 아이디어와 아이디어를 실현할 수 있는 능력이 엄청나게 풍부해질 것입니다. 이 두 가지는 오랫동안 인류의 발전을 제한하는 근본적인 요소였지만, 풍부한 지능과 에너지(그리고 좋은 거버넌스)만 있다면 이론적으로는 다른 모든 것을 가질 수 있습니다.

 

이미 우리는 놀라운 디지털 지능과 함께 살고 있으며, 처음에는 약간의 충격을 받았지만 대부분의 사람들은 이에 꽤 익숙해져 있습니다. 인공지능이 아름답게 쓰인 문장을 만들어낼 수 있다는 사실에 놀랐던 것에서 언제쯤이면 아름답게 쓰인 소설을 만들어낼 수 있을지, 또는 생명을 구할 수 있는 의료 진단을 내릴 수 있다는 사실에 놀랐던 것에서 언제쯤이면 치료제를 개발할 수 있을지, 또는 작은 컴퓨터 프로그램을 만들 수 있다는 사실에 놀랐던 것에서 완전히 새로운 회사를 만들 수 있을지 궁금해하는 단계로 빠르게 변화하고 있습니다. 경이로움이 일상이 되고, 이것이 바로 특이점이 되는 과정입니다.

 

이미 과학자들은 AI를 사용하기 전보다 생산성이 두세 배 높아졌다는 이야기를 듣고 있습니다. 고급 AI는 여러 가지 이유로 흥미롭지만, 아마도 AI를 사용하여 더 빠른 AI 연구를 수행할 수 있다는 사실만큼 중요한 것은 없을 것입니다. 새로운 컴퓨팅 기판, 더 나은 알고리즘 등을 발견할 수 있을지도 모릅니다. 10년에 걸친 연구를 1년 또는 한 달 안에 할 수 있다면 그 발전 속도는 분명히 달라질 것입니다.

 

이제부터는 이미 구축한 도구를 통해 더 많은 과학적 인사이트를 찾고 더 나은 AI 시스템을 만드는 데 도움이 될 것입니다. 물론 이것은 AI 시스템이 완전히 자율적으로 자체 코드를 업데이트하는 것과는 다르지만, 그럼에도 불구하고 이것은 재귀적 자기 개선의 애벌레 버전입니다.

 

다른 자기 강화 루프도 작용하고 있습니다. 경제적 가치 창출은 점점 더 강력해지는 AI 시스템을 실행하기 위한 인프라 구축의 복합적인 플라이휠을 시작했습니다. 그리고 다른 로봇을 구축할 수 있는 로봇(그리고 어떤 의미에서는 다른 데이터센터를 구축할 수 있는 데이터센터)도 그리 먼 미래가 아닙니다.

 

처음 백만 대의 휴머노이드 로봇을 구식 방식으로 만들어야 하지만, 그 로봇이 광물을 캐고 정제하고 트럭을 운전하고 공장을 운영하는 등 전체 공급망을 운영할 수 있게 되면 더 많은 로봇을 만들어 더 많은 칩 제조 시설, 데이터 센터 등을 구축할 수 있다면 발전 속도는 분명히 달라질 것입니다.

 

데이터센터 생산이 자동화됨에 따라 인텔리전스 비용은 결국 전기료와 거의 비슷한 수준으로 수렴할 것입니다. (사람들은 종종 ChatGPT 쿼리가 얼마나 많은 에너지를 사용하는지 궁금해합니다. 평균 쿼리는 약 0.34와트시를 사용하는데, 이는 오븐이 1초 조금 넘는 시간 동안 사용하거나 고효율 전구가 몇 분 동안 사용하는 것과 비슷한 수준입니다. 또한 약 0.000085갤런의 물을 사용하며, 이는 티스푼의 약 15분의 1에 해당합니다.)

 

기술 발전 속도는 계속 빨라질 것이며, 사람들은 거의 모든 것에 적응할 수 있는 능력을 갖추게 될 것입니다. 모든 종류의 직업이 사라지는 등 매우 어려운 부분도 있겠지만, 다른 한편으로는 세상이 너무 빨리 훨씬 더 부유해져서 이전에는 불가능했던 새로운 정책 아이디어를 진지하게 즐길 수 있게 될 것입니다. 새로운 사회 계약이 한꺼번에 도입되지는 않겠지만, 수십 년 후를 돌아보면 점진적인 변화로 인해 큰 변화가 일어났을 것입니다.

 

역사를 보면 우리는 새로운 일과 새로운 욕구를 파악하고 새로운 도구를 빠르게 흡수할 것입니다(산업혁명 이후의 직업 변화가 최근의 좋은 예입니다). 기대치는 높아지겠지만 역량도 그에 못지않게 빠르게 향상될 것이며 우리 모두는 더 나은 것을 얻게 될 것입니다. 우리는 서로를 위해 더욱 놀라운 것들을 만들어낼 것입니다. 사람은 다른 사람과 다른 사람의 생각과 행동에 관심을 갖도록 본능적으로 연결되어 있으며, 기계에 대해서는 별로 신경 쓰지 않는다는 점에서 AI에 비해 장기적으로 중요하고 흥미로운 이점을 가지고 있습니다.

 

천 년 전의 자급자족 농부는 우리가 하는 많은 일을 보고 가짜 직업이라고 말할 것이고, 우리는 먹을 것이 풍부하고 상상할 수 없는 사치품을 가지고 있기 때문에 그저 즐겁게 놀기 위해 게임을 하고 있다고 생각할 것입니다. 저는 우리가 천 년 후의 직업을 바라보며 매우 가짜 직업이라고 생각하길 바라며, 그 일을 하는 사람들에게는 엄청나게 중요하고 만족스러운 직업이 될 것이라고 믿어 의심치 않습니다.

 

새로운 경이로움이 달성되는 속도는 엄청날 것입니다. 2035년까지 우리가 무엇을 발견하게 될지 지금은 상상하기조차 어렵지만, 어쩌면 우리는 한 해에 고에너지 물리학을 해결하고 다음 해에는 우주 식민지화를 시작하거나, 한 해에는 재료 과학의 획기적인 발전에서 진정한 고대역폭 뇌-컴퓨터 인터페이스를 실현할 수도 있습니다. 많은 사람들이 거의 같은 방식으로 삶을 살아가겠지만, 적어도 일부 사람들은 '플러그인'을 선택하게 될 것입니다.

 

앞을 내다보면 이해하기 어려운 일처럼 들립니다. 그러나 아마도 그 시기를 살아가다 보면 인상적이면서도 감당할 수 있는 일로 느껴질 것입니다. 상대론적 관점에서 보면 특이점은 조금씩 일어나고 병합은 천천히 일어납니다. 우리는 기하급수적인 기술 발전의 긴 호를 오르고 있으며, 앞을 보면 수직이고 뒤로는 평평해 보이지만 이는 하나의 부드러운 곡선입니다. (2020년을 되돌아보고, 2025년까지 AGI에 근접한 기술을 보유하게 된다면 지난 5년간의 실제 상황과 비교했을 때 어떤 느낌이었을지 생각해 보세요.)

 

엄청난 장점과 함께 직면해야 할 심각한 과제도 있습니다. 기술적으로나 사회적으로 안전 문제를 해결해야 하지만, 경제적 영향을 고려할 때 초지능에 대한 접근성을 널리 배포하는 것이 매우 중요합니다. 가장 좋은 방법은 다음과 같을 수 있습니다.

 

정렬 문제를 해결하는 것, 즉 AI 시스템이 장기적으로 우리가 집단적으로 진정으로 원하는 것을 학습하고 행동하도록 강력하게 보장하는 것입니다(소셜 미디어 피드는 정렬이 잘못된 AI의 예입니다. 이러한 피드를 구동하는 알고리즘은 사용자가 계속 스크롤하고 단기적인 선호를 명확하게 이해하도록 하는 데는 놀랍지만 장기적인 선호를 무시하는 뇌의 무언가를 이용함으로써 그렇게 하는 것입니다).

 

그런 다음 초지능을 저렴하고 널리 사용할 수 있도록 하는 데 집중하고 특정 개인, 회사 또는 국가에 너무 집중되지 않도록 해야 합니다. 사회는 탄력적이고 창의적이며 빠르게 적응합니다. 사람들의 집단적 의지와 지혜를 활용할 수 있다면 실수도 많이 하고 잘못되는 일도 있겠지만, 빠르게 배우고 적응하면서 이 기술을 활용해 장점은 극대화하고 단점은 최소화할 수 있을 것입니다. 사회가 결정해야 하는 넓은 범위 내에서 사용자에게 많은 자유를 주는 것은 매우 중요해 보입니다. 이러한 광범위한 범위가 무엇인지, 그리고 집단적 정렬을 어떻게 정의할 것인지에 대해 전 세계가 빨리 대화를 시작할수록 좋습니다.

 

우리(OpenAI뿐만 아니라 업계 전체)는 세상을 위한 두뇌를 만들고 있습니다. 매우 개인화되고 누구나 쉽게 사용할 수 있으며, 좋은 아이디어에 의해 제한될 것입니다. 오랫동안 스타트업 업계의 기술자들은 아이디어가 있고 이를 구현할 팀을 찾는 사람들을 '아이디어맨'이라고 조롱해 왔습니다. 하지만 이제 그들의 시대가 다가왔습니다.

 

OpenAI는 현재 많은 일을 하고 있지만, 무엇보다도 초지능 연구 회사입니다. 우리 앞에는 많은 일이 있지만, 이제 우리 앞의 길은 대부분 밝아졌고 어두운 영역은 빠르게 사라지고 있습니다. 우리는 우리가 하는 일을 할 수 있다는 사실에 무한한 감사를 느낍니다.

 

측정하기에는 너무 저렴한 인텔리전스. 미친 소리처럼 들릴지 모르지만, 2020년에 우리가 지금 이 자리에 있을 것이라고 말했다면 아마도 2030년에 대한 현재의 예측보다 더 미친 소리처럼 들렸을 것입니다.

 

초지능을 통해 원활하고 기하급수적으로, 그리고 아무 일 없이 확장되기를 바랍니다.

 

 

 

< 원문 블로그 >

https://blog.samaltman.com/the-gentle-singularity

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
샘 알트만, 우리는 이미 특이점에 도달했다 우종하 2025-06-11 80
AI 덕분에 일하지 않고도 편하게 살 수 있는 세상 우종하 2025-06-05 90
AI Fisrt 선언한 듀오링고, AI로 가능한 신규 채용 제한 우종하 2025-05-10 383
GPT-4.5는 의식을 갖고 있을까 file 우종하 2025-04-06 392
디자이너 없이 AI를 활용하는 디자인 에이전시 file 우종하 2025-04-04 391
GPT-4o 이미지 생성에서 에이전트와 로봇까지 file 우종하 2025-03-29 362
챗봇, ChatGPT Plugin, 에이전트의 차이점 우종하 2025-03-15 408
키오스크처럼 AI도 빠르게 도입될까 우종하 2025-03-15 383
Anthropic 대표, 3~6개월 안에 코딩의 90%를 AI가 수행할 것 file 우종하 2025-03-15 359
에릭 슈미트가 스탠포드대에서 강연했던 내용 깊은바다 2024-08-18 1705
손정의, 20년 안에 인간은 금붕어같은 존재가 될 것 file 깊은바다 2024-03-13 550
한국 NVIDIA 전 지사장과 나눈 대화 - 기술이 아닌 아이디어의 시대 깊은바다 2023-11-15 490
생성AI는 이제 기술보다 인프라로 접근해야 한다 깊은바다 2023-11-15 443
한국전파진흥협회에서 강의한 챗GPT와 메타버스 영상입니다 file 깊은바다 2023-11-12 427
LLM 2명 타요 file [7] 깊은바다 2023-11-08 634