https://hur.substack.com/p/two-cents-63-generative-ai-moat

현재 생성AI 시장에 대해서 정리한 글입니다. 공감이 되는 내용이 많네요. 각자가 어느 분야에 집중할지 고민이 필요한 시기입니다.

---------------------

LLM 인프라는 AI 이용에 비례해서 지속적으로 수요가 늘 것이고 장기적으로는 지금의 클라우드 인프라와 비슷한 포지셔닝이 되겠지만, value accrual 측면에서는 전체 stack 부가가치의 최소 10~30%, 최대 50% 내외를 차지할 것으로 예상된다.

AI-augmented는 다시 크게 두 가지 방식으로 나타날 것으로 보인다. 첫째, 기존 제품에 AI로 인한 새로운 방식, 기능을 추가하는 형태. 둘째, (Invisible) AI로 강화된 제품 및 서비스. 이러한 ‘AI 강화를 어떻게 할 것인지’ (소위 “AI Transformation”)이 현재 대부분의 기업들이 Gen AI 트렌드 관련 가장 많은 고민을 하는 지점이 될 것이고, 단기적으로 이를 위한 (LLMOps, LLM 인프라 등의) B2B 수요가 폭발적으로 늘어날 것이다.

AI-native. 기존에 가능하지 않았지만 AI로 가능해진, 완전히 새로운 유형의 제품.서비스를 의미한다. 비유하자면, 모바일 기술로 인하여 Uber 같은 서비스가 비로소 가능해진 것과 유사한 형태. 이 분야는, 3-5년 및 10년의 긴 기간동안 점진적으로 emerge할 트렌드가 될 것이며, 그 형태는 우리가 지난 20년간 익숙해진 것과 상당히 다른 형태, 방식이 될 가능성이 크다.

그 중에서도 지금 당장 시장에서 이미 꽤 큰 수요가 발생하고 있으며. 이에 대응하여 바로 일정 규모 이상의 비즈니스를 만들 수 있는 “low-hanging fruit” 기회도 꽤 많다. 이는 대략 앞으로 1-2년 정도 상당한 규모의 기회가 될 것이다.

향후 1-2년 정도는 이 정도의 본격적인 개발까지 필요하지는 않고 지금 당장 아주 간단한 형태의 AI 도입부터 고민하는 대부분의 스타트업, 기업들의 니즈가 아주 클 것이다. 현 단계에서는, 기존 비즈니스에 최대한 빠르게/간단하게 AI 도입하는 방식은 아래의 몇 가지 유형으로 진행될 것으로 보인다. 첫째, 단순 Prompt engineering으로 가능한 수준. 둘째, 기업 내 데이터를 embedding하여, 이 기반으로 prompt engineering으로 가능한 수준, 셋째, LangChain, vector store 등 기반으로 어느 정도의 개발이 필요한 수준. 넷째, Plugin, function calling API 등을 통하여 ChatGPT에 자체 서비스 연동 및 제공하는 수준.

이를 위한 컨설팅, 앱/서비스 구축, 이에 위한 간단한 구조의 low-code/no-code 툴 등에 대한 수요가 향후 1-2년간은 꽤 클 것으로 예상된다. (90년대 후반 웹 도입 초기에 웹사이트 구축 (웹 에이전시), 웹 구축 툴 등의 시장이 만들어진 것과 비슷한 양상이 될 듯)

LLM 인프라 layer는 winner-take-most가 될 것으로 본다. OpenAI, Google, Stability, Cohere 등. 그럼에도, (클라우드와 달리) 인프라 공급자 간 switching cost가 높지는 않고, 이는 향후 5년간 치열한 가격 및 기능 (API, dev support 등) 경쟁으로 이어질 것으로 예상된다.

그 중에서도, 현재 하루에 수십개씩 등장하는 ChatGPT에 단순 UX (Chrome extension, mobile app 등)을 추가한 소위 ‘GPT wrapper’ 서비스는, 초기의 hype에 힘입어 성장하는 과정에서 스스로의 ‘defensible moat’ (예: 초기 한메일, 세이클럽의 network effect)를 구축하지 않는 한, 대부분은 지속 가능하지 않을 것이다.

대부분의 서비스가 사실상 같은 LLM 인프라를 같은 API를 통해 사용하는 만큼, 서비스 기능/형태 자체만으로의 moat는 크게 강하지 않을 것이고, workflow, 사용자가 느끼는 가치 등을 통한 자신만의 차별화가 핵심이 될 것이다.

그러니, 스타트업들은 이제 더 이상 ‘AI 공부’만 하지 말고, 너무 오래 고민하지 말고, 너무 완벽한 모델을 먼저 만들려 하지 말고, 너무 '세상에 없는 새로운 뭔가를 만들어야지'라는 의지로 고민만 하지 말고, 지금 막 나오는 것들을 copy하거나 조금 비틀어서 만들어 보기도 하고, 여기에서 새로운 아이디어를 짜내 보기도 하고 하면서, “뭐라도 일단 만들어 보면서 시작하자.” (Try many) 그 과정에서 잘 안 되면 빨리 실패하고, 툴툴 털고 다시 다른 것을 해 보면 되니까. (Fail fast) 그러다 보면, 10개 중 1개는 ‘한메일’ ‘세이클럽’ 같은 성공작도 나오고, 그 중에 또 하나는 더 발전하여 ‘네이버’가 될 수도 있고, ‘리니지’가 그랬듯이 글로벌 시장에서 한 획을 긋는 새로운 것을 만들어 내기도 할 것이다.