레플리
글 수 284

세콰이어캐피탈에서 전망하는 LLM의 미래

조회 수 251 추천 수 0 2023.06.19 14:43:34


 

https://www.sequoiacap.com/article/llm-stack-perspective

 

 

 

유명 VC인 세콰이어캐피탈에서 발표한 LLM 전망입니다. 현재 LLM을 커스터마이징하는 방법은 다음과 같은 3가지가 있습니다.

 

1. LLM을 바닥부터 새로 학습. 많은 데이터와 자원이 필요.

2. 사전훈련된 LLM을 파인튜닝. 1번보다 덜하지만 역시 학습이 어려움

3. 벡터서치로 먼저 검색하고 LLM으로 생성

 

앞으로 3번째 방법인 벡터서치가 가장 많이 활용될 것이라 예측하고 있습니다. 사실 LangChain이나 Plugin, Function 역시 이와 비슷한 방식이라고 봅니다. 모델의 한계를 뛰어넘기 위해 외부 기능과 연동하는 것이니까요.

 

글의 마지막에는 이런 회사들을 찾고 있다고 광고하고 있네요^^;

 

If you’re founding a company that will become a key pillar of the language model stack or an AI-first application, Sequoia would love to meet you.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
OpenAI Transformer GPT2로 만든 언어 모델 깊은바다 2019-02-17 2980
카카오 형태소 분석기(khaiii) 설치와 은전한닢(mecab) 형태소 분석기 비교 깊은바다 2018-12-02 2828
구글 딥러닝 자연어 처리 오픈소스 SyntaxNet file 깊은바다 2017-12-28 2785
그림으로 아주 쉽게 설명한, The Illustrated GPT-2 깊은바다 2020-08-15 2785
추론이 가능한 딥러닝인 Relational Networks [2] 깊은바다 2017-06-11 2740
Python과 Tensorflow를 활용한 AI Chatbot 개발 및 실무 적용 깊은바다 2017-08-25 2582
GPT-3를 강화학습으로 업그레이드한 InstructGPT file 깊은바다 2022-01-30 2569
오픈소스 한국어 딥러닝 챗봇 - Kochat 깊은바다 2020-07-03 2503
딥러닝을 사용하여 의도 및 엔티티를 파악하는 챗봇 소스코드 file 깊은바다 2019-06-25 2329
개체명인식 with Naver 깊은바다 2018-11-20 2320
BERT로 토익 문제를 푸는 프로젝트 file 깊은바다 2019-04-30 2283
GPT2에서 문장 생성 시 단어를 확률에 따라 선택하는 방법 깊은바다 2020-07-16 2208
소설을 생성하는 NarrativeKoGPT2 file 깊은바다 2020-06-19 2198
GPT2로 만든 텍스트 어드벤처 게임 깊은바다 2019-12-09 2010
딥러닝으로 욕설 탐지하기 깊은바다 2018-08-06 1881