레플리
글 수 288

GPT-4o, GPT-3.5-turbo, 클로바X 가격 비교

조회 수 281 추천 수 0 2024.05.15 00:47:40


GPT-4o의 토크나이저는 20만개의 토큰으로 구성되어 있습니다. 이는 이전 GPT-4와 GPT-3.5의 10만개에서 2배 증가한 수치입니다. 토큰 개수가 많으면 같은 문장이라도 잘게 쪼개지 않고 더 길이가 긴 토큰들로 분리할 수 있습니다.

 

예를 들어, '안녕하세요'를 이전에는 '안, 녕, 하, 세, 요'로 5개 토큰으로 나누었다고 가정해보겠습니다. 지금은 '안녕, 하세, 요' 3개 토큰으로 더 줄일 수 있습니다. 덕분에 한글 문장을 처리할 때 1.7배 적은 토큰이 소모됩니다. 그 말은 속도와 비용 역시 같은 비율로 감소된다는 뜻입니다.

 

 

 

GPT-4o와 GPT-3.5-turbo, 클로바X의 가격을 비교해봤습니다.

 

< GPT-4o >

토큰수 : 154

토큰당 가격 : 0.0137원

전체 비용 : 2.1원

 

< GPT-3.5-turbo >

토큰수 : 250

토큰당 가격 : 0.00137원

전체 비용 : 0.34원

 

< 클로바X >

토큰수 : 108

토큰당 가격 : 0.005원

전체 비용 : 0.54원

 

 

 

GPT-4o와 GPT-3.5-turbo는 6배, GPT-4o와 클로바X는 4배 정도 차이가 납니다. 이번에 토크나이저가 변경되면서 한글을 사용하는데 가성비가 매우 좋아졌습니다. GPT-3.5-turbo도 다음 버전에서는 새로운 토큰나이저로 변경될까요. 그렇다면 지금보다 1.7배 정도 가격이 더 싸질 텐데요.

 

OpenAI가 무서운게 바로 이런 가격 경쟁력이라고 봅니다. 성능도 좋지만 모델 경량화 및 서빙 최적화 기술에서 다른 회사들을 크게 앞지르고 있습니다. LLM이 대중화 되려면 비용이 지금보다 훨씬 떨어져야 합니다. 아직 적자보면서 LLM을 적용하는 서비스가 대부분이니까요.

 

 

 

K-001.png

 

K-002.png

 

K-002_1.png

 

K-004.png

 

K-005.png

 

K-006.png

 

K-007.png

 

List of Articles
제목 글쓴이 날짜 조회 수
심심이와 이루다1.0같은 검색 기반 챗봇의 장점 file 깊은바다 2024-06-02 133
GPT-4o가 GPT-4보다 한글 문장 품질이 훨씬 높아짐 file 깊은바다 2024-05-20 127
GPT-4o, GPT-3.5-turbo, 클로바X 가격 비교 file 깊은바다 2024-05-15 281
감성대화에서 클로바X가 챗GPT보다 뛰어난 이유 깊은바다 2024-05-10 110
MS 코파일럿, 한국어 토큰수 2배에서 1.1배로 감소 file 깊은바다 2024-05-04 179
5배 싸진 클로바X의 경량화 모델 - HCX-DASH file 깊은바다 2024-04-26 137
클로바X의 사용량 제한 - QPM과 TPM 깊은바다 2024-04-01 155
Pi를 만든 Inflection AI, MS로 대거 이직한 이유 깊은바다 2024-03-25 145
LLaMA나 Mistral이 계속 무료로 유지될 수 있을까 깊은바다 2024-03-05 335
GPT-3.5와 클로바X 가격 비교 file 깊은바다 2024-02-25 451
OpenAI, 성능은 높아지고 가격은 싸진 새로운 모델 공개 file 깊은바다 2024-01-26 369
AI 휴대용 기기 R1을 만든 Rabbit의 대표 Jesse Lyu 깊은바다 2024-01-12 332
화면을 보고 스마트폰 앱 사용방법을 배우는 모델 - AppAgent file 깊은바다 2024-01-08 380
LLM의 새로운 기법 - Merge와 DPO file 깊은바다 2024-01-02 1385
업스테이지 SOLAR 10.7B에서 사용한 DUS 모델 확장 방법 file 깊은바다 2023-12-27 579