레플리
글 수 288

5배 싸진 클로바X의 경량화 모델 - HCX-DASH

조회 수 137 추천 수 0 2024.04.26 17:58:10


오늘 클로바의 새로운 모델 HCX-DASH가 출시됐습니다. HCX-003의 경량화 모델인데 가격이 1/5로 떨어졌습니다. 기존 작은 모델이던 LK-B보다도 2.5배 더 저렴합니다. 대신 성능은 HCX-003과 LK-B의 중간 정도입니다.

 

가볍게 테스트를 해봤는데 상당히 쓸만 했습니다. 일상적인 대화는 HCX-003과 크게 차이나지 않았습니다. 대신 지식에 대해 물어보면 답변이 짧은 편이고 틀린 경우도 종종 있었습니다. 성능을 우선시 한다면 아직 HCX-003이 좋고, 가성비를 따진다면 HCX-DASH도 나쁘지 않은 선택입니다.

 

다만 페르소나 프롬프트를 넣고 해봤는데 답변할 수 없다는 대답이 자주 나왔습니다. 개인정보 노출이나 부적절한 내용이라고 하는데 실제로는 그런 대화가 아니었거든요. 플레이그라운드가 아니라 API로 해도 마찬가지였습니다. HCX-003과 달리 검열이 빡세게 들어간 듯 싶습니다. HCX-DASH는 기능형 챗봇에는 적당하지만 감성형 챗봇에 적용하긴 힘들 것 같습니다. 이 부분은 차후 개선되었으면 합니다.

 

챗GPT도 그렇고 클로바X도 경량화가 되면서 빠르게 가격이 내려가고 있습니다. LLM이 대중화되면 사용량이 늘어나 단가가 더 떨어질 것입니다. AI 반도체도 추론 비용을 낮출 테고요. 지금은 LLM을 적용한 서비스가 적자를 보는 경우가 많은데요. 늦어도 1~2년 후에는 상황이 많이 바뀔 것이라 생각합니다.

 

 

 

K-001.png

 

K-002.png

 

 

 

K-004.png

 

K-005.png

 

 

 

K-006_1.png

 

K-006_2.png

 

K-007.png

 

 

 

K-008_1.png

 

K-008_2.png

 

K-009.png

 

 

 

K-010_1.png

 

K-010_2.png

 

K-011.png

 

 

 

K-015_1.png

 

K-015_2.png

 

K-016.png

 

 

 

K-020.png

 

K-021.png

 

List of Articles
제목 글쓴이 날짜 조회 수
심심이와 이루다1.0같은 검색 기반 챗봇의 장점 file 깊은바다 2024-06-02 135
GPT-4o가 GPT-4보다 한글 문장 품질이 훨씬 높아짐 file 깊은바다 2024-05-20 127
GPT-4o, GPT-3.5-turbo, 클로바X 가격 비교 file 깊은바다 2024-05-15 284
감성대화에서 클로바X가 챗GPT보다 뛰어난 이유 깊은바다 2024-05-10 110
MS 코파일럿, 한국어 토큰수 2배에서 1.1배로 감소 file 깊은바다 2024-05-04 179
5배 싸진 클로바X의 경량화 모델 - HCX-DASH file 깊은바다 2024-04-26 137
클로바X의 사용량 제한 - QPM과 TPM 깊은바다 2024-04-01 159
Pi를 만든 Inflection AI, MS로 대거 이직한 이유 깊은바다 2024-03-25 145
LLaMA나 Mistral이 계속 무료로 유지될 수 있을까 깊은바다 2024-03-05 336
GPT-3.5와 클로바X 가격 비교 file 깊은바다 2024-02-25 452
OpenAI, 성능은 높아지고 가격은 싸진 새로운 모델 공개 file 깊은바다 2024-01-26 369
AI 휴대용 기기 R1을 만든 Rabbit의 대표 Jesse Lyu 깊은바다 2024-01-12 333
화면을 보고 스마트폰 앱 사용방법을 배우는 모델 - AppAgent file 깊은바다 2024-01-08 382
LLM의 새로운 기법 - Merge와 DPO file 깊은바다 2024-01-02 1395
업스테이지 SOLAR 10.7B에서 사용한 DUS 모델 확장 방법 file 깊은바다 2023-12-27 580