오늘 클로바의 새로운 모델 HCX-DASH가 출시됐습니다. HCX-003의 경량화 모델인데 가격이 1/5로 떨어졌습니다. 기존 작은 모델이던 LK-B보다도 2.5배 더 저렴합니다. 대신 성능은 HCX-003과 LK-B의 중간 정도입니다.

가볍게 테스트를 해봤는데 상당히 쓸만 했습니다. 일상적인 대화는 HCX-003과 크게 차이나지 않았습니다. 대신 지식에 대해 물어보면 답변이 짧은 편이고 틀린 경우도 종종 있었습니다. 성능을 우선시 한다면 아직 HCX-003이 좋고, 가성비를 따진다면 HCX-DASH도 나쁘지 않은 선택입니다.

다만 페르소나 프롬프트를 넣고 해봤는데 답변할 수 없다는 대답이 자주 나왔습니다. 개인정보 노출이나 부적절한 내용이라고 하는데 실제로는 그런 대화가 아니었거든요. 플레이그라운드가 아니라 API로 해도 마찬가지였습니다. HCX-003과 달리 검열이 빡세게 들어간 듯 싶습니다. HCX-DASH는 기능형 챗봇에는 적당하지만 감성형 챗봇에 적용하긴 힘들 것 같습니다. 이 부분은 차후 개선되었으면 합니다.

챗GPT도 그렇고 클로바X도 경량화가 되면서 빠르게 가격이 내려가고 있습니다. LLM이 대중화되면 사용량이 늘어나 단가가 더 떨어질 것입니다. AI 반도체도 추론 비용을 낮출 테고요. 지금은 LLM을 적용한 서비스가 적자를 보는 경우가 많은데요. 늦어도 1~2년 후에는 상황이 많이 바뀔 것이라 생각합니다.