보통 챗봇빌더로 구글의 Dialogflow와 카카오i 오픈빌더를 많이 쓰는 편입니다. 만약 GPT-3 같은 생성모델을 쓴다면 가격이 어떨지 비교해봤습니다.

GPT-3는 사이즈별로 여러 모델이 있는데, 가장 큰 Davinci는 1K 토큰당 72원입니다. 이때 생성된 토큰만이 아니라 프롬프트에 사용된 토큰도 요금에 모두 포함됩니다. 프롬프트와 생성된 문장에 따라 다르겠지만 대충 한번 호출에 100토큰이라고 계산하겠습니다. 그러면 7원의 비용이 듭니다.

Dialogflow(최신 CX말고 구버전인 EX)는 무료버전에서 초당 3개 요청까지만 가능합니다. 유료버전에서는 초당 10개까지 호출할 수 있는데 요청당 2.4원입니다.

카카오i 오픈빌더는 방식이 약간 다릅니다. 호출당이 아니라 채팅방 단위로 계산됩니다. 채팅방이 한번 만들어지면 여러 번 호출해도 상관이 없습니다. 매달 50,000건 채팅방까지 무료이고, 그 이상은 채팅방당 30원이 부과됩니다.

< 하루 100명 / 한명당 100번 대화 >

GPT-3 : 한달 2,100,000원

Dialogflow : 한달 720,000원

카카오i 오픈빌더 : 무료

< 하루 1,000명 / 한명당 100번 대화 >

GPT-3 : 한달 21,000,000원

Dialogflow : 한달 7,200,000원

카카오i 오픈빌더 : 무료

< 하루 10,000명 / 한명당 100번 대화 >

GPT-3 : 한달 210,000,000원

Dialogflow : 한달 72,000,000원

카카오i 오픈빌더 : 한달 7,500,000원

< 하루 100,000명 / 한명당 100번 대화 >

GPT-3 : 한달 2,100,000,000원

Dialogflow : 한달 720,000,000원

카카오i 오픈빌더 : 한달 88,500,000원

평균적으로 카카오i 오픈빌더가 Dialogflow보다 싼 편이네요. 그러나 카카오톡 챗봇을 만들려면 무조건 오픈빌더를 사용해야 한다는 점이 좀 아쉽습니다. 다른 메신저들은 단순히 API만 사용하는건 무료니까요. 그래도 매달 5만건 이하의 소규모 챗봇이라면 충분히 유용하다고 봅니다.

GPT-3는 Dialogflow보다 3배 정도 비쌉니다. 물론 성능이 훨씬 뛰어난 만큼 이해할만한 수준입니다. 다만 사용자수가 늘어날수록 요금도 기하급수적으로 증가한다는 문제가 있습니다. 일상대화 챗봇 Replika에서도 GPT-3를 잠시 테스트 했었는데 사용자 반응이 아주 좋았습니다. 그렇지만 결국 자체 개발한 GPT-2 모델을 쓰더군요. 역시 비용이 가장 큰 걸림돌이 아니까 생각됩니다.