https://www.facebook.com/seattleyangpa/posts/723153495842420

지난 번에 ChatGPT 기반의 콜센터 챗봇이 곧 등장할거라는 글을 소개했습니다. 여기에 대해 제 개인적인 의견을 좀 더 자세히 설명해보겠습니다.

현재 콜센터 챗봇은 주로 유사도 비교나 시나리오 방식을 많이 사용합니다. 예를 들어, A라고 물어보면 B라고 대답하라고 학습 데이터를 사람이 직접 추가합니다. 또한 여러 단계에 걸친 대답이면 트리 모양의 시나리오를 구성해놓습니다. 이런 방식의 문제점은 유연성이 너무 떨어진다는 것입니다. 미리 짜여진 구조를 벗어나면 대답을 잘 못합니다. 그래서 몇 번 얘기를 해보다 실망하는 경우가 많습니다.

이를 ChatGPT 같은 LLM으로 만들려면 어떻게 해야 할까요. 단순히 FAQ 같은 데이터를 추가 학습해서는 한계가 있습니다. 예를 들어, '내 핸드폰 요금제를 바꾸고 싶어요'라고 질문하면 사용자의 현재 요금정보를 DB에서 찾아야 합니다. 이를 위해서는 다음과 같이 API 호출 코드 자체를 파인튜닝할 수 있습니다.

A : 내 핸드폰 요금제를 바꾸고 싶어요.

B : [GetUserPlan] (DB 호출요청)

    [UserPlan:무한요금제] (DB 호출결과)

    고객님의 현재 요금제는 무한요금제이군요. 어떤 요금제로 바꾸고 싶나요

A : 좀 더 싼 요금제가 없나요?

B : [GetLowPricePlanThan:무한요금제] (DB 호출요청)

    [LowPricePlanThan:무한요금제->알뜰요금제, 반값요금제, ...] (DB 호출결과)

    고객님의 현재 상황에서는 알뜰요금제가 어떠실까요. 알뜰요금제는 이런 서비스를 포함하고 있습니다....

문제는 API 호출 코드가 포함된 학습 데이터를 어떻게 구하느냐입니다. 이를 위해서는 사람 상담사가 쓰는 툴을 표준화하고 여기서 API 호출 코드가 포함된 데이터를 뽑아내야 합니다. 아마 현재 AICC(AI Contact Center)를 하는 업체들은 이미 이런 방법을 도입하고 있는지도 모르겠습니다. 목적지향 챗봇에도 생성AI가 적용될 날이 멀지 않았다고 봅니다.