마인드로직에서 만든 LLM 기반의 숙명여대 챗봇입니다. RAG를 사용해서 홈페이지의 정보를 참고해서 대답합니다. 또한 해당 페이지를 링크로 제공하기 때문에 환각 문제도 어느정도 해결이 가능합니다.

특히 기존 룰베이스 챗봇에서 안되던 멀티턴을 지원해서 훨씬 대화가 자연스럽습니다. '밥먹을데 알려줘'라고 물어보니 학교내 식당 정보를 제공합니다. 그리고 '가장 저렴한곳'이라고 추가 질문을 하면 앞의 식당이란 문맥을 이해하고 그중에서 싼 곳을 추천합니다.

현재 마인드로직은 숙명여대, 군산대, 목포대의 챗봇을 LLM으로 구축했습니다. 연말까지 10여곳 이상의 대학으로 확대할 계획입니다. 2017~2018년 챗봇 붐이 일면서 많은 학교, 정부기관, 기업들이 앞다투어 챗봇을 도입했습니다. 그러나 룰베이스의 한계 때문에 금방 거품이 꺼지고 말았습니다.

조만간 그 수요가 그대로 LLM 챗봇으로 이어질 것입니다. 지금은 RAG를 활용해서 충분히 유용한 챗봇을 만들 수가 있으니까요. 내년 쯤이면 기존 룰베이스 챗봇을 LLM 챗봇으로 전환하려는 수요가 늘어날 것으로 보입니다. 또한 효용성이 충분히 입증되면 새롭게 도입하려는 곳도 훨씬 많아지겠죠.

< 숙명여대 챗봇 >

https://www.sookmyung.ac.kr/