레플리
글 수 284


ChatGPT Function 기능이 추가됐습니다. 외부 API를 호출해서 그 정보를 참조하여 대답을 할 수 있습니다. 이는 전에 발표한 플러그인과 거의 동일합니다.

 

예를 들어, '노트북 가장 싼게 얼마야'라고 물어보면 쿠팡 플러그인에 요청을 해서 쿠팡 DB에서 해당 정보를 검색합니다. '삼성 노트북 100만원, LG 노트북 110만원' 이런 검색 결과를 받아서 프롬프트에 넣습니다. ChatGPT는 최종적으로 '가장 싼 노트북은 다음과 같은 제품입니다. 삼성 노트북 100만원, LG 노트북 110만원.'처럼 적절한 대답을 생성합니다.

 

 

 

하지만 플러그인과 Function은 다음과 같은 큰 차이점이 있습니다.

 

첫째, 플러그인은 개발자 등록을 해야만 접근 권한을 얻을 수 있습니다. 앱스토어처럼 플러그인 승인도 받아야 하고요. 또한 사용자도 해당 플러그인을 설치해야 합니다. 반면에 Function은 이런 과정이 불필요합니다. 그냥 ChatGPT API 호출시 Function에 대한 정보를 같이 넣어주면 바로 플러그인과 동일한 기능을 사용할 수 있습니다.

 

둘째, 플러그인은 ChatGPT 웹이나 앱에서만 쓸 수 있다는 문제가 있습니다. 반면에 Function은 ChatGPT API 호출시 사용이 가능합니다. 그래서 자체 앱에서 ChatGPT를 연동할 때 플러그인처럼 외부 API 정보를 쉽게 적용할 수 있습니다. 아마 대부분의 스타트업들은 자신들의 서비스를 ChatGPT에 플러그인으로 넣기 보다는 자체 앱에 ChatGPT를 붙이고 싶어할 텐데요. 그러기 위해서는 플러그인보다는 Function이 최선의 선택입니다.

 

 

 

구체적인 방법을 자세히 살펴보겠습니다.

 

1. 사용자가 '보스턴의 날씨가 지금 어때'라고 질문합니다.

 

K-001.png

 

 

 

2. ChatGPT API에 해당 질문을 넣어 호출합니다. 이때 'functions'에 날씨정보를 얻는 API 명세를 같이 추가합니다. location과 unit(섭씨/화씨) 항목과 그에 대한 설명을 자세히 적습니다. API 종류가 많을 경우 function 여러 개를 리스트로 동시에 넣어도 됩니다. function은 ChatGPT API를 호출할 때마다 어떤 질문을 하던 항상 넣어줍니다.

 

K-002.png

 

 

 

3. 여러 function 중에서 현재 질문에 해당하는 것이 있으면 그 명세에 따라 엔티티를 추출해서 그 결과를 전달합니다. 만약 해당하는 function이 없다면 일반적인 대답을 생성합니다.

 

K-003.png

 

 

 

4. ChatGPT API 호출 결과가 function이라면 그 엔티티를 사용해서 실제 날씨 API를 호출하고 결과를 받습니다. '22도 / 섭씨 / 맑음'. 이 부분은 수동으로 개발자가 직접 구현해야 합니다.

 

K-004.png

 

K-005.png

 

 

 

5. 날씨 API 호출 결과를 다시 ChatGPT API에 넣고 다시 호출합니다. 그러면 ChatGPT는 날씨 정보를 바탕으로 최종 대답을 생성합니다.

 

K-006.png

 

K-007.png

 

 

 

6. '보스턴의 날씨는 현재 섭씨 22도로 맑습니다.'

 

K-008.png

 

 

 

https://openai.com/blog/function-calling-and-other-api-updates

 

List of Articles
제목 글쓴이 날짜 조회 수sort
BERT 톺아보기 깊은바다 2018-12-17 26395
딥러닝을 사용한 챗봇 개발방법 정리 file 깊은바다 2018-02-03 25475
초거대모델의 파인튜닝 방법 - P-tuning과 LoRA file 깊은바다 2022-04-05 12141
RAG(Retrieval-Augmented Generation) - LLM의 환각을 줄이는 방법 file 깊은바다 2023-07-04 9798
글쓰기 보조 서비스 JasperAI, ChatGPT 때문에 어려움 직면 깊은바다 2023-03-01 9693
딥러닝 RNN으로 구현한 챗봇 깊은바다 2017-08-01 8136
문장을 학습하는 딥러닝 RNN의 Seq2Seq 모델 설명 file 깊은바다 2017-09-15 7327
챗봇에 딥러닝 학습을 적용하기 어려운 이유 file 깊은바다 2018-03-23 6641
KoGPT2, KoBERT, KoELECTRA로 만든 심리상담 챗봇 file 깊은바다 2020-08-05 6373
문장을 입력하면 비슷한 짤방을 보여주는 프로젝트 file 깊은바다 2019-01-28 6172
SKT가 공개한 한글 GPT2 - KoGPT2 깊은바다 2020-02-02 5298
챗봇에서 유사한 문장 자동인식 방법 file 깊은바다 2018-04-27 5154
네이버 영화리뷰 감정분석 with Hugging Face BERT file 깊은바다 2019-12-17 4673
사전학습을 통한 구글의 자연어처리 언어 모델 - BERT file 깊은바다 2018-11-03 4299
인라이플의 한글 BERT 대형모델 깊은바다 2020-05-18 4246