레플리
글 수 284


ChatGPT Function 기능이 추가됐습니다. 외부 API를 호출해서 그 정보를 참조하여 대답을 할 수 있습니다. 이는 전에 발표한 플러그인과 거의 동일합니다.

 

예를 들어, '노트북 가장 싼게 얼마야'라고 물어보면 쿠팡 플러그인에 요청을 해서 쿠팡 DB에서 해당 정보를 검색합니다. '삼성 노트북 100만원, LG 노트북 110만원' 이런 검색 결과를 받아서 프롬프트에 넣습니다. ChatGPT는 최종적으로 '가장 싼 노트북은 다음과 같은 제품입니다. 삼성 노트북 100만원, LG 노트북 110만원.'처럼 적절한 대답을 생성합니다.

 

 

 

하지만 플러그인과 Function은 다음과 같은 큰 차이점이 있습니다.

 

첫째, 플러그인은 개발자 등록을 해야만 접근 권한을 얻을 수 있습니다. 앱스토어처럼 플러그인 승인도 받아야 하고요. 또한 사용자도 해당 플러그인을 설치해야 합니다. 반면에 Function은 이런 과정이 불필요합니다. 그냥 ChatGPT API 호출시 Function에 대한 정보를 같이 넣어주면 바로 플러그인과 동일한 기능을 사용할 수 있습니다.

 

둘째, 플러그인은 ChatGPT 웹이나 앱에서만 쓸 수 있다는 문제가 있습니다. 반면에 Function은 ChatGPT API 호출시 사용이 가능합니다. 그래서 자체 앱에서 ChatGPT를 연동할 때 플러그인처럼 외부 API 정보를 쉽게 적용할 수 있습니다. 아마 대부분의 스타트업들은 자신들의 서비스를 ChatGPT에 플러그인으로 넣기 보다는 자체 앱에 ChatGPT를 붙이고 싶어할 텐데요. 그러기 위해서는 플러그인보다는 Function이 최선의 선택입니다.

 

 

 

구체적인 방법을 자세히 살펴보겠습니다.

 

1. 사용자가 '보스턴의 날씨가 지금 어때'라고 질문합니다.

 

K-001.png

 

 

 

2. ChatGPT API에 해당 질문을 넣어 호출합니다. 이때 'functions'에 날씨정보를 얻는 API 명세를 같이 추가합니다. location과 unit(섭씨/화씨) 항목과 그에 대한 설명을 자세히 적습니다. API 종류가 많을 경우 function 여러 개를 리스트로 동시에 넣어도 됩니다. function은 ChatGPT API를 호출할 때마다 어떤 질문을 하던 항상 넣어줍니다.

 

K-002.png

 

 

 

3. 여러 function 중에서 현재 질문에 해당하는 것이 있으면 그 명세에 따라 엔티티를 추출해서 그 결과를 전달합니다. 만약 해당하는 function이 없다면 일반적인 대답을 생성합니다.

 

K-003.png

 

 

 

4. ChatGPT API 호출 결과가 function이라면 그 엔티티를 사용해서 실제 날씨 API를 호출하고 결과를 받습니다. '22도 / 섭씨 / 맑음'. 이 부분은 수동으로 개발자가 직접 구현해야 합니다.

 

K-004.png

 

K-005.png

 

 

 

5. 날씨 API 호출 결과를 다시 ChatGPT API에 넣고 다시 호출합니다. 그러면 ChatGPT는 날씨 정보를 바탕으로 최종 대답을 생성합니다.

 

K-006.png

 

K-007.png

 

 

 

6. '보스턴의 날씨는 현재 섭씨 22도로 맑습니다.'

 

K-008.png

 

 

 

https://openai.com/blog/function-calling-and-other-api-updates

 

List of Articles
제목 글쓴이 날짜sort 조회 수
MS 코파일럿, 한국어 토큰수 2배에서 1.1배로 감소 file 깊은바다 2024-05-04 38
5배 싸진 클로바X의 경량화 모델 - HCX-DASH file 깊은바다 2024-04-26 58
클로바X의 사용량 제한 - QPM과 TPM 깊은바다 2024-04-01 111
Pi를 만든 Inflection AI, MS로 대거 이직한 이유 깊은바다 2024-03-25 120
LLaMA나 Mistral이 계속 무료로 유지될 수 있을까 깊은바다 2024-03-05 250
GPT-3.5와 클로바X 가격 비교 file 깊은바다 2024-02-25 308
OpenAI, 성능은 높아지고 가격은 싸진 새로운 모델 공개 file 깊은바다 2024-01-26 333
AI 휴대용 기기 R1을 만든 Rabbit의 대표 Jesse Lyu 깊은바다 2024-01-12 261
화면을 보고 스마트폰 앱 사용방법을 배우는 모델 - AppAgent file 깊은바다 2024-01-08 309
LLM의 새로운 기법 - Merge와 DPO file 깊은바다 2024-01-02 1202
업스테이지 SOLAR 10.7B에서 사용한 DUS 모델 확장 방법 file 깊은바다 2023-12-27 483
죽은 아들의 AI 아바타를 만든 중국의 부모 file 깊은바다 2023-12-21 186
Private sLLM - 어떻게 만들고 어떻게 배포할까? file 깊은바다 2023-12-18 409
GPT-4가 내 여자친구보다 나를 더 잘 알까? file 깊은바다 2023-12-12 168
FSM과 생성 에이전트의 차이점 깊은바다 2023-11-22 190