레플리
글 수 283

Together가 공개한 오픈소스 LLM - OpenChatKit

조회 수 425 추천 수 0 2023.03.12 13:33:23


https://www.together.xyz/blog/openchatkit

 

 

 

Together에서 OpenChatKit를 공개했습니다. 많은 사람들이 LLM에서도 Stable Diffusion 모먼트가 오지 않을까 기대하고 있습니다. 다만 그때와 상황이 조금 다르기는 합니다. Dall-E나 Midjourney는 유료였기 때문에 무료로 풀린 Stable Diffusion이 대중적인 인기를 얻었습니다. 그러나 ChatGPT는 이미 공짜로 쓸 수 있으니 그런 메리트는 약하다고 봅니다.

 

LLM을 개인 PC에서 돌리는 게 의미가 있으려면 파인튜닝이 핵심입니다. Stable Diffusion에서도 LoRA를 사용하여 별도 데이터로 추가학습을 시킬 수 있습니다. 이러면 특정 인물이나 스타일의 그림을 생성하는게 가능합니다. 새로 학습된 LoRA를 자유롭게 교환하는 사이트도 이미 존재하고요.

 

LLM 역시 이런 수요가 존재할 것이라 생각합니다. 지금 ChatGPT는 제한이 상당히 많습니다. 최근에는 탈옥이나 부적절한 역할극을 못하도록 막아놓기도 했습니다. 만약 오픈소스 LLM에서 LoRA를 써서 내가 원하는 상대로 만들 수 있으면 어떨까요. 이런 LoRA를 다운받아서 쓸 수도 있고요. 아마 성인용으로 가장 먼저 활용되겠지만, 점차 다양한 페르소나를 가진 챗봇들이 등장할 것입니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
딥러닝을 이용한 자연어 처리 입문 - 위키독스 깊은바다 2018-09-21 1108
다이나믹 메모리 네트워크 정리 file 깊은바다 2018-09-29 1135
딥러닝 질의응답 시스템인 cdQA-suite 깊은바다 2020-03-08 1144
WizardLM의 Evol-instruct로 직접 한글 데이터셋을 만든 모델 file 깊은바다 2023-06-19 1144
유저 피드백을 받아 지속적으로 학습을 하는 챗봇 - BlenderBot 3 file 깊은바다 2022-08-06 1154
커뮤니케이션과 AI - Multi-channel CNN을 이용한 한국어 감성분석 깊은바다 2018-11-22 1156
퓨샷(few-shot) 러닝에 최적화된 GPT3 모델 file 깊은바다 2020-05-30 1156
LLM의 새로운 기법 - Merge와 DPO file 깊은바다 2024-01-02 1161
쉽게 씌어진 Word2Vec [2] 깊은바다 2017-12-25 1178
딥러닝 기반 자연어 언어모델 BERT - Colab 실습 코드 포함 file 깊은바다 2019-09-02 1179
최신 자연어처리 모델 소개 file 깊은바다 2022-07-11 1180
스캐터랩의 오픈도메인 챗봇 루다 육아일기 - 모델의 구조 및 동작방식 file 깊은바다 2020-12-30 1191
메타, GPT-3와 동급인 175B의 초거대모델 무료 공개 깊은바다 2022-05-04 1191
Word2Vec 테스트 사이트 file 깊은바다 2019-01-13 1197
LLM 챗봇의 특징 2가지 - RAG와 Function 깊은바다 2023-07-06 1210