레플리
글 수 281


알파고로 유명한 딥마인드는 원래 강화학습을 주로 했는데요. 최근 Gopher, RETRO, Chinchilla 등 뛰어난 언어모델들을 잇달아 공개하고 있습니다. 이번에 발표한 Flamingo 역시 정말 놀랍습니다.

 

우선 기존 GPT-3 같은 언어모델(Language Model)에서 더 발전했습니다. 멀티모달로 글자, 사진, 영상을 모두 처리할 수 있는 VLM(Visual Language Model)입니다. GPT-3의 175B보다 작은 80B의 파라미터를 가지고 있습니다. 또한 다른 초거대모델처럼 별도의 파인튜닝 없이 퓨샷러닝이 가능합니다.

 

Flamingo 모델은 영상을 벡터로 변환하는 Visual Encoder와 언어전용모델인 LM Block이 별도로 존재합니다. 각각 사전훈련을 끝내고 가중치는 업데이트가 안되도록 고정시킵니다. 거기에 Perceiver Resampler와 GATED XATTN-DENSE 층을 추가하여 여기만 새롭게 학습이 되도록 했습니다.

 

0_k5j1RKIyNhPVcjNP.png

 

 

 

학습 데이터는 주로 웹에서 크롤링을 했습니다. 첫째, 사진과 캡션설명. 둘째, 동영상과 자막. 셋째, 사진과 글자가 같이 나열된 웹페이지. 이렇게 3가지 종류로 구성되어 있습니다.

테스트 결과를 보면 기존 파인튜닝된 멀티모달 모델들을 32샷으로 모두 능가했습니다. 사진과 설명이 주어지면 대답을 하거나, 동영상에 대한 질문도 정확하게 맞춥니다. 특히 챗봇에 적용했을 때가 가장 인상적이었습니다.

 

1652173546575.jpg

 

 

 

개인적으로 딥마인드가 세계최고의 AI 연구소가 아닐까 생각합니다. 알파고, 알파스타, 알파폴드, 알파코드 등 불가능해 보였던 분야를 하나씩 정복했습니다. 이제 대화 인공지능에서도 조만간 새로운 이정표를 만들어낼 것 같습니다.

 

 

 

https://www.deepmind.com/blog/tackling-multiple-tasks-with-a-single-visual-language-model

 

 

 

279818939_7748062891885448_3672359070939527611_n.jpg

 

1652173546568.jpg

 

FRxv4pDWUAEqoDW.png

 

1652173546572.jpg

 

1652173546564.jpg

 

image-13_1.jpg

 

List of Articles
제목 글쓴이 날짜 조회 수sort
Seq2Seq와 어텐션 기법을 애니메이션으로 쉽게 설명한 글 깊은바다 2018-10-12 1051
GPT-3의 다섯 가지 한계 깊은바다 2020-08-23 1048
단어를 벡터로 변환하는 Word2Vec 깊은바다 2017-05-04 1038
추천시스템이 word2vec을 만났을때 깊은바다 2018-08-22 1032
Meme 자동 생성기 깊은바다 2020-05-11 1023
딥러닝과 자연어처리의 집중 메커니즘 깊은바다 2018-09-08 1019
딥러닝 기반 자연어처리 기법의 최근 연구 동향 [2] 깊은바다 2017-12-17 1018
한국어 LLM 민주화의 시작 KoAlpaca file 깊은바다 2023-07-17 1017
프로그램을 작성하는 딥마인드의 알파코드 file 깊은바다 2022-02-04 1002
페르소나에 따라 대화를 하는 딥러닝 챗봇 by Hugging Face 깊은바다 2020-03-06 998
가짜뉴스를 생성 또는 판별하는 딥러닝 모델 - Grover 깊은바다 2019-06-01 967
OpenAI의 대화전용 딥러닝 모델 - ChatGPT file 깊은바다 2022-12-02 964
End-To-End Memory Networks - 자연어 질문에 대답하는 모델 [2] 깊은바다 2017-08-21 961
질의응답을 위한 딥러닝 모델인 메모리 네트워크 정리 file 깊은바다 2018-09-26 958
7B의 Alpaca가 175B의 GPT-3.5와 동급의 성능을 보임 file 깊은바다 2023-03-14 957