글 수 460

GPT-3의 10배 크기인 중국의 Wu Dao 초거대 모델

조회 수 137 추천 수 0 2021.06.06 15:12:16


China’s ‘Wu Dao’ AI is 10X bigger than GPT-3, and it can sing

 

https://thenextweb.com/news/china-wu-dao-ai-10x-bigger-than-gpt-3

 

 

 

중국 정부의 지원을 받는 BAAI(Beijing Academy of Artificial Intelligence)에서 Wu Dao라는 새로운 초거대 모델을 공개했습니다. GPT-3의 10배인 1.75조개의 파라미터를 가지고 있습니다. 또한 얼마 전 발표한 구글의 MUM(Multitask Unified Model)처럼 텍스트, 이미지, 오디오 등 다양한 입력을 받을 수 있는 멀티모달 모델입니다.

 

이제 흐름이 또 한번 바뀌고 있는 것 같습니다. GPT-3가 텍스트만 처리할 수 있다면, 최근 초거대 모델은 모든 형태의 데이터를 동시에 받도록 진화하고 있습니다. 당연히 활용할 영역이 더 많아질 텐데요. 현재 Transformer는 자연어처리뿐만 아니라 이미지분류, 이미지생성, 오디오 등 거의 모든 딥러닝 분야에 사용이 가능합니다. 이를 하나로 통합한 구조도 이미 등장했습니다. 여기에 초거대 모델을 적용한다면 어떻게 될까요. 아무튼 딥러닝이 점점 범용적으로 발전하고 있는 중입니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
GPT-3의 10배 크기인 중국의 Wu Dao 초거대 모델 깊은바다 2021-06-06 137
메타버스 속 인공지능 깊은바다 2021-05-30 120
딥마인드, 모회사인 구글에게 비영리기구로 전환해달라고 요청 깊은바다 2021-05-24 138
AI 기술력 뽐낸 구글…기존보다 1000배 센 '몬스터급 검색' 모델 공개 깊은바다 2021-05-21 127
강의실엔 교수도 교과서도 없지만… AI 대학, 하버드 아성 흔들다 깊은바다 2021-05-18 100
우울하다면 '애쉬' 에게 말을 거세요...청소년 자살 막는 챗봇 깊은바다 2021-05-12 106
중국산 로봇 개 '알파독' 등장…가격 275만원 깊은바다 2021-05-08 108
인공지능 범죄예측 정확도 83%…경찰, 내달 본격도입 깊은바다 2021-05-04 110
화웨이, PanGu-Alpha라는 중국어 GPT-3 공개 깊은바다 2021-05-02 130
AI 이루다, 자율점검표 구축예고 깊은바다 2021-04-30 124
EU의 '4단계 AI규제' 청사진 나왔다 깊은바다 2021-04-25 82
AI 은행원도 나온다…불붙은 은행권 인공지능 개발 경쟁 깊은바다 2021-04-23 97
Nvidia의 CEO 젠승 황 인터뷰, 인공지능과 메타버스 깊은바다 2021-04-21 122
AI 앵커가 '난 늙지 않아' 자신의 미래를 말하다 깊은바다 2021-04-18 91
네이버, 5월 채용행사서 국내 최초 초거대 언어모델 발표 깊은바다 2021-04-17 143