레플리
글 수 497

GPT-3의 10배 크기인 중국의 Wu Dao 초거대 모델

조회 수 201 추천 수 0 2021.06.06 15:12:16


China’s ‘Wu Dao’ AI is 10X bigger than GPT-3, and it can sing

 

https://thenextweb.com/news/china-wu-dao-ai-10x-bigger-than-gpt-3

 

 

 

중국 정부의 지원을 받는 BAAI(Beijing Academy of Artificial Intelligence)에서 Wu Dao라는 새로운 초거대 모델을 공개했습니다. GPT-3의 10배인 1.75조개의 파라미터를 가지고 있습니다. 또한 얼마 전 발표한 구글의 MUM(Multitask Unified Model)처럼 텍스트, 이미지, 오디오 등 다양한 입력을 받을 수 있는 멀티모달 모델입니다.

 

이제 흐름이 또 한번 바뀌고 있는 것 같습니다. GPT-3가 텍스트만 처리할 수 있다면, 최근 초거대 모델은 모든 형태의 데이터를 동시에 받도록 진화하고 있습니다. 당연히 활용할 영역이 더 많아질 텐데요. 현재 Transformer는 자연어처리뿐만 아니라 이미지분류, 이미지생성, 오디오 등 거의 모든 딥러닝 분야에 사용이 가능합니다. 이를 하나로 통합한 구조도 이미 등장했습니다. 여기에 초거대 모델을 적용한다면 어떻게 될까요. 아무튼 딥러닝이 점점 범용적으로 발전하고 있는 중입니다.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
GTA5로 자율주행차 테스트 깊은바다 2017-04-23 63115
코로나 바이러스로 정신상담 챗봇 인기 깊은바다 2020-03-24 60070
자취 혼족, 똑똑한 집사 자처하는 'AI 스피커' 필요없다? 깊은바다 2020-06-07 56287
사람을 애니메이션으로 바꿔주는 틱톡의 필터 file 깊은바다 2020-06-21 47084
실제 뉴스 앵커처럼 말을 하는 알렉사의 새로운 기능 깊은바다 2019-01-19 37330
로봇, '라스트 마일'을 책임진다 깊은바다 2020-03-29 36597
인공지능이 옷을 추천하여 보내주는 쇼핑몰인 스티치 픽스 깊은바다 2017-11-05 31397
시리의 아버지 아담 체이어, 삼성을 떠나다 깊은바다 2020-08-01 29935
2019년 인공지능 스피커 전세계 출하량 깊은바다 2019-05-23 29218
또다른 행원 '챗봇', 어디가 더 똑똑할까 깊은바다 2020-09-10 27763
GPT3 모델을 훈련시키는데 드는 비용, 150억원 깊은바다 2020-06-03 26316
성균관대의 실험··· 신입생 전공 상관없이 AI 교육 [1] 깊은바다 2019-11-17 25810
국내 대기업들의 인공지능 선언 깊은바다 2020-01-05 24831
MS의 일상대화 챗봇 Xiaoice, 독립된 회사 설립 깊은바다 2020-07-15 24158
AI 개발, 전사 확대...'AI 투게더' 외치는 NHN 깊은바다 2020-12-22 23399