레플리
글 수 497

구글의 Switch Transformer, 인간 뇌의 1/100 크기에 도달

조회 수 590 추천 수 0 2021.01.14 15:16:45
깊은바다 *.52.246.214


NEW YORK, NEW YORK - OCTOBER 20: Google's offices stand in downtown Manhattan on October 20, 2020 in New York City. Accusing the company of using anticompetitive tactics to illegally monopolize the online search and search advertising markets, the Justice Department and 11 states Tuesday filed an antitrust case against Google.

 

https://venturebeat.com/2021/01/12/google-trained-a-trillion-parameter-ai-language-model/amp

 

 

 

구글이 Switch Transformer라는 새로운 모델을 발표했습니다. GPT-3의 파라미터는 1750억개입니다. 이 모델은 그 10배인 1.6조개의 파라미터로 구성되어 있습니다.

 

사람의 뉴런이 1000억개입니다. 뉴런과 뉴런을 연결하는 것은 시냅스로 모델의 파라미터와 같은 역할을 합니다. 실제 학습을 통해 배운 지능은 바로 이 시냅스에 존재합니다. 시냅스는 대략 100조개로 알려져 있습니다.

 

이제 딥러닝이 우리 뇌의 1/100정도까지 규모가 커졌습니다. 과연 사람과 동일한 크기가 된다면 인간과 비슷한 지능을 가지게 될까요.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜 조회 수sort
OpenAI, Dota 2 프로게이머와의 1vs1 대결을 이긴 인공지능 발표 깊은바다 2017-09-16 631
카카오, 인공지능 투트랙 전략 짰다 깊은바다 2017-04-05 630
2020년 국내 AI스피커 판매량 46% 상승 깊은바다 2020-09-26 629
일론 머스크, 올 연말까지 완전 자율주행차 나올 것 깊은바다 2020-07-12 614
KT, 초거대모델 일생대화 AI 기반의 메타버스인 지니버스 출시예정 깊은바다 2022-05-22 605
저화질을 고화질 사진으로 바꿔주는 PULSE, 인종차별 문제 깊은바다 2020-06-25 602
구글의 Switch Transformer, 인간 뇌의 1/100 크기에 도달 깊은바다 2021-01-14 590
가상현실로 출근하고 가상현실에서 만나는 메타버스의 시대 깊은바다 2021-03-27 582
중국이 선도하는 인공지능-머신러닝 흐름에 올라타야 깊은바다 2017-03-30 581
운전자 없는 자동차 시대..왜 '재앙'이라고 할까? 깊은바다 2017-03-24 581
초대형 인공지능 만들어 AI 주권 지킬 겁니다…슈퍼컴 도입한 네이버 깊은바다 2021-01-24 574
로봇과 닭튀기기 1분만에 완패…치킨집 알바 제로 시대 온다 깊은바다 2021-02-19 563
글과 사진을 동시에 고려하는 멀티모달 챗봇 깊은바다 2020-07-11 563
케라스 창시자인 프랑소와 쏠레, 딥러닝에 대해 비관적인 전망 file 깊은바다 2020-09-01 562
점원 없는 '인공지능 편의점' 국내 첫선..일자리 우려도 깊은바다 2017-05-18 547
목록
쓰기