레플리
글 수 506

구글의 Switch Transformer, 인간 뇌의 1/100 크기에 도달

조회 수 685 추천 수 0 2021.01.14 15:16:45
깊은바다 *.52.246.214


NEW YORK, NEW YORK - OCTOBER 20: Google's offices stand in downtown Manhattan on October 20, 2020 in New York City. Accusing the company of using anticompetitive tactics to illegally monopolize the online search and search advertising markets, the Justice Department and 11 states Tuesday filed an antitrust case against Google.

 

https://venturebeat.com/2021/01/12/google-trained-a-trillion-parameter-ai-language-model/amp

 

 

 

구글이 Switch Transformer라는 새로운 모델을 발표했습니다. GPT-3의 파라미터는 1750억개입니다. 이 모델은 그 10배인 1.6조개의 파라미터로 구성되어 있습니다.

 

사람의 뉴런이 1000억개입니다. 뉴런과 뉴런을 연결하는 것은 시냅스로 모델의 파라미터와 같은 역할을 합니다. 실제 학습을 통해 배운 지능은 바로 이 시냅스에 존재합니다. 시냅스는 대략 100조개로 알려져 있습니다.

 

이제 딥러닝이 우리 뇌의 1/100정도까지 규모가 커졌습니다. 과연 사람과 동일한 크기가 된다면 인간과 비슷한 지능을 가지게 될까요.

 

이 게시물을
엮인글 :
목록
List of Articles
제목 글쓴이 날짜 조회 수
네이버, 5월 채용행사서 국내 최초 초거대 언어모델 발표 깊은바다 2021-04-17 216
돈보내라, 영상통화도 가짜, CEO·기자도 AI가 만든 가짜였다 깊은바다 2021-04-15 212
MS, '시리' 기술 만든 음성인식업체 뉘앙스 18조원에 인수 깊은바다 2021-04-13 204
도로 쓰레기 투기 ‘인공지능 CCTV’로 잡는다 깊은바다 2021-04-11 191
SK텔레콤 손잡은 아마존, AI 비서 '알렉사' 한국 출시 준비 깊은바다 2021-04-10 199
안내견 대신할 '최첨단 AI 백팩' 등장 깊은바다 2021-04-07 153
디지털 세계엔 24시간 잠들지않는 그녀가 있다 깊은바다 2021-03-30 192
가상현실로 출근하고 가상현실에서 만나는 메타버스의 시대 깊은바다 2021-03-27 635
국가별 인공지능(AI) 경쟁력 분석해보니… 한국 14위 깊은바다 2021-03-25 205
MIT 10대 기술에서 5개가 AI ..시대가 변했다 깊은바다 2021-03-23 208
페이스북, Learning from Videos 프로젝트 발표 깊은바다 2021-03-15 179
헤이카카오, 공기청정기 켜줘…삼성전자와 카카오 IoT에서 손잡다 깊은바다 2021-03-12 292
사람과 GPT-3의 작문 대결 깊은바다 2021-03-08 5269
AI 오디오 전문기업 수퍼톤, 빅히트 엔터테인먼트로부터 40억 투자 유치 깊은바다 2021-03-04 782
영상인식을 통해 강아지를 훈련시키는 딥러닝 기기 깊은바다 2021-02-19 441
목록
쓰기