글 수 378


NEW YORK, NEW YORK - OCTOBER 20: Google's offices stand in downtown Manhattan on October 20, 2020 in New York City. Accusing the company of using anticompetitive tactics to illegally monopolize the online search and search advertising markets, the Justice Department and 11 states Tuesday filed an antitrust case against Google.

 

https://venturebeat.com/2021/01/12/google-trained-a-trillion-parameter-ai-language-model/amp

 

 

 

구글이 Switch Transformer라는 새로운 모델을 발표했습니다. GPT-3의 파라미터는 1750억개입니다. 이 모델은 그 10배인 1.6조개의 파라미터로 구성되어 있습니다.

 

사람의 뉴런이 1000억개입니다. 뉴런과 뉴런을 연결하는 것은 시냅스로 모델의 파라미터와 같은 역할을 합니다. 실제 학습을 통해 배운 지능은 바로 이 시냅스에 존재합니다. 시냅스는 대략 100조개로 알려져 있습니다.

 

이제 딥러닝이 우리 뇌의 1/100정도까지 규모가 커졌습니다. 과연 사람과 동일한 크기가 된다면 인간과 비슷한 지능을 가지게 될까요.

 

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
만화를 자동으로 번역하는 딥러닝 모델 깊은바다 2021-01-21 28
딥러닝 대부 요슈아 벤지오, 깊고 좁게 알면 AI에 먹힌다 깊은바다 2021-01-21 24
인간은 결코 AI를 통제할 수 없다? 깊은바다 2021-01-21 20
4대 그룹 AI 큰 그림 그렸다 깊은바다 2021-01-14 80
구글의 Switch Transformer, 인간 뇌의 1/100 크기에 도달 깊은바다 2021-01-14 58
극한직업 상담사…AI로 날개다는 콜센터 깊은바다 2021-01-10 73
알렉사, 새로운 명령을 직접 가르치는 기능 추가 깊은바다 2020-12-29 150
내년부터 미래형 로봇택시 다닌다 깊은바다 2020-12-29 134
AI 개발, 전사 확대...'AI 투게더' 외치는 NHN 깊은바다 2020-12-22 207
딥마인드 2019년 7000억 적자 깊은바다 2020-12-22 225
누구 AI 스피커 2020년 사용자 통계 깊은바다 2020-12-18 213
AI스피커, 사회적 약자층과 감정 나누는데 효과 깊은바다 2020-12-17 181
미 공군, Ghost Robotics의 로봇 개 도입 깊은바다 2020-12-17 176
감에 의지했던 공정, AI한테 맡겼더니 불량률 32→5%로 뚝 깊은바다 2020-12-15 242
챗봇 설문조사 결과 깊은바다 2020-12-13 227