레플리
글 수 497

페이스북 AI 담당임원 'AI 진화 임계치 도달'

조회 수 197 추천 수 0 2019.12.09 18:15:27


center

 

http://www.g-enews.com/view.php?ud=2019120611584118999a1f309431_1

 

 

 

"제롬 페센티 페이스북 AI 담당 부사장은 "현재 개발된 AI의 처리용량은 임계치에 도달했다"면서 "따라서 획기적인 대안이 나오지 않으면 AI와 머신러닝 기술의 발전은 당분간 정체할 수 밖에 없을 것"이라고 내다봤다."

 

"현재의 컴퓨팅 능력이 AI의 진화 속도를 충분히 따라가지 못하고 있기 때문인데 컴퓨팅 능력을 획기적으로 개선하려면 개발비용이 천문학적으로 들어가야 하기 때문에 AI 기술이 지속가능하게 진화하는 것은 현재로서는 어려운 실정"

 

 

 

최근 들어 딥러닝 모델의 크기가 급격하게 커지고 있습니다. 파라미터 사이즈를 비교해보면 BERT는 340M, GPT2는 1158M입니다. 얼마 전 공개된 구글의 T5는 무려 11000M입니다. XLNet의 경우 한 번 사전훈련을 하는데 2억 5천만원이 든다고 합니다. 실제로 모델을 개발하는데 여러 번 훈련이 필요하다는 것을 감안하면 그 비용이 훨씬 증가합니다.

 

이런 문제를 해결하고자 ALBERT, DistilBERT 같이 비교적 작은 사이즈의 모델도 개발되고 있습니다. 하지만 여전히 부담되는 크기입니다. 이제 새로운 딥러닝 기술을 개발하려면 무엇보다 돈이 필요합니다. 예전과 같이 컴퓨터 한 대와 열정만으로 만들던 시대는 지나간 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
구글, '인공신경망 번역 덕에 한국어 사용자 75% 증가' 깊은바다 2017-05-21 238
무섭게 변한 가정용 로봇 '해킹의 위험성 보여줘' 깊은바다 2017-08-27 237
화웨이, PanGu-Alpha라는 중국어 GPT-3 공개 깊은바다 2021-05-02 232
SK텔레콤, 'T전화' AI 접목시킨 'T전화x누구' 서비스 선봬 깊은바다 2020-10-13 232
AI가 사람답지 못한 이유?…상식이 없어서 깊은바다 2021-01-29 230
초대규모 AI 시대, 네이버가 전 세계에서 상용화 가장 빠를 것 깊은바다 2021-06-23 230
모바일앱으로 데이터 라벨링을 하는 셀렉트스타 깊은바다 2019-08-07 227
미 공군, Ghost Robotics의 로봇 개 도입 깊은바다 2020-12-17 225
김주하 앵커와 AI 아바타 앵커와의 첫 대면 깊은바다 2020-11-10 225
AI전문가 '딥 페이크, 해결책 없다' 깊은바다 2020-10-24 216
'무엇이든 물어보세요' 현대엔지니어링, AI 챗봇 서비스 도입 깊은바다 2019-06-18 216
네이버 “인공지능 챗봇, 손쉽게 만드세요” [1] 하이루 2018-06-21 216
이연수 엔씨소프트 NLP센터장 인터뷰 깊은바다 2022-11-01 215
2020년대 기약하는 소셜로봇…인터넷·스마트폰 뒤이을까 깊은바다 2019-12-01 215
'내 목소리 흉내' 인공지능 동화 읽기 직접 해보니 [2] 깊은바다 2019-05-19 215