레플리
글 수 497

페이스북 AI 담당임원 'AI 진화 임계치 도달'

조회 수 197 추천 수 0 2019.12.09 18:15:27


center

 

http://www.g-enews.com/view.php?ud=2019120611584118999a1f309431_1

 

 

 

"제롬 페센티 페이스북 AI 담당 부사장은 "현재 개발된 AI의 처리용량은 임계치에 도달했다"면서 "따라서 획기적인 대안이 나오지 않으면 AI와 머신러닝 기술의 발전은 당분간 정체할 수 밖에 없을 것"이라고 내다봤다."

 

"현재의 컴퓨팅 능력이 AI의 진화 속도를 충분히 따라가지 못하고 있기 때문인데 컴퓨팅 능력을 획기적으로 개선하려면 개발비용이 천문학적으로 들어가야 하기 때문에 AI 기술이 지속가능하게 진화하는 것은 현재로서는 어려운 실정"

 

 

 

최근 들어 딥러닝 모델의 크기가 급격하게 커지고 있습니다. 파라미터 사이즈를 비교해보면 BERT는 340M, GPT2는 1158M입니다. 얼마 전 공개된 구글의 T5는 무려 11000M입니다. XLNet의 경우 한 번 사전훈련을 하는데 2억 5천만원이 든다고 합니다. 실제로 모델을 개발하는데 여러 번 훈련이 필요하다는 것을 감안하면 그 비용이 훨씬 증가합니다.

 

이런 문제를 해결하고자 ALBERT, DistilBERT 같이 비교적 작은 사이즈의 모델도 개발되고 있습니다. 하지만 여전히 부담되는 크기입니다. 이제 새로운 딥러닝 기술을 개발하려면 무엇보다 돈이 필요합니다. 예전과 같이 컴퓨터 한 대와 열정만으로 만들던 시대는 지나간 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
1인 기업이 만든 바둑 AI '돌바람', 어떻게 일본 딥젠고 꺾고 우승했나 깊은바다 2018-01-26 1346
중국의 일상대화 챗봇 Xiaoice, 기업가치 1조인 유니콘으로 부상 깊은바다 2021-07-16 1308
전화 상담원 다 사라지나… AI 콜센터 눈독 들이는 네이버·카카오 깊은바다 2021-10-14 1248
손정의가 꿈꾸는AI 기반 일본의 부흥 깊은바다 2021-10-07 1243
인공지능이 절대 할 수 없는 네 가지 깊은바다 2021-09-10 1178
AI에서 미국의 비밀무기는 중국의 인재 file 깊은바다 2020-06-10 1120
메타버스는 기존 온라인 게임이랑 무엇이 다른가 깊은바다 2021-09-14 1104
트랜스코스모스코리아, 채팅상담 이용 만족도 조사 진행 깊은바다 2019-10-06 1076
GPT-3로 만든 피싱 이메일이 사람이 작성한 것보다 더 효과적 깊은바다 2021-08-24 1073
'콜센터도 인공지능으로'…네이버, AI 고객센터 솔루션 '클로바 해피콜' 출시 깊은바다 2020-05-27 1049
AI 필요한 분야 1순위는 '의료'…만족도 낮은 AI는 '챗봇' 깊은바다 2021-09-06 1042
종합 업무 플랫폼 '카카오워크' 쓰면 AI 비서 '캐스퍼'가 업무 도와준다 깊은바다 2020-09-18 1035
최초의 소셜 로봇 지보가 주인들에게 직접 자신의 죽음을 전했다 깊은바다 2019-03-08 1034
딥마인드, 부적절한 문장을 판단하기가 어렵다는 연구 발표 깊은바다 2021-09-23 1024
직접 만드는 인공지능 스피커인 구글 보이스 키트 [2] 깊은바다 2017-07-05 1015