레플리
글 수 497

페이스북 AI 담당임원 'AI 진화 임계치 도달'

조회 수 197 추천 수 0 2019.12.09 18:15:27


center

 

http://www.g-enews.com/view.php?ud=2019120611584118999a1f309431_1

 

 

 

"제롬 페센티 페이스북 AI 담당 부사장은 "현재 개발된 AI의 처리용량은 임계치에 도달했다"면서 "따라서 획기적인 대안이 나오지 않으면 AI와 머신러닝 기술의 발전은 당분간 정체할 수 밖에 없을 것"이라고 내다봤다."

 

"현재의 컴퓨팅 능력이 AI의 진화 속도를 충분히 따라가지 못하고 있기 때문인데 컴퓨팅 능력을 획기적으로 개선하려면 개발비용이 천문학적으로 들어가야 하기 때문에 AI 기술이 지속가능하게 진화하는 것은 현재로서는 어려운 실정"

 

 

 

최근 들어 딥러닝 모델의 크기가 급격하게 커지고 있습니다. 파라미터 사이즈를 비교해보면 BERT는 340M, GPT2는 1158M입니다. 얼마 전 공개된 구글의 T5는 무려 11000M입니다. XLNet의 경우 한 번 사전훈련을 하는데 2억 5천만원이 든다고 합니다. 실제로 모델을 개발하는데 여러 번 훈련이 필요하다는 것을 감안하면 그 비용이 훨씬 증가합니다.

 

이런 문제를 해결하고자 ALBERT, DistilBERT 같이 비교적 작은 사이즈의 모델도 개발되고 있습니다. 하지만 여전히 부담되는 크기입니다. 이제 새로운 딥러닝 기술을 개발하려면 무엇보다 돈이 필요합니다. 예전과 같이 컴퓨터 한 대와 열정만으로 만들던 시대는 지나간 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜sort 조회 수
NYT, OpenAI에 뉴스 저작권 소송 file 깊은바다 2024-01-02 148
생성AI 국가별 관심도 순위 file [1] 깊은바다 2023-12-14 156
스캐터랩 F 같은 이루다, T 같은 챗GPT와 다른 근본적인 이유는 깊은바다 2023-11-20 139
스택 오버플로, ChatGPT 때문에 전체 직원의 28% 감원 file [1] 깊은바다 2023-10-17 192
메타, 자사의 SNS에 AI 챗봇 도입 예정 깊은바다 2023-08-02 128
구글 어시스턴트, 생성 AI 기반으로 바뀐다 깊은바다 2023-08-01 161
AI 가정교사 온다, 美사교육기업 초토화 깊은바다 2023-05-10 171
오픈AI, 130조 투자 유치하겠다... 생성AI 돈 싸움 시작되나 깊은바다 2023-05-07 204
마이크로소프트 빙 일일 사용자 1억명 돌파 깊은바다 2023-03-16 143
챗GPT 자소서, 삼성은 신경 껐다 깊은바다 2023-03-05 294
스타트업도 챗GPT 열풍…발빠른 도입 이어져 깊은바다 2023-02-23 193
로블록스, 게임제작에 생성AI 도입 예정 깊은바다 2023-02-19 140
빌 게이츠 '챗GPT 같은 AI, PC·인터넷 만큼 영향줄 것' 깊은바다 2023-02-05 202
버즈피드, 챗GPT로 맞춤형 콘텐츠·퀴즈 만든다 깊은바다 2023-01-27 154
카카오브레인 김일두 대표 'AI, 결국 모두의 비서 될 것' 깊은바다 2023-01-25 204