레플리
글 수 203

최신 딥러닝 모델들의 학습 비용

조회 수 1259 추천 수 0 2019.12.12 21:23:49


https://syncedreview.com/2019/06/27/the-staggering-cost-of-training-sota-ai-models/

 

 

 

최근 SOTA(State-of-the-Art)를 찍은 모델들의 비용을 계산한 글입니다. 논문에서 공개한 리소스를 기반으로 클라우드에서 돌릴 경우를 가정했습니다. 이건 딱 한 번만 학습을 할 때의 비용입니다. 모델을 개발하기 위해서는 당연히 여러 번 돌려야 합니다. 아마 총 비용은 훨씬 높을 것 같습니다.

 

 

 

< XLNet >
TPU v3 512 * ($2 per hour) * 24 (hours) * 2.5 (days) = $61,440

 

< University of Washington’s Grover-Mega >
$0.30 per TPU v3 core-hour and two weeks = $25,000

 

< BERT Large >
TPU v2 16 (devices) * 4 (days) * 24 (hours) * 4.5 (US$ per hour) = $6,912

 

< BERT Base >
single preemptible Cloud TPU v2 * two weeks = $500

 

< GPT2 >
시간당 $256 (학습 기간 공개 안함)

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수sort
기계학습 / 딥러닝이란 무엇인가 깊은바다 2017-02-28 660
데이팅 앱 틴더(Tinder)에서 이미지 인식으로 자동화된 봇 만들기 깊은바다 2020-02-06 662
톰 크루즈의 딥페이크 영상 file 깊은바다 2021-02-28 667
딥러닝의 전문가 세명 깊은바다 2016-03-21 669
GAN으로 만든 얼굴을 테스트할 수 있는 뉴욕타임스의 기사 file 깊은바다 2020-11-24 672
딥러닝 지도학습의 워크플로우 깊은바다 2017-09-11 673
스냅챕의 성별 변환 필터는 GAN을 사용했을까 깊은바다 2019-05-15 683
팩맨 게임을 딥러닝으로 시뮬레이션한 GameGAN 깊은바다 2020-05-23 702
얀 르쿤, 자기지도학습이 강화학습보다 중요 깊은바다 2020-05-03 717
순차적으로 여러가지 일을 동시에 배우는 신경망 깊은바다 2017-03-16 729
Semantic Segmentation을 활용한 차량 파손 탐지 딥러닝 모델 개발기 깊은바다 2020-02-14 731
미드저니로 생성한 90년대 중국 사진들 - 콘텐츠 산업의 혁신 file 깊은바다 2023-03-30 736
딥러닝 역사 깊은바다 2018-07-10 749
딥러닝이 작동하는 원리는? 깊은바다 2019-11-17 768
스케치와 색을 지정하여 셀카를 편집하는 SC-FEGAN 깊은바다 2019-02-22 769