https://blog.lgcns.com/2241
처음 딥러닝이 나온 이후 지금까지는 지도학습이 대부분이었습니다. 데이터에 대한 정답을 사람이 직접 작성하였습니다. 최근에는 자기지도학습으로 트렌드가 바뀌고 있습니다.
기계가 입력에 대한 라벨을 스스로 만듭니다. 이렇게 만든 대량의 데이터로 사전훈련을 하여 공통적인 패턴을 이해하는 모델을 생성합니다. 그다음 사람이 라벨을 단 적은 수의 데이터로 다시 전이학습을 합니다.