https://news.naver.com/main/read.naver?mode=LSD&mid=sec&sid1=101&oid=050&aid=0000057984

"범용성은 현재 주요 AI 연구의 주요 관심사다. 구글 딥마인드의 DQN(Deep Q-Network) 알고리즘은 하나의 알고리즘이 수많은 아타리 게임을 익힐 수 있다는 점에서 범용적 AI의 가능성을 증명하며 세계적 권위의 학술지인 네이처의 표지를 장식했다. 해당 연구는 범용 AI의 길을 열었다고 평가받으며 엄청난 파장을 불러일으켰다.

최근에는 자연어 처리 기술인 오픈AI의 GPT-3가 AI업계의 주목을 받고 있다. GPT-3는 소설이나 기사를 쓰기도 하고 심지어 프로그래밍도 하는 등 해당 영역에서 어느 정도 범용적인 능력을 보여주고 있다. 이렇듯이 오늘날 AI 연구원들은 범용 AI로 가는 단계를 하나씩 밟아 나가고 있다."

딥마인드가 'Playing atari with deep reinforcement learning'이란 논문을 NIPS에 발표했던게 2013년이었습니다. 저는 2014년에 이 영상(https://www.youtube.com/watch?v=EfGD2qveGdQ)을 봤었는데요. 당시 엄청나게 놀랐던 기억이 납니다.

제가 대학원때 논문 주제가 강화학습이었습니다. 그때는 Q-Table을 사용하거나 간단한 MLP 신경망을 써서 Q-Learning을 구현했습니다. 때문에 상태의 수가 많아지면 학습이 불가능했었죠. 그래서 특징추출이 중요했습니다. 예를 들어 게임 같은 경우 주인공의 위치, 적의 위치, 장애물의 위치 등을 따로 뽑아내서 최대한 상태의 크기를 줄여야 했습니다. 그런데 DQN은 게임의 픽셀 데이터를 직접 모델에 넣기만 하면 되었습니다. 덕분에 각 게임마다 따로 특징추출을 할 필요가 없이, 다양한 게임을 범용적으로 학습하는 모델을 만들 수 있었습니다.

요즘은 자연어처리도 점점 범용적으로 가고 있습니다. GPT-3가 대표적입니다. 초기에는 사전훈련된 모델을 내 데이터에 맞게 파인튜닝을 했었는데, 요즘은 그런 과정도 사라지고 있습니다. 그냥 거대모델을 바로 문제에 적용하는 one shot, few shot 방식이 새롭게 떠오르고 있습니다.

딥러닝이 범용성을 향해 나아가는 점은 분명해보입니다. 그럴수록 몇몇 대기업이 독점할 가능성도 높아지겠지만요. 그래도 당분간은 작은 모델로도 충분히 현업에 적용할 수 있다고 봅니다.