http://www.yes24.com/Product/Goods/76457079

< 목차 >

- 1. 알파고의 등장
- 2. 딥 러닝 - 바둑 AI는 순간적으로 수를 떠올린다
- 3. 강화 학습 - 바둑 AI는 경험을 배운다
- 4. 탐색 - 바둑 AI는 어떻게 예측할까?
- 5. 알파고의 완성
- 6. 알파고에서 알파고 제로로

지금 한국의 딥러닝 열풍은 알파고에서 시작되었다고 해도 과언이 아닙니다. 그만큼 이세돌의 패배는 우리에게 큰 충격을 주었습니다. 이 책은 알파고의 알고리즘에 대해서 설명하고 있습니다. 저자가 직접 바둑 프로그램을 개발해서 그런지 상당히 세부적인 내용들이 포함되어 있습니다. 알파고에 대해 어느정도 알고있던 저도 새롭게 배운 사실들이 많았습니다.

체스와 달리 바둑은 단순히 검색 방식으로 구현이 어렵습니다. 우선 경우의 수가 체스에 비해 훨씬 방대합니다. 또한 남은 기물의 종류와 개수로 평가하는 체스와 달리, 승패가 나기전까지는 정확한 점수를 계산할 수 없습니다. 그래서 오랫동안 바둑 인공지능의 수준이 매우 떨어지는 편이었습니다.

그러다 MCTS(Monte Carlo Tree Search)라는 획기적인 방법이 개발되었습니다. 모든 수를 탐색하지 않고 정해진 횟수만 샘플링하여 최적의 위치를 결정합니다. 그리고 플레이 아웃이란 개념을 도입하여 어느 수의 승률이 높은지 파악할 수 있게 되었습니다. 현재 바둑판의 상태에서 끝까지 시뮬레이션을 돌려보고 그 승패를 통해 점수를 측정하는 방법입니다.

알파고 역시 이 MCTS를 기반으로 합니다. 여기에 지도학습(SL) 정책 네트워크, 강화학습(RL) 정책 네트워크, 가치 네트워크 등 3개의 딥러닝 모델을 적용하였습니다. SL 정책 네트워크는 어느쪽으로 분기하여 탐색을 할지 결정하며, 프로기사의 기보를 통해 학습합니다. RL 정책 네트워크는 SL 정책 네트워크의 가중치로 초기화한 다음, 강화학습을 사용하여 스스로 배웁니다. 가치 네트워크는 플레이 아웃과 함께 평가함수의 역할을 합니다. SL 정책 네트워크를 별도로 돌려서 학습 데이터를 생성합니다.

알파고에 대해서 깊게 알고 싶은 분들에게 추천드립니다. 다만 CNN, 강화학습 같은 딥러닝 알고리즘에 대한 설명이 부족합니다. 어느정도 선행지식이 있는 분들에게 적합할 듯 합니다.