http://www.yes24.com/Product/Goods/82590018

< 목차 >

- 1. 인공지능이란?

- 2. 강화학습

- 3. 인공신경망

- 4. 인공지능 만들기: 틱택토 게임

강화학습은 딥러닝 중에서도 난이도가 높은 분야입니다. Q-Learning만 따로 공부하면 그나마 쉬운 편입니다. 하지만 그 기초가 되는 이론들은 수식도 많고 상당히 복잡한 편입니다. 이 책은 강화학습의 시작부터 딥러닝을 도입한 DQN까지 매우 자세히 다루고 있습니다. 각 주제마다 예제 코드로 직접 구현해보기 때문에 이해하기가 훨씬 수월했습니다.

강화학습은 MDP(Markov Decision Process)에서 시작했습니다. 특정 상태에서 어떤 행동을 결정해야 하는지 확률적으로 정리한 이론입니다. 이를 계산하기 위해 벨만 방정식이 생겼습니다. 모든 상태마다 상태가치 V 또는 행동가치 Q를 구하여 가장 높은 가치의 행동을 선택합니다. 하지만 각 행동을 했을 때의 확률을 알고 있어야 하고, 계산 시간이 너무 오래 걸린다는 문제가 있었습니다.

확률을 몰라도 MDP를 풀 수 있는 방법이 2가지가 있습니다. 첫째는 몬테카를로 기법입니다. 랜덤하게 상태를 골라서 에피소드가 끝날 때까지 돌려보고 그 보상값을 기록합니다. 둘째는 시간차 학습(Temporal Difference)입니다. 현재 상태와 액션을 수행한 후 다음 상태의 가치값을 구합니다. 그 차이를 통해 조금씩 최적의 행동을 학습합니다. Q-Learning은 TD의 대표적인 방법입니다.

책의 뒷 부분은 신경망을 다루고 있는데, 다른 교재에 비해서 조금 설명이 어려운 편입니다. 차라리 신경망 부분을 빼고 강화학습의 최신 이론들을 추가했으면 더 좋았을 것 같습니다. 그래도 강화학습의 전체적인 개념을 잡는데 도움이 될거라 생각합니다.