레플리
글 수 126

알파고를 분석하며 배우는 인공지능

조회 수 348 추천 수 0 2019.09.22 04:09:14


800x0.jpg

 

http://www.yes24.com/Product/Goods/76457079

 

< 목차 >

- 1. 알파고의 등장
- 2. 딥 러닝 - 바둑 AI는 순간적으로 수를 떠올린다
- 3. 강화 학습 - 바둑 AI는 경험을 배운다
- 4. 탐색 - 바둑 AI는 어떻게 예측할까?
- 5. 알파고의 완성
- 6. 알파고에서 알파고 제로로

 

 

 

지금 한국의 딥러닝 열풍은 알파고에서 시작되었다고 해도 과언이 아닙니다. 그만큼 이세돌의 패배는 우리에게 큰 충격을 주었습니다. 이 책은 알파고의 알고리즘에 대해서 설명하고 있습니다. 저자가 직접 바둑 프로그램을 개발해서 그런지 상당히 세부적인 내용들이 포함되어 있습니다. 알파고에 대해 어느정도 알고있던 저도 새롭게 배운 사실들이 많았습니다.

 

체스와 달리 바둑은 단순히 검색 방식으로 구현이 어렵습니다. 우선 경우의 수가 체스에 비해 훨씬 방대합니다. 또한 남은 기물의 종류와 개수로 평가하는 체스와 달리, 승패가 나기전까지는 정확한 점수를 계산할 수 없습니다. 그래서 오랫동안 바둑 인공지능의 수준이 매우 떨어지는 편이었습니다.

 

그러다 MCTS(Monte Carlo Tree Search)라는 획기적인 방법이 개발되었습니다. 모든 수를 탐색하지 않고 정해진 횟수만 샘플링하여 최적의 위치를 결정합니다. 그리고 플레이 아웃이란 개념을 도입하여 어느 수의 승률이 높은지 파악할 수 있게 되었습니다. 현재 바둑판의 상태에서 끝까지 시뮬레이션을 돌려보고 그 승패를 통해 점수를 측정하는 방법입니다.

 

알파고 역시 이 MCTS를 기반으로 합니다. 여기에 지도학습(SL) 정책 네트워크, 강화학습(RL) 정책 네트워크, 가치 네트워크 등 3개의 딥러닝 모델을 적용하였습니다. SL 정책 네트워크는 어느쪽으로 분기하여 탐색을 할지 결정하며, 프로기사의 기보를 통해 학습합니다. RL 정책 네트워크는 SL 정책 네트워크의 가중치로 초기화한 다음, 강화학습을 사용하여 스스로 배웁니다. 가치 네트워크는 플레이 아웃과 함께 평가함수의 역할을 합니다. SL 정책 네트워크를 별도로 돌려서 학습 데이터를 생성합니다.

 

알파고에 대해서 깊게 알고 싶은 분들에게 추천드립니다. 다만 CNN, 강화학습 같은 딥러닝 알고리즘에 대한 설명이 부족합니다. 어느정도 선행지식이 있는 분들에게 적합할 듯 합니다.

 

 

List of Articles
제목 글쓴이 날짜 조회 수sort
안녕, 인간 file 깊은바다 2019-11-10 286
펭귄브로의 3분 딥러닝, 파이토치맛 file 깊은바다 2020-08-02 290
리얼월드 머신러닝 file 깊은바다 2018-10-20 293
가장 빨리 만나는 챗봇 프로그래밍 with Bot Framework file 깊은바다 2018-12-24 294
한 권으로 정리하는 4차산업혁명 file 깊은바다 2018-07-06 300
머신 러닝 워크북 file 깊은바다 2018-04-14 304
마스터 알고리즘 file [1] 깊은바다 2017-03-05 314
아무것도 모르고 시작하는 인공지능 첫걸음 file 깊은바다 2018-08-16 319
외로워지는 사람들 file 깊은바다 2020-04-01 331
보이스봇 챗봇 디자인 file 깊은바다 2019-09-13 333
자율주행혁명 file 깊은바다 2018-01-18 335
영어학습을 위한 인공지능 챗봇 활용 및 제작 file 깊은바다 2019-08-12 336
다양한 봇빌더를 이용한 똑똑한 챗봇 만들기 file 깊은바다 2020-01-21 338
인공지능 개론 file 깊은바다 2016-03-25 339
챗봇 혁명 file 깊은바다 2017-09-11 341