https://www.facebook.com/groups/TensorFlowKR/search/?query=%EC%A3%BC%EC%8B%9D

외국 퀀트들은 머신러닝으로 매매하는 프로그램을 만들다고 하는데 저도 그쪽은 잘 몰라서^^; 페이스북 텐서플로 그룹에 주식관련 글들이 몇개 있는데 그걸 한번 참고하시는게 어떨까요. 잠깐 살펴보니 강화학습 DQN으로 여러가지 데이터들을 받아 상태에 따라 보상과 벌칙(아마 주가?)으로 학습하여 특정 종목의 매매를 결정하는것 같습니다.

강화학습말고도 일반적인 지도학습에 따른 분류기법으로도 할 수 있을 것 같은데요. 상태에 따른 주가의 변동을 데이터셋으로 하여 학습을 한후 현재 데이터 상태에 따라 예측을 할 수 있습니다. 주식이 시간에 따른 시계열 데이터이므로 RNN과 LSTM 같은 딥러닝 방법도 좋을 것 같습니다. 

http://www.kyobobook.co.kr/product/detailViewKor.laf?ejkGb=KOR&mallGb=KOR&barcode=9788968488184&orderClick=LAG&Kc=

서점에서 이 책을 잠깐 훑어보긴 했는데 여러가지 머신러닝 기법들을 다루는 듯 합니다. 큰 도움이 되지 못해 죄송합니다^^;