https://www.wired.com/story/ai-pioneer-algorithms-understand-why/

요슈아 벤지오가 최근 자주 언급하는 주제가 바로 인과관계(causality)입니다. 지금까지 머신러닝과 딥러닝은 상관관계(correlation)에 기반하고 있습니다. 데이터를 분석하면 맥주와 기저귀가 같이 팔리는 사실은 알 수 있습니다. 하지만 그 이유를 이해하지는 못합니다. 인간이 다른 동물들을 지배하게 된 가장 큰 무기는 추론 능력입니다. 상식, 범용성, 적은 데이터로 학습 등 인공지능의 다음 단계로 나아가기 위해서는 인과관계가 필수적입니다.

사실 추론은 기호주의의 강점이기도 합니다. A->B, B->C이면 A->C와 같이 기호로 표시하면 계산이 가능합니다. 다만 A, B, C라는 개체를 정의하고 If-then의 조건을 사람이 작성해야 하는 한계가 있습니다. 딥러닝과 기호주의를 결합하는 하이브리드 방식을 주장하는 사람도 있습니다. 개인적으로는 이런 접근을 좋아하지 않습니다. 인간의 뇌에는 명시적인 기호 체계가 없기 때문입니다. 기호를 추상화하고 처리하는 과정도 결국 신경망으로 구현할 필요가 있습니다.

내년 인공지능의 가장 큰 화두는 인과관계가 되지 않을까 조심스럽게 예상해봅니다.