- AI Dev - 인공지능 개발자 모임
- 정보공유
- 일반 인공지능
글 수 118
설명가능한 인공지능(Expainable AI)에 대한 소개입니다. 머신러닝의 경우 왜 그런 결과를 냈는지 쉽게 알 수 있는 모델들이 있습니다. 예를 들어, 디시전 트리는 if-else 로직을 제공합니다. 회귀분석의 경우 각 가중치의 크기를 검사하여 어떤 특징이 중요한지 파악할 수 있습니다.
반면에 딥러닝은 이렇게 해석하기가 상당히 어렵습니다. 요즘 이슈가 되고 있는 편향성을 해결하는데도 이런 XAI가 도움이 됩니다. 또한 자율주행차 같은 생명과 연결되는 분야도 마찬가지입니다. 인공지능의 동작 방식이 투명하게 공개되어야 믿고 신뢰할 수 있습니다. 앞으로 딥러닝이 발전할수록 이런 기술이 점점 더 중요하질 것 같습니다.