글 수 60

이유를 설명해주는 딥러닝, XAI (Explainable AI)

조회 수 93 추천 수 0 2019.07.04 15:46:24


 

 

 

설명가능한 인공지능(Expainable AI)에 대한 소개입니다. 머신러닝의 경우 왜 그런 결과를 냈는지 쉽게 알 수 있는 모델들이 있습니다. 예를 들어, 디시전 트리는 if-else 로직을 제공합니다. 회귀분석의 경우 각 가중치의 크기를 검사하여 어떤 특징이 중요한지 파악할 수 있습니다.

 

반면에 딥러닝은 이렇게 해석하기가 상당히 어렵습니다. 요즘 이슈가 되고 있는 편향성을 해결하는데도 이런 XAI가 도움이 됩니다. 또한 자율주행차 같은 생명과 연결되는 분야도 마찬가지입니다. 인공지능의 동작 방식이 투명하게 공개되어야 믿고 신뢰할 수 있습니다. 앞으로 딥러닝이 발전할수록 이런 기술이 점점 더 중요하질 것 같습니다.






엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
의식에 관한 연구로 유명한 Hod Lipson의 인터뷰 깊은바다 2019-07-15 34
데미스 하사비스 - 전이학습이 일반 인공지능으로 가는 열쇠 깊은바다 2019-07-10 58
이유를 설명해주는 딥러닝, XAI (Explainable AI) 깊은바다 2019-07-04 93
공유 경제와 자동화의 그늘 [2] 깊은바다 2019-05-18 75
소프트뱅크는 이제 AI트래픽으로 성장한다 깊은바다 2019-05-16 88
AI가 어떻게 인간 존엄성을 회복시키는가 깊은바다 2019-04-18 64
데이터 사이언티스트가 되기 위해 진행한 다양한 노력들 깊은바다 2019-04-08 218
의식을 가진 로봇의 탄생? 깊은바다 2019-02-07 141
인공지능에 대한 단상 file [3] 깊은바다 2019-02-04 233
캐나다의 인공지능 현황 - Rise of AI 깊은바다 2018-12-28 165
기업에 인공지능을 적용하는 방법 깊은바다 2018-12-24 141
인공지능에서 자연어처리가 어려운 이유 file 깊은바다 2018-12-08 189
인공지능의 세번째 겨울이 찾아올까? file 깊은바다 2018-12-02 302
기계가 대신하는 나의 일자리? 무인시스템의 명암 깊은바다 2018-11-28 72
인공지능 시대의 창의성 깊은바다 2018-11-03 87