글 수 69

이유를 설명해주는 딥러닝, XAI (Explainable AI)

조회 수 362 추천 수 0 2019.07.04 15:46:24


 

 

 

설명가능한 인공지능(Expainable AI)에 대한 소개입니다. 머신러닝의 경우 왜 그런 결과를 냈는지 쉽게 알 수 있는 모델들이 있습니다. 예를 들어, 디시전 트리는 if-else 로직을 제공합니다. 회귀분석의 경우 각 가중치의 크기를 검사하여 어떤 특징이 중요한지 파악할 수 있습니다.

 

반면에 딥러닝은 이렇게 해석하기가 상당히 어렵습니다. 요즘 이슈가 되고 있는 편향성을 해결하는데도 이런 XAI가 도움이 됩니다. 또한 자율주행차 같은 생명과 연결되는 분야도 마찬가지입니다. 인공지능의 동작 방식이 투명하게 공개되어야 믿고 신뢰할 수 있습니다. 앞으로 딥러닝이 발전할수록 이런 기술이 점점 더 중요하질 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
초지능을 막을 수 있는 방법 - 스튜어트 러셀 깊은바다 2019-10-11 70
얀 르쿤과 요슈아 벤지오, 초지능에 대한 설전 깊은바다 2019-10-07 122
인공지능 관련 테드(TED) 강연 목록 file 깊은바다 2019-10-05 450
인공지능과 엔트로피 깊은바다 2019-09-18 175
신입사원의 한숨을 덜어줄 기술, RPA 깊은바다 2019-09-15 183
인공지능은 인간을 차별하는가? 깊은바다 2019-08-28 64
오래된 AI 판별법 '튜링테스트'...여전히 유효한가? 깊은바다 2019-08-16 251
이것만 기억하세요 AI AI AI, 손정의 소프트뱅크 회장 청와대 접견 깊은바다 2019-08-09 107
중국의 아파트에 설치된 안면인식 시스템 깊은바다 2019-07-26 82
의식에 관한 연구로 유명한 Hod Lipson의 인터뷰 깊은바다 2019-07-15 75
데미스 하사비스 - 전이학습이 일반 인공지능으로 가는 열쇠 깊은바다 2019-07-10 158
이유를 설명해주는 딥러닝, XAI (Explainable AI) 깊은바다 2019-07-04 362
공유 경제와 자동화의 그늘 [2] 깊은바다 2019-05-18 103
소프트뱅크는 이제 AI트래픽으로 성장한다 깊은바다 2019-05-16 119
AI가 어떻게 인간 존엄성을 회복시키는가 깊은바다 2019-04-18 91