글 수 66

인공지능은 인간을 차별하는가?

조회 수 43 추천 수 0 2019.08.28 17:33:24


 

https://horizon.kias.re.kr/archives/allarticles/transdisciplinary/%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5%EC%9D%80-%EC%9D%B8%EA%B0%84%EC%9D%84-%EC%B0%A8%EB%B3%84%ED%95%98%EB%8A%94%EA%B0%80/

 

 

 

"이렇게 인공지능이 우리의 일상생활에 더 많이 사용되면서, 알고리즘 속에 숨겨진 차별이 속속 드러나고 있는 것이다. 문제는 이런 빅데이터 인공지능 알고리즘이 우리 사회에 만연한 차별을 반영하는 데 그치지 않고 이를 영속시키고 증폭시킨다는 것이다. 차별적인 사회가 낳은 데이터를 가지고 인공지능 알고리즘은 차별적인 결과를 만들어 낸다."

 

"구미의 여러 인권단체는 인공지능에 의한 차별을 비판하며 알고리즘에 대한 검사를 주장하고 있다. 알고리즘을 검사하는 방법으로는 데이터를 포함해서 알고리즘 자체를 들여다보는 방법과, 중립적인 데이터를 집어넣은 다음에 그 결과가 중립적으로 나오는가를 보는 방법이 있을 수 있다."

 

 

 

인공지능이 발전하면서 하드웨어뿐만 아니라 소프트웨어도 점점 자동화되고 있습니다. 법률, 행정, 기업 등에서 알고리즘으로 중요한 결정을 내리는 경우가 늘고 있습니다. 이때 특정 계층이나 인종, 성별에 따라 편향된 결과를 보여주기도 합니다.

 

사실 이런 문제는 쉽게 발견하기가 어렵습니다. 외부에 공개되는 서비스가 아니라면 일반인들은 확인이 불가능합니다. 또한 운영하는 사람들이 편향를 발견했다고 해도 조용히 넘어갈 가능성도 높습니다. 자신들에게 직접적으로 피해를 주지 않는다면, 굳이 시간과 노력을 들여 고칠 필요가 없기 때문입니다.

 

유일한 해결책은 정부에서 표준 절차를 통해 규제를 하는 것입니다. 일반적으로 소비자에게 피해를 줄 수 있는 제품들은 안전 검사를 받도록 강제합니다. 위험성을 내포하고 있는 인공지능 역시 같은 방식을 적용할 수 있습니다. 다만 기술적 또는 사회적인 측면을 좀 더 고려해야 될 듯 합니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
인공지능과 엔트로피 깊은바다 2019-09-18 12
신입사원의 한숨을 덜어줄 기술, RPA 깊은바다 2019-09-15 74
인공지능은 인간을 차별하는가? 깊은바다 2019-08-28 43
오래된 AI 판별법 '튜링테스트'...여전히 유효한가? 깊은바다 2019-08-16 195
이것만 기억하세요 AI AI AI, 손정의 소프트뱅크 회장 청와대 접견 깊은바다 2019-08-09 80
중국의 아파트에 설치된 안면인식 시스템 깊은바다 2019-07-26 67
의식에 관한 연구로 유명한 Hod Lipson의 인터뷰 깊은바다 2019-07-15 52
데미스 하사비스 - 전이학습이 일반 인공지능으로 가는 열쇠 깊은바다 2019-07-10 96
이유를 설명해주는 딥러닝, XAI (Explainable AI) 깊은바다 2019-07-04 197
공유 경제와 자동화의 그늘 [2] 깊은바다 2019-05-18 87
소프트뱅크는 이제 AI트래픽으로 성장한다 깊은바다 2019-05-16 104
AI가 어떻게 인간 존엄성을 회복시키는가 깊은바다 2019-04-18 70
데이터 사이언티스트가 되기 위해 진행한 다양한 노력들 깊은바다 2019-04-08 248
의식을 가진 로봇의 탄생? 깊은바다 2019-02-07 159
인공지능에 대한 단상 file [3] 깊은바다 2019-02-04 251