- AI Dev - 인공지능 개발자 모임
- 추천도서
< 목차 >
- 1. 대량살상수학무기의 탄생 : 빅데이터 시대, 알고리즘이 신을 대체하다
- 2. 셸 쇼크 : 금융과 수학의 결탁이 불러온 파국
- 3. 군비 경쟁 : 데이터의 포로가 된 학교와 학생들
- 4. 선동 도구 : 알고리즘은 당신이 한 일을 알고 있다
- 5. 무고한 희생자들 : 가난이 범죄가 되는 미래
- 6. 디지털 골상학 : 당신은 우리가 원하는 직원이 아닙니다
- 7. 일정의 노예 : 알고리즘의 노예가 된 노동자들
- 8. 부수적 피해 : 모든 길은 신용점수로 이어진다
- 9. 안전지대는 없다 : 선의에 감춰진 보험의 민낯
- 10. 표적이 된 시민들 : 민주주의를 위협하는 빅데이터
제목이 너무 딱딱해서 읽을까 말까 고민을 좀 했는데 의외로 너무 재미있었습니다. 다양한 예를 들면서 알기 쉽게 설명을 하기 때문에 이쪽 분야의 전문지식이 없어도 책의 내용을 이해하는데 전혀 문제가 없을 듯 합니다.
저자는 대학에서 수학교수를 하다가 헤지펀드에서 상품을 설계하는 퀀트로 이직을 합니다. 그러다 2008년 금융위기를 겪으면서 알고리즘으로 결정하는 자동화 기술에 큰 문제가 있다는 것을 깨닫고 이를 널리 알리기 위해 노력합니다.
우리는 보통 인간이 개입하지 않고 컴퓨터로 결정을 내리면 더 공정할 것이라 생각합니다. 하지만 이런 알고리즘 자체를 사람이 만들기 때문에 객관적일 수가 없고 누군가의 의도가 담기게 됩니다. 인공지능으로 데이터를 통해 학습을 했다고 해도 마찬가지입니다. 데이터 속에서 어떤 항목과 특징을 선택하느냐에 따라 그 결과가 크게 바뀔 수 있기 때문입니다.
신용평가를 하는 모델을 예로 들어보겠습니다. 단순히 금융거래 정보만이 아니라 그 사람의 주소에 따라 부자동네인지 가난한 동네인지 판단할 수도 있습니다. 또한 SNS를 통해 친구들의 정보를 구하고 그 사람들의 신용척도에 따라 점수에 영향을 주는 것도 가능합니다.
이렇게 기계적으로 판단되는 결과가 우리 인생을 좌지우지할 수도 있습니다. 한번 신용평가 점수가 낮게 나오면 대출을 할때, 취업을 할때, 할부로 차를 구입할 때 등 모든 사회생활에서 큰 불이익을 받게 됩니다. 또한 이런 사람들을 노린 약탈적인 타겟 광고에 의해서 다른 사람에 비해 높은 이자로 고금리 대출을 받습니다. 결국 경제적으로 더 어려움을 겪으면서 신용평가 점수 역시 떨어지게 되고 이런 악순환이 계속 될 수밖에 없습니다.
기술의 발전이 돈 많고 높은 위치에 있는 사람들에게는 더욱 큰 돈을 벌 수 있는 기회가 됩니다. 하지만 가난하고 힘없는 사람들은 사다리를 올라갈 수 있는 기회조차 박탈당하게 됩니다. 저자는 기업에서 사용하는 알고리즘을 감시하고 공정성을 해치는 요소를 포함할 수 없도록 법으로 강제해야 한다고 주장합니다. 하지만 이런 문제는 명확하게 보이는 것이 아니라 무엇이 잘못된건지 판단하기가 힘듭니다. 정부에서 규제를 할 의지가 있다고 해도 과연 그게 가능할지는 모르겠습니다.
