레플리
글 수 497

인공지능과 안면인식에 갇힌 감시사회, 중국

조회 수 126 추천 수 0 2018.06.20 17:07:38


 

http://www.bloter.net/archives/312784

 

 

 

"사회신용시스템은 5개 부문, 30개 영역에서 주민의 온오프라인 정보를 수집해 350점에서 950점 사이 점수를 매긴다. 운전습관, 금연 구역에서 흡연, 과도한 게임 구매, 온라인상 가짜 뉴스 유포 등 매우 다양한 항목이 사회신용에 영향을 미친다.

 

신용평가점수가 600점에 도달하면 대출을 받을 수 있다. 만약 점수가 낮으면 어떻게 될까? 인터넷 속도가 느려지고, 보험 가입이나 대출이 제한되며 여행도 어려워진다. <와이어드>에 따르면 ‘블랙리스트’에 오른 사람들은 열차도 탈 수 없다."

 

 

 

흔히 알고리즘은 공정하고 객관적이라 생각하지만 실제로는 데이터나 작성자의 의도에 따라 편향될 수 있습니다. 예를 들어, 범죄가 많이 발생하는 지역에 경찰차를 더 보내는 알고리즘을 생각해 보겠습니다. 순찰을 많이 할 수록 고과를 올리기 위해 사소한 범죄도 잡아내곤 합니다. 그러면 범죄 데이터가 더 쌓이고 그 지역에 순찰을 더 많이 하는 악순환이 발생합니다.

 

또한 인간적인 판단이 사라지기 때문에 한번 낮은 점수를 받은 사람들은 영영 기회를 박탈당합니다. 예전에는 데이터가 적기 때문에 사람이 직접 보거나 만나서 얘기를 해보고 결정을 하는 경우가 많았습니다. 그러면 다른 수치가 낮더라도 그 사람의 매력이나 장점을 파악하고 대출을 해주거나 채용을 하는 경우도 많이 있었습니다. 지금은 많은 부분이 인공지능으로 계산되어 자동으로 평가되어서 어려운 상황에 놓인 사람들은 좀처럼 벗어나기가 힘들어 졌습니다.

 

 

 

요즘 인터넷의 발달로 정보 공유가 빨라지면서 민주주의에 도움이 될거라 여기는 사람이 많습니다. 하지만 가짜뉴스 사태에서 보듯이 과도한 정보는 오히려 조작하기가 더 쉽습니다. 그리고 과거에는 감시를 위해서는 인력이 필요하기 때문에 극소수를 대상으로만 하였습니다. 하지만 에드워드 스노든이 폭로한 것처럼 인공지능을 사용해서 일반인을 대상으로 광범위하게 정보를 수집하고 있습니다.

 

만약 자동화로 인해 일자리가 감소하고 정부의 보조금으로 연명하는 사람들이 늘어나며 양극화가 심해질 경우 중산층이 무너지는 사태가 발생합니다. 그러면 국민들의 힘이 약해지게 될 뿐만 아니라 알고리즘으로 세밀한 통제가 가능해지면 민주주의의 존립 자체가 위험해질 수도 있습니다. 그럴 경우는 없어야겠지만 인공지능이 꼭 장미빛 미래를 약속하는 것은 아닐 것 같습니다.

엮인글 :
List of Articles
제목 글쓴이 날짜 조회 수
기사 쓰는 AI 현실화…CNET, AI 작성 기사 73건 깊은바다 2023-01-18 153
ChatGPT에게 물어보는 걸 당연하게 여기는 AI 네이티브 세대 깊은바다 2023-01-04 444
GPT-4가 곧 공개될거란 루머 깊은바다 2022-11-14 279
경제성 떨어져 AI비서 '알렉사' 접는다?… 펄쩍 뛴 아마존 깊은바다 2022-11-14 172
이연수 엔씨소프트 NLP센터장 인터뷰 깊은바다 2022-11-01 215
Stable Diffusion을 만든 Stability AI, 창업 3년만에 유니콘으로 등극 깊은바다 2022-10-18 504
젠승 황, LLM-as-a-service가 잠재적으로 매우 큰 기회가 될 것 깊은바다 2022-09-27 288
존 카맥, 2030년까지 AGI가 가능하다는데 베팅 깊은바다 2022-08-17 665
구글 챗봇 AI '람다'는 정말 사람처럼 사고할까 깊은바다 2022-07-31 710
SKT의 개인비서 에이닷, 앱 통계조사에서 순위권 file 깊은바다 2022-07-28 711
테슬라 오토파일럿 책임자인 안드레이 카파시 퇴사 깊은바다 2022-07-17 685
부모 목소리로 동화책을 읽어주는 제품 - Coemo 깊은바다 2022-05-28 4927
KT, 초거대모델 일생대화 AI 기반의 메타버스인 지니버스 출시예정 깊은바다 2022-05-22 604
결제 없이 쓱~ 나가세요, 2만 명 찾은 완전스마트매장, 어떻게 탄생했나 깊은바다 2022-04-09 2014
월 이용료 60만원…서빙로봇 대중화 시대 열린다 깊은바다 2022-03-31 909