https://horizon.kias.re.kr/archives/allarticles/transdisciplinary/%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5%EC%9D%80-%EC%9D%B8%EA%B0%84%EC%9D%84-%EC%B0%A8%EB%B3%84%ED%95%98%EB%8A%94%EA%B0%80/

"이렇게 인공지능이 우리의 일상생활에 더 많이 사용되면서, 알고리즘 속에 숨겨진 차별이 속속 드러나고 있는 것이다. 문제는 이런 빅데이터 인공지능 알고리즘이 우리 사회에 만연한 차별을 반영하는 데 그치지 않고 이를 영속시키고 증폭시킨다는 것이다. 차별적인 사회가 낳은 데이터를 가지고 인공지능 알고리즘은 차별적인 결과를 만들어 낸다."

"구미의 여러 인권단체는 인공지능에 의한 차별을 비판하며 알고리즘에 대한 검사를 주장하고 있다. 알고리즘을 검사하는 방법으로는 데이터를 포함해서 알고리즘 자체를 들여다보는 방법과, 중립적인 데이터를 집어넣은 다음에 그 결과가 중립적으로 나오는가를 보는 방법이 있을 수 있다."

인공지능이 발전하면서 하드웨어뿐만 아니라 소프트웨어도 점점 자동화되고 있습니다. 법률, 행정, 기업 등에서 알고리즘으로 중요한 결정을 내리는 경우가 늘고 있습니다. 이때 특정 계층이나 인종, 성별에 따라 편향된 결과를 보여주기도 합니다.

사실 이런 문제는 쉽게 발견하기가 어렵습니다. 외부에 공개되는 서비스가 아니라면 일반인들은 확인이 불가능합니다. 또한 운영하는 사람들이 편향를 발견했다고 해도 조용히 넘어갈 가능성도 높습니다. 자신들에게 직접적으로 피해를 주지 않는다면, 굳이 시간과 노력을 들여 고칠 필요가 없기 때문입니다.

유일한 해결책은 정부에서 표준 절차를 통해 규제를 하는 것입니다. 일반적으로 소비자에게 피해를 줄 수 있는 제품들은 안전 검사를 받도록 강제합니다. 위험성을 내포하고 있는 인공지능 역시 같은 방식을 적용할 수 있습니다. 다만 기술적 또는 사회적인 측면을 좀 더 고려해야 될 듯 합니다.