[다큐 후기] 알고리즘의 편견

 

 

 

 

 

MIT 공대생인 조이는 자신의 프로젝트를 진행하던 중 안면 인식 소프트웨어가 흑인, 여성으로서의 자기 얼굴을 잘 인식하지 못한다는 점을 발견한다. 감독은 조이의 경험을 바탕으로 고도로 발전하고 있는 알고리즘 기술들에 심겨진 인종, 성별 차별에 대한 문제점들을 파헤치고 있는 여러 여성 과학자들, 활동가를 카메라에 담는다. 그리고 그 기술들이 얼마나 은밀하게 차별을 공고히 해나가고 있는지 밝혀낸다. 역사 속에서 기술 발전은 문명의 발전과 별개로 계급차를 강화시키며 차별을 더욱 공고히해왔다. 디지털 기반의 기술 또한 이와 다르지 않음을, 오히려 가시적이었던 차별들이 더욱 은밀하게 코드 뒤에 숨겨져 있음을 확인할 수 있을 뿐이다.

(2021년 제8회 춘천SF영화제/ 이동윤, 출처-다음영화)

 

 

 

 

 

이번에 리뷰할 영화는 <알고리즘의 편견>으로, 이 영화는 넷플릭스에서 보실 수 있습니다. 이 영화는 위의 내용에서 볼 수 있듯이 MIT 공대생인 조이가 안면 인식 소프트웨어를 이용하면서 문제를 인식하고 이러한 문제에서 확장되어 인공지능과 이를 뒷받침하는 알고리즘이 가질 수 있는 문제점에 대해서 소개하면서 기술 발전의 윤리적 문제에 대해 다루고 있습니다.

 

 

 

 

이 영화는 조이의 이야기에서 시작합니다. 조이는 MIT에 재학 중인 학생으로 학교 수업 과제로 거울 속 내 모습에 나를 고무시켜 줄 수 있는 인물 등을 덧씌워 보여주는 ‘어스파이어 미러’를 개발합니다. 하지만 조이가 개발한 ‘어스파이어 미러’가 제대로 작동을 하지 않는데, 이는 ‘어스파이어 미러’에 이용된 얼굴 인식 소프트웨어가 흑인 여성의 얼굴을 잘 인식하지 못하기 때문이었습니다. 실제로 조이가 맨얼굴을 카메라에 비췄을 때에는 얼굴을 인식하지 못하다가 하얀 가면을 얼굴 앞에 대자 얼굴이 인식되는 장면을 볼 수 있습니다.

 

 

이 영화 내에서 확인했던 대부분의 얼굴 인식 소프트웨어는 피부색이 밝은 남성일수록 인식률이 좋았습니다. 인공지능이 과거의 데이터를 기반으로 학습을 하기 때문에 차별이 존재할 수 있다는 사실에 대해서는 이전부터 많은 우려가 있었고, 그러한 내용에 대해서 이전에 접했었기 때문에 막연히 그럴 수 있겠다는 생각은 했지만 실제로 현재 개발되고 이용되고 있는 얼굴 인식 프로그램이 실제로 피부색이 밝을수록, 남자일수록 더 인식이 잘된다는 사실은 충격적이었습니다.

 

 

이외에도 현재 개발 중이고 테스트 중인 얼굴 인식 프로그램을 이용한 여러 기술들에 대해서 소개되고 있는데 생각보다 많이 개발이 되어 있고 다양하게 활용되고 있다는 점이 놀라웠습니다. 이와 관련하여 아무 잘못을 하지 않은 사람이 자신의 얼굴 촬영을 거부할 수 있는 권리가 공권력에 의해 억압당하는 것에 대한 내용이나 사람들의 인생에 큰 영향을 미치는 평가 시스템에 이용되는 알고리즘의 기준이 명확히 공개되지 않는다는 점, 이러한 알고리즘이 부와 권력을 가진 사람들에 의해서 그들에게 유리한 방향으로 이용될 수 있다는 점, 이러한 편향적인 알고리즘을 통해 불평등이 더 심해질 수 있다는 문제점 등을 제기하고 있습니다.

 

 

 

(▲ 얼굴 인식 프로그램의 수정/개선 전후 조이의 문제제기 이후 프로그램이 수전/개선되었다. ⓒ netflix, 이미지 출처-https://star.ohmynews.com/NWS_Web/OhmyStar/at_pg.aspx?CNTN_CD=A0002736256)

 

 

이러한 문제들을 막기 위해서 조이는 ‘알고리즘 정의 연맹’을 만들고 뜻이 맞는 사람들과 알고리즘이 이러한 차별을 심화시키는 방향으로 발전하지 않도록 법 제정을 촉구하는 등의 활동을 하고 있습니다. 이 영화의 마지막 부분에 조이는 안면 분석 기술을 정부가 사용하는 문제에 대해 의회에서 진술을 합니다. 그 진술에서 얼굴 인식 프로그램이 백인 남성일수록 얼굴의 인식률이 좋다는 분석 결과를 소개하며, 문제를 제기한 이후 실제로 IBM에서는 프로그램 개선을 통해 성별과 인종에 상관없이 얼굴의 인식률을 높였습니다. 또한 이러한 활동을 통해서 실제로 미국의 여러 주에서는 경찰에서 해당 얼굴 인식 프로그램 도입을 하지 않기로 결정하기도 하였습니다. 하지만 아직 이에 대한 법률 제정은 되지 않고 있다고 합니다.

 

 

이 영화를 보면서 인공지능이 급격히 발전하고 우리의 일상과 부쩍 가까워진 요즘, 이러한 기술의 윤리적 기준에 대해서도 함께 논의하고 생각해봐야 할 시기이지 않나 하는 생각을 하게 되었습니다. 기회가 되시면 이 영화를 보고 위에서 언급한 다양한 문제에 대해 생각해보는 시간을 가지면 좋을 것 같습니다.