얼굴인식 인공지능(AI)은 학습 데이터의 편중에 따라 인종·성별 등 집단별로 서로 다른 정확도를 보일 수 있다. (이미지=챗GPT)
인공지능(AI)은 사람보다 공정할 거라고 생각하기 쉽습니다.
사람처럼 감정도 없고 선입견도 없으니, 같은 조건이라면 누구에게나 똑같은 답을 내놓을 것 같기 때문입니다.
그런데 어제 한 포럼에서 강연을 듣다가 생각이 조금 달라졌습니다.
AI에도 '낯선 얼굴'이 있다는 겁니다.
실제로 얼굴인식 기술은 인종이나 성별 등에 따라 정확도가 달라지는 문제가 꾸준히 지적돼 왔습니다. 미국 국립표준기술연구소(NIST)의 평가에서도 많은 얼굴인식 알고리즘이 인구집단에 따라 서로 다른 오인식률을 보였는데요. 특히 아시아계와 흑인 얼굴의 오탐률이 백인 얼굴보다 높게 나타났습니다.
이런 차이는 실제 피해로도 이어졌습니다.
2020년 미국 디트로이트에서는 흑인 남성 로버트 윌리엄스가 자신이 저지르지 않은 절도 사건의 용의자로 체포됐습니다. 얼굴인식 기술이 그를 잘못된 후보로 지목한 것이 사건의 출발점이었습니다. 그는 약 30시간 동안 구금됐고, 이후 소송을 거치며 경찰의 얼굴인식 사용 절차도 강화됐습니다.
AI가 일부러 누군가를 차별한 것은 아닐 텐데요. 문제는 AI가 세상을 배우는 재료인 '데이터'에 있습니다.
지금까지 AI 개발에 사용된 이미지 데이터 상당수는 웹에서 대량으로 수집됩니다. 빠르고 저렴하게 많은 데이터를 확보할 수 있기 때문입니다. 하지만 그 과정에서 당사자의 동의를 받지 않았거나, 특정 지역과 인구집단의 데이터가 충분히 포함되지 않았을 가능성도 있습니다.
편중된 데이터로 학습한 AI는 자신이 많이 본 얼굴에는 익숙하고, 충분히 보지 못한 얼굴에는 서툰 결과를 내놓게 됩니다.
그럼 데이터를 다양하게 모으면 되지 않을까요. 문제는 AI를 더 공정하게 만들기 위해서는 더 다양한 사람의 데이터가 필요하지만, 데이터를 많이 모을수록 개인정보와 동의의 문제도 커집니다. 웹에서 마음대로 긁어오면 윤리 문제가 생기고, 일일이 동의를 받아 수집하려면 비용과 시간이 크게 늘어납니다. 어렵게 윤리적으로 데이터를 모았다고 해서 모든 편향이 저절로 사라지는 것도 아닙니다.
그래서 AI 시대에는 '얼마나 많은 데이터를 모았느냐' 만큼이나, 누구의 데이터를, 어떤 방식으로 모았느냐가 중요해지고 있습니다.
우리는 일상의 사소한 것부터 전문적인 일까지 점점 더 많은 판단을 AI에 맡기고 있습니다. 객관적인 답을 알려줄 거라고 기대한 AI가 사실은 자신이 배운 데이터의 한계 안에서 세상을 보고 있다면 이야기는 달라집니다.
AI의 성능을 높이는 것만큼, 그 AI가 누구에게는 유리하고 누구에게는 불리하게 작동하지 않는지 살펴보는 일도 중요해지는 이유입니다.
AI가 어떤 세상을 배웠는지부터 들여다봐야 하지 않을까요.