(책읽어주는기자)디지털 시대의 감시와 통제…"정보 제국주의 민낯"

'블랙박스 사회' 프랭크 파스콸레 지음｜안티고네 펴냄

아는 것이 힘이다. 기업들은 잠재 고객과 직원의 삶은 사적인 부분까지도 속속들이 파악하려 들면서도, 규제 당국에 자사의 정보는 가급적 제공하지 않으려 한다. 인터넷 기업들은 사용자에 관한 정보는 점점 더 많이 수집하면서도, 자신들의 디지털 문서에 일부나마 통제권을 부여하려는 규제에는 반발한다.   저자는 "불가사의한 방식으로 작동하는 시스템", 즉 블랙박스 시스템 때문이라고 말한다. 이는 "인풋과 아웃풋은 확인할 수 있어도 인풋이 어떻게 아웃풋으로 바뀌는지는 알 수 없는 시스템"이라고 한다. 또한 "우리는 매일같이 이러한 블랙박스에 직면하고 있으며, 기업과 정부로부터 갈수록 더 면밀히 추적당하면서도, 그와 같은 정보가 얼마나 광범위하게 유통되고 활용되는지, 그리고 그 결과가 어떠한지는 명확히 알지 못한다"고 한다.   이러한 블랙박스 시스템이 우리 삶에서 가장 중대한 영향을 미치는 분야는 평판, 검색, 금융이라고 저자는 말한다. 블랙박스에 갇힌 이들 알고리즘을 알지 못하면 지금의 세계를 정확히 알 수 없을 뿐만 아니라 투명한 사회, 알기 쉬운 사회로 나갈 수 없다고 한다.   세계 최대 IT기업 구글은 이제 공개되지 않기를 바라는 콘텐츠를 숨기는 것쯤은 이제 너무도 쉬운 일이 됐다. 나아가 '일반 목적 검색'에서의 지배력을 바탕으로 구글이 다른 분야에까지 과도한 권한을 행사하는 것이 아니냐는 의구심을 제기한다. 또한 구글은 경쟁사와 싸워볼 기회조차 용납하지 않는다. 어떤 서비스가 잠재적 인수 대상이라면, 구글은 그 사이트의 트래픽을 억제해야할 이해관계가 생기고, 잠재적 고객에 대한 인수 타깃 기업의 접근을 원천으로 봉쇄해, 인수 제안을 뿌리칠 수밖에 없도록 만든다.   우리가 들여다 보기 어려운 블랙박스 사회의 내부는 비밀스런 알고리즘을 통해 돈과 정보를 통제하고, 검색 결과의 순위를 임의로 정해 조작한다. 이 과정에서 금융업계에서는 투자자와 납세자가 인지하지 못하는 방식으로 그들에게 위험성을 전가하는 계약을 체결하고, 자신들의 몫으로 막대한 수수료와 보너스를 챙겼다. 대출자들은 신용등급으로 자신의 이자 금액이 달라지지만 정작 자신들의 신용등급은 어떻게 산정되는지 알 방법이 없다. 신용등급이 어떻게 유통되고 있는지도 모른다. 이처럼 우리가 알지 못하는 블랙박스 사회의 비밀스러운 알고림즘에 의해 작동하는 사례는 수없이 많이 찾아볼 수 있다.   블랙박스 사회에서의 알고리즘은 우리에게 새로운 주홍글씨를 새겼다. 뒷단에 숨어있는 알고리즘을 알지 못하는 상황에서 어느 소프트웨어가 어떤 사람의 신용위험도가 높거나, 태만한 직장인이거나, 돈이 안 되는 소비자라고 일단 판단하게 되면 그것이 경제 전반에 걸친 다른 시스템의 의사 결정에도 영향력을 발휘하기 시작했다. 통제 불가능한 데이터가 이곳 저곳 퍼져나가 연속적인 불이익을 주면서, 평판, 검색, 금융 기업들은 우리를 무지한 상태로 유지하고 그 과정에서 이익을 얻는다. 거대한 비밀주의를 조성해 이익을 챙기고, 다른 산업까지 퍼트렸다.   왜 구글의 비디오 검색 결과에서는 유튜브가 항상 다른 비디오 사이트보다 상위에 랭크될까? 왜 인터넷 소매점은 동일 제품인데도 구매자에 따라 다른 가격을 매기는 걸까? 왜 어떤 대출자들은 상환이 늦어져도 용인되고, 어떤 대출자들은 그렇지 않을까? 왜 애플은 특정 앱들의 등록을 거부하는가? 왜 어떤 기업은 지원자의 소셜 네트워크를 검색하는가?… 우리에게 궁금증을 자아내는 데이터 주홍글씨 흔적들이 곳곳이 퍼져있다.   ▶전문성 : 우리의 일거수일투족은 기록되지만 정작 알고리즘을 만드는 사람, 서비스를 제공하는 그들에 대해서는 알 수 없는 아이러니한 구조의 심각성을 설득력 있게 제시하고 있다.   ▶대중성 : 금융의 비밀주의부터 신용 평점까지, 검색엔진부터 자동화된 의사 결정까지, 제도상의 투명성부터 정부와 대기업의 유착까지 다양한 이슈들을 아우르며 블랙박스 사회를 설명한다.   ▶참신성 : 데이터 수집과 그것의 이용 및 오용, 무분별함 등 디지털시대에서 감시당하는 파놉티콘 사회의 부작용들을 사례를 통해 제시하고 있다.

 

■요약

1. 평판 블랙박스

 

 

저자는 디지털 상에서 구매와 검색, 소셜네트워크서비스(SNS) 등 서비스를 이용하는 모든 행동들이 데이터로 남아 우리의 디지털 상의 정보, 즉 '디지털 자아'가 기업, 기관들에게로 흘러들어가 평가를 받는다고 말한다.

 

유통기업과 금융기업들은 이 데이터를 수익 창출 방법, 마케팅 전략을 짜는 데 활용하고, 직원을 채용하는 기업들은 가장 인건비가 싸면서도 효율과 능력이 좋은 지원자를 뽑기 위해 데이터로 검열을 한다고 말한다. 여기서 중요한 것은 이런 데이터를 제공받는 데이터 중개상들의 존재는 우리가 절대 알 수가 없는데, 우리도 모르게 그들은 데이터를 제공받고 필요에 따라 열람하고 활용한다.

 

저자는 이런 디지털 연금술이 새로운 유사 현실을 창조하면서, 통제 불가능한 데이터는 이곳 저곳 퍼져나가 연속적인 불이익을 초래할 수 있다고 말한다. 기업들은 수만명씩 몰려드는 입사 지원자를 소프트웨어 프로그램을 돌려 일괄 처리하고, 빨간색은 형편없는 지원자, 노란색은 중간 수준, 녹색은 합격 가능한 지원자로 표시한다. 일부 기업은 SNS를 검색하며 삶을 드려나 보고 소셜 평점을 매기기도 한다.

 

또 누구나 데이터에서 신용도 낮음, 의료비 높음, 소득 감소 등의 모욕적인 평판으로 분류될 수 있다. 평판 시스템은 새로운 소수자를 만들어 내고, 부정적이고 근거 없는 가정이 편견으로 굳어지기 마련이다. 알고리즘도 결국 인간이 프로그래밍하는 것이다 보니 개발자의 가치관이 반영된다. 결국 인간의 편견이 반영된 데이터로 평판이 만들어 지는 것이다.

 

2. 검색 블랙박스

 

저자는 안내자로서 우리의 행동이나 생각, 구매 결정에 영향을 주는 검색엔진이 공정하지 않다고 말한다.

 

검색엔진에 대해 실제로 우리들의 인식에 상당히 큰 영향을 준다는 연구 결과도 있는데, 연구 내용에서는 페이스북이 지난 2010년에 '투표 독려' 기능을 시험했을 때, 이용자의 투표율 제고 효과는 0.39%로, 2000년 미국 대선 같은 초박빙의 선거에서는 결과를 뒤집기에 충분한 수치였다고 나오고 있다.

 

과거 민주화를 지향했던 검색엔진은 최근 상업의 변화가 이전과 전혀 다른, 오히려 반대되는 결과를 보여주고 있다고 저자는 말한다. 혼잡한 온라인 세계를 명료하고 협력적으로 만들었던 바로 그 세력이 다시 모호한 마케팅, 불공정한 경쟁, 변화무쌍한 현실의 왜곡을 부추기고 있다는 것이다.

 

이 중 많은 사례로 언급되고 있는 구글은 결국 시스템에 해석학을 점목시켜 어떤 결정에서든 최대한의 효과를, 어떤 검색에서든 최대한의 관련성을, 어떤 투자에서든 최대한의 위험 조정 수익을 얻어내는 과정을 이루고 있다고 전한다.

 

3. 금융 블랙박스

 

저자는 지난 수십 년간 금융 분야에서 컴퓨터 기반의 의사 결정이 늘어나면서 이 과정에서 더 합리적 의사결정이 있을 것이라는 기대와 달리 금융 서비스는 더욱 내부자들에게 유리한 쪽으로 흘러가고 있다고 말한다.

 

블랙박스 금융은 조잡한 경우부터 교묘한 경우까지, 범죄에 해당하는 경우부터 단순히 복잡한 경우까지 범위가 다양하다. 확실한 것은 오늘날의 금융에서 대출자, 대출업체, 고객, 규제기관, 대중에게 정보를 감추고 있는 부분이 지나치게 많다는 점이다. 예를 들면 대출 상환이 한 번만 늦어져도, 한 가정에 수만 달러의 추가 비용을 물리는 식의 자의적인 평가가 속출한다고 전한다.

 

4. 감시자 감시하기

 

금융 서비스 웹사이트의 서비스 약관 내용은 전체적으로 그들을 위한 내용이다. 저자는 서비스 약관 내용이 '프라이버시 정책'이라기보다 사용자의 권리를 서비스 제공회사에 양도하겠다는 계약에 가깝다고 말한다. 약관 내용을 꼼꼼히 읽어보면, 대부분이 기업을 보호하는 조항일 뿐 소비자를 위한 조항은 거의 없다는 사실을 확인할 수 있다.

 

책에서는 어떤 기업이 우리에게 관한 전자 문서를 작성한다면, 우리는 그 문서를 점검하고 정정할 기회를 누릴 자격이 있다고 말한다. 소매업체가 임신 여성의 출산 예정일을 예측하고, 디지털 마케터가 우리를 '조울증 증상'이나 '당뇨병 위험' 등으로 분류한다면, 그런 자료 또한 일반적인 진료 기록 못지않게 민감하므로 의료 프라이버시법이 적용되어야 한다는 것이다.

 

5. 알기 쉬운 사회를 향하여

 

우리의 블랙박스 사회는 위험을 초래할 만큼 불안정하고 불공정하며 비생산적이다. 이것은 시민들이 담당해야 할 몫이고, 시민들은 위험을 이해할 수 있을 때에만 제 역할을 수행할 수 있다.

 

블랙박스 모델링을 대대적으로 사용할 경우, 그 모델을 관리하는 내부자에게는 아무리 이익이 되더라도 사회 전반에는 위험할 수밖에 없는 이유가 있다. 무고한 개인이 사전 검토는커녕 그 존재 조차 알지 못하는 부정확한 블랙박스 때문에 안보 위협 요인이나 태만한 직원이나 신용리스크로 낙인찍혀 상처를 입는다면, 그것만으로도 충분히 블랙박스는 나쁜 것이다. 부당하거나 부적절한 편견이 알고리즘의 권한과 결합해 단지 예측할 뿐이라고 주장하는 실패를 실제를 현실화한다면 모델링은 더더욱 문제가 있다.

 

■책 속 밑줄 긋기

 

대표적인 인터넷 기업과 금융 기업은 프라이버시, 존엄성, 공정성 같은 중요한 가치에

가공할 만한 위협을 야기했다.

그런 위협은 점점 더 정부 권력과 뒤섞이며

자기 보호적인 블랙박스적 관행이나 아무 상관 없는 혼선 속에서 너무도 자주 모호해져 버렸다.

 

■별점 ★★★

   

정문경 산업2부 기자 

 

 

이 뉴스는 2016년 07월 22일 ( 20:0:15 ) 토마토프라임에 출고된 기사입니다.