‘평판’ 만들고 차별하는 빅데이터

블랙박스 사회/프랭크 파스콸레 지음/이시은 옮김/안티고네/344쪽/1만 6000원

안티고네 제공

미국의 유통업체 ‘타겟’은 2012년 한 고객으로부터 거친 항의를 받았다. 타겟이 그의 10대 딸에게 출산용품 카탈로그를 보냈기 때문이다. 하지만 얼마 후 그 고객은 타겟에 사과해야 했다. 실제로 그의 딸이 임신 중이었던 것으로 드러났기 때문이다. 부모도 알지 못했던 딸의 임신 사실을 기업이 어떻게 알 수 있었을까.

비결은 빅데이터를 분석한 ‘소비자 프로파일링’에 있다. 타겟은 자사의 ‘산모 데이터베이스’에 등록된 산모들과 일반 소비자들 간의 구매 정보를 비교 분석했다. 산모들은 첫 20주 동안 ‘칼슘, 마그네슘, 아연 같은 영양보충제’를, 임신 기간 중에는 무향 비누 등이 공통적으로 구매했다. 만약 애틀랜타에 사는 23세 여성이 3월에 코코아 버터 로션과 대형 손가방, 아연과 마그네슘 보충제를 구입했다면 타겟은 그녀가 임신 중이며, 8월 말에 출산 예정일 확률이 87%라고 추정했다. 이후 타겟은 2014년 1월 1억 1000만명의 데이터를 해킹당하는 최악의 사고를 냈다.

현대사회에서 개인정보와 프라이버시가 더이상 지켜질 수 없다는 건 이제 상식 아닌 상식이 됐다. “완벽한 검색엔진이란 신의 마음과도 같아질 것”이라는 구글 공동창업자 세르게이 브린의 말도 현실이 되고 있다. 쇼핑 취향뿐 아니라 의료, 금융 등 수많은 정보들을 분석하는 빅데이터 기술이 발전하면서 기업들이 앞다퉈 고객 정보를 수집·추적하는 이른바 ‘블랙박스 시스템’을 구축하고 있기 때문이다.

신간 ‘블랙박스 사회’의 저자 프랭크 파스콸레 미 메릴랜드대 교수는 지난 10여년간 우리가 인터넷과 스마트폰, 신용카드 결제를 통해 매일 생산하는 정보들이 어떻게 수집·관리되는지를 수많은 사례들을 통해 생생히 전달한다.

저자는 오늘날 모든 데이터는 블랙박스 시스템으로 작동하고 있다고 지적한다. 인풋과 아웃풋은 확인되지만, 인풋이 어떻게 아웃풋으로 바뀌는지 알 수 없는 불가사의한 ‘알고리즘 시스템’이다. 정보통신(ICT) 기술은 수익 창출을 위해 각종 알고리즘을 개발하고, 정보수집에 점점 열을 올리면서도 이를 통제하려는 규제에는 저항하는 태도로 이 같은 시스템을 구축해왔다.

블랙박스 시스템은 사람들의 ‘평판’을 만든다. 우리가 매일 검색엔진과 온라인 쇼핑몰을 이용하며 제공하는 정보들을 분석하는 알고리즘에 의해서다. 부부 간 문제로 상담을 알아봤다면 이혼 가능성, 이후 닥칠지 모르는 경제적 어려움에 대한 신호를 신용카드 회사에 보내는 식이다. 일반인은 어떻게 산정되는지조차 알 수 없는 은행의 개인 신용등급도 마찬가지다.

“블랙박스 사회는 정보가 독점되고 비밀로 유지되어야만 유용하다는 신념하에 돌아가고 있다. 즉, 블랙박스 사회에서 테러리스트들은 위험하므로 감춰져야 한다. 병자들은 의료비가 많이 들기 때문에 감춰져야 한다. 정체불명의 알고리즘에게 우리는 잠재적인 테러리스트나 병자일 수 있다. 따라서 우리 역시 감춰져야 한다.”(94~95쪽)

저자의 이 같은 지적은 블랙박스 시스템이 어떻게 편견과 차별을 낳는지를 보여준다. 알고리즘에는 특정 계층을 불리하게 취급하는 논리적 장치가 숨어 있고, 자칫 엉뚱한 분석은 평생 주홍글씨 같은 낙인으로 찍혀 개인이 바로잡기도 어려워진다.

검색엔진도 결코 공짜가 아니다. 오히려 수익 극대화라는 본래 목적을 위해 검색 순위에 개입하고 데이터를 조작하기도 한다. “우리는 서비스를 사용하는 대가로 마케팅의 원료인 자신의 데이터와 관심을 지불했다”고 저자는 지적한다. 검색이 객관적이라는 생각도 오산이다. 검색창의 자동완성 기능이나 검색어를 입력했을 때 종종 뜨는 ‘○○○로 검색하시겠습니까’라는 제안은 검색엔진의 알고리즘이 이미 사용자에 대한 관심사를 알고 있다는 점을 뜻한다. 각 사용자에 대한 주관적 판단이 작용하고 있는 셈이다.

이 같은 블랙박스 시스템에 어떻게 대항할 수 있을까. 저자는 공적 영역을 강화하고, 기술을 개방적으로 사용해야 한다는 점을 지적한다. 블랙박스 시스템의 기능 자체가 공공의 영역에서 시작된 것이기 때문이다. 저자는 검색엔진을 감독할 ‘연방검색위원회’ 신설도 함께 제안했다.

안동환 기자