페이스북이 사용자의 페이스북에서의 활동과 페이스북 밖에서의 오프라인 활동을 추적하여 사용자의 정치 성향을 파악하고 있음을 나타내는 내부 문건을 브라이바트가 입수하여 보도했다.
페이스북은 사용자의 ‘지정된 중오 개체(designated hate entities)’ 행사에 참석하거나 접촉하거나 칭찬하는 활동이 반복될 때 ‘신호(signals)’로 판단하고, 이를 기초로 사용자를 ‘증오 행위자(hate agent)’로 분류한다. 예를 들어 영국의 반이민 운동가인 토미 로빈슨은 페이스북의 ‘증오 활동가 정책 리뷰(Hate Agent Policy Review)’에 의해 증오 개체로 지정되어 있다.
블랙리스트 작성을 통한 페이스북 사용자의 관리의 위험성은 프라이버시의 침해 문제뿐만 아니라 페이스북이 말하는 ‘증오’의 기준이 모호함에 있다. ‘증오’의 기준은 3단계로 나뉘어 있으며 ‘2단계’에서는 ‘어리석은(stupid)’, ‘못생긴(ugly)’, ‘사기(fraud)’와 같은 사용자의 단어 사용을 분석하고 있으며 ‘3단계’에서는 2단계에서 사용된 언어를 기반으로 인종, 종교, 성적 취향과 같이 ‘보호되어야 하는 특성(protected characteristics)’을 무시하고 상대를 배제하거나 차별하는 발언을 증오 활동으로 판단한다.
증오를 내세운 모호하고 폭넓은 기준을 통해 페이스북은 사용자들의 활동을 제한하거나 금지하고 특정 방향으로 온라인 대화를 유도할 수 있다. 예를 들어 과거 시리아 전쟁으로 고통받는 아이들의 사진은 허용되는 반면, 예멘 전쟁에서 고통받는 아이들의 사진은 검열되고, 팔레스타인에 대한 비판은 허용되나 이스라엘에 대한 비판은 검열되었다. 이와 같이 페이스북은 과거에 소위 ‘증오’를 자의적으로 해석 또는 적용하여 비판을 받은 바 있다.
페이스북의 내부 문건에서 확인된 증오 개체에는 인포워즈의 폴 조셉 왓슨, 미국의 공화당 의원인 캔디스 오웬스, 테러 전문가인 브리지트 가브리엘, 영국의 정치인 칼 벤자민, 앤 마리 워터스 등이 있다.
