팔란티어의 도구들은 우리가 이제야 이해하기 시작한 ‘보이지 않는 위험’을 내포하고 있다

· by ·
팔란티어의 도구들은 우리가 이제야 이해하기 시작한 ‘보이지 않는 위험’을 내포하고 있다

AI 기반 감시 기술의 무기화는 전세계 인권을 위협한다. 이 시스템이 작동하는 방법은 다음과 같다.

 

“이제 ICE가 바로 코앞이야.” 친구가 스마트폰에서 눈을 떼며 말했다. 우리는 뉴욕에서 가장 오래된 동네의 한 카페에 있었다. 이곳의 학교와 교회는 미국이 생기기 전부터 이주민 공동체를 지지해 왔던 터전이다. 그러나 이제 인종 프로파일링, 부당 구금, 의료 방치, 비인도적 처우 등 시민권 침해로 유명한 연방기관 ICE의 요원들이 불과 몇 걸음 거리에 와 있다. 그들은 우리 이웃을 집과 거리, 공원에서 단속하고 있었다.

 

하루 전, 필자는 유엔에서 외신기자들과 만나 미국 전역에서 ICE가 사용하는 AI 감시 체계에 대해 설명했다. 이 법 집행기관이 운영하는 타깃팅 테크놀로지는 필자가 과거 근무했던 팔란티어 테크놀로지가 선구적으로 개발한 것들이다. 필자는 그래픽 디자이너 겸 작가로 이 시스템을 시각적으로 설명하는 일을 맡았었는데, 그 결과가 얼마나 심각한지 이제야 깨닫고 있다. 팔란티어 시스템은 이란, 가자, 우크라이나 전쟁부터 이주민과 학생 및 반체제 인사의 구금까지 세계 사건의 이면에 깊숙이 관여하고 있다. 하지만 그 변형된 AI 무기화의 위협은 입법자, 기술자, 언론조차 정확히 인지하지 못하고 있으며, 적절한 견제가 이루어지지 않고 있다.

 

‘정보·감시·타겟획득·정찰(Intelligence, Surveillance, Target Acquisition, Reconnaissance, ISTAR)’ 시스템으로 불리는 이 도구들은 여러 기업이 개발해왔다. 사용자는 방대한 공개/비공개 데이터로 패턴을 읽고, AI의 힘을 빌려 대규모 타깃을 추적·구금·전쟁 상황에서는 살해까지 할 수 있다. 이러한 시스템은 도시 전쟁, 강제 이주, 대규모 감시에 특히 광범위하게 활용된다. 일명 ‘AI 킬체인’이라 불리는 이 기술들은 우리 모두를 감지할 수 없는 추적망에 끌어들이고 있다.

 

이 감시 시스템의 작동 원리는 이렇다. 현장의 데이터 통합, 분석·해석·모델링, 그리고 인간 개입 여부와 무관한 자동화 실행이 핵심 요소다. 매 단계마다 데이터 품질, 편향, 차별, 정확성, 자동화, 책임성 등 중대한 윤리적 논쟁이 존재한다. 가장 심각한 것은 이 기술들이 생체정보·의료기록·위치·SNS 친구·차량 번호판·드론 촬영·SIM 카드·민간 데이터 브로커 거래 정보까지, 인간의 가장 사적인 데이터까지 활용한다는 점이다.

 

ISTAR 기술 기반의 드래그넷은 이주민, 투쟁가, 가족과 지인 등까지 함께 옭아매면서, 표현의 자유와 사생활 보호(미국 수정헌법 1·4조)를 침해한다. 거리낌 없이 공개할 수 있는 정보, 만남, 여행지를 알아서 침묵하게 만들고, 영장 없는 개인정보 수집과 압수도 가능하게 한다. 특히 정치적 반대자, 이주민, 분쟁지구 시민 등 취약계층의 인권 박탈이 가속화되고 있다.

 

과거 이 동네의 주택들은 이주민에게 일자리와 생활의 터전을 제공하며, 관용적 공동체와 중산층 성장의 초석을 놓았다. 그러나 이제 미국에 오거나 방문하는 이에게 처음 맞이하는 ‘건축물’은 벽돌도 목재도 아닌, 모든 곳에 침투한 디지털 감시 시스템이다.

 

팔란티어의 빅데이터 플랫폼(대표적으로 Investigative Case Management, ImmigrationOS 등)은 데이터 통합, 분석·모델링, 자동화된 행동 실행이라는 공통적 구조를 가진다. 모든 계층에서 시민권, 데이터 수집의 윤리성, 편향, 차별, 책임 문제 등이 끊임없이 대두된다.

 

조만간 트럼프의 대규모 이주민 추방정책이 ISTAR 도구를 통해 더 효율적으로 수행될 수 있다. ICE는 최근 팔란티어에 수천만 달러를 지급하며 “특정 인구 분석과 타깃화”를 위한 시스템을 강화했다. 팔란티어는 가자지구에서 이스라엘군에도 전쟁 데이터 인프라를 제공하고, 이스라엘군 자체 개발 ‘Where’s Daddy’ 같은 ISTAR 도구는 가족 거주지까지 타깃을 추적해 무차별 공습에 동원된다.

 

팔란티어는 미국인 감시를 전면적으로 하지 않는다고 주장하지만, 필자는 이를 받아들일 수 없다. 이제 우리는 사생활이라는 가치를 다시 회복해야 할 때다. AI 기반 타깃팅의 확산은 민간기업에도 침투해 기업 내부에서 직원과 소비자까지 행동·심리 분석, 수익 극대화라는 명분 아래 추가적 통제망을 만든다.

 

AI 위협에 맞선 시민권 운동은 연방과 주 차원에서도 위기다. 콜로라도주 최초의 AI 소비자보호법이 기업·벤처 자본의 압박으로 후퇴 위험에 처했다. 필자는 최근 덴버 시청에서 팔란티어 본사까지 40명의 활동가와 함께 행진했다. 워싱턴 DC, 뉴욕, 팔로알토, 시애틀에서도 시위가 이어졌고 네 명이 체포됐다. 덴버에서는 경찰과 드론이 시위대를 밀착 감시했다.

 

이주민 출신 아티스트, 저널리스트, 팔레스타인 지지 집회 참가자인 필자는 언제 타깃이 될지 불안하다. 하지만 가자지구에서 폭격으로 사망한 기자와 교도소에서 고통받는 이주민의 고통에 비하면, 필자의 불안은 미미하다. 이 기술 개발과 확산에 일조한 개인으로서 그 실상을 이해하려 노력해야 한다. 그리고 더 많은 기술자, 정책 담당자가 기술의 윤리적 현실에 직면해야 한다.

 

 

 

 

 

 

 

 

Source :
Reader Supported News

Share this post

Recommended for You