민주주의의 심장인 선거를 겨냥하는 인공지능의 보이지 않는 손

· by ·
민주주의의 심장인 선거를 겨냥하는 인공지능의 보이지 않는 손

인공지능이 생성한 가상 인물들이 소셜 미디어에서 실제 사람처럼 여론을 조작하는 시대가 머지않았다는 경고가 학계에서 나왔다. 이미 미국, 영국, 이스라엘 등이 군 차원의 소셜 미디어 선전 부대를 운영하다 적발된 사례가 있고, 현재 온라인 콘텐츠의 절반가량이 자동화된 봇에 의해 생산된다는 분석이 나오는 상황에서, AI의 가세는 민주주의의 근간을 흔드는 새로운 국면을 열 수 있다는 우려가 커지고 있다.

 

국제 학술지 사이언스에 최근 게재된 정책 포럼 논문에 따르면, 대규모 언어 모델과 다중 에이전트 시스템의 발전으로 한 명의 운영자가 수천 개의 AI 계정을 동시에 관리하는 일이 기술적으로 가능해졌다. 이 가상 인물들은 현지 언어와 어투를 자연스럽게 구사하고, 다른 이용자가 진짜 사람과 나누는 대화라고 느낄 만큼 정교하게 상호작용한다. 기존의 단순 봇 네트워크와 달리, 이 AI 에이전트들은 수천 개의 계정에서 즉각적으로 서로 조율하고 일관된 서사를 유지하면서 피드백에 반응할 수 있다.

 

이 시스템이 특히 위협적인 이유는 수백만 건의 소규모 실험을 병렬로 실행하면서 어떤 메시지가 가장 설득력 있는지 실시간으로 가려낼 수 있기 때문이다. 이를 통해 커뮤니케이션 전략을 즉각 수정하고, 광범위한 사회적 합의가 자연스럽게 형성되는 것처럼 보이게 만든다. 실제로는 특정 목적을 위해 인위적으로 설계된 여론이지만, 일반 이용자가 이를 구별해 내기란 사실상 불가능하다.

 

이 같은 조작의 가능성은 이미 현실에서 그 위력이 확인된 바 있다. 미국 행동연구기술연구소의 로버트 엡스타인 박사는 구글의 검색 알고리즘이 선거 결과에 미치는 영향을 오랫동안 연구해왔다. 그는 2019년 상원 사법 소위원회에 출석해 “구글이 민주주의에 심각한 위협이 된다”고 밝히면서, 구글과 빅 테크 기업들이 ‘이 같은 잠재적 조작을 방치하는 것은 자유롭고 공정한 선거를 무의미하게 만드는 것’과 같다고 경고했다. 그의 연구에 따르면, 특정 후보에 유리한 검색 결과에 노출된 부동층 유권자들은 해당 후보에 대한 선호도가 약 50% 높아졌으며, 참가자의 75~100%는 자신이 편향된 정보를 접하고 있다는 사실 자체를 인지하지 못했다.

 

구글 내부에서도 이를 뒷받침하는 폭로가 이어졌다. 2019년 프로젝트 베리타스는 구글 ‘책임 혁신’ 부문 책임자 젠 제나이가 몰래 촬영된 영상에서 “2016년 선거는 우리 모두가 피해를 입었고, 다시 그런 일이 생긴다면 알고리즘의 결과가 달라질 수 있도록 훈련하고 있다”고 말하는 장면과, “소규모 기업들은 ‘다음 트럼프 사태’를 막을 자원이 없다”고 언급하는 장면을 공개했다. 같은 해 8년 경력의 전직 구글 엔지니어 재커리 보리스는 약 950건의 내부 문서를 프로젝트 베리타스와 법무부에 제출하면서, 구글이 선거를 조작할 뿐 아니라 그 조작을 통해 미국 자체를 전복하려 한다고 경고했다. 제나이는 이후 자신의 발언이 맥락에서 벗어나 편집됐다고 해명했지만, 같은 시기에 또 다른 구글 프로그램 매니저가 “바람이 민주당 쪽으로 불고 있다, 그러니 결과도 그쪽으로 기울도록 하자”고 말한 사실이 드러났다.

 

미 중부사령부(CENTCOM)는 한 명의 군인이 최대 10개의 가짜 계정을 운영할 수 있는 ‘온라인 페르소나 관리 서비스’ 개발을 민간 업체에 발주한 사실이 드러났다. 이후 메타가 이를 공식 확인하면서 미 국방부는 자국이 수행해온 비밀 정보전 방식 전반에 대한 감사에 착수해야 했다. 영국은 2015년 국방부 산하에 77여단을 창설했다. 이 부대는 소셜 미디어를 통해 복잡하고 비공개적인 정보 조작 및 전복 캠페인을 수행하는 ‘페이스북 전사’ 조직으로 설계됐다. 이후 내부 고발자의 폭로로 77여단이 코로나19 팬데믹 기간 영국 시민들의 소셜 미디어 게시물을 감시하고 해당 정보를 내각 사무처에 전달한 사실이 드러났다.

 

이스라엘의 경우 이민부가 200만 달러(약 27억 원) 규모의 예산을 투입해 수백 개의 가짜 계정으로 미국 시민과 의원들을 대상으로 친이스라엘 메시지를 확산하는 공작을 벌인 사실이 뉴욕타임스 보도를 통해 드러났다. 이스라엘군 대변인실은 가자 전쟁 초기 14개월 동안 허위 계정을 통해 가자 공습 영상을 유포하는 등 국내외 여론을 겨냥한 비공개 심리전 캠페인을 운영했으며, 군은 나중에 이를 ‘실수’라고 해명했다.

 

이런 배경에서 AI 기반의 다중 페르소나 시스템이 본격화된다면 그 파급력은 지금까지와는 차원이 다를 수 있다. UBC 컴퓨터과학자 케빈 레이턴브라운 박사는 미국, 대만, 인도네시아, 인도 등에서 치러진 선거에 이미 AI가 생성한 딥페이크와 가짜 뉴스가 영향을 미쳤다고 분석했다. 그는 이런 시스템이 확산될 경우 소셜 미디어에서 낯선 목소리에 대한 신뢰가 전반적으로 낮아지고, 유명인의 발언은 오히려 영향력이 커지는 반면 풀뿌리 운동이 여론을 형성하기는 훨씬 어려워질 것이라고 내다봤다. 연구자들은 다가오는 선거들이 이 기술의 실전 시험대가 될 것이라며, AI 기반 여론 조작이 걷잡을 수 없이 확산되기 전에 이를 인식하고 대응하는 일이 가장 시급한 과제라고 입을 모은다.

 

 

 

 

 

Source :
Science Daily, Project Veritas, mrcFreeSpeech, Common Dreams, 972 Magazine

Share this post

Recommended for You