딥페이크 기술을 통해 실제 존재하지 않는 인터넷 사용자를 만드는 펜타곤의 계획이 유출되었다.
미국의 탐사보도 매체 디인터셉트는 미 국방부의 합동특수작전사령부(JSOC)가 작성한 76페이지 분량의 위시 리스트를 입수하여 보도했다. 이 문서는 “특수작전군(SOF)은 소셜 미디어 플랫폼, 소셜 네트워킹 사이트 및 기타 온라인 콘텐츠에서 사용할 수 있는 온라인 페르소나의 생성이 가능한 기술에 관심이 있다”라고 적고 있다.
합동특수작전사령부는 “인간으로 인식할 수 있지만 실제 세계에서는 존재하지 않는 고유한 인간으로 보이는” 온라인 사용자 프로필을 만들 수 있는 기능을 원하며, 각 사용자는 “여러 가지 표현”과 “정부 신분증 품질 수준의 사진”을 특징으로 한다고 명기하고 있다.
다시 말해, 펜타곤은 딥페이크 기술을 사용하여 사람이나 컴퓨터가 실제로 존재하지 않는 인물임을 탐지할 수 없는 수준의 가짜 인터넷 사용자를 만들어 줄 기업을 찾고 있다. 생성되는 딥페이크 캐릭터에는 스틸 사진뿐만 아니라 “얼굴 및 배경 이미지, 얼굴 및 배경 비디오, 오디오 레이어”가 포함되어야 한다.
합동특수사령부는 구체적으로 셀카 촬영이 가능해야 한다고 기록하고 있는데, “소셜 미디어 알고리즘으로 감지할 수 없는 가상의 환경을 만들기 위해” 이에 필요한 가짜 배경이 캐릭터와 함께 제공될 것을 요구하고 있다.
디인터셉트는 펜타곤이 지난 몇 년 동안 가짜 소셜 미디어 사용자를 다량으로 만들어 전 세계를 상대로 심리전을 전개했다고 지적했다. 2022년에 메타와 트위터는 미 중부사령부가 운영하는 가짜 계정을 이용하는 선전 네트워크를 적발했고, 2024년에는 특수작전사령부(SOCOM)가 중국산 코로나 백신의 신뢰를 추락시키기 위한 온라인 선전 활동을 전개했다.
이미 특수작전사령부는 작년에 “영향력 있는 작전, 디지털 사기, 커뮤니케이션 중단 및 허위 정보 캠페인”을 벌여도 실제와 구별할 수 없을 수준의 가짜 인터넷 사용자를 활용한 영상을 만들기 위해 딥페이크를 활용하는 데 관심을 보였다.
특수작전사령부의 2019년 위시 리스트에는 엔비디아가 출시한 도구인 StyleGAN과 유사한 소프트웨어에 대한 관심이 나타나 있었는데, 페이스북은 StyleGAN이 출시된 지 1년 만에 이 기술을 사용한 가짜 프로필 사진을 생성하는 계정 네트워크를 적발한 일이 있다.
작년 9월에 NSA, FBI, CISA는 공동 성명을 통해 미국의 적성 국가인 러시아, 중국, 이란 등이 정부의 지원하에 딥페이크를 활용한 가상의 인물을 만들어 온라인 심리전을 전개하고 있다고 주장하며 이를 미국의 가장 긴급한 위협이라고 주장했다.
올해 1월에 국무부도 ‘외국 정보 조작 대응 프레임워크’를 발표하고 딥페이크를 활용한 가짜 인터넷 사용자 생성이 민주주의의 위협이라고 밝혔다. “외국의 정보 조작과 간섭은 미국은 물론 동맹 파트너에게도 국가 안보에 위협이 되고 있다. 권위주의 정부는 정보 조작을 사용하여 자유롭고 민주적인 사회 구조를 파괴한다.”
US Military’s Secret Plan: Deep Fake Online Personas#DeepFakeTechnology #Pentagon #USMilitary #OnlinePersonas #DigitalEthics #SpecialOperations #SocialMediaManipulation #ArtificialIntelligence #CyberSecurity #VirtualReality pic.twitter.com/q5RfFj2MQu
— WorldviewTube (@WorldviewTube) October 21, 2024
