Trad: El reservado Mando de Operaciones Especiales deEstados Unidos está buscando empresas que le ayuden a crear usuarios de Internet falsos tan convincentes que ni los humanos ni los ordenadores puedan detectar que son falsos, según un documento de adquisiciones revisado por The Intercept.
El plan, mencionado en una nueva lista de deseos de 76 páginas del Mando Conjunto de Operaciones Especiales del Departamento de Defensa, o JSOC, describe las tecnologías avanzadas deseadas para los esfuerzos militares clandestinos de élite del país. «Las Fuerzas de Operaciones Especiales (SOF) están interesadas en tecnologías que puedan generar personajes convincentes en línea para su uso en plataformas de medios sociales, sitios de redes sociales y otros contenidos en línea», se lee en la entrada.

El documento especifica que el JSOC quiere tener la capacidad de crear perfiles de usuario en línea que «parezcan ser un individuo único reconocible como humano pero que no exista en el mundo real», con cada uno de ellos presentando «múltiples expresiones» y «fotos de calidad de identificación gubernamental».
Además de imágenes fijas de personas falsas, el documento señala que «la solución debe incluir imágenes faciales y de fondo, vídeo facial y de fondo, y capas de audio», y el JSOC espera poder generar «vídeo selfie» a partir de estos humanos fabricados. Estos vídeos incluirán algo más que personas falsas: Cada deepfake selfie vendrá con un fondo falso a juego, «para crear un entorno virtual indetectable por los algoritmos de las redes sociales.»
El Pentágono ya ha sido sorprendido utilizando usuarios falsos de las redes sociales para promover sus intereses en los últimos años. En 2022, Meta y Twitter eliminaron una red de propaganda que utilizaba cuentas falsas operadas por el Mando Central de Estados Unidos, incluidas algunas con fotos de perfil generadas con métodos similares a los descritos por el JSOC. Una investigación de Reuters de 2024 reveló una campaña del Mando de Operaciones Especiales que utilizaba usuarios falsos de las redes sociales con el objetivo de socavar la confianza extranjera en la vacuna Covid de China.

El año pasado, el Mando de Operaciones Especiales, o SOCOM, expresó su interés en utilizar «deepfakes» de vídeo, un término general para los datos audiovisuales sintetizados destinados a ser indistinguibles de una grabación genuina, para «operaciones de influencia, engaño digital, interrupción de la comunicación y campañas de desinformación.» Este tipo de imágenes se generan mediante diversas técnicas de aprendizaje automático, generalmente utilizando software que ha sido «entrenado» para reconocer y recrear rasgos humanos mediante el análisis de una base de datos masiva de rostros y cuerpos. La lista de deseos SOCOM de este año especifica un interés en un software similar a StyleGAN, una herramienta lanzada por Nvidia en 2019 que impulsó el sitio web mundialmente popular «Esta persona no existe.» Un año después del lanzamiento de StyleGAN, Facebook dijo que había desmantelado una red de cuentas que utilizaban la tecnología para crear fotos de perfil falsas. Desde entonces, investigadores académicos y del sector privado se han enzarzado en una carrera entre nuevas formas de crear deepfakes indetectables y nuevas formas de detectarlos. En la actualidad, muchos servicios públicos exigen la llamada detección de vitalidad para evitar las fotos de identidad falsificadas, pidiendo a los solicitantes que suban un vídeo selfie para demostrar que son personas reales, un obstáculo que el SOCOM podría estar interesado en superar.
Relacionado
Las fuerzas especiales de EE.UU. quieren utilizar deepfakes para operaciones psicológicas
La lista señala que las tropas de operaciones especiales «utilizarán esta capacidad para recopilar información de foros públicos en línea», sin más explicaciones sobre cómo se utilizarán estos usuarios artificiales de Internet.
Este listado de adquisiciones más detallado demuestra que Estados Unidos persigue exactamente las mismas tecnologías y técnicas que condena en manos de enemigos geopolíticos. Los funcionarios de seguridad nacional llevan mucho tiempo describiendo el uso de deepfakes por parte de los Estados como una amenaza urgente, es decir, si lo hace otro país.
Leer más
Perros policía detectores de drogas interceptan píldoras abortivas por correo
Debbie Nathan
Texas está a punto de ejecutar a Robert Roberson por un crimen que nunca ocurrió
Liliana Segura, Jordan Smith
Israel intensifica sus ataques contra el personal libanés de primera respuesta, lo que podría constituir un crimen de guerra
Lylla Younes

El pasado mes de septiembre, una declaración conjunta de la NSA, el FBI y la CISA advertía de que «los medios sintéticos, como los deepfakes, suponen un reto cada vez mayor para todos los usuarios de la tecnología y las comunicaciones modernas». Describía la proliferación mundial de la tecnología deepfake como un «riesgo de primer orden» para 2023. Este año, en una reunión informativa con periodistas, los servicios de inteligencia estadounidenses advirtieron de que la capacidad de los adversarios extranjeros para difundir «contenido generado por IA» sin ser detectados -exactamente la capacidad que busca ahora el Pentágono- representa un «acelerador de la influencia maligna» de países como Rusia, China e Irán. A principios de este año, la Unidad de Innovación de Defensa del Pentágono buscó la ayuda del sector privado para combatir los deepfakes con un aire de alarma: «Esta tecnología es cada vez más común y creíble, lo que supone una amenaza significativa para el Departamento de Defensa, especialmente porque los adversarios de Estados Unidos utilizan deepfakes para el engaño, el fraude, la desinformación y otras actividades maliciosas». Un documento de abril del Instituto de Estudios Estratégicos del Ejército de Estados Unidos mostraba una preocupación similar: «Los expertos esperan que el uso malicioso de la IA, incluida la creación de vídeos deepfake para sembrar la desinformación con el fin de polarizar las sociedades y profundizar los agravios, crezca durante la próxima década».

El uso ofensivo de esta tecnología por parte de Estados Unidos, naturalmente, estimularía su proliferación y la normalizaría como herramienta para todos los gobiernos. «Lo notable de esta tecnología es que es puramente de naturaleza engañosa», dijo Heidy Khlaaf, científico jefe de IA en el AI Now Institute. «No hay casos de uso legítimos aparte del engaño, y es preocupante ver al ejército estadounidense inclinarse por el uso de una tecnología contra la que él mismo ha advertido. Esto sólo envalentonará a otros militares o adversarios a hacer lo mismo, conduciendo a una sociedad en la que cada vez es más difícil distinguir la verdad de la ficción y enturbiando la esfera geopolítica.»
Tanto Rusia como China han sido sorprendidas utilizando vídeos falsificados y avatares de usuarios en sus actividades de propaganda en línea, lo que llevó al Departamento de Estado a anunciar en enero un «Marco para contrarrestar la manipulación de la información por parte de Estados extranjeros». «La manipulación e interferencia de información extranjera es una amenaza para la seguridad nacional de Estados Unidos, así como para sus aliados y socios», afirma un comunicado de prensa del Departamento de Estado. «Los gobiernos autoritarios utilizan la manipulación de la información para destrozar el tejido de las sociedades libres y democráticas».
El interés del SOCOM por las deepfakes forma parte de una tensión fundamental dentro del gobierno estadounidense, dijo Daniel Byman, profesor de estudios de seguridad en la Universidad de Georgetown y miembro de la Junta Asesora de Seguridad Internacional del Departamento de Estado. «Gran parte del gobierno de EE.UU. tiene un gran interés en que el público crea que el gobierno publica sistemáticamente información veraz (según su leal saber y entender) y que no engaña deliberadamente a la gente», explicó, mientras que otras ramas se encargan del engaño. «Así que existe una preocupación legítima de que Estados Unidos sea visto como hipócrita», añadió Byman. «También me preocupa el impacto en la confianza nacional en el gobierno: ¿se volverán más desconfiados algunos segmentos del pueblo estadounidense, en general, respecto a la información procedente del gobierno?».

Un ejército de influencers de IA para controlar a la población