Los presentadores de noticias generados por inteligencia artificial se han utilizado por primera vez para difundir contenido político en las redes sociales, dijo una firma de investigación estadounidense en su último informe.
Así lo ha anunciado Graphika, con sede en Nueva York, en el informe «Deepfake hasta que lo logres» que Spamouflage, una operación de influencia aliada con el estado chino, ha estado utilizando personajes ficticios generados por IA para promover el papel global de China y difundir desinformación contra Estados Unidos desde finales de 2022.
Spammouflage, una combinación de spam y camuflaje, es una táctica utilizada por los spammers para eludir los filtros de correo no deseado reemplazando ciertas letras con números. Los investigadores de seguridad cibernética utilizan el término, así como otros términos como Dragonbridge o Spamouflage Dragon, para referirse a la red de propaganda pro china en Internet.
Spamouflage es responsable de publicar miles de activos elogiando a China, criticando a Estados Unidos y atacando el movimiento a favor de la democracia de Hong Kong y la independencia de Taiwán a través de cuentas falsas dirigidas a los usuarios de las redes sociales.
Recientemente, «promovió una forma nueva y distintiva de contenido de video en plataformas de redes sociales como Facebook, Twitter y YouTube», dijo Graphika.
Los investigadores de la compañía descubrieron y analizaron dos videos «únicos», protagonizados por un presentador masculino y femenino, que hablan inglés y parecen ser caucásicos.
Los videos usaban el logotipo de una «compañía de medios probablemente ficticia» llamada «Wolf News» con el lema que lo acompañaba «centrarse en puntos de acceso y transmitir en tiempo real».
El presentador criticó al gobierno de EE. UU. por su «repetición hipócrita de retórica vacía» en la lucha contra la violencia armada, mientras que la mujer destacó la importancia de la cooperación chino-estadounidense para la recuperación económica mundial.
Ambos videos «reflejaron los esfuerzos previos de Spamouflage para pasar como medios de comunicación legítimos», según el informe de Graphika.
Alex, Jason y James
Las numerosas similitudes descubiertas en los videos y otros contenidos de spam encontrados en Internet llevaron a la conclusión sobre la conexión entre los dos.
China aún no ha respondido al informe de Graphika, que apunta al alarmante posible uso indebido de la sofisticada tecnología de IA en campañas de desinformación por parte de actores estatales.
Hasta ahora, las operaciones de influencia en línea se han limitado a rostros falsos generados por computadora y videos fabricados, pero los nuevos videos presentaban personas ficticias generadas por IA que parecían casi reales.
“A primera vista, los presentadores de Wolf News se presentan como personas reales. Nuestra hipótesis inicial fue que eran actores pagados que fueron reclutados para aparecer en los videos”, dijo el equipo detrás del informe.
Tras una mayor investigación, descubrieron el lenguaje robótico utilizado por los presentadores, que no está sincronizado con los movimientos de los labios, así como numerosos errores gramaticales en los subtítulos.
El equipo de Graphika dijo que los anclajes probablemente se crearon con tecnología de Synthesia, una compañía británica de video de IA.
Encontraron varios videos de marketing usando el mismo dúo generado por IA, hablando varios idiomas además del inglés. El avatar masculino llamado Alex en el video de Wolf News también se llamaba Mr Curtis, Jason y James.
«El principal beneficio de esta tecnología para los creadores de videos de spam parece ser la mayor eficiencia, especialmente la producción rápida y económica de contenido», afirma el informe, y agrega que los productos de Synthesia crean videos generados por IA sobre la marcha. Minutos y suscripciones. puede comenzar en solo $ 30 por mes.
«Deepfakes, problemas reales»
Los actores de las operaciones de influencia «continuarán experimentando con tecnologías de IA y producirán artefactos de medios cada vez más convincentes que son más difíciles de detectar y verificar», advirtió Graphika.
En 2018, la agencia de noticias estatal de China, Xinhua, presentó al primer presentador de noticias de IA del mundo que era una imagen masculina con la voz, las expresiones faciales y las acciones de una persona real.
El avatar fue desarrollado conjuntamente por Xinhua y la empresa china de motores de búsqueda Sogou.com.
Xinhua dijo que el presentador de habla inglesa «puede trabajar las 24 horas del día en su sitio web oficial y en varias plataformas de redes sociales, reduciendo los costos de producción de noticias y mejorando la eficiencia».
![Anclaje AI chino.JPG Anclaje AI chino.JPG](https://www.rfa.org/english/news/china/chinese-ai-anchor.jpg/@@images/06761827-701f-4bd6-83db-c8306d4e06cc.jpeg)
En la última década, China ha prestado mucha atención al desarrollo de la tecnología de IA.
Los de la Universidad de Stanford Índice IA 2022que evalúa los avances globales de IA, China ocupa el segundo lugar después de Estados Unidos en términos de inversión privada total en IA y el número de empresas de IA recién financiadas.
Beijing introdujo la primera regulación de su tipo sobre imágenes y videos generados por IA, o «deepfakes», en enero. En consecuencia, «los servicios de síntesis profunda no pueden usar la tecnología para difundir noticias falsas».
La nueva regulación también establece que está prohibido el contenido que ponga en peligro la seguridad y los intereses nacionales, dañe la imagen nacional o perturbe la economía.
Sin embargo, la regulación no se aplica a los deepfakes creados fuera del país. Los críticos dicen que su prioridad es reforzar la censura en línea y aplastar la disidencia.