Mark Zuckerberg, director ejecutivo de Meta Platforms, llega al tribunal federal de San José, California, el 20 de diciembre de 2022.
David Paul Morris | Bloomberg | imágenes falsas
Meta dijo el martes que está ampliando sus esfuerzos para identificar imágenes manipuladas por inteligencia artificial para erradicar la información errónea y las falsificaciones profundas antes de las próximas elecciones en todo el mundo.
La compañía dijo que está desarrollando herramientas para identificar contenido generado por IA a escala tal como aparece en Facebook, Instagram y Threads.
Anteriormente, Meta solo etiquetaba imágenes generadas por IA que se desarrollaban utilizando sus propias herramientas de IA. Ahora, dijo la compañía, buscará aplicar esas etiquetas al contenido de Googleabierta AI, microsoft, AdobeA mitad del viaje y Shutterstock.
Los subtítulos aparecerán en todos los idiomas disponibles en cada aplicación, dijo Meta. Pero el cambio no se producirá de inmediato.
Nick Clegg, presidente de asuntos globales de Meta, escribió en una publicación de blog que la compañía comenzará a etiquetar imágenes generadas por IA obtenidas de fuentes externas «en los próximos meses» y continuará trabajando en el tema «durante el próximo año». trabajar.
Se necesita tiempo adicional para trabajar con otras empresas de IA para «establecer estándares técnicos comunes que indiquen cuándo se ha creado un contenido utilizando IA», escribió Clegg.
La desinformación relacionada con las elecciones provocó una crisis en Facebook después de las elecciones presidenciales de 2016, cuando actores extranjeros, en su mayoría de Rusia, pudieron crear y distribuir contenido altamente explosivo e inexacto. Se abusó repetidamente de la plataforma en los años siguientes, particularmente durante la pandemia de Covid, cuando la gente utilizó la plataforma para difundir grandes cantidades de información errónea. Negadores del Holocausto y teóricos de la conspiración de QAnon también frecuentaban el sitio.
Meta está tratando de demostrar que está preparado para que actores maliciosos utilicen tecnologías más avanzadas en el ciclo 2024.
Si bien algunos contenidos generados por IA pueden reconocerse fácilmente, no siempre es así. Se ha demostrado que los servicios que afirman identificar texto generado por IA, como los ensayos, están sesgados en contra de los hablantes no nativos de inglés. Con imágenes y vídeos no es mucho más fácil, aunque a menudo hay indicios de ello.
Meta busca minimizar la incertidumbre trabajando principalmente con otras empresas de inteligencia artificial que utilizan marcas de agua invisibles y ciertos tipos de metadatos en las imágenes creadas en sus plataformas. Sin embargo, existen formas de eliminar las marcas de agua, un problema que Meta quiere abordar.
«Estamos trabajando arduamente para desarrollar clasificadores que puedan ayudarnos a reconocer automáticamente el contenido generado por IA, incluso si el contenido no contiene marcadores invisibles», escribió Clegg. «Al mismo tiempo, estamos buscando formas de hacer que sea más difícil eliminar o cambiar las marcas de agua invisibles».
El audio y el vídeo pueden ser incluso más difíciles de monitorear que las imágenes porque todavía no existe un estándar industrial para las empresas de inteligencia artificial que agregue identificadores invisibles.
«Aún no podemos detectar estas señales ni señalar este contenido de otras empresas», escribió Clegg.
Meta ofrece a los usuarios la posibilidad de revelar voluntariamente cuándo suben vídeos o audio generados por IA. Si comparten un contenido deepfake u otra forma de contenido generado por IA sin revelarlo, la empresa puede «imponer sanciones», decía la publicación.
«Si determinamos que el contenido de imagen, video o audio creado o modificado digitalmente presenta un riesgo particularmente alto de engañar materialmente al público sobre un asunto importante, podemos agregar etiquetas más llamativas según corresponda», escribió Clegg.
RESPECTO: Meta es demasiado optimista sobre el crecimiento de ingresos y costos
![Meta es demasiado optimista sobre el crecimiento de los ingresos y los costos en 2024, dice Laura Martin de Needham](https://image.cnbcfm.com/api/v1/image/107368631-17069116731706911669-33168230260-1080pnbcnews.jpg?v=1706911672&w=750&h=422&vtcrop=y)