La campaña presidencial estadounidense de 2024 ha presentado algunos deepfakes notables: imitaciones de candidatos impulsadas por inteligencia artificial que buscaban engañar a los votantes o degradar a los candidatos siendo el objetivo. Gracias al retuit de Elon Musk, uno de esos deepfakes ha sido visto más de 143 millón veces.
La perspectiva de campañas sin escrúpulos o de adversarios extranjeros que utilicen inteligencia artificial para influir en los votantes ha alarmado a investigadores y funcionarios de todo el país, quienes dicen que los medios generados y manipulados por IA ya se están difundiendo rápidamente en línea. Por ejemplo, investigadores de la Universidad de Clemson encontraron una campaña de influencia en la plataforma social X que usando IA para generar comentarios de más de 680 cuentas impulsadas por bots que apoyan al expresidente Trump y otros candidatos republicanos; la red ha publicado más de 130.000 comentarios desde marzo.
Para reforzar sus defensas contra las imágenes manipuladas, Yahoo News, uno de los sitios de noticias en línea más populares, que atrae más de 190 millones visitas por mes, según Similarweb.com, anunció el miércoles que está integrando la tecnología de detección de imágenes deepfake de la empresa de ciberseguridad McAfee. La tecnología revisará las imágenes enviadas por los colaboradores de noticias de Yahoo y señalará aquellas que probablemente fueron generadas o manipuladas por IA, ayudando al equipo de estándares editoriales del sitio a decidir si publicarlas.
Matt Sánchez, presidente y gerente general de Yahoo Home Ecosystem, dijo que la compañía simplemente está tratando de ir un paso por delante de los embaucadores.
“Si bien las imágenes deepfake no son un problema en Yahoo News hoy en día, esta herramienta de McAfee nos ayuda a ser proactivos ya que siempre estamos trabajando para garantizar una experiencia de calidad”, dijo Sánchez en un correo electrónico. “Esta asociación impulsa nuestros esfuerzos existentes, brindándonos mayor precisión, velocidad y escala”.
Sánchez dijo que los medios de toda la industria de las noticias están pensando en la amenaza de los deepfakes, “no porque sea un problema rampante hoy, sino porque la posibilidad de un uso indebido está en el horizonte”.
Sin embargo, gracias a herramientas de inteligencia artificial fáciles de usar, los deepfakes han proliferado hasta el punto de que 40% de los estudiantes de secundaria Los encuestados en agosto dijeron que habían oído hablar de algún tipo de imágenes falsas que se compartían en su escuela. El base de datos en línea de deepfakes políticos El informe que están compilando tres académicos de la Universidad Purdue incluye casi 700 entradas, más de 275 de ellas solo de este año.
Steve Grobman, director de tecnología y vicepresidente ejecutivo de McAfee, dijo que la asociación con Yahoo News surgió del trabajo de McAfee en productos para ayudar a los consumidores a detectar deepfakes en sus computadoras. La compañía se dio cuenta de que la tecnología que desarrolló para señalar posibles imágenes generadas por IA podría ser útil para un sitio de noticias, especialmente uno como Yahoo que combina el trabajo de sus propios periodistas con contenido de otras fuentes.
La tecnología de McAfee se suma al “rico conjunto de capacidades” que Yahoo ya tenía para verificar la integridad del material proveniente de sus fuentes, dijo Grobman. La herramienta de detección de deepfake, que a su vez funciona con IA, examina las imágenes en busca del tipo de artefactos que las herramientas impulsadas por IA dejan entre los millones de puntos de datos dentro de una imagen digital.
“Una de las cosas realmente interesantes de la IA es que no es necesario decirle al modelo qué buscar. El modelo descubre qué buscar”, dijo Grobman.
“La calidad de las falsificaciones está creciendo rápidamente y parte de nuestra asociación consiste simplemente en intentar adelantarnos a ellas”, afirmó. Eso significa monitorear el estado del arte en generación de imágenes y usar nuevos ejemplos para mejorar la tecnología de detección de McAfee.
Nicos Vekiarides, director ejecutivo de la empresa de prevención de fraude Attestiv, dijo que es una carrera armamentista entre empresas como la suya y las que fabrican generadores de imágenes impulsados por inteligencia artificial. “Están mejorando. Las anomalías son cada vez menores”, afirmó Vekiarides. Y aunque hay un apoyo cada vez mayor entre los principales actores de la industria para insertar marcas de agua en material generado por IA, los malos actores no seguirán esas reglas, dijo.
En su opinión, los anuncios políticos ultrafake y otro material falso difundido a una amplia audiencia no tendrán mucho efecto porque “quedan desacreditados con bastante rapidez”. Lo que es más probable que sea dañino, dijo, son los deepfakes que los influencers envían a sus seguidores o que se transmiten de un individuo a otro.
Daniel Kang, profesor asistente de informática en la Universidad de Illinois Urbana-Champaign y experto en detección de deepfake, advirtió que hoy en día ninguna herramienta de detección de IA es lo suficientemente buena para atrapar a un atacante altamente motivado y con buenos recursos, como un estado. Creador de deepfake patrocinado. Debido a que hay tantas maneras de manipular una imagen, un atacante “puede ajustar más botones que estrellas en el universo para intentar eludir los mecanismos de detección”, dijo.
Pero muchos deepfakes no provienen de atacantes altamente sofisticados, razón por la cual Kang dijo que es optimista sobre las tecnologías actuales para detectar medios generados por IA, incluso si no pueden identificarlo todo. Agregar herramientas impulsadas por IA a los sitios ahora permite que las herramientas aprendan y mejoren con el tiempo, tal como lo hacen los filtros de spam, dijo Kang.
No son una panacea, dijo; deben combinarse con otras salvaguardias contra el contenido manipulado. Aun así, Kang dijo: “Creo que hay buena tecnología que podemos utilizar y mejorará con el tiempo”.
Vekiarides dijo que el público se ha preparado para la ola de deepfakes al aceptar el uso generalizado de herramientas de manipulación de imágenes, como los editores de fotografías que prácticamente retocan las imperfecciones de las fotografías de portada de revista. No es un gran salto desde un fondo falso en una llamada de Zoom a una imagen ultrafalsa de la persona con la que te estás reuniendo en línea, dijo.
“Hemos dejado salir al gato de la bolsa”, dijo Vekiarides, “y es difícil volver a meterlo”.
