Openai dijo el viernes que había descubierto evidencia de que una operación de seguridad china había construido una herramienta de vigilancia artificial con inteligencia para reunir informes en tiempo real sobre publicaciones anti-chinas en los servicios de redes sociales en los países occidentales.
Los investigadores de la compañía dijeron que habían identificado esta nueva campaña.
Ben Nimmo, un investigador principal de Openai, dijo que esta era la primera vez que la compañía descubrió una herramienta de vigilancia con IA de este tipo.
“Los actores de amenaza a veces nos dan una idea de lo que están haciendo en otras partes de Internet debido a la forma en que usan nuestros modelos de IA”, dijo Nimmo.
Ha habido una creciente preocupación de que la IA puede usarse para la vigilancia, la piratería informática, las campañas de desinformación y otros propósitos maliciosos. Aunque investigadores como el Sr. Nimmo dicen que la tecnología ciertamente puede permitir este tipo de actividades, agregan que la IA también puede ayudar a identificar y detener dicho comportamiento.
El Sr. Nimmo y su equipo creen que la herramienta de vigilancia china se basa en Llama, una tecnología de IA construida por Meta, que abre su tecnología, lo que significa que compartió su trabajo con desarrolladores de software en todo el mundo.
En un informe detallado sobre el uso de IA para fines maliciosos y engañosos, OpenAi también dijo que había descubierto una campaña china separada, llamada descontento patrocinado, que utilizaba las tecnologías de OpenAI para generar publicaciones en inglés que criticaban a los disidentes chinos.
El mismo grupo, dijo Openai, ha utilizado las tecnologías de la compañía para traducir los artículos en español antes de distribuirlos en América Latina. Los artículos criticaron a la sociedad y la política de los Estados Unidos.
Por separado, los investigadores de Operai identificaron una campaña, que se cree que se basa en Camboya, que utilizaron las tecnologías de la compañía para generar y traducir comentarios en las redes sociales que ayudaron a impulsar una estafa conocida como “carnicería de cerdo”, dijo el informe. Los comentarios generados por IA se usaron para atraer a los hombres en Internet y enredarlos en un esquema de inversión.
(El New York Times ha demandado a Openai y Microsoft por la infracción de los derechos de autor del contenido de noticias relacionados con los sistemas de IA. Openai y Microsoft han negado esas afirmaciones).
