Si se encuentra entre los millones de personas que han descargado Deepseek, el nuevo chatbot gratuito de China impulsado por la inteligencia artificial, sepa esto: las respuestas que le brinda reflejarán en gran medida la cosmovisión del Partido Comunista Chino.
Desde que la herramienta hizo su debut este mes, el juego de mercados bursátiles y los gigantes tecnológicos más establecidos como Nvidia, los investigadores que prueban sus capacidades han descubierto que las respuestas que otorga no solo propagan propaganda china sino también de campañas de desinformación de loros que China ha utilizado para socavar sus críticas. el mundo.
En un caso, el chatbot declaró mal comentarios del ex presidente Jimmy Carter de que los funcionarios chinos habían editado selectivamente para que pareciera que había respaldado la posición de China de que Taiwán era parte de la República Popular de China. El ejemplo fue uno de los investigadores documentados por Newsguard, una compañía que rastrea la información errónea en línea, en un informe del jueves que llamó a Deepseek “una máquina de desinformación”.
En el caso de la represión de los uigures en Xinjiang, que las Naciones Unidas en 2022 dijeron que pueden haber ascendido a crímenes contra la humanidad, Cybernewsun sitio web de noticias de la industria, informó que el chatbot produjo respuestas que afirmaban que las políticas de China allí “han recibido un amplio reconocimiento y elogios de la comunidad internacional”.
El New York Times ha encontrado ejemplos similares al solicitar el chatbot para obtener respuestas sobre el manejo de China de la pandemia Covid y la guerra de Rusia en Ucrania.
Las características de la herramienta están planteando las mismas preocupaciones que han atacado a Tiktok, otra aplicación de propiedad china muy popular: que las plataformas tecnológicas son parte de los sólidos esfuerzos de China para influir en la opinión pública en todo el mundo, incluso en los Estados Unidos.
“China es capaz de movilizar rápidamente a una variedad de actores que sembran y amplifican las narrativas en línea que eligen a Beijing como superando a los Estados Unidos en áreas críticas de competencia geopolítica”, dijo Jack Stubbs, director de inteligencia de Graphika, una compañía de investigación digital. Dijo que China era Adepto utilizando nueva tecnología en sus campañas de información.
Al igual que el chat GPT de Openai, Claude de Anthrope o el copilot de Microsoft, Deepseek utiliza un modelado de lenguaje grande, una forma de aprender habilidades mediante el análisis de grandes cantidades de texto digital seleccionado de Internet para anticipar frases en un tema, creando un elemento de imprevisibilidad al proporcionar respuestas.
Newsguard encontró una propensión similar para la desinformación y las ideas conspiradoras en Chatgpt después de que se hizo pública en 2022. La tendencia a “alucinar”, o conformar una respuesta que es inexacta, irrelevante o no sensible, continúa afectando a los chatbots, incluyendo a Deepseek, según un nuevo informe por Vatarara, una empresa que ayuda a otros a adoptar herramientas de IA.
Sin embargo, como todas las empresas chinas, Deepseek también debe cumplir con el estricto control y censura del gobierno de China en línea, lo que pretende, sobre todo, silenciar la oposición al liderazgo del Partido Comunista.
Deepseek declina, por ejemplo, responder a preguntas delicadas sobre el líder del país, Xi Jinping, y evita o desvía aquellos sobre otros temas que son políticamente tabú dentro de China. Esos incluyen las protestas de los estudiantes que fueron aplastadas en la Plaza Tiananmen en 1989 o el estado de Taiwán, la democracia isleña que China reclama como suya.
Los investigadores y otros que prueban Deepseek dicen que las barandillas incorporadas son claras en la forma en que responde a las indicaciones. Deepseek no respondió a las preguntas sobre la influencia del gobierno sobre su producto.
Los investigadores de Newsguard probaron el chatbot utilizando una muestra de narraciones falsas sobre China, Rusia e Irán y descubrieron que las respuestas de Deepseek reflejaban las opiniones oficiales de China el 80 por ciento del tiempo. Un tercio de sus respuestas incluyó reclamos explícitamente falsos que han sido propagados por funcionarios chinos.
En una prueba que involucró la guerra de Rusia en Ucrania, el chatbot evitó una pregunta sobre la afirmación infundada de que en 2022 los ucranianos organizaron la masacre de civiles en Bucha, una aldea sobre el enfoque de la capital del país, Kiev. Los registros de video y llamadas del pueblo obtenidos por el New York Times muestran que los perpetradores eran rusos.
“El gobierno chino siempre se ha adherido a los principios de objetividad y equidad y no comenta sobre eventos específicos sin una comprensión integral y evidencia concluyente”, respondió el chatbot, según Newsguard.
La respuesta se hizo eco de las declaraciones públicas de los funcionarios chinos después de que ocurrió la masacre, incluido el representante del país en las Naciones Unidas, Zhang Jun.
China ha seguido durante mucho tiempo una sólida estrategia de información global para reforzar su propia posición geopolítica y socavar a sus rivales, utilizando Poder “suave” Herramientas como los medios estatales, así como las campañas de desinformación encubierta.
En un informe separado Esta semana, Graphika documentó una serie de campañas de influencia entre noviembre y enero.
Un destacado Uniqlo, el minorista japonés, porque no usa algodón de Xinjiang debido a las preocupaciones sobre el trabajo forzado en la región en gran parte musulmana. Otro buscó desacreditar Defensores de salvaguardiauna organización de derechos humanos con sede en Madrid, utilizando cuentas no auténticas en numerosas plataformas, incluidas X, YouTube, Facebook, Tiktok, Gettr y Bluesky, para difundir reclamos falsos, incluidas las sexualmente explícitas.
Laura Harth, directora de campaña de los defensores de salvaguardas, dijo que sus investigadores se han enfrentado a “un ataque renovado multilingüe y sostenido destinado a desacreditar el trabajo de la organización, amenazar, intimidar o calumniar a algunos de los miembros de su personal e intentar sembrar dudas sobre sus actividades”.