X, la aplicación de redes sociales propiedad de Elon Musk, demandó a California en un intento de bloquear una nueva ley que exige que las grandes plataformas en línea eliminen o etiqueten contenido electoral engañoso.
La demanda, presentada en un tribunal federal esta semana, apunta a una ley que tiene como objetivo combatir videos, imágenes y audio dañinos que han sido alterados o creados con inteligencia artificial. Conocidos como deepfakes, este tipo de contenido puede hacer que parezca como si una persona dijera o hiciera algo que no hizo. Está previsto que la ley entre en vigor el 1 de enero.
Proyecto de ley 2655 de la Asamblea fue uno de los tres proyectos de ley que el gobernador de California, Gavin Newsom, promulgó este año para abordar las crecientes preocupaciones sobre los deepfakes antes de las elecciones presidenciales estadounidenses de 2024. Los legisladores de California han estado tratando de mitigar los riesgos potenciales de la tecnología, pero también enfrentan la reacción de poderosos ejecutivos tecnológicos que desconfían de los esfuerzos que consideran que posiblemente restringen el discurso en línea de los usuarios.
El enfoque en los deepfakes electorales se produjo después de que Newsom se enfrentara en línea con Musk, quien compartió un video viral de la vicepresidenta Kamala Harris que usó inteligencia artificial para alterar lo que dijo la demócrata en uno de sus anuncios de campaña. El republicano Donald Trump, que contó con el fuerte respaldo de Musk en su exitosa carrera para recuperar la presidencia, también publicó imágenes falsas de Taylor Swift que sugerían falsamente que la megaestrella lo había respaldado.
X alega que la nueva ley incitaría a los sitios de redes sociales a inclinarse hacia etiquetar o eliminar contenido electoral legítimo por precaución.
“Este sistema resultará inevitablemente en la censura de amplias franjas de discursos y comentarios políticos valiosos”, afirma la demanda.
Según la demanda, la ley va en contra de las protecciones de la libertad de expresión contenidas en la Constitución de los Estados Unidos y de una ley federal conocida como Sección 230, que protege a las plataformas en línea de la responsabilidad por el contenido generado por los usuarios. X, que trasladó su sede de San Francisco a Texas este año, está demandando al fiscal de California. El general Rob Bonta y la secretaria de Estado Shirley Weber bloquearán la ley.
“El Departamento de Justicia de California ha defendido y seguirá defendiendo enérgicamente la AB 2655 en los tribunales”, dijo un portavoz de Bonta en un comunicado.
X no respondió de inmediato a una solicitud de comentarios, y la oficina del secretario de estado dijo que la agencia no hace comentarios sobre litigios pendientes.
El asambleísta Marc Berman (D-Menlo Park), quien presentó la AB 2655, dijo en un comunicado que se había comunicado con X representantes para recopilar comentarios sobre la legislación antes de que los legisladores la votaran.
“Esperaba que colaboraran de manera constructiva conmigo durante el proceso legislativo. No me sorprendió que no lo hicieran. Cedo al Departamento de Justicia cualquier demanda”, dijo Berman en un comunicado.
La oficina de Newsom señaló que la AB 2655, conocida como la Ley de Defensa de la Democracia contra el Engaño Deepfake de 2024, exime el contenido de parodia y sátira. La oficina del gobernador dijo que confía en que el estado prevalecerá en los tribunales.
“Los deepfakes amenazan la integridad de nuestras elecciones, y estas nuevas leyes protegen nuestra democracia al tiempo que preservan la libertad de expresión, de una manera no más estricta que las de otros estados, incluidos los rojos profundos de Alabama y Mississippi”, dijo Tara Gallegos, portavoz del gobernador. , dijo en un comunicado.
X, sin embargo, alega que sería difícil para las empresas de redes sociales determinar si la publicación de un usuario era una broma, y señaló que las opiniones sobre el video de Harris alterado por IA diferían.
X, junto con los gigantes de las redes sociales como Meta, la empresa matriz de Facebook, TikTok y YouTube, propiedad de Google, tienen políticas sobre los medios manipulados. X normas prohíbe a los usuarios compartir medios manipulados engañosos que puedan provocar daños y dice que en algunos casos este contenido puede estar etiquetado.
Aunque Musk se ha declarado un “absolutista de la libertad de expresión”, el enfoque de la compañía para hacer cumplir las reglas de la plataforma es restringir el alcance de publicaciones potencialmente ofensivas en lugar de eliminarlas. Sin embargo, los reguladores, los grupos de derechos civiles y los usuarios han criticado a las plataformas de redes sociales, incluida X, por no hacer lo suficiente para hacer cumplir sus propias reglas.
Con un aumento de la desinformación electoral generada por IA que aparece en las redes sociales, las leyes aprobadas en el período previo a las elecciones de este mes estaban destinadas a reforzar uno que California ya tenía en los libros, que prohíbe a las personas distribuir medios audiovisuales o visuales engañosos destinados a dañar la reputación de un candidato o engañar a un votante dentro de varias semanas de una elección.
En octubre, un juez federal bloqueó otra de esas leyes, Proyecto de Ley de la Asamblea 2839, mientras se desarrolla un desafío legal. Esa ley prohibiría la distribución de anuncios de campaña engañosos o “comunicaciones electorales” dentro de los 120 días posteriores a una elección.
Y X ya ha intentado bloquear nuevas leyes de California dirigidas a las plataformas de redes sociales. El año pasado, Musk presentó una demanda por otra ley estatal que exige que las plataformas revelen cómo moderan el contenido. X no pudo bloquear AB 587 pero luego ganó un apelar en septiembre.
