Días después de que la vicepresidenta Kamala Harris lanzara su candidatura presidencial, un video, creado con la ayuda de inteligencia artificial, se volvió viral.
“Yo… soy su candidata demócrata a la presidencia porque Joe Biden finalmente expuso su senilidad en el debate”, dijo una voz que sonaba como la de Harris en la pista de audio falsa utilizada para alterar uno de sus anuncios de campaña. “Me eligieron porque soy la contratación más diversa”.
El multimillonario Elon Musk, que ha apoyado al oponente republicano de Harris, el expresidente Trump, compartió el video en X, y dos días después aclaró que en realidad se trataba de una parodia. Su tuit inicial tuvo 136 millones de visitas. El siguiente tuit, en el que calificó el video de parodia, obtuvo 26 millones de visitas.
A los demócratas, incluidos El gobernador de California, Gavin NewsomEl incidente no fue motivo de risa y alimentó los pedidos de más regulación para combatir los videos generados por IA con mensajes políticos y un nuevo debate sobre el papel apropiado del gobierno a la hora de tratar de contener la tecnología emergente.
El viernes, los legisladores de California dieron la aprobación final a un proyecto de ley que prohibiría la distribución de anuncios de campaña engañosos o “comunicación electoral” dentro de los 120 días posteriores a una elección. Proyecto de ley 2839 de la Asamblea La medida se dirige a los contenidos manipulados que podrían dañar la reputación o las perspectivas electorales de un candidato, así como la confianza en el resultado de una elección. El objetivo es abordar vídeos como el que Musk compartió de Harris, aunque incluye una excepción para la parodia y la sátira.
“Estamos viendo que California se prepara para su primera elección en la que la desinformación impulsada por la inteligencia artificial generativa contaminará nuestros ecosistemas de información como nunca antes y millones de votantes no sabrán en qué imágenes, audio o video pueden confiar”, dijo la asambleísta Gail Pellerin (demócrata de Santa Cruz). “Así que tenemos que hacer algo”.
Newsom tiene Señaló que firmará el proyecto de leyque entraría en vigor inmediatamente, a tiempo para las elecciones de noviembre.
La legislación actualiza una ley de California que prohíbe a las personas distribuir material audiovisual engañoso que tenga como objetivo dañar la reputación de un candidato o engañar a un votante dentro de los 60 días posteriores a una elección. Los legisladores estatales dicen que la ley debe fortalecerse durante un ciclo electoral en el que las personas ya están inundando las redes sociales con videos y fotos alterados digitalmente, conocidos como deepfakes.
El uso de deepfakes para difundir información errónea ha preocupado a legisladores y reguladores durante ciclos electorales anteriores. Estos temores aumentaron después del lanzamiento de nuevas herramientas impulsadas por IA, como chatbots que pueden generar imágenes y videos rápidamente. Desde llamadas automáticas falsas hasta falsos apoyos de celebridades a candidatos, el contenido generado por IA está poniendo a prueba a las plataformas tecnológicas y a los legisladores.
Según la AB 2839, un candidato, un comité electoral o un funcionario electoral podrían solicitar una orden judicial para que se eliminen los deepfakes. También podrían demandar a la persona que distribuyó o republicó el material engañoso por daños y perjuicios.
La legislación también se aplica a los medios engañosos publicados 60 días después de la elección, incluido el contenido que retrata falsamente una máquina de votación, una boleta, un lugar de votación u otra propiedad relacionada con las elecciones de una manera que probablemente socave la confianza en el resultado de las elecciones.
No se aplica a la sátira o parodia etiquetada como tal, ni a las estaciones de radiodifusión si informan a los espectadores que lo representado no representa con precisión un discurso o evento.
Los grupos de la industria tecnológica se oponen a la AB 2839, junto con otros proyectos de ley que atacan a las plataformas en línea por no moderar adecuadamente el contenido electoral engañoso o etiquetar el contenido generado por IA.
“Esto tendrá como resultado el bloqueo y la inhibición de la libertad de expresión protegida por la Constitución”, dijo Carl Szabo, vicepresidente y asesor general de NetChoice. Entre los miembros del grupo se encuentran Google, X y Snap, así como la empresa matriz de Facebook, Meta, y otros gigantes tecnológicos.
Las plataformas en línea tienen sus propias reglas sobre medios manipulados y anuncios políticos, pero sus políticas pueden diferir.
A diferencia de Meta y X, TikTok no permite anuncios políticos y dice que puede eliminar incluso los etiquetados Contenido generado por IA si representa a una figura pública, como una celebridad, “cuando se utiliza para respaldos políticos o comerciales”. Truth Social, una plataforma creada por Trump, no aborda los medios manipulados en sus reglas sobre lo que no está permitido en su plataforma.
Los reguladores federales y estatales ya están tomando medidas enérgicas contra el contenido generado por IA.
En mayo, la Comisión Federal de Comunicaciones propuso una multa de 6 millones de dólares contra Steve Kramer, un consultor político demócrata que estaba detrás de una llamada automática que utilizó inteligencia artificial para hacerse pasar por la voz del presidente Biden. La llamada falsa desalentó la participación en las primarias presidenciales demócratas de New Hampshire en enero. Kramer, quien dijo Noticias de la NBC planeó el llamado para llamar la atención sobre los peligros de la IA en la política, también enfrenta cargos criminales por delito grave de supresión de votantes y delito menor de suplantación de identidad de un candidato.
Szabo dijo que las leyes actuales son suficientes para abordar las preocupaciones sobre las falsificaciones electorales. NetChoice ha demandado a varios estados para detener algunas leyes destinadas a proteger a los niños en las redes sociales, alegando que violan las protecciones de la libertad de expresión bajo la Primera Enmienda.
“La simple creación de una nueva ley no hace nada para detener el mal comportamiento; en realidad es necesario hacer cumplir las leyes”, dijo Szabo.
Más de dos docenas de estados, incluidos Washington, Arizona y Oregón, han promulgado, aprobado o están trabajando en leyes para regular las falsificaciones profundas, según la organización sin fines de lucro de defensa del consumidor. Ciudadano público.
En 2019, California instituyó una ley destinada a combatir la manipulación de los medios de comunicación después de que un video en el que aparecía que la presidenta de la Cámara de Representantes, Nancy Pelosi, estaba borracha, se volviera viral en las redes sociales. Hacer cumplir esa ley ha sido un desafío.
“Tuvimos que diluirlo”, dijo el asambleísta Marc Berman (D-Menlo Park), autor del factura“Atrajo mucha atención los riesgos potenciales de esta tecnología, pero me preocupaba que, al final, no sirviera de mucho”.
En lugar de emprender acciones legales, dijo Danielle Citron, profesora de la Facultad de Derecho de la Universidad de Virginia, los candidatos políticos podrían optar por desacreditar un deepfake o incluso ignorarlo para limitar su propagación. Para cuando puedan pasar por el sistema judicial, es posible que el contenido ya se haya vuelto viral.
“Estas leyes son importantes por el mensaje que transmiten. Nos enseñan algo”, afirmó, y agregó que informan a las personas que comparten deepfakes que existen costos.
Este año, los legisladores trabajaron con la Iniciativa de California para la Tecnología y la Democracia, un proyecto de la organización sin fines de lucro California Common Cause, en varios proyectos de ley para abordar las falsificaciones políticas.
Algunos atacan a plataformas en línea que están protegidas por la ley federal de ser consideradas responsables del contenido publicado por los usuarios.
Berman presentó un proyecto de ley que exige que una plataforma en línea con al menos un millón de usuarios en California elimine o etiquete cierto contenido engañoso relacionado con las elecciones dentro de los 120 días posteriores a una elección. Las plataformas tendrían que tomar medidas a más tardar 72 horas después de que un usuario informe la publicación. Ley AB 2655que la Legislatura aprobó el miércoles, las plataformas también necesitarían procedimientos para identificar, eliminar y etiquetar contenido falso. Tampoco se aplica a parodias o sátiras ni a medios de comunicación que cumplan con ciertos requisitos.
Otro proyecto de ley, coescrito por la asambleísta Buffy Wicks (demócrata de Oakland), exige que las plataformas en línea etiqueten el contenido generado por IA. Si bien NetChoice y TechNet, otro grupo industrial, se oponen al proyecto de ley, OpenAI, el creador de ChatGPT, lo apoya. AB 3211, Reuters reportado.
Sin embargo, ambos proyectos de ley no entrarían en vigor hasta después de las elecciones, lo que subraya los desafíos que supone aprobar nuevas leyes a medida que la tecnología avanza rápidamente.
“Parte de mi esperanza con la presentación del proyecto de ley es la atención que genera y, con suerte, la presión que pone en las plataformas de redes sociales para que se comporten correctamente ahora”, dijo Berman.
