El gobernador Gavin Newsom vetó el domingo la SB 1047, un proyecto de ley de seguridad de la inteligencia artificial que habría establecido requisitos para que los desarrolladores de modelos avanzados de IA creen protocolos destinados a prevenir catástrofes.
El proyecto de ley, presentado por el senador Scott Wiener (D-San Francisco), habría requerido que los desarrolladores presentaran sus planes de seguridad al fiscal general del estado, quien podría responsabilizarlos si los modelos de IA que controlan directamente causaran daños o amenazas inminentes a seguridad pública.
Además, la legislación habría exigido que las empresas de tecnología pudieran desactivar los modelos de IA que controlan directamente si las cosas salieran mal.
En su mensaje de veto, Newsom dijo que la legislación podría dar al público una “falsa sensación de seguridad sobre el control de esta tecnología de rápido movimiento” porque apuntaba sólo a modelos de IA costosos y a gran escala y no a sistemas especializados más pequeños.
“Aunque tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales”, decía el mensaje de veto de Newsom. “En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que lo implemente un sistema grande. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología”.
El gobernador también anunció el domingo que su administración ha reclutado líderes en el campo para ayudar al estado a crear protecciones viables para el despliegue de IA, enfocándose en analizar sus capacidades y riesgos. Newsom prometió seguir trabajando con la Legislatura sobre el tema en la próxima sesión.
El proyecto de ley fue debatido intensamente en Silicon Valley y recibió el apoyo del Centro para la seguridad de la IA, el director ejecutivo de SpaceX, Elon Musk, el consejo editorial del LA Times y destacados investigadores de IA, pero contó con la oposición de la empresa matriz de Facebook, Meta, el fabricante de ChatGPT, OpenAI, y varios congresistas demócratas. incluida Nancy Pelosi (D-San Francisco).
Los defensores dijeron que era importante establecer barreras para la tecnología de inteligencia artificial en rápida evolución para evitar futuros daños catastróficos, mientras que los opositores dijeron que tales medidas podrían sofocar la innovación.
Si bien es posible que el proyecto de ley supere el veto del gobernador con dos tercios de los votos de ambas cámaras, es un obstáculo importante que superar y sería inusual.
Wiener calificó el veto de Newsom como una “oportunidad perdida” para que California lidere la regulación tecnológica innovadora.
“Este veto es un revés para todos los que creen en la supervisión de corporaciones masivas que están tomando decisiones críticas que afectan la seguridad y el bienestar del público y el futuro del planeta”, dijo Wiener en un declaración publicado en las redes sociales.
Newsom dijo a principios de este mes en una charla informal en Dreamforce, una conferencia tecnológica de San Francisco, que la SB 1047 había generado un discurso público descomunal, y agregó que había “creado su propio sistema meteorológico”.
También habló sobre los desafíos que plantea la regulación de la IA.
“Hemos estado trabajando a lo largo de los últimos dos años para llegar a alguna regulación racional que respalde la toma de riesgos, pero no la imprudencia…”, dijo Newsom.
Tanto los partidarios como los opositores de la SB 1047 aunaron recursos para expresar sus puntos de vista. Más de 125 actores, productores, directores, artistas musicales y otros líderes de la industria del entretenimiento, incluidos destacados demócratas, firmaron una carta instando a Newsom a firmar el proyecto de ley. Entre los firmantes de la carta se encontraban los actores Pedro Pascal y Alec Baldwin, así como la productora ejecutiva de “Bridgerton”, Shonda Rhimes.
“Queremos seguir creyendo que usted es un líder que defenderá el bienestar de todos, no sólo el de unos pocos gigantes de Silicon Valley”, decía la carta.
Mientras tanto, la Cámara del Progreso, que se opone al proyecto de ley, publicó un Canción de rock generada por IA con letras que incluyen “vetar las cadenas que nos sujetan”.
“Es uno de esos proyectos de ley que llegan a su escritorio con poca frecuencia, donde depende de quién fue la última persona en la llamada en términos de cuán persuasivo sea”, dijo Newsom en una entrevista con el Times a principios de este mes. “Esto ha dividido a mucha gente”.
