El gobernador de California veta un amplio proyecto de ley sobre seguridad de la IA
El gobernador de California, Gavin Newsom, vetó la SB 1047, la Ley de Innovación Segura para Modelos Artificiales Fronterizos, argumentando en una carta a los legisladores que “establece un marco regulatorio que podría dar al público una falsa sensación de seguridad sobre el control de este rápido movimiento”. tecnología."
"No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología", escribió. La SB 1047 habría requerido “que un desarrollador, antes de comenzar a entrenar inicialmente un modelo cubierto… cumpla con varios requisitos, incluida la implementación de la capacidad de implementar rápidamente un cierre completo… e implementar un protocolo de seguridad escrito e independiente”.
Sin embargo, Newsom señaló que 32 de las 50 principales empresas de IA tienen su sede en California y que el proyecto de ley se centraría únicamente en las empresas más grandes. “Los modelos más pequeños y especializados pueden resultar igual o incluso más peligrosos que los modelos a los que se dirige la SB 1047”, afirmó.
"Aunque tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de Al se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales", escribió Newsom. "En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que lo implemente un sistema grande".
La SB 1047 provocó un acalorado debate dentro de la industria de la IA a medida que avanzaba en la legislatura. OpenAI se opuso estridentemente a la medida, lo que provocó que los investigadores William Saunders y Daniel Kokotajlo renunciaran públicamente en protesta , mientras que el director ejecutivo de xAI, Elon Musk, se pronunció a favor del proyecto de ley . Muchos en Hollywood también expresaron su apoyo a la SB 1047 , incluidos JJ Abrams, Jane Fonda, Pedro Pascal, Shonda Rhimes y Mark Hamill.
“No podemos darnos el lujo de esperar a que ocurra una catástrofe importante antes de tomar medidas para proteger al público. California no abandonará su responsabilidad. Se deben adoptar protocolos de seguridad. Se deben implementar medidas de seguridad proactivas y las consecuencias graves para los malos actores deben ser claras y ejecutables”, escribió Newsom. Sin embargo, “en última instancia, cualquier marco para
Regular eficazmente la Al necesita seguir el ritmo de la tecnología misma”.
El anuncio del lunes se produce menos de un mes después de que el gobernador firmara los proyectos AB 2602 y AB 1836, ambos respaldados por el sindicato SAG-AFTRA . AB 2602 exige que los artistas intérpretes otorguen su consentimiento informado antes de utilizar sus “réplicas digitales”, mientras que AB 1836 reforzó las protecciones contra la copia de la voz y la imagen de los artistas fallecidos.