El gobernador de California, Gavin Newsom, firmó el 10 de septiembre dos leyes de regulación de inteligencia artificial, perfeccionando aún más el marco regulatorio de California en el ámbito de la inteligencia artificial. Es notable que estas dos leyes ya contaban con el reconocimiento y apoyo de importantes empresas de inteligencia artificial antes de su lanzamiento.
La firma de las leyes coincide con un creciente interés en el tema de la seguridad de la inteligencia artificial. Anteriormente, Jacob Cockson, un investigador que trabajó en Anthropic, anunció su renuncia y advirtió sobre los posibles riesgos catastróficos que podría acelerar la industria de la inteligencia artificial. En respuesta, Newsom afirmó que las preocupaciones suscitadas por eventos recientes validan el juicio de California a largo plazo, que la inteligencia artificial tiene un enorme potencial, pero su desarrollo y despliegue deben ir acompañados de medidas de seguridad sustanciales. Newsom también instó al gobierno federal a promulgar lo antes posible regulaciones nacionales de inteligencia artificial que se ajusten a la actual situación urgente.
Las leyes de regulación de inteligencia artificial de California elevarán los estándares de seguridad de la industria
En estas dos leyes, la SB 813, propuesta por el senador estatal Jerry McNerney, establecerá un Consejo de Normas y Seguridad de Inteligencia Artificial de California, encargado de desarrollar estándares de seguridad de inteligencia artificial de carácter voluntario; mientras que la AB 1405, presentada por la legisladora Rebecca Bauer-Kahan, creará un sistema de registro para auditorías de riesgos de inteligencia artificial, regulando la certificación de los auditores.
A nivel de la industria, tanto Anthropic como OpenAI expresaron públicamente su apoyo antes de la firma de las leyes. Chris Lehn, responsable de asuntos públicos de OpenAI, indicó que las capacidades actuales de la inteligencia artificial han entrado en una nueva fase, y el marco político correspondiente también debe seguir el ritmo. Anthropic señaló que fue precisamente por su inversión a largo plazo en seguridad que apoyan la colaboración de toda la industria de manera legal y verificable, para gestionar conjuntamente el ritmo de lanzamiento de modelos potentes. Ambas compañías afirmaron que promoverán la creación de estándares internacionales compatibles, buscando consenso en cuestiones como la evaluación de capacidades, la gestión de riesgos y la preservación del control humano.