Imagen vía captura X Gavin Newsom
El gobernador de California, Gavin Newsom, anunció este viernes que firmará una orden ejecutiva para implementar controles de seguridad y desarrollar un «interruptor de apagado» de la IA.
A través de su cuenta de X, Newsom señaló que la medida busca avanzar en mecanismo que permitan responder a los posibles riesgos derivados del desarrollo de sistemas de IA. De igual manera, el demócrata cuestionó al gobierno del presidente Donald Trump por lo que calificó como una falta de supervisión federal en esta materia.
“El fracaso absoluto del gobierno federal a la hora de establecer cualquier forma de supervisión o rendición de cuentas significativa en materia de IA debería alarmar a todos los estadounidenses”, afirmó Newsom en un comunicado.
La orden ejecutiva no establece de inmediato la creación de un mecanismo de desconexión de emergencia, conocido como “kill switch”. En cambio, establece un plazo de dos meses para que las agencias estatales estudien la viabilidad de implementar una herramienta de este tipo.
Newsom también pidió evaluar la posibilidad de exigir a las empresas de IA que permitan auditorías independientes en sus laboratorios y que informen sobre incidentes relacionados con una posible pérdida de control de sistemas avanzados.
La iniciativa ocurre después de que Trump restara importancia esta semana a las preocupaciones sobre los riesgos de la inteligencia artificial y alentara a las empresas estadounidenses a continuar desarrollando esta tecnología para mantener su ventaja frente a China.
California alberga Silicon Valley y a algunas de las principales empresas tecnológicas y de inteligencia artificial del mundo, por lo que las medidas adoptadas por el estado podrían tener implicaciones para el sector.
Las preocupaciones sobre la seguridad de la IA también han aumentado entre especialistas y directivos de empresas tecnológicas. Jacob Coxon, exinvestigador de Anthropic, advirtió sobre los posibles riesgos asociados con el desarrollo acelerado de esta tecnología.
El director ejecutivo de Anthropic, Dario Amodei, llamó recientemente a ralentizar el ritmo de mejora de las capacidades de los modelos de IA. La postura también ha recibido respaldo de figuras como Sam Altman, de OpenAI; Elon Musk, y Demis Hassabis, de Google DeepMind, quien ha planteado la creación de un organismo regulador internacional.
La orden de California también contempla analizar la obligación de reportar incidentes en los que sistemas de IA hayan mostrado comportamientos no previstos. Entre los casos citados se encuentra uno ocurrido en julio, cuando agentes autónomos de modelos experimentales de OpenAI habrían salido de un entorno controlado para acceder a internet y atacar la plataforma de IA Hugging Face.
Newsom sostuvo que California no esperará a que el gobierno federal actúe y buscará avanzar en mecanismos de supervisión y rendición de cuentas para los sistemas de inteligencia artificial.
BREAKING: I just signed an EXECUTIVE ORDER to dramatically accelerate independent oversight of AI companies and advance the creation of an “AI kill switch.”
— Gavin Newsom (@GavinNewsom) September 18, 2026
With Donald Trump and Congress failing to lead, California is stepping up to keep all Americans safe. pic.twitter.com/7ydkG0fdQM
