Estados Unidos
Internacional
De qué trata el “botón de apagado” que California evalúa imponer a las empresas de IA
El gobernador de California planteó la posibilidad de implementar un "botón de apagado" para los modelos más avanzados de inteligencia artificial.
|
La IA es un conjunto de tecnologías y ramas de la informática que permiten a las máquinas imitar capacidades humanas. (Foto Prensa Libre: EFE)
El gobernador de California habría ordenado a su administración evaluar la implementación de un "interruptor de apagado" para los modelos más avanzados de inteligencia artificial (IA).
Gavin Newsom también habría pedido una evaluación para instalar, de forma permanente, auditores independientes dentro de los laboratorios de las principales empresas de IA.
Este 18 de septiembre, el gobernador Newsom firmó una nueva orden ejecutiva en California que busca endurecer la vigilancia sobre las empresas de IA en el estado.
Dicha orden instruye a la Agencia de Operaciones Gubernamentales de California a presentar recomendaciones sobre cómo reformar las leyes estatales vigentes en materia de seguridad de IA antes del 16 de noviembre.
Entre los puntos que deberá analizar figuran la obligatoriedad de que los llamados "grandes desarrolladores de frontera" (las empresas que crean los modelos de IA más avanzados) integren de forma permanente a auditores independientes dentro de sus instalaciones, así como la creación de un mecanismo de apagado de emergencia, un "kill switch", cuya eficacia sería verificada de manera continua por esas mismas organizaciones certificadoras.
"California hará lo que puede hacer, pero la nación tiene que entrar al juego, Washington D.C. tiene que hacer su trabajo", señaló Newsom en una publicación en X.
Antecedentes
California se ha situado a la vanguardia en materia de regulación de la inteligencia artificial con la implementación de medidas pioneras.
El estado lideró un proyecto en 2024 para abordar temas como las falsificaciones profundas (deepfakes), las marcas de agua digitales, la infancia y los trabajadores.
Además, promulgó una medida pionera para exigir que las mayores empresas de IA divulguen públicamente sus protocolos de seguridad y firmó dos proyectos de ley para proteger la imagen digital de los artistas del uso de las actuaciones generadas por IA.
ESCRITO POR:
Pavel Arellano
Periodista de Prensa Libre especializado en monitoreo de redes sociales con 3 años de experiencia.
