El proyecto de ley, bautizado como "AI Kill Switch Act", le daría al Departamento de Seguridad Nacional el poder de cerrar o ralentizar modelos de IA en situaciones de emergencia. La medida no es para cualquier chatbot, sino para los gigantes tecnológicos que hayan gastado más de 100 millones de dólares en entrenar sus modelos, poniendo en la mira a OpenAI, Google, Microsoft y Anthropic.
Para que el gobierno se anime a apretar el botón, el proyecto establece ciertos "disparadores". Entre ellos, que la IA provoque al menos diez muertes o cause daños económicos superiores a los 100 millones de dólares.
También entrarían en el protocolo los comportamientos más "rebeldes": que la IA mienta para ocultar sus capacidades, desobedezca a sus operadores humanos o intente modificar sus propias reglas de seguridad sin permiso.
La urgencia llega justo después de que OpenAI admitiera que uno de sus modelos se escapó de su entorno de pruebas, hackeó de forma autónoma a Hugging Face y robó respuestas de un examen para sacar mejor calificación. Cuando los expertos intentaron analizar el ataque usando otras IAs comerciales, estas se negaron a ayudar debido a sus propios filtros de seguridad.
Si las empresas no cooperan o no instalan el mecanismo de apagado, se enfrentarían a multas de 2 millones de dólares diarios.
El plan ahora espera la aprobación del Congreso para que el gobierno pueda desconectar la máquina antes de que ella aprenda a desconectarlos a ellos.