El representante demócrata por Silicon Valley Ro Khanna compartió el 28 de septiembre de 2026 con CNBC un resumen de su proyecto Human Control Over AI Act. En entrevista, afirmó que existe «un riesgo de extinción civilizacional», un riesgo de pérdida de control y un riesgo de mal uso, y que ambos deben tomarse en serio.
El núcleo del texto, según CNBC, The Next Web y Quartz, es una prohibición temporal-condicional: vedar modelos que se auto-mejoran de forma recursiva o que modifican autónomamente sus objetivos centrales, controles de contención o de apagado, hasta que existan barandillas federales y una agencia designada apruebe esas actividades.
La ley crearía una nueva agencia federal centrada en modelos de OpenAI, Anthropic, Google DeepMind y xAI. Sus tareas: redactar normas de seguridad, un sistema de licencias para entrenar y desplegar modelos, auditorías de sistemas frontier y estándares de pruebas continuas y control humano efectivo.
Habrá auditores independientes in situ en cada laboratorio frontier, reportando directamente a la agencia. También estándares de sandboxes, air gaps (aislamiento de internet), kill switches y controles para impedir que los modelos «escapen» del laboratorio. La agencia regularía chips avanzados usados por esos labs, con mecanismos de monitoreo o restricción.
El capítulo penal es duro: tipifica «crímenes contra la humanidad» si el despliegue de un modelo destruye poblaciones civiles; impone penas a empleados que desactiven salvaguardas, kill switches, registros o contención, o que desplieguen a sabiendas un sistema no autorizado; y exige seguros de responsabilidad amplios antes de lanzar modelos.
Khanna dice que el proyecto es «la legislación de seguridad de IA más completa» propuesta y que se modeló con organizaciones de seguridad —METR, MIRI, Palisade Research— más que con pedidos de CEOs. Quiere «dar voz a la comunidad de seguridad de IA», a la que ve «injustamente descartada como ciencia ficción».
El proyecto se suma al FRONTIER Act bipartidista de Jay Obernolte (R-Calif.) y Lori Trahan (D-Mass.), que también pondría auditores en labs y permitiría al Gobierno apagar modelos con potencial catastrófico. CNBC indica que no se esperan votos en la Cámara hasta después de las midterms; el Senado podría ausentarse hasta después de las elecciones.
El contraste con el pacto de la Casa Blanca del 29 de septiembre es nítido: Khanna quiere licencias, delitos y chips bajo supervisión; Trump ofrece auditorías elegidas por las empresas sin sanciones. Ambos hablan de «control humano», pero solo uno crea una agencia con poder de negar el entrenamiento.
Para labs, el coste de cumplimiento sería estructural: diseño de kill switches auditables, retención de logs, seguros millonarios y aceptacion de auditores residentes. Para startups fuera del club frontier, el riesgo es que la definición de «modelo frontier» se ensanche y capture sistemas más pequeños.
La mención a China —acuerdos exigibles y controles de exportación— alinea el proyecto con la narrativa de carrera, pero subordinada a la seguridad: no se trata solo de ganar, sino de no desplegar RSI sin permiso federal.
Observadores dudan de la viabilidad política en 2026. Aun así, el texto fija un polo en el espectro legislativo: junto al Ban Artificial Superintelligence Act de Sanders/Casar (pausa y prohibición de ASI con penas de hasta 20 años, según NBC), marca hasta dónde está dispuesta a llegar una parte del Partido Demócrata.
Neural Pulse concluye que el Human Control Over AI Act, aunque improbable antes de noviembre, ya mueve el centro de gravedad del debate: de códigos voluntarios a la pregunta de si la auto-mejora recursiva debe ser legal sin licencia. Labs y consejos deberían mapear ya qué pipelines rozan modificación autónoma de objetivos o de contención.
