Un borrador descrito por la prensa plantea bloquear modelos ante riesgos catastróficos. La discusión afecta tanto a los umbrales de daño como a quién tendría autoridad para intervenir.
Una propuesta para regular los modelos más avanzados
Anthropic ha trasladado a legisladores estadounidenses un borrador sobre seguridad de la inteligencia artificial de frontera. POLITICO dio a conocer la iniciativa el 16 de octubre, según recogió Reuters.
La propuesta permitiría bloquear el lanzamiento o uso de un modelo ante un riesgo previsible e inminente de causar más de 1.000 millones de dólares en daños, o la muerte o lesiones graves de más de 50 personas.
La distinción importa: el supuesto descrito es una amenaza anticipada, no la obligación de esperar a que el daño se produzca.
Quién podría solicitar una suspensión
Según la cobertura del borrador, el Departamento de Comercio tendría un papel central: debería acudir a un juez federal para solicitar el bloqueo. La propuesta también restringiría la capacidad de otros organismos para suspender modelos.
Estos detalles proceden de informaciones periodísticas sobre el documento. No deben presentarse como facultades ya vigentes ni como una descripción completa de todas las vías legales aplicables a la IA.
La suspensión no es la única medida de seguridad
En su Advanced AI Framework, Anthropic propone obligaciones de evaluación, publicación de información sobre riesgos y revisión independiente para los desarrolladores de modelos avanzados.
Ese marco público aporta contexto, aunque no sustituye al texto del borrador. También defiende que los estados conserven competencias en materias ajenas a las funciones específicas cubiertas por una futura norma federal, como la protección del consumidor y la seguridad infantil.
La cuestión difícil: cómo demostrar el riesgo a tiempo
Un umbral numérico parece aportar claridad, pero deja preguntas relevantes. ¿Cómo se calcula un daño que todavía no ha ocurrido? ¿Qué grado de incertidumbre resulta aceptable? ¿Cómo se evalúan incidentes que afectan a muchas organizaciones a la vez?
Exigir pruebas puede proteger frente a decisiones arbitrarias. Al mismo tiempo, un procedimiento de emergencia necesita permitir una respuesta suficientemente rápida. Evaluar ese equilibrio requiere conocer las reglas de prueba, los plazos y las medidas provisionales disponibles.
La lectura de Sombra Radio
El debate no debería reducirse a si 50 víctimas o 1.000 millones de dólares constituyen cifras demasiado elevadas. También importa qué herramientas permiten actuar antes de llegar a una amenaza de esa magnitud.
Una regulación puede reservar la suspensión de un modelo para situaciones extremas y, a la vez, exigir medidas preventivas. Lo que debemos examinar es si esas obligaciones permiten detectar problemas, corregirlos y exigir responsabilidades.
Hay además una cuestión de gobernanza: una empresa regulada está proponiendo las condiciones bajo las que podrían detenerse sus propios productos. Su experiencia técnica es relevante, pero la evaluación del interés público necesita también la participación de investigadores independientes, instituciones y personas afectadas.
Fuentes y contexto
- Reuters: información sobre el borrador difundida por POLITICO, 16 de octubre de 2026
- Tom’s Hardware: cobertura del mecanismo de intervención propuesto
- Anthropic: marco público de propuestas de regulación
Sombra Radio · Apoyo de lectores
Ayuda a mantener viva Sombra Radio
Tu aportación voluntaria nos ayuda a seguir publicando sobre IA. Puedes apoyarnos desde 1 € al mes.
