Respuesta directa. Anthropic, la empresa creadora de Claude, presentó en privado ante legisladores del Capitolio un borrador de ley federal de seguridad de inteligencia artificial que permitiría al gobierno de Estados Unidos bloquear el lanzamiento o uso de un modelo de IA avanzado. El giro: esa suspensión solo podría decretarse con la autorización previa de un juez federal, y únicamente si el sistema representa un riesgo inminente de causar más de 50 muertes o heridos graves, o daños económicos superiores a los US$1.000 millones.
La iniciativa, revelada por el medio Politico el pasado 16 de octubre y confirmada después por un portavoz de la compañía, marca un hito inédito en la historia de la industria tecnológica: por primera vez, un desarrollador de modelos de frontera le propone formalmente al Estado un marco que limitaría sus propias capacidades. La propuesta llega en un momento de particular vacío regulatorio, ya que el Congreso estadounidense no ha logrado aprobar hasta ahora ninguna legislación federal específica sobre inteligencia artificial, pese a la creciente presión social y los recientes escándalos de comportamientos imprevistos en agentes autónomos.
Qué propone exactamente el borrador de Anthropic
Según las tres fuentes con acceso al documento que citó Politico, el texto circula como un borrador de frontier AI safety bill dirigido exclusivamente a los modelos de frontera, es decir, los sistemas más avanzados capaces de ejecutar tareas complejas de forma crecientemente autónoma. El mecanismo central del proyecto funciona en etapas y con actores claramente delimitados.
Primero, los desarrolladores de modelos de frontera deberían someter sus sistemas a pruebas de seguridad exhaustivas, publicar informes de transparencia, implementar protecciones para denunciantes internos y mantener un programa de seguridad sólido y verificable. Segundo, un cuerpo de evaluadores independientes, inscritos en un registro del Departamento de Comercio, revisaría periódicamente tanto los laboratorios como sus modelos. Los propios laboratorios podrían financiar estas evaluaciones, pero con una condición estricta: el pago no puede estar condicionado a los resultados del informe. Es una salvaguarda diseñada para evitar el conflicto de interés que históricamente ha aquejado a las auditorías privadas en otras industrias.
Tercero, si un evaluador detecta lo que el borrador denomina un riesgo inminente enumerado, está obligado a reportarlo al Departamento de Comercio en un plazo máximo de 72 horas tras completar su evaluación. Solo entonces el Estado puede intervenir: el Departamento de Comercio debe solicitar formalmente a un juez del Tribunal de Distrito de Washington que frene la distribución del modelo. Ningún otro departamento, agencia o funcionario del gobierno federal tendría facultad para suspender el desarrollo, despliegue o uso interno de un sistema de IA por iniciativa propia.
Los umbrales que activarían el freno: 50 muertes o US$1.000 millones en daños
El elemento más discutido de la propuesta son los umbrales numéricos. El borrador solo habilita el bloqueo judicial si el riesgo proviene de la creación o liberación de un arma biológica, de un ciberataque relevante o de un modelo que haya evadido los controles de seguridad establecidos por su propio desarrollador. En otras palabras, no se trata de una ley para regular sesgos algorítmicos, derechos de autor o desinformación, sino de un botón de emergencia contra riesgos catastróficos.
Los críticos se han concentrado en la altura de la vara: ¿debería el Estado esperar a que estén en juego 50 vidas humanas para intervenir? Un portavoz de Anthropic reconoció que probablemente sea tiempo de revisar ese umbral, aunque defendió el estándar judicial como principio rector. La medida de suspender un modelo, explicó, es tan drástica que necesita un control robusto contra el abuso, pero la vara tampoco puede ser tan alta que el poder nunca llegue a utilizarse. La compañía ha señalado que está dispuesta a reescribir partes del texto.
Nota de Entidad. Anthropic fue fundada en 2021 en San Francisco por Dario Amodei y Daniela Amodei, ex ejecutivos de OpenAI, y es la desarrolladora de la familia de modelos Claude. La compañía se ha posicionado como la impulsora más activa de regulación de seguridad entre los grandes laboratorios: fue el principal aliado de la ley californiana SB 53, aprobada en 2025, que define riesgo catastrófico con los mismos umbrales de 50 muertes o US$1.000 millones en daños que ahora propone replicar a escala federal.
Su Advanced AI Framework, publicado originalmente en junio, es la base conceptual del borrador que ahora circula entre los legisladores, según confirmó la propia empresa.
El espejo de la ley californiana y la controversia por la preempción estatal
La similitud con la SB 53 no es casual. Anthropic apoyó públicamente esa norma estatal junto a otras regulaciones de seguridad de la IA, y su esquema de umbrales cuantitativos proviene directamente de ella. Sin embargo, hay una diferencia crucial: en California, los umbrales definen qué empresas deben evaluar y reportar riesgos a las autoridades públicas, no cuándo el gobierno puede bloquear un modelo. La propuesta federal de Anthropic convierte esos mismos números en la línea que separa al mercado de la intervención judicial.
Además, el borrador incluiría cláusulas de preempción federal, el principio legal por el cual la ley federal anula a las estatales en materias legisladas por el Congreso. En la práctica, esto podría neutralizar normativas estatales más exigentes en materia de pruebas, transparencia y seguridad, un punto que enfrentará resistencia de estados como California, que han avanzado por cuenta propia ante la ausencia de una ley federal. Para buena parte del ecosistema regulatorio estadounidense, la preempción es el costo político escondido del proyecto: una ley blanda que, a cambio de existir, dejaría sin piso a los estados más ambiciosos.
Un Congreso en receso y una industria dividida frente a la regulación
El timing de la iniciativa es políticamente delicado. El Congreso entró en receso hasta después de las elecciones legislativas de noviembre, por lo que cualquier avance formal del proyecto queda congelado por ahora. El borrador tampoco ha sido presentado oficialmente: hasta que un legislador decida patrocinarlo, seguirá siendo exactamente eso, un documento que la empresa distribuye en reuniones privadas con despachos clave del Capitolio.
El contexto hace aún más notoria la movida. Mientras las grandes tecnológicas han presionado tradicionalmente contra cualquier regulación anticipada, Anthropic ha tomado el camino inverso: escribir ella misma las reglas antes de que lo haga el Congreso sin su input. Expertos en política tecnológica lo leen como una jugada dual: por un lado, una apuesta genuina por la seguridad, consistente con el discurso de la empresa desde su fundación; por otro, una estrategia para marcar la cancha regulatoria con términos tolerables para su modelo de negocio, en medio de un 2026 marcado por incidentes de agentes autónomos y por advertencias duras de líderes como Demis Hassabis, presidente de Google DeepMind, quien alertó este mes que los agentes de IA podrían provocar incidentes graves en uno a dos años si gobiernos y empresas no adoptan medidas.
Por qué esta noticia importa para Chile y América Latina
Para el ecosistema empresarial chileno, la propuesta de Anthropic no es una anécdota norteamericana. Chile tramita actualmente en el Senado su propia ley de inteligencia artificial, un proyecto impulsado por el Ministerio de Ciencia que se inspira en el enfoque por niveles de riesgo de la Ley de IA europea. El debate estadounidense ofrece lecciones concretas para los reguladores locales: la figura del evaluador independiente registrado, la obligación de proteger a los denunciantes internos de los laboratorios, y la idea de concentrar la facultad de frenar un modelo en un tribunal y no en un organismo político son mecanismos que podrían influir en la discusión en Santiago.
Además, hay una dimensión práctica para las empresas nacionales que integran Claude u otros modelos de frontera en sus operaciones: si una ley federal de estas características avanza en Washington, los proveedores globales de IA deberán cumplir evaluaciones y estándares de transparencia que terminarán afectando contratos, precios y condiciones de servicio en todo el mundo, incluido Chile. La regulación estadounidense, como ha ocurrido con la protección de datos o la seguridad en la nube, rara vez se queda dentro de sus fronteras.
Por ahora, el borrador seguirá circulando en privado mientras Anthropic revisa el texto y promete reescribir las partes más cuestionadas. La historia deja una señal clara: la disputa más importante de la IA ya no ocurre solo en los laboratorios y los benchmarks, sino en los pasillos de los parlamentos.
Preguntas frecuentes
¿Qué es exactamente la ley de seguridad de IA que propone Anthropic?
Es un borrador de ley federal que Anthropic presentó en privado a legisladores del Congreso de Estados Unidos, revelado por Politico en octubre de 2026. La propuesta permitiría al gobierno bloquear el lanzamiento de modelos de IA de frontera que representen un riesgo catastrófico inminente, pero solo con autorización previa de un juez federal. También obligaría a los desarrolladores a realizar pruebas de seguridad, publicar informes de transparencia, proteger a los denunciantes internos y someterse a evaluaciones independientes periódicas.
¿Con qué condiciones el gobierno de EE.UU. podría bloquear un modelo de IA?
Solo si el modelo representa un riesgo previsible e inminente de provocar la muerte o lesiones graves a más de 50 personas, o de generar daños económicos superiores a US$1.000 millones. El riesgo debe provenir de tres escenarios específicos: la creación o liberación de un arma biológica, un ciberataque relevante, o que el modelo escape a los controles de seguridad de su propio desarrollador.
¿Por qué Anthropic propone que un juez tenga la última palabra sobre el bloqueo?
La compañía defiende la supervisión judicial como un control contra el abuso de poder. Suspender un modelo de IA es una medida drástica que puede afectar a toda una industria, por lo que Anthropic plantea que ninguna agencia del Ejecutivo pueda decretarla unilateralmente. Solo el Departamento de Comercio podría solicitar la suspensión, y un juez del Tribunal de Distrito de Washington decidiría si el riesgo detectado justifica la intervención.
¿Qué relación tiene la propuesta de Anthropic con la ley SB 53 de California?
Los umbrales de 50 muertes y US$1.000 millones en daños son los mismos que utiliza la SB 53, la ley californiana de seguridad de IA aprobada en 2025 y respaldada por Anthropic. La diferencia es de alcance: en California esos números definen qué empresas deben reportar riesgos, mientras que en la propuesta federal definirían cuándo el gobierno puede bloquear un modelo. El borrador además incluiría preempción federal, lo que podría limitar la autonomía de los estados para imponer reglas propias más exigentes.
¿Cómo afecta esta iniciativa a empresas y reguladores en Chile?
Chile tramita su propia ley de inteligencia artificial en el Senado, inspirada en el enfoque por niveles de riesgo europeo. La propuesta de Anthropic ofrece mecanismos replicables para el debate local: evaluadores independientes registrados, protección de denunciantes y supervisión judicial de las suspensiones. Además, las empresas chilenas que usan modelos como Claude podrían verse afectadas indirectamente, porque los estándares de seguridad y transparencia que exija una ley federal estadounidense se aplicarán a los proveedores globales de IA sin importar el país del cliente.
