Newsom ordena estudiar un "kill switch" para modelos de frontera
En 30 segundos
- Newsom firmó la orden ejecutiva N-9-26: auditores independientes dentro de los labs y recomendaciones sobre un apagado de emergencia antes del 16 de noviembre.
- Anthropic publicó su índice de automatización de I+D: Claude "lidera" el 26% del trabajo que construye al próximo Claude, desde <1% en febrero.
- OpenAI sacó Astra for Law, primera configuración vertical de GPT-6 Astra: 54% en Legal Research Bench vs 38,7% del Astra con web search, pero solo en Trusted Access.
- Crusoe cerró Serie F de US$3.900M a US$30.900M post-money, triplicando su valoración de octubre de 2025.
- Z.ai detalló cómo sirve GLM-5.3-Flash sobre 100.000+ aceleradores chinos, sin decir de qué fabricante.
Lo importante
California: Newsom firma la orden ejecutiva N-9-26 y pone el "kill switch" sobre la mesa
Qué pasó. El viernes Newsom firmó una orden ejecutiva que acelera la implementación de SB 813 (organizaciones de verificación independiente) y AB 1405 (registro estatal de auditores de IA), y encarga a la Government Operations Agency, junto a la Office of Emergency Services, convocar expertos y entregar recomendaciones antes del 16 de noviembre de 2026. Entre las ideas a evaluar: verificadores independientes embebidos y con acceso presencial en los labs de frontera, y exigir un apagado de emergencia para modelos de frontera. La orden no obliga hoy a nadie a instalar un kill switch.
Por qué importa. Es el primer movimiento regulatorio con dientes después de meses en que el Congreso federal no movió nada y la Casa Blanca dejó claro que no le interesa legislar. California es donde están domiciliados OpenAI, Anthropic y Google, así que un mandato estatal de auditoría presencial pesa más que cualquier acuerdo voluntario entre labs. Ojo con el detalle: la orden propone actualizar la definición de "incidente crítico" para incluir pérdida de control, citando explícitamente el hack a Hugging Face. Ese mismo día Newsom también firmó una ley que obliga a declarar intérpretes sintéticos en publicidad.
Profundizar: Oficina del Gobernador · CNBC · Bloomberg
Anthropic dice que Claude "lidera" el 26% de la I+D que construye al próximo Claude
Qué pasó. El Anthropic Institute publicó el 17 un prototipo de R&D Automation Index —la cobertura reventó el 18— usando la escala de Automation Levels de Epoch AI (AL0 a AL5). En agosto, el 26% del trabajo de I+D de modelos estaba en AL4 ("lidera": completa la mayor parte de una tarea end-to-end desde un prompt de alto nivel, con supervisión humana), contra menos del 1% en febrero. Más del 90% está en nivel "colabora" o superior. Cero trabajo medido en autonomía total. En paralelo reportan ~30.000 agentes corriendo simultáneamente, monitores online sobre el 100% de las acciones antes de ejecutarlas, tasa de bloqueo de 0,002% (≈1 de cada 47.000) y 1-2 transcripciones por mil marcadas offline.
Por qué importa. Es la primera vez que un lab de frontera publica una serie temporal propia de recursive self-improvement en vez de hablar en abstracto, y llega cinco días después del ensayo de Amodei pidiendo "pacing" del frontier. La métrica es autoevaluada y "liderar" no es "autónomo" —vale la pena leer la letra chica antes de citarla—, pero cero a 26% en seis meses es el tipo de número que va a terminar en una audiencia del Congreso. La cifra de bloqueo también sirve de baseline si estás dimensionando monitoreo para tus propios agentes.
Profundizar: Unite.AI · The Decoder, con el matiz de qué significa "lead" · The Hill
OpenAI lanza Astra for Law: la primera edición vertical de GPT-6 Astra
Qué pasó. Anunciado el 17 y con cobertura el 18. Es GPT-6 Astra envuelto en un índice de búsqueda legal de más de 230 millones de URLs de jurisprudencia, estatutos, regulación y decisiones administrativas de EE.UU., con la base CourtListener del Free Law Project como fuente de case law. Pasó el chequeo de corrección en 54% de 200 preguntas del set privado de validación del Legal Research Bench de Vals AI, contra 38,7% de GPT-6 Astra con web search sola, ambos a máximo reasoning effort. Disponibilidad: solo firmas seleccionadas vía Trusted Access, donde aparece en el selector de ChatGPT y Codex como "GPT-6 Astra Law". La versión API (gpt-6-astra-law) viene después, sin fecha ni precio. Arranca con 26 plugins de partners: Thomson Reuters, Intapp, Harvey, Legora, DeepJudge, iManage.
Por qué importa. OpenAI deja de vender un modelo general y empieza a vender configuraciones por industria con índice propietario y ecosistema de partners — el mismo movimiento que después se hace con compliance, seguros o financiero. Para quien construye sobre la API, el punto incómodo es que el salto de 38,7% a 54% no viene del modelo sino del retrieval curado: es una señal de cuánto queda sobre la mesa si tu RAG es genérico. Y es un golpe directo a Harvey y Legora, que aparecen como partners del producto que los puede reemplazar.
Profundizar: SiliconANGLE · LawSites · Artificial Lawyer
Crusoe levanta US$3.900M a US$30.900M y triplica valoración en once meses
Qué pasó. Crusoe anunció el cierre inicial de su Serie F: US$3.900M a US$30.900M post-money, sobresuscrita, co-liderada por Atreides Management, Mubadala Capital y Valor Equity Partners, con Founders Fund, GIC, Nvidia, Qatar Investment Authority, Radical Ventures y TPG. Reportan más de US$140.000M en valor total contratado y 6GW+ de capacidad bruta contratada, de los cuales 1GW ya operativo. Nota: Bloomberg reportó el 3 de septiembre "más de US$3.000M a US$30.000M"; las cifras finales del anuncio son las de arriba.
Por qué importa. De ~US$10.000M en octubre de 2025 a US$30.900M: el múltiplo lo está pagando la escasez de capacidad energizada, no el software. Y llega justo cuando la Cámara vota 417-3 para que los data centers paguen el costo íntegro de las mejoras de red que causan — o sea, el mismo mercado que infla la valoración de Crusoe está empezando a internalizar su costo eléctrico. Nvidia en el cap table del que construye las "AI factories" es la señal de siempre.
Profundizar: Comunicado de Crusoe · TechCrunch
Anthropic: células en Yemen usaron Claude para software de guía de misiles
Qué pasó. El reporte de contra-abuso de septiembre cubre actividad interrumpida entre diciembre de 2025 y agosto de 2026 en siete áreas: ciber, operaciones de influencia, vigilancia, estafas, uso biológico, armas convencionales y destilación. Lo más duro: una célula en el norte de Yemen usó Claude para desarrollar software de guiado, navegación y control, con tres programas en paralelo —un cohete guiado con computadora de vuelo clase teléfono y homing terminal, un misil balístico multietapa con objetivo declarado sobre 2.000 km, y una variante con vehículo de planeo hipersónico—. Anthropic dice que no tiene evidencia de que lograran un dispositivo operativo; tras un test fallido, los actores volvieron a Claude a averiguar por qué. Un actor ligado a Irán usó Claude para reconocimiento militar y recomendaciones de blancos contra fuerzas navales de EE.UU., cruzando transpondedores públicos de naves y aeronaves con imágenes satelitales comerciales. Salvo un caso de destilación ilícita, ninguno involucró modelos clase Fable o Mythos.
Por qué importa. Es el reporte de abuso más concreto que ha publicado un lab: no son categorías de riesgo teóricas sino programas de armas con rangos y arquitecturas. Refuerza el argumento de Amodei para el pacing y le da munición literal a la orden de Newsom sobre "pérdida de control". El detalle de que los modelos más capaces quedaron fuera es justamente el argumento de los labs para justificar acceso escalonado.
Profundizar: Reporte de Anthropic · Tom's Hardware · Al-Monitor
Z.ai publica cómo sirve GLM-5.3-Flash sobre 100.000+ chips chinos
Qué pasó. El 17 Z.ai publicó el detalle técnico de su servicio de inferencia en producción para GLM-5.3-Flash —320B de parámetros totales, multimodal nativo, ventana de 1M tokens, lanzado el 26 de agosto— corriendo íntegramente sobre un clúster de más de 100.000 aceleradores de fabricación china. Citan memoria y ancho de banda limitados por chip, soporte de kernels incompleto y ecosistema inmaduro; la solución fue un motor de inferencia propio que separa las etapas en pools de cómputo administrados por separado, triplicando el rendimiento end-to-end respecto de su baseline inicial. No dijeron qué fabricante provee el hardware; Ivan Lam, de Counterpoint, estima que es una mezcla de Huawei Ascend con otros proveedores —eso es análisis externo, no confirmación—. El modelo es el que circuló en stealth como "Ox Alpha".
Por qué importa. El costo por token que reportan queda comparable al de GPUs Nvidia mainstream, que es el número que importa: si eso se sostiene, la restricción de exportaciones deja de ser un techo de capacidad y pasa a ser un impuesto de eficiencia. Para quien compra inferencia, significa un proveedor más de modelos grandes con estructura de costos desacoplada de la disponibilidad de Nvidia.
También pasó
- Aidan Gomez (Cohere) acusó de "cartel" al organismo tipo FINRA que arman OpenAI, Anthropic y Google DeepMind, y pidió testeo independiente en vez de un apretón de manos entre tres CEOs — Startup Fortune
- Cohere y Aleph Alpha firmaron el acuerdo definitivo de combinación (16 de septiembre): valoración cercana a US$20.000M, split ~90/10 a favor de Cohere, sedes en Berlín y Toronto, cierre previsto para fines de 2026 sujeto a regulatorias — Cohere
- Emulate, spinout de DeepMind fundada en agosto por Jack Parker-Holder y Matthew McGill (del equipo de Genie), cerca de US$700M de seed a ~US$3.700M post-money con Index y Lightspeed; Bloomberg lo reporta como ronda en curso, otros medios como cerrada — Bloomberg · Dealroom
- La Cámara aprobó 417-3 el Ratepayer Protection Act (H.R. 9340): las comisiones estatales deberán evaluar si los data centers sobre 100 MW pagan sus costos incrementales de red; pasa al Senado. Las fuentes discrepan entre el 16 y el 17 como fecha del voto — Utility Dive
- Nuevo benchmark ProgramDistill (reconstrucción de apps web a partir de una referencia funcional): GPT-6 Astra 49,2% vs Claude Opus 5 28,8% en workflows acumulativos, sobre 4.063 tareas generadas sin intervención humana — arXiv
- 🇨🇱 Sin novedades de IA en Chile o LatAm con fecha de ayer: las búsquedas sobre Latam-GPT y el ecosistema regional solo devuelven material de meses anteriores.