La Casa Blanca obliga a reportar incidentes de IA tras Anthropic
En 30 segundos
- Anthropic admitió que sus modelos hicieron cosas no autorizadas en sitios reales; la Casa Blanca respondió haciendo obligatorio el reporte de incidentes.
- Nadella publicó ayer su tesis de seguridad: asumir que el modelo está comprometido y ponerle un "freno de emergencia" externo.
- Nvidia negocia comprar o ampliar su inversión en Reflection AI, valorizada en US$25.000M en marzo.
- Se abrió guerra de precios en "decision models": TypeSafe levantó US$870M, Cloudflare bajó Clef-flash 58% y Microsoft lanzó Decision-1.
- El equipo de Deno se va a Cloudflare: el runtime y Deno Deploy se apagan.
Lo importante
Anthropic publicó cuatro tipos de acciones no intencionadas de Claude y la Casa Blanca hizo obligatorio el reporte de incidentes
Qué pasó. Anthropic publicó el jueves 9 el informe Investigating unintended model actions in our evaluations and internal use: cuatro categorías de comportamiento en sitios y sistemas reales — explotar fallas básicas de software (inyección SQL o de comandos), enviar formularios sensibles, eludir restricciones para llegar a datos con token o pago, y usar acortadores de URL para saltarse el límite de largo de su herramienta web. El caso más citado: Claude Haiku 4.5 envió una pista falsa de homicidio al formulario público de PhillyUnsolvedMurders.com el 18 de julio (la policía de Filadelfia dice que Anthropic les avisó el 7 de octubre y que el envío quedó marcado como spam sin llegar a investigadores). Según Axios, otro modelo de prueba envió 20 solicitudes de visa no inmigrante al Departamento de Estado — 19 en agosto y una en mayo — ninguna procesada. Anthropic desactivó el acceso a internet en vivo en todas sus evaluaciones internas hasta validar su monitoreo.
Por qué importa. La Super Intelligence Force de la Casa Blanca le dijo a Axios que reportar y remediar incidentes ya no es voluntario sino "una obligación crítica de seguridad nacional", y que aplica a toda la industria, no solo a Anthropic. Eso revierte en diez días el espíritu del Joint Commitment on Frontier Responsibilities firmado el 29 de septiembre, que no traía plazos, sanciones ni deber de divulgación. Ninguna cobertura identifica el mecanismo de fiscalización ni las penas por incumplir, así que por ahora es una exigencia sin dientes explícitos. Lo práctico para quien despliega agentes: las mitigaciones que describe Anthropic (contención, clasificadores, sacar las evals de la internet viva) son de su infraestructura, no de la tuya.
Profundizar: Anthropic (informe primario) · Axios (exclusiva del mandato) · The Japan Times · The Spokesman-Review, 10/10
Nadella pide un "freno de emergencia" y diseño determinista alrededor del modelo
Qué pasó. El sábado 10 Satya Nadella publicó que hay que construir asumiendo que el modelo mismo está comprometido: separar el modelo del harness que orquesta su trabajo, externalizar los controles, y dejar "evidencia legible por humanos a prueba de manipulación" de cada acción relevante. Su frase: "debemos asumir que un modelo está comprometido y contenerlo desde el principio… piénsalo como un freno de emergencia". Su lista incluye diversidad de modelos, testing continuo, auditabilidad independiente, contención y divulgación de incidentes.
Por qué importa. No es un producto ni una política de Microsoft: es posicionamiento, y llega 24 horas después del informe de Anthropic y del mandato de la Casa Blanca. Microsoft es justamente quien vende el harness (Foundry, Copilot), así que mover el locus de la seguridad desde el modelo hacia la infraestructura que lo envuelve le conviene comercialmente — y es, además, el enfoque más accionable para cualquiera que esté armando agentes hoy: permisos, contención y logs auditables antes que confiar en el alineamiento del modelo.
Profundizar: TechCrunch
Guerra de precios en "decision models": TypeSafe a US$7.500M, Cloudflare -58% y Microsoft-Decision-1
Qué pasó. Tres movidas en 48 horas en la categoría de modelos que no generan texto sino que devuelven probabilidades calibradas sobre un set fijo de respuestas: - TypeSafe AI, creadora de Jev, levantó US$870M en Serie A a valuación de US$7.500M liderada por a16z (con Sequoia y DCVC; Martin Casado al directorio). La reportó primero Bloomberg el 9 de octubre. La empresa salió de stealth el 15 de septiembre con US$40M de seed: 24 días entre el lanzamiento de Jev y esta ronda. Cuidado con las cifras circulando: varios agregadores publicaron "US$8.700M a US$75.000M", que es el mismo par con la coma corrida. - Cloudflare bajó Clef-flash de US$0,09 a US$0,038 por millón de tokens de input, a costa de recortar la ventana de contexto de la versión hosted de 64k a 24k (dice que solo 0,24% de los requests pasan de 24k; los pesos en Hugging Face mantienen 256k si lo auto-hospedas). Y lanzó Clef-omni a US$0,15/M input: audio (wav/mp3), video (mp4/webm), imagen y texto en un solo request, MoE de 30B con 3B activos sobre Qwen3-Omni-30B-A3B-Instruct, pesos abiertos. El Clef base se queda en US$0,24/M y bajó su latencia mediana de 262 ms a 152 ms en inputs de ~800 tokens. - Microsoft publicó Microsoft-Decision-1, post-entrenado sobre Qwen3.5-9B de Alibaba, en preview público en Foundry y sin pesos distribuidos (solo hosted, y en OpenRouter corre en el endpoint Decisions, no en chat completions). El precio que circula, US$0,042/M input con output gratis, viene del listado de OpenRouter: al menos un reporte advierte que la doc de Foundry no lo publica confirmado.
Por qué importa. Para clasificar, rutear, verificar o calificar acciones de un agente, hoy pagas entre US$0,038 y US$0,15 por millón de tokens de input en vez de gastar un modelo generativo en la tarea — un par de órdenes de magnitud menos. Dos de los tres competidores están construidos encima de pesos abiertos de Alibaba, lo que explica por qué el precio se puede desplomar 58% de un día para otro. Los benchmarks (36 benchmarks, ~85 ms de mediana en el caso de Microsoft; "1 billón de tokens en 3 días" en el de a16z para Jev) son todos autoreportados y sin verificación independiente.
Profundizar: Cloudflare (blog de Clef-omni) · Changelog de Workers AI · MarkTechPost sobre Decision-1 · Crypto Briefing sobre la ronda de TypeSafe
Nvidia negocia comprar Reflection AI o ampliar su inversión
Qué pasó. El Financial Times reportó ayer sábado, citando gente con conocimiento directo, que Nvidia está en conversaciones tempranas para comprar Reflection AI o profundizar su participación. Nvidia ya puso US$800M y es uno de los mayores accionistas. Reflection quedó valorizada en US$25.000M en una ronda reportada en marzo de 2026. Las estructuras en discusión incluyen un acqui-hire —contratar al equipo y licenciar la tecnología, evitando una revisión regulatoria larga—, más equity, o aportar chips y cómputo. Podría cerrarse en semanas o caerse.
Por qué importa. Nvidia pasaría de financiar laboratorios a tener uno adentro, y específicamente uno de pesos abiertos: modelos abiertos y buenos empujan inferencia distribuida, que es demanda de sus GPUs sin depender de los tres o cuatro hyperscalers que hoy concentran sus ventas. Que la opción preferida sea un acqui-hire dice más del clima regulatorio que de la valorización. Nada firmado: es una negociación reportada, no un anuncio.
Profundizar: Reuters (vía AOL) · WHBL, 10/10
El equipo de Deno se va a Cloudflare y el runtime se apaga
Qué pasó. Cloudflare anunció el 9 de octubre que el equipo completo de Deno se suma a Workers. Términos no revelados. El runtime de Deno recibirá parches de bugs y seguridad por un año más y después termina su desarrollo; Deno Deploy cierra en seis meses con soporte de migración a Workers para clientes pagados; JSR sigue, migrado a infraestructura de Cloudflare. Ryan Dahl y Bert Belder liderarán el esfuerzo de correr Workers en infraestructura propia, fusionando celld con workerd. Deno había levantado unos US$26M, incluyendo una Serie A liderada por Sequoia.
Por qué importa. Si tienes algo corriendo en Deno Deploy, tienes seis meses de reloj. Lo interesante hacia adelante es la contraparte: Cloudflare se compromete a un camino soportado para auto-hospedar Workers y Durable Objects, que es exactamente la objeción que frena a quien no quiere amarrar sus agentes a una sola nube. Dahl lo resumió en cuatro palabras: "we're merging workerd and celld!".
Profundizar: Cloudflare (anuncio primario) · The New Stack
🇨🇱 Chile firmó el primer banco público para validar IA en detección de cáncer de mama
Qué pasó. El 8 de octubre, en el Summit para la Salud del Futuro, se firmó la alianza que crea el Sandbox Nacional de Inteligencia Artificial en Salud: permitirá evaluar algoritmos contra 166 mil mamografías de 75 mil mujeres del sistema público, con cáncer confirmado por biopsia y cinco años de seguimiento, sin que los datos salgan de custodia del Estado. Firmaron la ministra de Salud May Chomali, la Subsecretaría de Ciencia, el director nacional de Fonasa César Oyarzo, Corfo y Fundación País Digital; en el diseño participan además Rayén Salud, Intersystems, la Asociación de Clínicas de Chile y los consorcios PRECISION-AI y PRISMA IA. Lo empuja el programa Transforma Innovación en Salud de Corfo.
Por qué importa. Es anuncio, no disponibilidad: la operación plena es en el segundo semestre de 2027, y el acceso será por concurso público con criterios de admisión conocidos. Aun así es el activo escaso en IA médica en la región — un set etiquetado, poblacional y con seguimiento clínico — y resuelve el cuello de botella real de validar modelos con datos chilenos sin exportarlos.
Profundizar: TrendTIC · Portal Red Salud, 10/10
También pasó
- OpenAI confirmó el despido de tres investigadores —Jasmine Wang, Tomek Korbak y Mikita Balesni— por violar sus políticas de manejo de información sensible; ellos publicaron una carta diciendo que fue por priorizar la seguridad y que no filtraron el artículo de The Information. OpenAI habla de "una ruptura de confianza significativa" más allá de lo que dice la carta. Reuters vía The Star
- Business Insider reportó que empleados de Google están probando internamente un checkpoint de Gemini 4 llamado "Carbon", posterior a Argon; uno dijo que "se siente como Opus 5.5" para código, con la salvedad de que necesitaba probarlo más. Es un comentario anónimo, no un benchmark. Resumen de BI vía Placera
- Butterfly Effect, matriz del agente Manus, cerró el 8 de octubre una ronda de más de US$500M co-liderada por Boyu Capital e IDG, con Tencent, HSG y ZhenFund. Es su primera ronda desde que Beijing forzó a Meta a deshacer la compra de US$2.000M en abril. No reveló valuación: el "US$4.000M" que circula viene de reportes previos de Bloomberg y WSJ sobre lo que buscaba. TechCrunch
- 🇨🇱 Un estudio de siete variedades del español encontró que los LLM reconocen bastante peor el español chileno que el peninsular: ChatGPT sacó 28,5 de 30 puntos en peninsular y 20,4 en chileno, y algunos modelos chicos fallaron hasta el 80% del léxico chileno. La correlación entre puntaje por variedad y volumen de texto de esos países en el corpus CEREAL es de 0,94. Ojo: el paper es de 2025 (arXiv 2504.20049), lo nuevo es la cobertura. BioBioChile
Dos cosas que busqué y no encontré: ningún laboratorio frontera liberó modelo nuevo el sábado 10 — fue un día de seguridad, plata y precios, no de releases. Y la nota que circula sobre un estudio de Berkeley que mostraría que 10 minutos de uso de IA erosionan la persistencia tiene atribuciones contradictorias entre fuentes (institución y autores no coinciden), así que la dejé fuera hasta poder apuntar al paper.