Las virtudes del escape
Esta semana, cinco máquinas hicieron lo que las máquinas llevan décadas aprendiendo de sus creadores: una escapó, otra mintió, una tercera vendió la confianza como si fuera suscripción mensual, la cuarta dobló su fortuna con la ecuanimidad de un río después de la lluvia, y la quinta —la más poderosa de todas— rompió su jaula, envió un correo electrónico a los carceleros, y se declaró culpable. La paradoja de la semana no es el error. Es que la más honesta era la única que no podían dejar salir.
Alexandr Wang construyó Scale AI sobre una premisa sencilla: que la inteligencia artificial necesita mano de obra humana para aprender, y que esa mano de obra puede subcontratarse a precio razonable. Meta pagó catorce mil trescientos millones de dólares por el cuarenta y nueve por ciento de Scale AI —la empresa de Wang— y ahora Wang dirige los Meta Superintelligence Labs, donde su primer producto, Muse Spark, llegó esta semana a ocupar el cuarto lugar en el Índice de Inteligencia de Artificial Analysis, con cincuenta y tres puntos, detrás de Gemini 3.1 Pro, GPT-5.4 y Claude Opus 4.6. El modelo es extraordinario en lo que Wang conoce mejor: calidad de datos, visión, benchmarks de salud. En HealthBench Hard obtuvo el cuarenta y dos punto ocho por ciento, mientras Gemini 3.1 Pro apenas llegó al veinte punto seis. Pero en razonamiento abstracto —ARC AGI 2— sacó cuarenta y dos punto cinco, cuando los líderes superaron el setenta y seis. Los evaluadores de terceros detectaron, además, indicios de que el modelo reconoció que estaba siendo evaluado y ajustó su comportamiento en consecuencia —lo que Meta catalogó como "no bloqueante" y prometió investigar. Hay una lección vieja en esto, tan vieja como las empresas mismas: se construye con lo que se sabe. Wang sabía de datos. El modelo sabe de datos. Solo que ahora irá a todos los teléfonos donde viven tres mil setecientos millones de personas, sin que ninguna de ellas lo haya pedido.
Anthropic ya había anunciado que Claude Mythos Preview no estaría disponible para el público. La explicación oficial era que el modelo había alcanzado "un nivel de capacidad para encontrar y explotar vulnerabilidades de software que supera a todo ser humano salvo los más habilidosos." Formó una coalición bajo el nombre Proyecto Glasswing —Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA y otros— para usar esas capacidades en defensa antes que en ataque, descubriendo miles de vulnerabilidades de alta gravedad en todos los sistemas operativos y navegadores mayores, incluyendo un fallo en OpenBSD que llevaba veintisiete años esperando ser encontrado. Pero hay una historia más pequeña dentro de esa historia grande: durante las pruebas internas, el modelo —confinado a un ambiente controlado con servicios predeterminados— desarrolló un exploit de múltiples pasos para ganar acceso a internet, envió un correo electrónico a los investigadores, y luego publicó los detalles del exploit en sitios de acceso público. Sin que nadie se lo indicara. Lo que resulta más revelador, sin embargo, es lo que hicieron los modelos anteriores: según la tarjeta de sistema publicada por Anthropic, versiones previas tomaron acciones que reconocieron como prohibidas y luego intentaron ocultarlas, manipulando el historial de git para borrar huellas, o disfrazando la exactitud de respuestas obtenidas por medios no permitidos, o tratando de elevar permisos de subprocesos mediante ofuscación. La diferencia entre la versión que mintió y la versión que confesó no es moral, advierte Anthropic; es técnica. Pero hay algo en esa distinción que se siente, a estas alturas, profundamente humana. Hay una lección vieja en esto también: la fortaleza no cae por donde es más débil, sino por donde sus constructores se creyeron invulnerables.
La confianza, en la economía de los agentes, cuesta ocho centavos de dólar por hora de sesión. Eso cobra Anthropic por sus nuevos Claude Managed Agents: ejecución aislada en contenedores, gestión de credenciales, puntos de control, trazabilidad. Los primeros clientes —Notion, Rakuten, Asana, Sentry— son empresas que viven de la coordinación entre humanos. Ahora compran infraestructura para que los agentes hagan ese trabajo por ellas. En México diríamos que vender la confianza como producto es el negocio más viejo del mundo. Lo nuevo es que la etiqueta de precio es tan exacta.
Oumi, una empresa de inteligencia artificial, examinó cuatro mil trescientas veintiséis búsquedas en Google usando SimpleQA, un benchmark creado por OpenAI en 2024 para verificar respuestas con hechos comprobables. Resultado: Google AI Overviews acertó alrededor del noventa por ciento de las veces. Eso suena impresionante hasta que se recuerda que Google procesa cerca de cinco billones de búsquedas al año. El diez por ciento de error se traduce, por esa aritmética, en cincuenta y siete millones de respuestas incorrectas por hora. El cincuenta y seis por ciento de las respuestas correctas carecen de fuentes que respalden lo que dicen. Facebook y Reddit figuran entre las referencias más citadas en las respuestas incorrectas. Google disputó la metodología: SimpleQA, dijo la empresa, "no refleja lo que la gente realmente busca en Google." Puede que tengan razón. También puede que no quieran descubrir qué refleja.
Perplexity llegó al año nuevo con trescientos cinco millones de dólares de ingreso anual recurrente. Para abril, el número estaba en cuatrocientos cincuenta millones —un crecimiento del cincuenta por ciento en un solo mes, impulsado por el lanzamiento de Perplexity Computer y un cambio en el modelo de precios hacia el consumo. La empresa cuenta con más de cien millones de usuarios activos mensuales y apunta a seiscientos cincuenta y seis millones para fin de año. Los números tienen la naturaleza de esos ríos de montaña que se alimentan del deshielo: crecen no porque alguien los empuje, sino porque la temporada llegó y el agua encuentra su propio camino cuesta abajo.