El mismo día en que OpenAI confirma la salida de su responsable de ética, un grupo de investigadores publica una técnica para extraer las cadenas de razonamiento ocultas de las APIs de LLMs propietarios. La paradoja no puede ser más elocuente: mientras las grandes corporaciones blindan sus modelos tras muros de secretismo, cada grieta en ese blindaje refuerza la idea de que el futuro no está en el código cerrado, sino en la transparencia que siempre ha caracterizado al software libre.
El movimiento no es casual. Durante meses hemos visto cómo la industria se divide entre quienes venden la inteligencia artificial como un producto exclusivo y quienes la conciben como una infraestructura compartida. Los últimos acontecimientos inclinan la balanza de un modo que ningún departamento de marketing podrá revertir.
La ética que se va y los secretos que se fugan
La renuncia de la cabeza de ética de OpenAI, apenas un año después de su incorporación, es más que un cambio de personal. Es un síntoma de una enfermedad estructural: cuando la ética se institucionaliza como un departamento más, pierde su fuerza crítica. No se trata de juzgar a personas concretas, sino de reconocer que el sistema de incentivos de una empresa que compite por dominar el mercado no puede albergar preguntas incómodas sin sufrir fracturas internas.
Mientras tanto, el equipo de Stolen Thoughts publica un método que permite extraer "trazas de razonamiento" —esas cadenas de pensamiento que los modelos propietarios guardan celosamente— mediante ataques de ingeniería inversa a las APIs. No es un truco de laboratorio: es una demostración de que el secretismo no es una barrera de seguridad, sino una estrategia comercial. Y como toda estrategia comercial, es atacable. La pregunta no es si los modelos propietarios pueden proteger sus procesos internos, sino si deberían hacerlo.
Compresión, predicción y el abismo de los números
En paralelo, el ensayo de ngrok sobre "compresión es predicción" ofrece una perspectiva teórica que resuena con una pregunta de fondo: ¿qué significa realmente que un modelo de lenguaje "razone"? Tim Gowers, matemático de Cambridge, se pregunta qué tipo de matemáticas saben hacer bien los LLMs. Sus observaciones apuntan a una verdad incómoda: estos sistemas son brillantes en reconocimiento de patrones estadísticos, pero flaquean ante problemas que exigen deducción causal o creatividad estructural.
No es pesimismo, es precisión. Si comprimir es predecir, entonces los LLMs son compresores excepcionales de información superficial. Pero la matemática profunda —esa que construye demostraciones elegantes y conexiones inesperadas— no se aprende por compresión, sino por comprensión. Y la comprensión no se puede extraer con un ataque a una API.
El open source contraataca con herramientas reales
En este escenario, proyectos como llama.cpp o la reimplementación open source de Mathematica (Woxi) adquieren un valor renovado. No porque sean perfectos, sino porque representan la antítesis del black box propietario: código auditable, ejecutable localmente, modificable. Mientras las APIs de las grandes empresas se convierten en cajas negras cada vez más herméticas, la comunidad open source ofrece alternativas que, sin el poder de cómputo de un gigante, avanzan con otra moneda: la confianza.
Y no es solo una cuestión de filosofía. La decisión de la FAA de contratar a dos mil videojugadores como controladores aéreos —lejos de ser una anécdota— demuestra que las habilidades humanas de procesamiento visual y toma de decisiones bajo presión siguen siendo un estándar contra el que ninguna IA actual puede competir de forma fiable. Quizás la lección es que, en algunos dominios, la inteligencia humana y la artificial no compiten: se complementan.
Un futuro con más preguntas que respuestas
El ecosistema de la IA se está moviendo en dos direcciones simultáneas: hacia la concentración y el secretismo por un lado, y hacia la descentralización y la apertura por el otro. La salida del jefe de ética de OpenAI y la fuga de trazas de razonamiento son dos caras de la misma moneda: el intento de controlar lo incontrolable.
¿Qué sentido tiene esconder el razonamiento de un modelo si ese razonamiento puede ser reconstruido mediante ingeniería inversa? ¿Qué valor tiene una ética corporativa que no se aplica al producto, sino a las relaciones públicas? Con cada respuesta, surgen nuevas interrogantes. Quizás la más importante: si el conocimiento realmente es poder, ¿queremos que ese poder esté en manos de unos pocos o en las de todos?