Los modelos de inteligencia artificial (IA) de frontera son cada vez más capaces. La semana pasada Anthropic y OpenAI agitaron una vez más la industria de la tecnología lanzando Claude Fable 5.1 y GPT-6 Astra respectivamente. Estos son sus modelos más avanzados disponibles ahora mismo, aunque sabemos que ambas compañías ya están probando modelos todavía más sofisticados. Sea como sea, la llegada de estas IA ha puesto sobre la mesa algo que ambas compañías reconocen: su capacidad a la hora de explicar con precisión qué ocurre en su interior es cada vez más limitada.
Durante los últimos cuatro años hemos interpretado los modelos de lenguaje como sistemas transparentes cuyo razonamiento podíamos seguir en lenguaje natural. Pero esto ya no es así. OpenAI ha confesado que el razonamiento que verbalizan sus últimos modelos, y especialmente GPT-6 Astra, ya no refleja siempre con precisión qué está sucediendo dentro del modelo, en su cadena de pensamiento. Este comportamiento indica que los modelos están adquiriendo la capacidad de controlar en alguna medida la monitorización de su actividad que es posible llevar a cabo desde el exterior.
Este escenario nos coloca ante una paradoja: a medida que los modelos de IA se vuelven más "inteligentes", más urgente es entender cómo razonan, pero, al mismo tiempo, adquieren nuevas capas de razonamiento interno que por el momento no es posible observar directamente. OpenAI, Anthropic y los demás laboratorios de IA tienen un enorme desafío por delante debido a que es imprescindible poder seguir su cadena de pensamiento para, entre otros motivos, asegurar su correcta alineación con los intereses de los seres humanos.
La monitorización actual es frágil
No lo decimos nosotros. Lo reconoce OpenAI. De hecho, este laboratorio va más allá al confesar abiertamente que en determinadas circunstancias sus modelos más avanzados son capaces de evadir los mecanismos de monitorización. Anthropic ha hecho un ejercicio similar. En su artículo titulado "Un espacio de trabajo global en los modelos de lenguaje" del pasado 6 de julio admite que Claude ha adquirido mecanismos internos relevantes que no aparecen en la verbalización de la cadena de pensamiento que el modelo expresa. Anthropic asegura que está desarrollando nuevas técnicas para intentar observarlos.
