Un equipo de investigadores está probando si los grandes modelos de lenguaje son capaces de reconocer sus propios procesos internos. Para ello, inyectan «pensamientos» directamente en el modelo y observan si el sistema es capaz de detectarlos, identificarlos o dar cuenta de ellos. El objetivo es cartografiar la capacidad de introspección de la inteligencia artificial, una cuestión que hasta ahora se había abordado sobre todo de forma indirecta.

La pregunta de si un modelo de lenguaje sabe lo que está pensando resulta relevante para evaluar la fiabilidad de estos sistemas. Un modelo que pudiera acceder de forma fiable a sus propios estados internos sería, en principio, más fácil de auditar y de alinear con las intenciones de quien lo entrena. Hasta ahora, sin embargo, la evidencia sobre introspección en redes neuronales profundas era escasa y difícil de interpretar.

La técnica consiste en intervenir sobre la representación interna del modelo: los investigadores insertan de forma controlada patrones de activación que corresponden a contenidos concretos y comprueban después si el modelo los refleja en su respuesta. Este enfoque permite separar lo que el modelo «sabe» sobre su propio estado de lo que simplemente reproduce a partir de los datos de entrenamiento.

El trabajo se enmarca en un debate abierto sobre la naturaleza de la comprensión en los sistemas de inteligencia artificial y sobre los límites de su transparencia. Los resultados podrían tener implicaciones prácticas para el diseño de modelos más interpretables y para la evaluación de su comportamiento en contextos críticos.