El desarrollo de sistemas de inteligencia artificial agéntica —capaces de planificar, usar herramientas y actuar de forma autónoma en entornos complejos— avanza más rápido que la comprensión teórica de cómo estos sistemas interactúan con su entorno y con otros agentes. Un comentario publicado en Nature sostiene que hace falta una disciplina específica dedicada a estudiar esas interacciones, en lugar de seguir extrapolando métricas diseñadas para modelos de lenguaje aislados.

El argumento central es que el comportamiento de un agente no puede entenderse solo a partir de sus capacidades internas: depende críticamente de cómo negocia, coopera o compite con otros agentes, humanos y sistemas. Sin un marco formal para describir esas dinámicas, resulta difícil predecir fallos, diseñar evaluaciones fiables o establecer garantías de seguridad cuando varios agentes operan simultáneamente en un mismo entorno.

Los autores proponen que esta «ciencia de la interacción» combine herramientas de teoría de juegos, aprendizaje por refuerzo multiagente, teoría de sistemas complejos y ciencias cognitivas. El objetivo sería desarrollar modelos que describan cómo emergen patrones de cooperación, conflicto y coordinación, y cómo pequeños cambios en la configuración de un sistema pueden desencadenar comportamientos no previstos por sus diseñadores.

La propuesta tiene implicaciones prácticas inmediatas. A medida que los agentes de IA se integran en infraestructuras críticas, mercados financieros, investigación científica y dispositivos cotidianos, la capacidad de anticipar y controlar sus interacciones se convierte en un requisito de seguridad, no en un lujo académico. Los autores abogan por que la comunidad investigadora priorice este enfoque antes de que la escala de despliegue supere la capacidad de supervisión humana.