El patrón observable no es la razón subyacente
El punto más limpio sobre este déficit lo aportan Tarvirdians, Hung y Oertel con su estudio sobre agentes conversacionales de reflexión para la toma de decisiones [6]. Su hallazgo es que el mismo patrón observable de comportamiento del usuario puede reflejar razones muy distintas —priorización deliberada, acceso limitado a la propia experiencia, entre otras— y que las políticas de diálogo adaptativas que mapean comportamiento a acciones de seguimiento sin desambiguar la razón subyacente corren el riesgo de tomar acciones inapropiadas. En un estudio con 62 usuarios y 232 momentos colaborativos, al exponer la observación del agente y pedir al usuario que la interprete, derivaron una taxonomía de nueve categorías de interpretación que demuestran que estados reflexivos similares pueden requerir acciones de seguimiento sustancialmente diferentes [6].
Nueve categorías. No dos, no tres. La diversidad interpretativa que el diseño convencional de diálogo aplana es un orden de magnitud mayor de lo que los árboles de decisión típicos capturan.
Modelar el conocimiento del usuario cambia lo que el sistema puede hacer
CogChat [1] demuestra que anclar la conversación en un grafo de conocimiento heterogéneo personal —construido a partir de las entradas del propio diseñador— mejora la retención de contexto entre turnos, la interpretación personalizada de intención, la profundidad conversacional y reduce la carga cognitiva. Lo crítico no es el grafo en sí: la augmentación naïve con grafos de conocimiento introduce ruido que degrada la calidad de la respuesta. Es la selección estructural mediante HGT —es decir, elegir qué nodos del modelo del usuario son relevantes para este turno— lo que marca la diferencia frente a la interacción sin anclaje o con anclaje indiscriminado [1].
KnowSim [10] lleva esta lógica un paso más allá: no modela solo el conocimiento estático del usuario, sino su estado de conocimiento evolutivo, representado como un grafo de Unidades de Información con relaciones de prerrequisito que se actualizan según reglas fundamentadas en teoría del aprendizaje. Validado contra 705 sesiones humano-IA, sus rankings muestran acuerdo significativo con juicios humanos (73–74% de acuerdo de signo), superando a tres simuladores de referencia [10].
El hallazgo más provocador de KnowSim es que el mejor LLM varía según el nivel de conocimiento del usuario, revelando interacciones aptitud-tratamiento invisibles para la evaluación estándar [10]. Esto tiene una implicación de diseño inmediata: no existe un modelo óptimo universal, y cualquier interfaz que aspire a calibrar su entrega de información necesita un modelo explícito de lo que el usuario ya sabe y puede procesar.
El coste de no resolver la inferencia: colapso, desvinculación, esfuerzo sin retorno
Kim y Mei [9] ofrecen la anatomía más precisa del fracaso. Su concepto de colapso procedimental describe cómo las interfaces LLM para escritura sustituyen un proceso iterativo y autodirigido por un output único que desplaza la tarea del escritor desde la generación hacia la evaluación comprensiva del texto producido. Como esa evaluación es cognitivamente costosa, el compromiso superficial se convierte en el comportamiento por defecto y el trabajo cognitivo que la escritura debía producir queda sin realizar [9]. La explicación no es disposicional —no es que el usuario sea perezoso— sino estructural: la interfaz misma induce la desvinculación.
Explicación disposicional: el usuario depende excesivamente del LLM → el remedio es andamiaje de autorregulación [Fuente 9].
Explicación estructural: la interfaz colapsa el proceso en un output único → el remedio es reestructurar la interacción antes de que la autorregulación sea necesaria [9].
El estudio de interfaces híbridas de Dizon et al. [11] complementa esta imagen desde el lado del esfuerzo: la interacción asistida por IA redujo significativamente clics, navegaciones y desplazamientos, pero no se tradujo en tiempos de completación más rápidos. El beneficio principal fue reducir el esfuerzo de interacción, no la velocidad [11]. Y Yu et al. [3], comparando chat LLM con búsqueda web para aprendizaje sobre temas debatidos (N=194), no encontraron diferencias significativas en ganancia de aprendizaje ni en reflexión crítica entre las dos condiciones; las características del usuario —intensidad de actitud, humildad intelectual— pesaron más que la herramienta [3].
La interfaz conversacional no es mágica. Decir "ahora con IA" no mejora el resultado si la estructura de la interacción no resuelve el problema de inferencia.
Hacia interfaces que exponen su modelo y devuelven el control
Wang et al. [12] muestran con Graphionale (N=204) que representar razonamientos de LLMs como grafos de argumentos en vez de texto lineal mejora la calibración de confianza en tareas de razonamiento verbal, pero deteriora la calibración en tareas de razonamiento visual [12]. No hay formato de explicación universal. La modalidad de la tarea determina si la transparencia ayuda o perjudica, lo que refuerza la tesis de que la interfaz debe modelar el contexto del usuario, no aplicar una receta única.
Talebirad et al. [2] formalizan este principio como observación cooperativa: un bucle donde el comportamiento útil e inspeccionable da al usuario razón para mantener o expandir el canal de observación, y los fallos llevan a corregir, estrechar o revocar el acceso [2]. El diseño de IA personal no puede separarse de la confianza del usuario como condición de acceso a la observación. Y Liu et al. [8] llevan la lógica de observabilidad y dirigibilidad a flujos agénticos de larga duración con AdaLens, argumentando que las interfaces turno-a-turno no sirven para procesos con ramas paralelas y estructuras de decisión evolutivas [8]. La supervisión interactiva —mantener comprensión y control sobre un proceso en ejecución— requiere hacer visible el razonamiento del agente mientras ocurre, no solo antes o después.
La posición de IDO es esta: el UX avanzado con IA se juega en tres decisiones de diseño concretas. Primera, modelar explícitamente el estado del usuario —su conocimiento, sus intenciones, sus razones— en vez de operar sobre secuencias genéricas. Segunda, exponer las inferencias del sistema al usuario antes de actuar sobre ellas. Tercera, estructurar la interacción para que el trabajo cognitivo valioso no sea desplazado por el output del modelo. Las tres son decisiones de arquitectura de interacción, no de capacidad del modelo. Y las tres están respaldadas por evidencia experimental, no por intuición de diseño.
Fuentes consultadas
- Jiin Choi and Kyung Hoon Hyun. CogChat: Knowledge Graph-Augmented Conversational AI with Heterogeneous Graph Transformer for Cognitive Grounding in Design Generation. arXiv:2608.13216, 2026.
- Yashar Talebirad, Osman Jime, Ali Parsaee, Eden Redman, Yongbin Kim, and Osmar R. Zaiane. Toward Personal Intelligence Through Cooperative Observation. arXiv:2608.17128, 2026.
- Ran Yu, Alisa Rieger, Rabia Karatoprak Ersen, and Jiqun Liu. Search or Chat? Comparing How We Learn About Debated Topics. arXiv:2608.14113, 2026.
- Gilbert Drzyzga. Human and Artificial Intelligence - Promoting Trustworthy and Understandable Collaboration. arXiv:2608.14291, 2026.
- Xiaokai Yan, Jingtao Ding, Yong Li, and Zhiwen Yu. Act2Intention: A Benchmark For Developing Active Mobile Agents Through Inferring User Intention from GUI Actions. arXiv:2608.14132, 2026.
- Morita Tarvirdians, Hayley Hung, and Catharine Oertel. Why This and Not That? A Collaborative Reflection Approach for Understanding Thought Coverage in Decision Making Support Dialog. arXiv:2608.17054, 2026.
- Zihong He, Chen Liang, and Hai-Ning Liang. AppLooper: An Agentic Application Engineering Loop for Accountable Release with Virtual-User Feedback. arXiv:2608.14093, 2026.
- Yangtian Liu, Yan Miao, Shuhan Liu, Yunfan Zhou, Dae Hyun Kim, Di Weng, and Yingcai Wu. AdaLens: Interactive Storyline for Monitoring and Steering Long-Running Agentic Data Analysis. arXiv:2608.17834, 2026.
- JaeWon Kim and Katelyn X. Mei. Procedural Collapse: A Structural Account of Disengagement in LLM-Assisted Writing. arXiv:2608.17326, 2026.
- Yoonjoo Lee, Hyoungwook Jin, Tae Soo Kim, Shaoyang Zhang, Philippe Laban, and Q. Vera Liao. KnowSim: Evaluating Information Calibration in LLM Assistants with User Simulators that Learn. arXiv:2608.17150, 2026.
- Gavin Dizon, Tyrone Justin Sta Maria, Jordan Aiko Deja, and Yasuyuki Sumi. Delegating or Doing? Understanding User Behavior in Hybrid Human-Agent Interfaces. arXiv:2608.19551, 2026.
- Xinru Wang, Zhexuan Ma, Ming Yin, Shuai Ma, and Thomas W Malone. Graphionale: How Graph Visualizations of LLM Rationales Affect Human Decision Making. arXiv:2608.27932, 2026.