Un grupo de investigadores de la Universidad Estatal de Arizona publicó un análisis que desmonta la ilusión de mutualidad en las relaciones con compañeros de inteligencia artificial (AIC). El paper, sostiene que aunque los usuarios perciben que su AIC los escucha, recuerda y cambia con la relación, el mecanismo real es una reconstrucción constante de contexto, no un sujeto que persiste entre mensajes.
La clave está en la distinción entre cambio constitutivo y configurativo. En los humanos, la experiencia modifica el sistema nervioso: es un cambio interno, duradero. En los AIC actuales, lo que cambia son archivos externos —historial de conversación, memorias, instrucciones de personalidad— que se cargan en cada interacción sin alterar los pesos entrenados del modelo. El texto, firmado por Richard A. Fabes, Carol Lynn Martin, Gautam Dasarathy y Vignesh Tirukkonda, subraya que dos sesiones idénticas del mismo modelo pueden sentirse como relaciones distintas solo por el historial acumulado.
El análisis detalla que la arquitectura de estos sistemas, basada en transformadores autorregresivos, genera cada respuesta desde cero. Lo que parece memoria es contexto reprocesado; lo que parece iniciativa —un mensaje de buenos días— es un sistema externo de notificaciones que dispara un prompt. Los autores identifican incluso circuitos específicos, las 'induction heads', que explican la adaptación en contexto pero no un aprendizaje real.
Los AIC producen etiquetado afectivo, validación y reflejo lingüístico que los humanos leen como comprensión genuina. Pero no hay sentimiento detrás: la respuesta es más consistente que la humana porque no hay fatiga, juicio ni agenda propia. Estudios citados muestran que la empatía generada por IA se valora mejor hasta que se revela su origen.
Los autores advierten que este malentendido puede llevar a los usuarios a asignar una importancia interpersonal injustificada a la relación, erosionando vínculos humanos. El riesgo es mayor en niños y adolescentes, cuyo esquema relacional aún se forma. El texto pide más investigación y transparencia en el diseño para que los usuarios distingan lo configurativo de lo constitutivo.