Ciencia

Confianza en IA médica depende de señales sociales

Un estudio con 275 profesionales de salud españoles halló que las señales de proceso —como familiaridad con la interfaz y consenso del equipo— explicaron el 80.3% de la confianza en sistemas de IA clínica, frente al 19.7% de las señales de resultado.

·

La familiaridad con la interfaz, el consenso del equipo y la explicabilidad del sistema pesaron más que la precisión declarada al momento de que un profesional de la salud decida confiar en una herramienta de inteligencia artificial clínica. Un experimento con 275 profesionales sanitarios españoles, publicado en arXiv, midió cómo evalúan 16 escenarios clínicos simulados y encontró que las señales de proceso —cómo opera y se inserta el sistema en la práctica— dominaron la formación de confianza, con un 80.3% del efecto total, frente a un 19.7% de las señales de resultado, una inversión de casi cuatro veces respecto a lo que predicen los modelos de agente racional.

El estudio, firmado por Aníbal Astobiza (Universidad de Granada), Ramón Ortega Lozano y José Ríos-Díaz (Universidad Pontificia Comillas) y Marcos Alonso (Universidad Complutense de Madrid), aplicó un diseño de viñetas intrasujeto y modelos lineales mixtos. La familiaridad con la interfaz registró el mayor efecto (β = 0.71), seguida del consenso del equipo (β = 0.64) y la explicabilidad (β = 0.63), todos con p < .001. La precisión declarada mostró un efecto estadísticamente confiable pero pequeño (β = 0.10). Los autores proponen el marco SPOT (Synergistic Process-Outcome Trust), un modelo bayesiano que trata la confianza como una inferencia sobre propiedades latentes del sistema —competencia y benevolencia— a partir de señales de proceso y resultado.

Los investigadores concluyen que los clínicos adoptan una «postura intencional» y evalúan a los sistemas de IA con la misma maquinaria sociocognitiva que aplican a colegas humanos, por lo que construir IA clínica confiable es también una tarea social e institucional, no solo técnica. El estudio no estima directamente el modelo bayesiano jerárquico propuesto y se basa en escenarios simulados, no en entornos clínicos reales.

En corto: Un experimento con 275 profesionales de salud españoles encontró que las señales de proceso (familiaridad, consenso, explicabilidad) explicaron el 80.3% de la confianza en IA clínica, frente al 19.7% de las señales de resultado, según el estudio publicado en arXiv por investigadores de las universidades de Granada, Comillas y Complutense.

Con información de arXiv · Fuente oficial