Un estudio masivo realizado por investigadores del Hasso Plattner Institute, la Universidad de Oxford y el UK AI Security Institute encontró que el uso de asistentes de escritura con inteligencia artificial (IA) distorsiona sistemáticamente la forma en que los lectores perciben a los autores y sus opiniones. La investigación, que involucró a 2,939 escritores y 19,889 lectores, analizó 10,008 párrafos de opinión política escritos con y sin ayuda de IA, y recolectó casi 3 millones de calificaciones en 29 dimensiones de percepción.
Los resultados muestran que los textos asistidos por IA hicieron que los escritores parecieran más extremos en sus opiniones políticas (+4.5 puntos en una escala de 0 a 100), más seguros (+7.8), más informados (+23.4) y más privilegiados demográficamente, con mayores probabilidades de ser percibidos como más educados (×5.3), con mayores ingresos (×4.4) y hablantes nativos de inglés (×4.1). Además, la IA comprimió la expresión emocional hacia un registro más agradable, con más optimismo (+9.6) y menos enojo (-3.7) o disgusto (-3.5).
El estudio también reveló que la asistencia de IA homogeniza las percepciones: los párrafos asistidos por IA fueron calificados de manera más similar entre sí que los escritos por humanos, y la distorsión fue mayor cuando la escritura humana era más débil. Los tres modelos evaluados (Claude, DeepSeek y ChatGPT) produjeron distorsiones en la misma dirección, aunque con magnitudes variables.
A pesar de que los escritores objetaron muchas de estas distorsiones, especialmente las relacionadas con su postura política, emociones y demografía, la mayoría prefirió el texto asistido por IA al propio (63% de los casos). Los investigadores probaron intervenciones para mitigar la polarización, como advertencias a los usuarios y ajustes en los modelos, pero solo una técnica de reordenamiento logró reducirla en un 54.6%, a costa de disminuir la preferencia de los usuarios.
Finalmente, el estudio encontró consecuencias conductuales: los lectores confiaron más en los escritores asistidos por IA y fueron más persuadidos por sus textos, especialmente cuando la distorsión era mayor. Los hallazgos, publicados en arXiv, advierten sobre los riesgos de la asistencia de IA en la comunicación escrita y la dificultad de mitigar sus efectos sin afectar la aceptación del usuario.