Los textos creados con IA generativa tienden a sonar planos o predecibles, pese a que poco a poco mejoran para ser menos distinguibles de un producto humano y, a veces, lo consiguen. El motor detrás de esa “inteligencia” son los modelos de lenguaje grandes o LLM (por las siglas en inglés de large language models), a los que se entrena con enormes cantidades de textos para que aprendan a poner una palabra detrás de otra por probabilidad estadística hasta parecer, casi, escritos por una persona. Sin embargo, cuando se analizan, se encuentran sesgos de sobrerrepresentación de ciertas palabras, signos de puntuación e incluso rasgos distintivos de grupos sociales mayoritarios. El resultado, tan parecido a lo humano, es sorprendente, pero la pérdida de riqueza lingüística también es un hecho y los posibles riesgos son tema de debate e investigación.
Los modelos de lenguaje con los que generamos textos reducen las señales que permiten reconocer a las personas por la escritura, según un estudio que ha analizado cientos de miles de textos en distintas plataformas
Los textos creados con IA generativa tienden a sonar planos o predecibles, pese a que poco a poco mejoran para ser menos distinguibles de un producto humano y, a veces, lo consiguen. El motor detrás de esa “inteligencia” son los modelos de lenguaje grandes o LLM (por las siglas en inglés de large language models), a los que se entrena con enormes cantidades de textos para que aprendan a poner una palabra detrás de otra por probabilidad estadística hasta parecer, casi, escritos por una persona. Sin embargo, cuando se analizan, se encuentran sesgos de sobrerrepresentación de ciertas palabras, signos de puntuación e incluso rasgos distintivos de grupos sociales mayoritarios. El resultado, tan parecido a lo humano, es sorprendente, pero la pérdida de riqueza lingüística también es un hecho y los posibles riesgos son tema de debate e investigación.
Antes de que la IA llegase a nuestras vidas, la homogeneización del lenguaje ya era una amenaza para la diversidad, las democracias y el pensamiento libre. En 1984, George Orwell planteó un futuro distópico en el que la neolengua, impuesta por El Partido en el poder, conseguía anular el pensamiento crítico de la ciudadanía. Al margen de su uso como herramienta de control, la pérdida de matices distintivos en el lenguaje puede diluir los rasgos que nos identifican incluso individualmente, algo que un nuevo estudio sobre el uso extendido de los LLM ha explorado y publica hoy en Nature Human Behaviour.
Las personas expresamos ideas similares de diferentes maneras y esto ofrece información sobre nuestro contexto social, personalidad e incluso salud. Esta es la premisa bajo la que un grupo de investigadores de la Universidad del Sur de California (Estados Unidos) han hecho una serie de experimentos con los que han hallado que, desde que empezamos a usar ChatGPT en 2022, la complejidad lingüística de lo que escribimos en internet se ha reducido entre un 21% y un 50%. Para ello analizaron más de 800.000 textos de distintas plataformas como Reddit, el foro con una sección donde se escriben historias creativas, un repositorio de artículos científicos en abierto o Patch News, un portal de noticias comunitarias, todos en inglés.
Como explican los autores en el artículo, “la diversidad transforma el lenguaje, de mero medio de intercambio de información a expresión única de individuos y sociedades, lo que permite analizar los productos culturales y las tendencias sociales”. Calcularon que, en un 87% de los casos, el significado de los textos se mantenía cuando le pedían a varias IAs generativas (GPT-3.5, Llama 3 70B y Gemini Pro) que reescribieran los textos recopilados de internet. Cuando les ordenaron reformularlos, mejorar su claridad o fluidez, o hacerlos más académicos, naturales o concisos, varios índices estimaron una pérdida en la complejidad de las nuevas versiones. “En nuestros experimentos, el significado permaneció casi intacto, pero cada persona expresa la misma idea de distintas maneras y eso es lo que vimos que se perdía”, explica el primer autor del estudio, Zhivar Sourati.
Las particularidades que caracterizan a la persona detrás de cada texto fueron, de media, un 6% menos identificables. “Por ejemplo, una oración que comienza con ‘creo que esto demuestra…’ puede cambiarse a ‘esto sugiere…’, donde el contenido es el mismo, pero vimos que los pronombres personales como ‘yo’, ‘nosotros’ y ‘tú’ se usan mucho menos”, cuenta Sourati a EL PAÍS. También se eliminan palabras coloquiales como ‘eh’ o ‘sabes’ y se ve afectada la expresión emocional. “La IA no elimina la emoción; de hecho, los textos reescritos contienen, en promedio, un lenguaje ligeramente más emotivo, pero la forma personal de expresarla desaparece”, añade el investigador.
Un problema para forenses y sociolingüistas
Estos matices que la IA lima sirven como marcadores culturales a la sociolingüística o incluso para hacer diagnósticos de salud mental. También permiten hacer su trabajo a quienes, como Sheila Queralt, se dedican a la lingüística forense. La perito judicial explica por correo a EL PAÍS que esto es especialmente importante cuando tienen que analizar la autoría de un escrito, porque “una parte de la información que utilizamos para caracterizar la producción de un escritor no reside únicamente en lo que dice, sino en cómo lo formula y en los patrones de variación que aparecen en sus textos”. Sin embargo, Queralt matiza que “el estudio no permite concluir que la IA vaya a hacer que todos acabemos escribiendo igual”, sino que atenúa, transforma u homogeniza determinadas señales lingüísticas.
En este sentido, Sourati explica que “las personas extrovertidas usan más palabras relacionadas con la vida social, como ‘amigos’, ‘fiesta’ o ‘nosotros’ y con emociones positivas; quienes valoran la lealtad usan más palabras relacionadas con la familia, mientras que las personas de mente abierta tienden a usar palabras más elaboradas y complejas”. Además, añade que existen diferencias entre hombres y mujeres: ellos usan menos palabras relacionadas con la vida social y la ansiedad que ellas.
Un hallazgo especialmente preocupante es que estos cambios no son aleatorios, sino que, en los conjuntos de datos analizados, observaron un sesgo constante en los textos reescritos por LLM. Los estilos de escritura a menudo se alineaban con “individuos mayores, varones y políticamente liberales, que exhiben una valencia moral positiva y menor empatía”, describe el artículo. Como explica Sourati, se atenuaron asociaciones entre “uso de pronombres y extroversión, entre palabras relacionadas con la amistad y la lealtad como valor moral, y entre palabras orientadas al futuro, como ‘voy a’ o ‘pronto’ y la edad de quien las escribe”. Sin embargo, vieron que se mantenía el vínculo entre palabras que expresaban emociones negativas y neuroticismo, entre palabras relacionadas con religión y pureza, y entre palabras sociales y género.
IAs que fingen no serlo
Estos sesgos amenazan el funcionamiento de métodos empleados en psicología o sociolingüística que se basan en señales léxicas, que pueden volverse menos fiables con la expansión del uso de los LLM para comunicarnos por escrito. Esto también se vuelve problemático en los contextos judiciales en los que trabaja Queralt, que dirige el Laboratorio SQ–Lingüistas Forenses. Aquí se enfrentan a otro problema añadido por la IA: los humanizadores de textos, que buscan esquivar las herramientas de detección de IA de las que se valen en su laboratorio o en el estudio de Sourati.
Un estudio reciente que ha hecho Queralt, a través del proyecto CorpIdentIA, pone a prueba a los “humanizadores de IA”. En él evaluaron tres herramientas detectoras —GPTZero, Originality.ai y Copyleaks—, que, según sus resultados, funcionan bastante bien tanto frente a los textos puramente humanos como a los generados completamente con IA. Pero no así con los híbridos, los que mezclaban ambos lenguajes. “Probablemente estos escenarios representan mejor muchos de los usos actuales de la IA: una persona puede escribir un texto y pedir a un modelo que lo corrija o reformule, o puede partir de un texto generado mediante IA y modificarlo posteriormente”, explica la investigadora.
Con GPTZero, prácticamente uno de cada dos textos generados mediante IA y posteriormente humanizados, el 52,2%, fue clasificado como humano; Originality.ai identificó correctamente el 65,56%, y Copyleaks, el 72,22%. “Desde el punto de vista lingüístico encontramos que ‘humanizar’ un texto no significa necesariamente hacerlo lingüísticamente más humano”, apunta Queralt. Algunos de estos sistemas introducen irregularidades gramaticales, ortográficas y otras pequeñas transformaciones que rompen la regularidad del texto sin modificar profundamente su contenido u organización. En algunos casos, incluso empeoran su naturalidad lingüística, pero consiguen que resulte menos detectable para determinados sistemas.
“En nuestro estudio, uno de los textos originales decía: ‘No me apetece perder tiempo ni energía en trámites’, y después de pasar por uno de los humanizadores se convirtió en: ‘Me disipan perder el tiempo y la energía en לענו/rrijgs’”, señala Queralt. Ahí está la diferencia entre un error humano espontáneo y un un caso de “corrupción textual extrema”, como lo llama el estudio. “La variabilidad humana no equivale a introducir ruido aleatorio en un texto”, resume Queralt sobre la paradoja que encuentran aquí los lingüistas: un texto puede ser muy poco natural y que, sin embargo, un detector automático no lo identifique como IA.
Un reflejo exagerado de tendencias humanas
Para quienes están estudiando el impacto social de la IA, hay muchos retos por delante de cara a anticipar consecuencias y desarrollar políticas que nos protejan. Pero también hay cautela y tratan de reducir la alarma. Para Ezequiel López, investigador en ciencias computacionales en la Universidad Técnica de Berlín, escribir se está convirtiendo en “una tarea de colaboración entre humano y máquina, sobre todo cuando va a leernos una tercera persona, porque nadie quiere parecer inculto o escribir mal, y a cambio aceptamos la homogeneización”.
Sin embargo, López explica que los modelos son máquinas estadísticas que reflejan o incluso exageran objetivos y tendencias que teníamos en el mundo sin estos modelos. “Por ejemplo, al hablar públicamente, tendemos a evitar significarnos políticamente o emplear lenguaje negativo, y las IAs generativas de texto, en parte, reflejan estos estándares sociales que llevamos décadas desarrollando, creo que con fuerte influencia de la cultura comunicativa estadounidense”, apunta el investigador. Advierte que el problema podría ser que la sociedad siga siendo sexista, pero desaparezca del lenguaje, y opina que seguramente se están “separando un poco la burbuja de la comunicación online de la realidad”.
Para Francisco Moreno-Fernández, director del Observatorio Global del Español del Instituto Cervantes, “la lengua hablada va muy por delante de la IA y, cuando esta quiera ponerse a la altura de lo que se dice, la lengua ya ha cambiado; será muy difícil que alcance el nivel de complejidad y de matices semánticos y pragmáticos de la lengua conversacional”. Lo que sí advierte es que más del 70% de los textos que alimentan la IA son en inglés. “El simple hecho de utilizar una lengua u otra ya supone un sesgo y condiciona los resultados de los textos generados con IA”, apunta el sociolingüista.
Tecnología en EL PAÍS
