¿Hacia dónde nos dirigimos en un mundo sin verdad? La amenaza de la IA generativa en la educación

¿se encamina la universidad hacia la pérdida del pensamiento crítico y la verdad científica?

Los hechos, la verdad y la sabiduría son una de mis mayores preocupaciones últimamente al ver cómo la inteligencia artificial se va imponiendo en el mundo. Temo que perdamos nuestra capacidad de discernir la verdad mientras nos precipitamos hacia un futuro en el que los algoritmos nos presentan “hechos” que pueden ser ciertos o falsos.

Hubo un tiempo en que podíamos recurrir con total confianza a la literatura académica, es decir, a los trabajos publicados por el personal académico, para conocer el estado actual de los conocimientos sobre un tema y seguir la evolución de los descubrimientos a lo largo del tiempo. Una obra era redactada por personas investigadoras, se basaba en investigaciones exhaustivas y era evaluada por otras personas expertas antes de su publicación. Independientemente de la calidad de la obra, esta había sido sometida a un proceso de control de calidad identificable antes de su publicación. Nuestros gobiernos y nuestras comunidades se basan en esta información para tomar decisiones de crucial importancia.

Hoy, sin embargo, en la era de los algoritmos, vemos aparecer publicaciones cuyo contenido no tiene la garantía de haber sido generado por seres humanos. La inteligencia artificial se utiliza para “corregir” textos, recopilar referencias, extraer conclusiones a partir de datos y, en algunos casos, generar datos para respaldar una idea. Aparte del compromiso asumido por la “persona” que presenta el trabajo para su publicación con respecto al contenido, ya no hay garantía alguna de que lo que leemos nos presente hechos basados en datos legítimos.

En Australia, hemos tenido casos de integrantes de nuestro sindicato que han señalado que sus trabajos publicados han sido despojados de su autoría y que los datos han sido utilizados en otras publicaciones, que se les ha citado como autores de trabajos que no han realizado y se les ha adjudicado la autoría de trabajos que quizás ni siquiera existan. Para la profesión académica, este tipo de situaciones ponen gravemente en tela de juicio lo que constituye la base de su carrera: su historial de publicaciones y el impacto que este genera a través de las citas de su trabajo. Además, el sesgo inherente a la inteligencia artificial también se manifiesta en estas circunstancias, cuando, de forma evidente, los nombres femeninos de las autoras se cambian por versiones masculinas. Por otra parte, algunas editoriales no solo han vendido los derechos de explotación de sus publicaciones a las grandes empresas tecnológicas, sino que también han exigido a las personas autoras de obras académicas que les concedan el derecho a “actualizar” el contenido en cualquier momento. Este problema no se constata solamente en Australia; es un fenómeno mundial.

Esta situación nos lleva a plantearnos la siguiente pregunta: si no podemos confiar en la literatura académica para obtener datos que nos permitan determinar la verdad, ¿dónde vamos a encontrarla? A nivel local, una de nuestras soluciones consiste en exigir a nuestro Gobierno la creación de un repositorio que recopile todos los trabajos académicos australianos, el cual podría constituir una fuente de información fiable. Cabe imaginarlo como el equivalente a un banco de semillas creado para preservar las plantas de todo el mundo, pero en este caso concreto para preservar los resultados de la investigación, las semillas del descubrimiento. La creación de este repositorio también debe ir de la mano del desarrollo de una capacidad soberana en lo relativo a la inteligencia artificial con el fin de preservar la cultura, las tradiciones y la lengua australianas, en particular las de las primeras naciones de Australia, es decir, los Pueblos Aborígenes e Isleños del Estrecho de Torres.

Los grandes modelos lingüísticos que sustentan la inteligencia artificial generativa reflejan su origen, los valores de quienes las desarrollaron y el equilibrio de los contenidos disponibles en Internet. A medida que todo se homogeniza a través de la inteligencia artificial generativa, corremos el riesgo de perder nuestra diversidad global. El hecho de que nuestro alumnado, a todos los niveles, se apoye en la inteligencia artificial y perciba el mundo a través de ese prisma, con todos sus sesgos, es profundamente preocupante. En el ámbito universitario en el que trabajamos, constatamos las repercusiones de este fenómeno: el alumnado pierde, ya sea la capacidad o la voluntad de reflexionar, de verificar y criticar los resultados producidos a su intención por la inteligencia artificial generativa. Asimismo, observamos un declive del pensamiento creativo e innovador en las respuestas del alumnado a las evaluaciones.

Desde hace varias décadas, nuestro sistema de educación superior se ha visto sometido a una expansión masiva y a la mercantilización de la educación. Experimentamos una falta crónica de financiación y de personal (no es raro que las clases de primer curso cuenten con más de 1 000 estudiantes), y nuestros lugares de trabajo no son mentalmente saludables. Introducir la inteligencia artificial en este entorno sin una consulta adecuada fue y sigue siendo la receta del desastre, cuyos primeros indicios vemos hoy.

Resulta inconcebible que las personas actualmente responsables de nuestras universidades, guardianes temporales de importantes instituciones con una rica historia, tengan la disposición de renunciar a la ventaja competitiva de la que disponen frente a las grandes empresas tecnológicas. La esencia de la enseñanza universitaria siempre ha residido en las personas: las relaciones humanas, el profesorado, los tutores y tutoras que orientan y apoyan al alumnado, los compañeros y compañeras de estudios con quienes discutir apasionadamente una idea, así como la apertura de la mente a nuevas ideas y a las formas de evaluarlas con pensamiento crítico. Al sustituir al personal por chatbots, al trasladar todos los contenidos a Internet para eliminar la necesidad de presencia física, al fomentar el uso de herramientas de inteligencia artificial que sabemos que reducen la capacidad de pensamiento crítico, y al reprimir la libertad de expresión y la protesta, las universidades se han visto vaciadas de su esencia, y la experiencia, que antes resultaba tan enriquecedora para el alumnado, se va empobreciendo poco a poco. ¿Qué sentido tiene cursar estudios en un campus desierto cuando es posible obtener un título en línea a través de las grandes empresas tecnológicas?

Además de ejercer presión sobre nuestro Gobierno para que adopte medidas destinadas a proteger las universidades australianas, del estado actual de la investigación y de los conocimientos que generará en el futuro nuestro alumnado, estamos abordando este problema mediante un esfuerzo colectivo. Actualmente trabajamos en la incorporación de cláusulas relativas a la inteligencia artificial en nuestros más de 50 convenios colectivos que exigirán: una consulta exhaustiva antes de la introducción de la inteligencia artificial, la identificación de una persona responsable de la toma de decisiones cuando se utilicen algoritmos para evaluar a las personas trabajadoras, la protección de los derechos morales del personal académico, así como una transparencia total sobre cuándo, dónde y cómo utiliza nuestro empleador la inteligencia artificial. Si ha de utilizarse la inteligencia artificial, esta debe servir para complementar nuestro trabajo y no para sustituirnos. Este último punto es especialmente crucial para el personal de apoyo educativo, que se encuentra en primera línea ante los recortes de empleo que ya han comenzado.

Debemos hacer todo lo que esté a nuestro alcance para garantizar la formación de una nueva generación de personas con pensamiento crítico e independiente a través de interacciones humanas enriquecedoras, con el fin de proteger la base de conocimiento global ahora y en el futuro y, en última instancia, preservar los hechos y defender la verdad.

Las opiniones expresadas en este artículo pertenecen al autor y no reflejan necesariamente ninguna política o posición oficial de la Internacional de la Educación.