Sobre el perjudicial impacto de la inteligencia artificial en la alfabetización y la cognición humana
Un espectro recorre el paisaje: el espectro de la IA generativa. Primero surgió el temor a que estallaran las trampas entre estudiantes, y a que artistas y actores se quedaran sin empleo. Después, la apuesta subió de nivel. Algunos de los creadores de la propia tecnología advirtieron de que el riesgo potencial de la IA para la humanidad tal y como la conocemos estaba a la altura de las pandemias y la guerra nuclear.
Esta cascada de angustia se desencadenó con el lanzamiento de ChatGPT por OpenAI en noviembre de 2022. Entre sus artimañas, el bot es más conocido por su destreza en la producción de prosa. Desde un punto de vista existencial, ¿importa que la IA escriba por nosotros? Para obtener una respuesta sin rodeos, tenemos que intentar comprender -en primer lugar- cómo nos afecta la escritura a las personas.
Y lo que es más importante, cambia nuestras mentes y cerebros. El clasicista Eric Havelock sostuvo en Prefacio a Platón que el desarrollo de la escritura y la concomitante difusión de la alfabetización en la Grecia arcaica, incluso en círculos limitados, permitieron el florecimiento del pensamiento filosófico griego. La escritura facilitó la reflexión, el pensamiento lógico y la producción de textos tangibles para fomentar el replanteamiento y la reflexión.
Aunque el argumento de Havelock sobre el cambio histórico de la mente ha tenido sus detractores, es incontrovertible que la alfabetización cambia nuestro cerebro. Gracias a la neurociencia moderna, sabemos que el cerebro tiene su "plasticidad", es decir, que es capaz de reorganizar su estructura o establecer nuevas vías, en función de nuestras actividades físicas o mentales.
Los taxistas londinenses con "el conocimiento" de miles de rutas, calles y puntos de referencia tienen hipocampos posteriores (la zona responsable de la navegación física espacial) más grandes que los grupos de control. Y las personas que saben leer y escribir tienen cerebros diferentes a las que no. Mediante resonancias magnéticas, Stanislas Dehaene nos enseñó que los adultos que sólo aprendieron a leer y escribir más tarde en la vida aumentaron la densidad de materia blanca y gris en las áreas cerebrales implicadas en la lectura.
Si escribir nos ayuda a pensar, ¿qué ocurre cuando cedemos el proceso a la IA?
El cerebro alfabetizado nos permite utilizar la escritura como lienzo para dar testimonio de nuestros pensamientos. Recordemos el muy citado comentario de Flannery O'Connor: "Escribo porque no sé lo que pienso hasta que leo lo que digo". Su opinión no es única en los anales literarios. Horace Walpole, E.M. Forster, Arthur Koestler, George Bernard Shaw, William Faulkner y, por supuesto, Joan Didion ("No sé lo que pienso hasta que lo escribo") se hacen eco de ella.
Si escribir nos ayuda a pensar, ¿qué ocurre cuando cedemos el proceso a la IA? Corremos el riesgo de perder poder cognitivo y expresivo.
Empecemos con la Inteligencia Artificial como editora del texto que escribimos nosotros mismos. El corrector ortográfico y las correcciones básicas de gramática y estilo de Microsoft Word son cosa del pasado. Pero las herramientas más recientes, como Grammarly y Microsoft Editor (ambas dotadas ahora de los modelos GPT de OpenAI), son, a la vez, más potentes y peligrosas; especialmente para los escritores menos seguros de sí mismos.
¿Se puede confiar en la IA?
Algunos huesos de la discordia son de poca monta. Word me indica continuamente dónde debo poner las comas y ser más conciso. El "por fin" inicial de la frase debe ir seguido de una coma; sustituye "en un futuro próximo" por "pronto". Cuestión de elección personal, pensarías. Pero a veces los consejos son totalmente erróneos. Cuando escribí:
Sea cual sea la definición de "buena" escritura, es algo más que revisar tu checklist.
Word me regañó por no insertar una coma después de "Sea cual sea". Lo siento Word! Una coma no puede ir allí, ya que el adverbio "Sea cual sea" solamente modifica "definición", no al resto de la oración.
Más preocupante aún fue la bandera de “inclusión” que el editor de Microsoft me enarboló cuando recientemente escribí que Rameshbabu Praggnanandhaa (apodado: Pragg) era “el nuevo niño indio prodigio”, describiendo a un joven de dieciséis años que asombró al mundo del ajedrez a principios de 2022, al vencer al cinco veces campeón del mundo Magnus Carlsen. El 'policía de estilo' de Microsoft advirtió que “este lenguaje puede implicar prejuicios contra las poblaciones indígenas” y sugirió sustituirlo por “indígena” o “nativo americano”. Sí, hay poblaciones indígenas en el país de origen de Pragg. Pero son autóctonos de la India, y dudo que así se caracterizaría Pragg.
Sabía que debía ignorar el consejo de Word. Sólo por el nombre hindú de Pragg, sin mencionar la larga tradición de jugar al ajedrez en el país que inventó el juego, me resultó obvio lo que significaba “indio”. Pero los escritores para quienes no era evidente podrían haber terminado sustituyéndolo por "nativo americano", lo que habría sido absurdo.
Más allá de la cuestión de la confianza está la de la voz personal al escribir. Tomemos como ejemplo los mensajes de texto predictivos (una versión temprana de la IA generativa). Una investigación de Harvard ha demostrado que cuando utilizamos mensajes de texto predictivos, nuestro vocabulario tiende a volverse más conciso y menos interesante.
El filósofo Evan Selinger advierte que este atajo de la IA nos anima a “no pensar demasiado en nuestras palabras” y a “dar a los demás más de algoritmos y menos de nosotros mismos”. Al describir los mensajes de texto predictivos, un estudiante de uno de mis cursos se quejó diciéndome: "Siento que el mensaje que envié no es mío".
La IA, como editora y autora, estará con nosotros por mucho tiempo. Los escritores deben hacer las paces con el genio del lenguaje, mientras se aferran a las oportunidades para pensar y crear que nos brinda la escritura. Dado que todos tenemos diferentes aspiraciones cuando se trata de escribir, la paz que logremos debe ser individual. Al acercarnos a nuestras propias mesas de negociación, aquí hay dos consideraciones a tener en cuenta.
En primer lugar, tenga cuidado con la descalificación. Al igual que retener un idioma extranjero, escribir requiere práctica continua. El filósofo Nir Eisikovits advierte que la mayor amenaza a corto plazo de la IA es que nos adormecerá y nos llevará a degradar “habilidades y experiencias que la gente considera esenciales para ser humanos”.
Solía preguntar a mis alumnos: ¿Qué saben, o qué conocimiento tienen cuando Internet no funciona? La preocupación de hoy: ¿todavía eres capaz de escribir si un editor de IA o un generador de texto no está disponible?
Tanto como forma de expresión personal como forma de arte, la escritura es un oficio.
En segundo lugar, reconoce tu nivel de compromiso, especialmente cuando algo escrito lleva tu nombre. Es un juego de niños para empresas como GPT-4 redactar correos electrónicos, publicaciones de blogs y resúmenes de artículos. ¿Está bien contigo? Si opta por ver el uso de la IA como una empresa colaborativa, ¿cuánto está dispuesto a aceptar sus ediciones algorítmicas o el texto que ha creado a partir de un conjunto predictivo?
La investigación realizada por Shakked Noy y Whitney Zhang descubrió que ChatGPT reducía el tiempo que los humanos necesitaban para una tarea de escritura y además mejoraba la calidad del resultado final. Es más, el 68% de los participantes del estudio se contentaron con enviar el resultado inicial de ChatGPT sin realizar ninguna edición propia.
Eso es entregar las llaves.
La mayor parte de la escritura que la mayoría de nosotros producimos tiene un carácter impersonal. Son las tareas cotidianas de correos electrónicos y notas, tal vez redactar noticias o tareas escolares, e incluso escribir una guía para mensajes ChatGPT exitosos. La IA ya ha demostrado ser muy hábil en tales esfuerzos.
Pero las motivaciones humanas para escribir son más profundas. Escribimos para mirar hacia afuera, como ocurre con las obras literarias que transmiten nuestra perspectiva sobre la condición humana. Escribimos para mirar hacia adentro, incluso para descubrir lo que estamos pensando. Escribimos para liberación personal, ya sea una anotación en un diario o una carta de enojo a un empleador. Todo este escrito se basa en la sensibilidad humana, de la que la IA no tiene ninguna. La IA no tiene ningún objetivo para mejorar la vida de las personas, transmitir lo que piensa o transmitir emociones.
Cuando se trata de sopesar el compromiso, recuerde también que, como forma de expresión personal y como forma de arte, la escritura es un oficio. La forma en que elegimos nuestras palabras y oraciones es tan vital como el significado que transmiten. Sigo recordando un pasaje de Reading Like a Writer de Francine Prose:
“Writing…[is] done one word at a time, one punctuation mark at a time. It require[s] what a friend called ‘putting every word on trial for its life’: changing an adjective, cutting a phrase, removing a comma, and putting the comma back.”
Si cedemos a la IA la última palabra sobre las palabras e incluso las comas, ponemos en peligro algo más que el orgullo artístico. Corremos el riesgo de convencernos de que, en nombre de la eficiencia, es inofensivo que la IA asuma franjas cada vez más amplias de lo que anteriormente habríamos escrito nosotros mismos.
No me malinterpretes. No soy troglodita cuando se trata de asociarme con la IA en el mundo de la escritura. Más bien, mi consejo es no perder de vista la preciosa herramienta que nos ofrece la escritura para moldear nuestra mente y nuestro cerebro, para articular nuestras propias ideas y compartirlas con nuestros semejantes.
Naomi S. Baron es profesora emérita de lingüística en la American University y autora de Who Wrote This? How AI and the Lure of Efficiency Threaten Human Writing (Stanford University Press).
Copyright © LITHUB
*Este artículo ha sido publicado originalmente en lithub.com <https://lithub.com/why-human-writing-is-worth-defending-in-the-age-of-chatgpt/> el 12 de septiembre de 2023 y traducido con algo de ayuda de GoogleTranslate y DeepL
