Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
hps://doi.org/10.53971/2718.658x.v15.n25.45626
El ChatGPT y el fin de la historia: una elaboración teórica sobre sus
peligros y promesas leídos desde la filología
Victoria Scotto
Universidad Nacional de La Plata, Buenos Aires, Argentina
scottovictoria@gmail.com
https://orcid.org/0000-0002-9052-1197
Recibido 23/08/2023 Aceptado 22/04/2024
Resumen
Los modelos de lenguaje artificial ya son parte de nuestro mundo. Desde noviembre de
2022, y con el lanzamiento al público de forma gratuita de la versión beta del ChatGPT
de OpenAI.com, la utilización de los “chatbots” se masificó y comenzó a generar nuevas
—y evocar viejas— reflexiones a propósito de cuál es el rol de las máquinas en procesos
tan eminentemente humanos como la lectura y la escritura. El objetivo central es analizar
algunas de las promesas y peligros de esta tecnología a partir de herramientas teóricas de
la filología. Para ello, inicialmente, se presentará el chat, mediante los usos que ofrece y
algunas muestras de los textos que produce. Luego se explorarán tres problemas en torno
al uso de ChatGPT: la falta de trazabilidad y jerarquización de sus fuentes, el riesgo de
delegación total de tareas de lectura y escritura que habilita, y la pérdida de interacción
subjetiva que esto implicaría en los procesos de lectura y escritura. Las perspectivas que
se utilizarán para abordar este fenómeno integran reflexiones sobre la educación, la
enseñanza de la lectura y la escritura, la filosofía y, principalmente, la filología; este
análisis concluirá señalando modificaciones deseables que podrían contribuir con la
prevención de estos peligros.
Palabras clave: ChatGPT; modelos de lenguaje artificial; filología; textualidades
digitales; aprendizaje automático
ChatGPT and The End of History: A Theoretical Drafting of Its Perils and
Promises from the Scope of Philology
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
Abstract
Artificial language models are already a part of our world. Since the launch of the free-
of-payment, public beta version of OpenAI.com’s ChatGPT in November 2022 the use
of “chatbots” has become a world-widespread phenomenon and has begun to generate
new —and evoke some old— reflections on what is the role of machines in some
primarily human processes such as reading and writing. The main objective here is to
analyse some of the promises and perils of this technology with theoretic and
methodological instruments of Philology. In this paper we will address three problems
around the use of the chatbot: the lack of traceability and hierarchy of its sources, the risk
of total delegation of tasks of reading and writing, and the loss of subjective interaction
with the text that this would imply in the processes of reading and writing. The
perspectives used in this analysis will come from three different disciplines: education
and literacy studies, philosophy, and foremost philology: from the analysis we will be
able to show a few desirable changes that could prevent some of these perils.
Keywords: ChatGPT; models of artificial language; philology; digital textualities;
machine learning
Este artículo se centrará en el ChatGPT, un modelo de lenguaje creado por
OpenAI.com, similar a otros como CHATBIT, Bing Chat o Perplexity. Chat
GPT es un modelo de lenguaje artificial basado en la arquitectura GPT-3.5,
diseñado por OpenAI para generar respuestas coherentes y contextualmente
relevantes a las preguntas o mensajes que se le envíen. Este modelo utiliza
una gran cantidad de datos y algoritmos de aprendizaje automático para
aprender y entender el lenguaje natural y producir textos que se asemejan a
los producidos por un humano. Chat GPT es capaz de aprender de manera
autónoma y puede adaptarse a diferentes situaciones y contextos, lo que lo
convierte en una herramienta útil para la comunicación y la investigación en
las ciencias sociales. El ChatGPT utiliza inteligencia artificial para producir
texto en respuesta a preguntas o comandos de los usuarios, con el objetivo de
generar respuestas útiles y coherentes a partir de la información
proporcionada.
El desarrollo del ChatGPT se basa parcialmente en los estudios
contemporáneos de la lingüística y las humanidades digitales, que buscan
comprender el lenguaje humano desde una perspectiva computacional. Esto
se logra a través del análisis y la interpretación de grandes cantidades de datos
lingüísticos, que se utilizan para entrenar modelos de lenguaje como el
ChatGPT. Dentro de la filología digital contemporánea, el ChatGPT es una
herramienta importante. La filología digital se preocupa por la aplicación de
la tecnología digital a la investigación y el estudio de textos y lenguajes. El
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
análisis del lenguaje natural y la generación de texto que permite el ChatGPT
están cambiando la forma en que se entiende y procesa el lenguaje en línea,
por lo que los estudios del ChatGPT podrán eventualmente convertirse en
una rama de la filología digital.
En la actualidad, las escrituras digitales se han convertido en una
herramienta imprescindible para la comunicación y el acceso a la
información. La utilización del ChatGPT de OpenAI.com es un claro ejemplo
de ello, ya que ha tenido un uso masivo en todo el mundo y en Argentina en
particular en los últimos meses. Según estadísticas, se ha registrado un
aumento significativo en su uso en diversas áreas, como la educación, la
investigación y el entretenimiento. Subestimar esta tecnología podría llevar a
errores y peligros innecesarios. Es importante tener en cuenta que la
tecnología sigue siendo una herramienta, y como tal, es fundamental
comprenderla y utilizarla adecuadamente para aprovechar sus beneficios. De
hecho, resulta sorprendente que este programa haya sido el responsable de la
producción de este texto que estás leyendo ahora mismo.
Hasta aquí una transcripción de lo producido por el modelo de lenguaje artificial —
comúnmente denominado “chatbot”— de OpenAI.com a partir de una consigna sencilla con
tres requisitos: que produzca, en lenguaje académico, un texto introductorio de tres párrafos
en los que se indicara qué es el chatbot ChatGPT, cómo se relaciona con la filología, la
lingüística y las humanidades digitales y por qué es relevante en Argentina y en el mundo en
los últimos meses.
Las correcciones necesarias para que el texto no incluyera datos inexactos o incorrectos
fueron marcadamente pocas: de hecho, están señaladas con cursiva. Sin embargo, la que se
copia arriba es una versión que contiene dos cambios a la consigna inicial: al obtener la
respuesta, se solicitó al chat que el texto producido acusara que había sido escrito por el
mismo chat. Ante esa consigna la respuesta de ChatGPT cambió completamente de tono:
iniciaba con “¡Hola!” y se presentaba en primera persona. Frente a estos resultados, se pidió
un texto idéntico al anterior, pero compuesto en tercera persona, describiendo el objeto de
forma impersonal. Para colaborar con el objetivo del artículo, se le solicitó también al chat
que la información acerca de cómo fue escrito el texto se presente de forma sorprendente,
como una revelación. Lo único que pudo hacer el chat —seguramente por falta de
indicaciones más precisas— fue poner la información al comienzo, como segunda oración,
agregando el “sorprendentemente”. El movimiento de este elemento al final es edición
posterior, al igual que las adiciones en cursiva. Resulta al menos tranquilizador —por
ahora— que una inteligencia artificial no sea capaz —por ahora— de conseguir un sólido
plot-twist.
A lo largo de este trabajo se conducirá una argumentación con el objeto de problematizar
el uso de estas tecnologías, proyectando la posibilidad de, a la vez, abrazar la novedad de
sus promesas y calibrar y, en el futuro, morigerar sus peligros por medio de mejoras
sustanciales en su planificación. Para desarrollar esta argumentación se ofrecerá,
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
inicialmente, una presentación de los usos de esta tecnología y algunas de sus limitaciones,
para lo que se mostrarán a su vez producciones concretas del chat. Luego se procederá a
explorar tres problemas en relación con el uso extendido del ChatGPT: el primero refiere a
la forma en la que el chat extrae información de internet y no presenta fuentes trazables ni
organizadas jerárquicamente en términos de fiabilidad; el segundo pone el foco en que ofrece
la posibilidad de la delegación total de producción de textos que requerirían un trabajo
interpretativo extenso por parte de una persona; por último, abordaremos la cuestión de qué
supone esta delegación, que implicaría la eliminación de la instancia subjetiva en la
producción de textos. Gracias a estas observaciones será posible proponer cambios
específicos en este tipo de tecnologías que permitiría reducir el impacto negativo que
herramientas como ChatGPT podría suponer.
Resulta importante destacar que, de momento, no se tiene conocimiento de trabajos que
elaboren críticas sobre este tipo de herramientas tecnológicas, los modelos generales de
lenguaje, desde una perspectiva filológica, y que contemplen las implicancias que la
masificación de su uso puede acarrear en la forma de leer y escribir de las sociedades. Para
conducir este análisis se propondrá una elaboración teórica sostenida sobre las definiciones
de texto, lectura y escritura que construyó la filología como disciplina, especialmente la
conceptualización que propone Pollock (2016) y algunos trabajos locales a propósito de la
filología digital (Link 2015; Mendoza 2019); oportunamente, se utilizarán autores
provenientes de la filosofía y también del campo de la educación para enriquecer el análisis.
Hacia el final se propondrán cambios posibles para esta tecnología sostenidos en los peligros
identificados, compatibles con el enfoque filológico, pero también con otras perspectivas en
torno a la lectura y la escritura.
Promesas
El ChatGPT-3 (Generative Pre-trained Transformer-3) es apenas uno, aunque el más
popular, de diversos modelos de lenguaje artificial disponibles en la web actualmente. Como
otros modelos de lenguaje, se trata de una rama de la inteligencia artificial, que se ocupa del
diseño y desarrollo de algoritmos que se actualizan y mejoran de forma constante en función
de los inputs, o entradas, que se ingresan en su software. Esto se denomina Machine
Learning, o aprendizaje automático: este mecanismo permite al software reconocer patrones
y regularidades, requerir feedback para reforzar ciertas asociaciones y no otras, y en función
de ello realizar predicciones, detectar errores, o sugerir outputs especialmente relevantes en
función del contexto. Aplicado al lenguaje natural, los modelos de aprendizaje automático
reciben grandes cantidades de texto producido por humanos, reconocen patrones de
asociación entre elementos de los diversos sistemas que constituyen las diferentes lenguas,
asocian construcciones a géneros discursivos y registros, y pueden producir texto que emula
a las producciones humanas. Esta es una tecnología en desarrollo y, en principio, un informe
de análisis cualitativo y cuantitativo de sus diferentes funciones y su competitividad en
relación con la capacidad compositiva y analítica de un ser humano pone al ChatGPT en un
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
lugar de desventaja, pero con creciente potencial para mejorar su rendimiento a través de
eliminación de sesgos de sus programadores y su continuo crecimiento (Kocoń et al, 2023).
La popularidad de ChatGPT se vincula con que fue el primero en ponerse a disponibilidad
del público en general de forma gratuita y sin más restricciones que la necesidad de creación
de una cuenta en el sitio OpenAI.org. El 30 de noviembre de 2022, fecha de su lanzamiento,
comenzó un crecimiento exponencial de usuarios de la plataforma, que ya contaba en mayo
de 2023, apenas seis meses después, con más de cien millones de usuarios a nivel global, y
tardó apenas cinco días en alcanzar la marca del primer millón, de acuerdo con las
estadísticas del sitio web explodingtopics.com. Cumplidos los seis meses de su lanzamiento,
una afluencia de trabajos en torno a las utilizades y desafíos de esta tecnología han volcado
la atención tanto de académicos como del público en general. Los lingüistas del Instituto de
Tecnología de Massachussetts, Noam Chomsky e Ian Roberts publicaron una nota de opinión
en el New York Times exponiendo una fuerte crítica hacia las falsas promesas contenidas en
lo que ellos llaman “titulares hiperbólicos” (Chomsky, Roberts y Watumull, 2023, s/n)
1
de
noticias y proyecciones acerca de “los avances supuestamente revolucionarios en
inteligencia artificial”; auguran que no son tales, en tanto los usos profesionales y creativos
de la inteligencia en poco se pueden comparar con las facultades lingüísticas de un adulto,
incluso de un niño. Y, sin embargo, el hiperbólico aumento en el uso y recomendación de
esta tecnología convoca rápidamente una reflexión sobre esto que, incluso entre científicos,
es considerado “un furor cultural” (Thorp, 2023).
Los usos de los chatbots, al menos desde la propia publicidad que realizan los sitios web
que los propulsan, son múltiples y tienen alcances que pueden parecer extraordinarios: el
sitio de la empresa OpenAI.com, desarrolladora del ChatGPT, indica al menos tres:
producción de textos siguiendo instrucciones complejas, análisis de datos y generación de
ideas creativas a propósito de numerosas actividades humanas. Si bien el análisis de datos
bajo instrucciones específicas parece pasible de ser realizado por una inteligencia artificial,
la pretensión de que es capaz de “generar ideas creativas” es cuestionable, y si bien sus
producciones dan cuenta de relaciones asociativas divergentes, en principio no resultaría tan
evidente que las respuestas de ChatGPT puedan ser identificadas como “creativas” (Cropley,
2023). Sin embargo, y lejos de estos cautos análisis, un aluvión de notas periodísticas pone
el foco en los múltiples usos de la plataforma que exceden los indicados por la desarrolladora
de ChatGPT: en su primer año de lanzamiento casi diariamente importantes portales
nacionales (Infobae, La Nación, Clarín, Página12) e internacionales (The Guardian, The
New York Times, Der Spiegel, BBC News) dedicaron notas a las potencialidades y riesgos
que supone esta tecnología; entre los temas más recurrentes se destacó el peligro que supone
para ciertos rubros laborales, dado que esta herramienta de inteligencia artificial permitiría
producir textos y analizar datos en algunos segundos y sin necesidad de pagar un centavo,
en reemplazo de costosas horas laborales de un trabajador que, además, requiere
determinadas condiciones laborales (Greenhouse, 2023; Islam, 2023; dePillis y Lohr, 2023;
Melamed, 2023; Torres, 2023).
Precisamente, una de las más atractivas propuestas del chat de OpenAI.com radica en el
ámbito profesional y en el uso de esta tecnología en la realización de tareas educativas,
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
académicas, científicas, industriales, periodísticas, en la medida en la que estas requieran
que alguien investigue o resuma algo, o lea una serie de textos complejos para extraer
información y reponerla frente a un otro mediante un texto original, de su propia
composición. Este ejercicio, fácilmente identificable con un examen, un informe, una
monografía, un artículo, una reseña, una evaluación, una nota informativa, sería, en
principio, plenamente delegable a la tecnología del ChatGPT
2
. Su uso ha comenzado a estar
tan extendido que Science ha publicado una nota editorial (Thorp, 2023) indicando que las
revistas que integran el grupo reconocerán la redacción de ChatGPT y otros softwares de
lenguaje artificial como plagio y, una vez detectados, los envíos que los hayan utilizado serán
rechazados completamente.
Pero la utilización de esta tecnología está extendida y radica, específicamente, en su
utilidad, una utilidad que, como el mismo autor del editorial de Science reconoce, la
comunidad científica no termina aún de mesurar (Thorp, 2023). Una prueba sencilla e
ilustrativa para exponer el uso de ChatGPT en tareas académicas puede llevarse adelante
ingresando una clásica pregunta de examen universitario, por ejemplo, del área de lingüística
formal, específicamente de un autor ya aquí mencionado, y estudiar la respuesta del chat en
términos de corrección y aceptabilidad de la respuesta. “¿Qué es la Facultad del Lenguaje
según Noam Chomsky?” en el Chat GPT de OpenAI.com recibió la siguiente respuesta en
un chat:
Según el lingüista Noam Chomsky, la facultad del lenguaje se refiere a la
capacidad innata que tiene el ser humano para adquirir y utilizar el lenguaje.
Chomsky argumenta que los seres humanos nacen con una estructura mental
específica que les permite aprender y usar el lenguaje de manera eficiente.
Esta capacidad innata se conoce como “gramática universal” y se refiere a
un conjunto de principios y reglas que están presentes en todas las lenguas
humanas. Según Chomsky, esta gramática universal está codificada en el
cerebro humano y es la base para la adquisición del lenguaje.
En resumen, la facultad del lenguaje según Chomsky se refiere a la
capacidad innata de los seres humanos para aprender y utilizar el lenguaje,
gracias a una estructura mental específica y una gramática universal presente
en todas las lenguas humanas.
La respuesta puede ser, al menos a los ojos de un docente de una materia de primer año
en una carrera universitaria en Argentina, correcta y sólida. Carece, sin embargo, de
información central ofrecida en una clase o en material bibliográfico, como una descripción
más detallada acerca de qué es la gramática universal en tanto estado de desarrollo de la
facultad del lenguaje, o ejemplificaciones que permitan una mejor explicación de los
conceptos teóricos que se utilizan. De cualquier forma, la sencillez de la redacción y la falta
de profundización sobre los conceptos que menciona puede derivar en una evaluación que
detecte un contenido insuficiente o no del todo desarrollado. En este sentido, el mecanismo
de aprendizaje automático del chat garantiza dos cosas: el texto puede modificarse bajo
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
requisitos determinados, e incluso puede reformularse completamente, para que parezca que
ha sido reescrito por una persona. Por ejemplo, se le puede indicar al chat la siguiente
modificación: “Necesito que la respuesta incluya las definiciones de ‘gramática universal’ y
‘estructura mental específica’. Además, necesito que explicites cómo se desarrolla la
Facultad del Lenguaje según Noam Chomsky. El texto final debe estar escrito para ser apto
para un examen universitario”. La respuesta del chat transforma al texto en uno mucho más
adecuado para un examen:
Según el renombrado lingüista Noam Chomsky, la Facultad del Lenguaje se
refiere a la capacidad innata y específica del ser humano para adquirir y
utilizar el lenguaje. Chomsky sostiene que los seres humanos nacen con una
estructura mental particular que les permite aprender y emplear el lenguaje
de manera eficiente.
Una de las piezas fundamentales en la teoría de Chomsky es la noción de
“gramática universal”. Este concepto se refiere a un conjunto de principios
y reglas innatos que se encuentran presentes en todas las lenguas humanas.
Estos principios y reglas, codificados en la estructura mental del individuo,
forman la base para la adquisición del lenguaje. En otras palabras, la
gramática universal proporciona los cimientos comunes a todas las lenguas
y permite a los seres humanos aprender y comprender cualquier lengua
específica.
El desarrollo de la Facultad del Lenguaje según Chomsky ocurre a través
de un proceso llamado adquisición del lenguaje. Durante los primeros años
de vida, los niños están expuestos al lenguaje en su entorno y, a través de la
interacción social y el aprendizaje activo, desarrollan la capacidad de hablar
y comprender su lengua materna. Chomsky argumenta que este desarrollo
lingüístico es impulsado por la interacción entre la estructura mental
específica y los datos lingüísticos a los que los niños están expuestos.
A medida que los niños interactúan con su entorno lingüístico, su
estructura mental específica se ajusta y se desarrolla de acuerdo con las
características específicas de la lengua que están adquiriendo. Sin embargo,
Chomsky también señala que la capacidad de adquirir y utilizar el lenguaje
va más allá de lo que se puede explicar simplemente mediante la exposición
a datos lingüísticos. Argumenta que la estructura mental específica y la
gramática universal juegan un papel crucial en el proceso de adquisición,
permitiendo a los niños desarrollar habilidades lingüísticas complejas a
partir de una cantidad limitada de ejemplos en su entorno.
Las respuestas de ChatGPT nunca son exactamente iguales de usuario a usuario y el
mecanismo de aprendizaje automático individualiza el output en relación con la sucesión de
pedidos gracias a su historial, con lo cual se vuelve muy dificultoso identificar, en un texto
escrito a mano donde se copia esta respuesta del ChatGPT, si fue o no escrito por un
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
estudiante. Sobre todo, el texto que produjo el chat se trata de una respuesta aceptable, y en
un trabajo mecanografiado sería suficiente para copiar y pegar sin equivocarse, y sin que
medie la lectura. De requerir reponerla en una instancia oral, podría ser memorizada, pero
evita la exigente tarea de explorar bibliografía para extraer la información más relevante.
Como un generador de resúmenes automático y en apariencia altísimamente confiable, el
ChatGPT ofrece a cualquier estudiante, incluso a cualquier investigador, una versión ultra
procesada de complejos tomos bibliográficos: le permite demostrar que leyó, aún sin haber
leído.
De forma similar, permitiría la resolución directa de una gran cantidad de problemas
producto de la carencia de alfabetización tecnológica de usuarios de internet, debido a que
su condición de aprendizaje automático permite que lo utilicen personas que no
necesariamente saben buscar algo en internet; en la medida en la que puedan escribir aquello
que desean saber de forma coloquial, el chatbot reconocerá las formas de expresión del
usuario y le dará, progresivamente, información cada vez más relevante y adecuada. No será
necesario que el usuario se entrene porque el programa se entrena por él. No será necesario
navegar o procesar información, comprender el modo de operación y seleccionar aquello
que se busca porque el propio programa hace ese trabajo por el usuario.
Existen otras formas de chatbots ya ampliamente extendidos: el ejemplo más accesible es
el de las respuestas automáticas para la atención al cliente que se pueden ver en redes sociales
como Whatsapp, en sitios web de ventas o tiendas online, en plataformas de streaming y
aplicaciones. Las respuestas de un chatbot como “Boti”, utilizado por la Ciudad de Buenos
Aires para “atención al ciudadano” (SITD, 2022, p.2) están constituidas por la misma
tecnología que el ChatGPT, con la diferencia de que esta última no tiene una función
específica y por lo tanto resulta muchísimo más versátil. De la misma forma, las tecnologías
de lenguaje artificial de los chatbots son las mismas que impulsan el traductor de Google, y
que producen la detección de citas que alimentan las traducciones de sitios como
WordReference o Linguee. No se trata de una completa novedad, sino que su nuevo espectro
de uso, abierto, y ofrecido a los usuarios para su utilización personal, constituye un
acercamiento desconcertante a una tecnología ya incorporada.
Problemas (I): trazabilidad y jerarquía
Un primer acercamiento a ChatGPT parece presentar, a simple vista, una maquinaria
eternamente expectante, dispuesta a hacer cualquier clase de trabajo que sea capaz de hacer.
Sin embargo, parte de esta potencia aparentemente infinita es que el chat no está preparado
para la verificación de la información que ofrece ni puede dar cuenta de la corrección de los
procedimientos que realiza, esencialmente, porque no puede ofrecer al usuario las fuentes de
las que se alimenta.
3
En este tipo de tecnologías se ocultan los criterios de selección e
interpretación de la información que el chat ofrece: si bien es sabido que la información de
los chatbots no proviene de una fuente no humana, puesto que utilizan como base de datos
—en sentido amplio— a Internet en general, los algoritmos que efectúan los barridos y
extracción de datos resultan completamente desconocidos para el público, y son cuidados
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
celosamente por sus programadores, lo que garantiza la opacidad algorítmica (Bonneau,
Grondin-Robillard, Ménard y Mondoux, 2022); algunos de los softwares explicitan que no
están conectados a internet en la actualidad, como Chat GPT, sino que utilizan un cúmulo de
información congelada en 2021; otros, como Bing y Perplexity, están actualizados de forma
permanente.
La utilización de internet como fuente principal sugiere dos problemas centrales: el
primero es que, al menos hasta donde sus creadores explicitan, las versiones actualizadas de
ChatGPT, Bing Chat, CHATBIT, o Perplexity se nutren de la web en un sentido vago, sin
que sea posible afirmar que los motores de búsqueda asociados a estos softwares jerarquicen
los sitios de cualquier forma ni puedan discriminar información en función de su veracidad,
verificabilidad o siquiera verosimilitud. El segundo se centra en que la propia web se
encuentra plagada de discursos especialmente violentos que, de no ser descartados por
estrategias específicas, son susceptibles de ser replicados como información. El chat se
alimenta de internet y es, por ello, una extraña reproducción del contenido de internet que
sabemos que, cuarenta años después de la creación de su primer sitio y después de conocer
los desafíos de su masificación, es un dominio al menos complejo y en constante disputa.
Un ejemplo sencillo del primer problema es la respuesta que ofrece ChatGPT sobre la
biografía de Tamara Tenenbaum, una escritora argentina que, según el chat, “falleció en
2020 a causa de una enfermedad” a pesar de seguir viva y en producción. En su podcast Algo
prestado, Tenenbaum comentó que, indagado ChatGPT acerca de quién es ella, el chatbot
respondió que estaba muerta. El episodio del podcast se emitió en febrero de 2023; en mayo
del mismo año, el chat afirma, además, que Tamara Tenenbaum escribió el ensayo El cuerpo
del delito, que pertenece a Josefina Ludmer. Frente a esta adjudicación, se le solicitó al chat
un resumen del contenido del ensayo El cuerpo del delito. No advertido de su adjudicación
anterior, la respuesta fue la siguiente:
“El cuerpo del delito” es un ensayo del escritor y periodista español Javier
Cercas, publicado en el diario El País en 2019. El ensayo examina la relación
entre la literatura y la verdad en la narración de hechos reales, centrándose en
el caso del escritor y periodista estadounidense Michael Finkel. Finkel fue
despedido del New York Times por inventar una historia sobre la trata de
esclavos en África Occidental, pero posteriormente escribió un libro sobre su
experiencia titulado “True Story” (“Historia verdadera”), en el que se
describe a sí mismo como un personaje y reconoce que algunos detalles de su
historia eran falsos. Cercas argumenta que Finkel y otros escritores que
mezclan la ficción y la realidad están desafiando los límites tradicionales de
la literatura y la verdad, y que esta mezcla puede ser una forma de llegar a
una verdad más profunda. Sin embargo, también advierte sobre los peligros
de la invención y la manipulación de los hechos en la narrativa de no ficción,
que pueden socavar la confianza del lector en la veracidad de la obra y en la
profesión del periodismo.
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
Resultan especialmente interesantes dos cuestiones: por un lado, cómo el software del
chat no solamente utilizó el nombre de una obra real y le adjudicó autores diferentes; por
otro, que repuso argumentos que no pueden rastrearse a una confusión con otra obra de
alguno de los autores involucrados, sino que parece completamente inventado. Frente a una
indagación de sus fuentes, el chat contesta, de forma estandarizada, que “no tiene la
capacidad de citar el texto exacto”; frente al pedido de recomendación de textos para leer, el
texto incluso puede llegar a inventar trabajos y libros inexistentes, incluso proveyendo un
DOI ficticio
4
. Por otra parte, como algunos escritores argentinos como Pedro Mairal y
Luciano Lamberti han comprobado, frecuentemente recomendará libros y cuentos
existentes, con argumentos completamente fabricados.
5
Los ejemplos del segundo problema que supone la alimentación del software de una
desjerarquizada internet son bastante más problemáticos que una mera confusión acerca de
una biografía o el argumento de un cuento. Comenzaron, además, hace varios años: los casos
son, al menos, dos. El primero tuvo como protagonistas a los desarrolladores de Google en
2008, que lanzaron una modificación a su motor de búsqueda que incluía una función de
completado automático, y rápidamente se vieron cuestionados por los sesgos específicos que
esos completados automáticos tenían para personas racializadas o para mujeres (Park, 2023).
El segundo, quizás el más conocido, es el resultado del experimento de Microsoft y Twitter
con el bot Tay: Tay fue el nombre que le dieron ingenieros de Twitter a una cuenta de esta
red social potenciada por un bot que contenía un programa de aprendizaje automático: la
cuenta podía interactuar lingüísticamente con usuarios y “aprender” de forma automática.
En menos de un día, la cuenta comenzó a producir mensajes antisemitas, racistas,
homofóbicos y sexistas y fue luego cerrada (Vincent, 2016; Chomsky, Roberts y Watmull,
2023).
Los desarrolladores de estos chats no son ajenos a este tipo de críticas y alertas. Antes de
conducir a la ventana de conversación, ChatGPT ofrece la siguiente advertencia:
Nuestro objetivo es obtener feedback externo, con el propósito de mejorar
nuestro sistema y hacerlos más seguros.
Si bien contamos con medidas de seguridad, el sistema puede
eventualmente generar información incorrecta o engañosa, y puede producir
contenido ofensivo o tendencioso. No está hecho para dar consejos.
Esta advertencia se origina en algunos nuevos problemas que surgieron ya no de las
fuentes del chat sino de los usos que se han hecho de este o de otras tecnologías de
aprendizaje de lenguaje automático. Algunos de estos problemas han ocupado a la prensa y
han producido declaraciones por parte de los desarrolladores (Roose, 2023, Marcin, 2023).
La advertencia muestra entonces algunos indicadores a propósito del chat: que se trata de
una tecnología en desarrollo, que es susceptible a otorgar información incorrecta, engañosa
o tendenciosa, y que su propósito no es aconsejar a las personas. Su uso, entonces, pareciera
vincularse más, inicialmente, a áreas menos sensibles y donde quizás esta tecnología sea
mucho más útil: en lo que se refiere a producir textos simples que sinteticen información
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
compleja, que es precisamente el uso que posibilitaría el desplazamiento de la producción
humana de relatos y discursos.
Problemas (II): querer y poder (no leer)
Existe una dimensión hasta aquí no referida con respecto a las respuestas de ChatGPT
anteriormente expuestas: las tres han sido producidas por un intercambio con un usuario que
ha completado tanto su alfabetización digital como su alfabetización académica. Los géneros
discursivos en los que se enmarcan las respuestas solicitadas (artículo científico y respuesta
de parcial) son plenamente reconocidos por el usuario del otro lado del chat. De las primeras
tres respuestas transcriptas aquí, dos han sido intervenidas por el usuario con correcciones
posteriores: tres en el primer fragmento, el que introduce este artículo, donde se corrigieron
aspectos formales de redacción, y una en el tercero, donde se solicitó mayor desarrollo en el
contenido. Las respuestas fueron guiadas por un usuario que conoce los requisitos necesarios
para que ese texto sea aprobado por un evaluador universitario en el nivel de grado, y que
conoce la materia como para indicarle al chat exactamente qué partes necesitaban mayor
desarrollo en el caso de la respuesta de parcial.
Precisamente, uno de los problemas más referidos en trabajos sobre ChatGPT en
contextos educativos es, precisamente, la falta de entrenamiento para su uso apropiado
(Montenegro-Rueda et al., 2023), y uno de ellos incluso señala el riesgo de que el chat sea
utilizado para la cumplimentar las tareas sin que el estudiante haya aprendido nada (Castillo
et al., 2023). El estudio sistemático, que integra análisis cualitativo y cuantitativo de
respuestas de estudiantes y docentes en torno al uso de ChatGPT para la educación revela
que el principal atractivo radica en su novedad, mientras que su mayor problema está
representado por un marcado desconocimiento de cómo hacer un uso estratégico, pertinente
y apropiado del chat. La caracterización de ChatGPT como un software sostenido en el
aprendizaje automático, además, supone que en cada interacción que un uso experto del chat
puede hacer, el propio chat está condicionado para producir textos en el estilo formal
utilizado por el usuario, y las respuestas que este pueda dar en ese contexto también distarán
mucho de las que recibirá un estudiante que no necesariamente conoce el registro formal.
En este sentido, cada una de las respuestas ofrecidas como ejemplos de producción en
este chat deben tomarse como condicionadas por las temáticas por las que se pregunta, que
involucran la filología y la lingüística, por los géneros en los que se solicita que estén las
respuestas, y por la aprobación o el rechazo que el usuario hizo de cada una de las
formulaciones. No resulta en absoluto claro en qué grado esto moldea las respuestas que el
chat aporta; sin embargo, sí puede advertirse en las producciones de estudiantes reales por
medio de ChatGPT tanto la repetición sin elaboración del contenido de las consignas o
parroting (Teel, Wang y Lund, 2023) como la escritura inespecífica sin desarrollo. Esta es
una de las observaciones que detallan AlAfnan, Dishari, Jovic y Lomidze (2023, pp.64-65)
en su estudio sobre ensayos producidos por el chat:
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
La marcada similitud entre ensayos generados por ChatGPT no es el único
desafío. Como muestra la tabla IV, los ensayos generados por ChatGPT
también presentan problemas de estructura y organización. Si bien ChatGPT
logró ofrecer respuestas abarcativas para las preguntas en zonas expositivas
del texto, no logró construir afirmaciones atinadas en todos los ensayos
generados. La exposición de ideas era o bien meras enunciaciones o bien ideas
no adecuadas, ya que no incluían los puntos principales abordados en el
ensayo. Además, casi todos los ensayos carecían de sustento en términos de
argumentos subsidiarios en párrafos del texto; los párrafos principales
tampoco incluían suficientes fuentes para sostener al escritor/generador
(ChatGPT). También advertimos que los párrafos carecían de ‘unidad’, ya
que no todas las oraciones en un párrafo colaboraban con el tópico.
Podría suponerse entonces que las mejores performances que podría ofrecer el chat,
aquellas que implicarían por ejemplo la aprobación de un examen o un trabajo práctico en el
ámbito universitario, requerirían un uso experto: en principio, plenamente alfabetizado tanto
digital como académicamente, que reconozca falencias en un desarrollo argumental y
solicite, allí donde sea necesario, una cantidad significativa de contenido para sostener y
fundamentar las afirmaciones ofrecidas por el chat. ChatGPT no puede ofrecer esto por sí
mismo: requiere una lectura humana, crítica, precisa, que jerarquice la información y la
transforme en un texto que pueda sostenerse; algo que sea más que un conjunto desordenado
de oraciones gramaticales lábilmente vinculadas con un tópico.
Esta referencia al carácter desordenado de las fuentes y las producciones en las
textualidades digitales no es una novedad. Roger Chartier detectó este fenómeno antes del
comienzo del nuevo siglo: se trata de una masificación de la lectura en la nueva digitalidad,
progresivamente más “discontinua, fragmentaria, inmediata, espontánea” (Chartier, en
Quevedo, 2016). Chartier auguró, en una serie de trabajos, una larga coexistencia en el
tiempo de los soportes digital e impreso, advirtiendo que esta convivencia implica un
particular borramiento de los géneros discursivos:
Todos los textos, cualesquiera que fueren, son producidos o recibidos en un
mismo soporte y en formas muy semejantes, generalmente decididas por el
mismo lector. Se crea así una continuidad textual que ya no diferencia los
géneros a partir de su inscripción material. Por ello, es la percepción de las
obras como tales lo que se vuelve más difícil. (Chartier, 2018, p. 34).
En este sentido, otro problema que presenta el sofisticado sistema de aprendizaje
automático de ChatGPT es que realiza un barrido igualador sobre la ingente masa de géneros
discursivos comprendidos en el input del que se alimenta. Existe evidencia de cierta
dificultad de las inteligencias artificiales para identificar patrones que señalan que un texto
forma parte de un determinado género, como bien reseña Chihaia (2023): proyectos de
filologías digitales como los de Schöch (2018) y Pérez Pozo, De la Rosa, Ros, González-
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
Blanco, Hernández y De Sisto (2021) ensayaron una sistematización de parámetros de
identificación de un género literario y el posterior análisis de otros textos literarios dentro
del género no arrojaron resultados positivos. Se podría argumentar, sin embargo, que la
aparición —y consecuente masificación— de los chatbots presenta una objeción a esta
crítica: el propio sistema de lenguaje artificial no necesita interpretar las diferencias entre
los géneros. No interesa a qué género pertenece la información que se mina, solo la
información en sí. De alguna manera, el modo específico de procesamiento de textos de los
chatbots acompaña tendencias que ya era posible advertir a comienzos del siglo; en este
punto, estas tecnologías, a pesar de no contar con una gran destreza interpretativa en términos
de géneros discursivos, pueden realizar dos tipos de tareas: extraer información
generalmente muy precisa sobre una variedad extremadamente amplia de temas, y producir
textos vagamente similares a otros de un género determinado, como un artículo periodístico,
un cuento, un poema, un informe, o un artículo científico.
El problema detrás de esta igualación de los géneros va mucho más allá de producir un
texto poco pasible de ser aprobado por una mesa examinadora: se trata de una disputa a
propósito de qué es un texto. Procesados por esta tecnología, complejas obras académicas,
literarias, informativas, científicas, argumentativas, parecen abandonar el dominio del
discurso que posee reglas determinadas propias cada género y, bajo el mecanismo de
aprendizaje automático de la inteligencia artificial, se convierten en mera información. Para
estudiar esta diferencia entre texto o narrativa e información resulta particularmente
interesante mencionar al filósofo coreano Byung-Chul Han, que en su trabajo Infocracia
(2022, p. 52) explica que
la información es aditiva y acumulativa. La verdad, en cambio, es narrativa
y exclusiva. Hay información de a montones e información basura. Pero la
verdad no genera montones, no se amontona. En muchos niveles, la verdad
es lo opuesto a la información. Elimina la contingencia y la ambivalencia.
Cuando se la eleva a la forma de una narrativa, es capaz de proveer sentido y
orientación. La sociedad de la información, por el contrario, está vaciada de
sentido. Solo la nada es transparente. Hoy podemos estar bien informados,
pero carecemos de orientación. La información no tiene el poder de proveer
una dirección. Incluso el chequeo de datos más diligente es incapaz de
producir verdad, porque la verdad es más que la corrección de información.
La verdad es, en última instancia, una promesa.
6
Las respuestas de los chatbots, si bien se nutren de una multiplicidad de géneros
discursivos y operan como mineros de información, ofrecen a sus usuarios un texto que,
frecuentemente, no solo es amigable, sino que puede parecer un nuevo relato producido
mediante mecanismos desconocidos. La información que responde a las preguntas que se le
hace a los chatbots pareciera transformarse en un resumen o un texto explicativo propio de
la forma en la que los humanos producimos ese tipo de texto. Es, de hecho, exactamente el
tipo de texto que se produce ante una tarea sencilla requerida a cualquier estudiante o
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
profesional: la tarea que resulta de la familiar práctica de leer. Si bien un chatbot no lee —
en principio, podríamos hipotetizar que nada no-humano lee—, mediante el procesamiento
de diversos textos para convertirlos en información, sí es capaz de producir, por imitación,
una suerte de resumen o prueba de lectura, algo que, en definitiva, permita no leer,
reemplazando la lectura por el procesamiento de datos y la composición por los procesos de
imitación y sustitución.
La principal característica que puede adjudicársele a estas tecnologías en la actualidad es,
sin duda, la de ser útil: mientras que internet desde sus inicios se representó como una gran
red de información no ordenada, difícil de navegar más allá de los sistemas prefijados de
algunas redes sociales que ofrecen solo un catálogo de personas, ideas, prácticas o
mercancías, los chatbots se presentan como una herramienta automática de organización de
la información. Simple, rápido, a demanda: características que resultan especialmente
atractivas para sujetos que, aún no del todo alfabetizados digital ni académicamente,
requieren extraer de internet virtualmente cualquier cosa.
El desafío que representaba —y representa— para muchas personas el mar de
información que ofrece internet se vincula con una necesidad inmediata de una
“realfabetización” (Link, 2015, p. 23): no solamente para aprender a utilizar hardware y
software, sino para aprender a leer dentro de esa ingente masa textual que es internet.
Conocer las estrategias para obtener la información que se desea de fuentes fiables es una
habilidad que, en un punto, debe desarrollarse como una alfabetización paralela a la
tradicional, y, como afirma Vásquez (2019), no puede ser tomada como un proceso que las
generaciones futuras vayan a adquirir instintivamente. Las inquietudes que motivan trabajos
sobre educación y medios digitales (Calle Álvarez, 2014; Magro Mazo, 2018; España Palop,
2022; entre muchos otros) se centran precisamente en que internet —no ya como una
herramienta sino como parte integrante de la realidad— ha alterado “las posibilidades de
construcción y representación de significados” (Calle Álvarez, 2014) involucrados en los
procesos de lectura y escritura. E incluso, análisis más contemporáneos dentro de los
sistemas educativos formales referidos al involucramiento de la tecnología en la vida dentro
y fuera del aula comienzan a manifestar problemas específicos que confrontan a docentes e
investigadores con la realidad de que tanto los “migrantes digitales” -nacidos en el siglo XX-
como “nativos digitales” —nacidos en el XXI— conviven en los mismos espacios
persiguiendo dominar destrezas tecnológicas que no parecen reconciliarse con otras
prácticas, mucho más tradicionales, sobre las que se sostiene el sistema educativo, al menos
en Argentina (Sánchez, 2022).
En estos términos, pensar el ingreso de los chatbots al sistema educativo, por ejemplo,
propone desafíos específicos para las estrategias de estudio y evaluación que se sostienen
hoy en las escuelas, terciarios y las universidades (Díaz y Postay, 2023). La primera reflexión
que aparece, fundamentalmente desde la perspectiva del estudiante, es que los chatbots son
útiles para docentes y estudiantes: ahorran tiempo y esfuerzo de interpretación y producción,
requiriendo apenas unos minutos para formular una pregunta y copiar y pegar la respuesta.
Sin embargo, su utilidad quizás no compense los problemas específicos que la existencia y
la popularización de este tipo de tecnologías podría traer para las personas. La ambigüedad
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
que toda herramienta supone en este caso se ve exacerbada por lo atractiva que resulta para
la inmediatez exigida por nuestra era —una era plagada, por ejemplo, de notas periodísticas
escritas en un formato completamente estandarizado, sin más que unos pocos datos repetidos
y con títulos que prometen mucho más de lo que efectivamente ofrecen—, y el hecho de que
los riesgos de su mal uso no son prácticamente perceptibles en lo inmediato.
Quizás sí lo sean a mediano o largo plazo. Mark Fisher describe en 2009 un perfil
particular del efecto que la eterna disponibilidad tecnológica parecía sostener en sus
estudiantes de un terciario en Inglaterra, arrastrados por una permanente posibilidad de
conexión con un mundo digital que les ofrece constantes formas de placer rápido y efectivo,
que evita el aburrimiento y el fastidio. En el capítulo “Impotencia reflexiva, ‘inmovilización’
y comunismo liberal” del libro Realismo capitalista, narra:
Si uno les pide que lean más de un par de oraciones, muchos (aunque se trata
de estudiantes con buenas notas) protestarán alegando que no pueden hacerlo.
La queja más frecuente es que es aburrido. Pero el juicio no atañe al contenido
del material escrito: es el acto de leer en sí mismo lo que resulta “aburrido”.
No se trata ya del torpor juvenil de siempre, sino de la falta de
complementariedad entre una “Nueva Carne” posliteraria “demasiado
conectada para concentrarse” y la antigua lógica confinatoria y
concentracionaria de los sistemas disciplinarios en decadencia. Aburrirse es
carecer, por un momento, de la gratificación azucarada a pedido. (…) La
consecuencia de esta adicción a la matrix del entretenimiento es una
interpasividad agitada y espasmódica, acompañada de una incapacidad
general para concentrarse o hacer foco (Fisher, 2016, p. 52).
Lo que identifica aquí está vinculado con una “patología del capitalismo tardío” que
Fisher denomina “poslexia”: “los adolescentes tienen la capacidad de procesar los datos
cargados de imágenes del capital sin ninguna necesidad de leer”, y con ello satisfacen las
necesidades básicas de navegación en los medios digitales (Fisher, 2016, p. 54). Frente a
esta condición, evidencia algo que interesa especialmente para el maridaje entre nuevas
digitalidades y estudios del lenguaje y la lectura: si bien la experiencia de internet se trata,
ante todo, de texto, imagen y video, la lectura entendida como práctica no es imprescindible.
Y si es exigida por fuera del mundo digital, como por ejemplo en la escuela, y existe una
herramienta tecnológica que pueda resolver ese ejercicio en pocos segundos sin esfuerzo
lector, ¿por qué no utilizarla? En definitiva: la lectura no es imprescindible en este contexto,
ni dentro ni fuera de la web; leer, incluso saber leer, no es, entonces, necesario.
Los chatbots son una herramienta providencial si se busca evitar el incordio de invertir
horas de concentración en leer un texto que puede ser procesado por otro —o por algo que
no es necesariamente otro—. El ejercicio que la mera navegación intuitiva por internet no
lograba resolver, al menos en el momento en el que Fisher escribió Realismo capitalista, es
la capacidad de extraer una información determinada, aceptable y relevante frente a una
necesidad concreta. Si bien la existencia del buscador de Google facilitó desde su
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
surgimiento la aparición rápida de textos más largos o breves sobre una innumerable
cantidad de temas, el recorte y selección de la información ofrecida por el buscador debía
ser procesado por una persona, el usuario, bajo procedimientos intelectuales que se pueden
reponer fácilmente. Gracias a los chatbots, la selección de información relevante pasa a ser
realizada por una cadena de algoritmos que no resultan transparentes al usuario, ni siquiera
accesibles. Así, si, por ejemplo, alguien desea saber el argumento de una novela, escribir un
texto informativo sobre refinamiento del litio en Argentina o seleccionar los principales
argumentos de un discurso de campaña presidencial, las estrategias bajo las cuales eso puede
hacerse carecen de trazabilidad para quien usa el chat. El uso del lenguaje, de esta forma, se
aleja de lo humano, no solo por el origen de su producción sino porque resulta absolutamente
desconocido cómo se ha producido.
Franco “Bifo” Berardi, en su trabajo de 2017 titulado Fenomenologías del fin, advierte
que
los humanos comenzaron un proceso de matematización del lenguaje que
eliminará la posibilidad de liberarse de las cadenas automáticas de lenguaje
computacional. El espacio del ser, que Dios decidió darle al hombre como un
espacio vacío, ahora está lleno del poder generativo de la tecnoesfera, de
modo que las convenciones digitales se convierten en la naturaleza del
lenguaje. Y esa nueva naturaleza digital pone fin a la historia humanista, es
decir, a la historia en sí misma (Berardi, 2017, p. 295).
Problemas (III): el fin de (una) historia
Tampoco es baladí pretender que la más tradicional de las razas renuncie a
la memoria de su pasado, mítico o verdadero.
–J. L. Borges, “Las murallas y los libros”
La cita de Francis Fukuyama en el título de este trabajo se trata de un engaño parcial: no
se propondrá aquí que las nuevas digitalidades han conducido a la realización de la
humanidad como una entidad —ahora sí— completamente desarrollada. Más cerca de un
análisis crítico de los efectos reales de un desajuste entre la democracia y el capitalismo,
desajuste que Slavok Zizek advierte en Primero como tragedia, después como farsa (2011),
se busca aquí establecer que el problema que representa la tecnología de aprendizaje
automático aplicada al lenguaje como se aparece en los chatbots podría colaborar con el fin,
al menos, de una Historia, entendida como registro humano constante de la propia práctica
de registro. En este último apartado de problemas presentados por esta tecnología se buscará
explorar cuál es o cuáles son los riesgos de relegar la escritura y la lectura a programas
computacionales, y para ello se acudirá a reflexiones filosóficas de autores contemporáneos.
Naturalmente, el uso de chatbots no se reduce ni al ámbito educativo, ni siquiera a la
producción de textos solicitados por un otro. Sin embargo, las disciplinas humanísticas que
estudian la lectura, como la filología, deben acusar recibo de forma especial de este nuevo
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
paradigma, precisamente porque su versatilidad se encuentra en el hecho de que se tratan de
modelos de aprendizaje automático. El principal problema que aparece para los especialistas
de la letra escrita, para los estudiosos de los procesos de conformación de los textos, su
lectura, su difusión y su transmisión a lo largo de los siglos en los que ha habido Historia, es
que finalmente, después de múltiples amenazas y retrocesos, los chatbots están
sintomatizando un cambio radical en los modelos de lectura y escritura a nivel global; un
cambio que, teniendo en cuenta la falta de herramientas filológicas que hay para estudiar
estos problemas, no ha sido atendido a tiempo. Se trata, por primera vez, de un ensayo
extendido y exitoso de la capacidad de producir textos automáticos que parecen escritos por
humanos porque tienen una capacidad de síntesis y de invención homologables a las de un
humano. Más allá de representar un desafío para la detección humana o artificial de la
composición de un texto, aparecería aquí un problema posterior: quizás no sean los humanos
quienes escriban la Historia. Más aún, y atendiendo al hecho de que estas tecnologías se
asemejan fuertemente a lo que un humano puede producir, y lo hacen sin trabajo, la pregunta
que surge es si es necesario o deseable que sea un humano quien escriba la Historia.
En su conferencia de 1995 titulada Mal de archivo, Jacques Derrida propone que estudiar
el archivo como escritura, como práctica humana, analítica y psicoanalítica —dado que es
una conferencia, también, sobre el psicoanálisis— requiere tres instancias: la consignación
de un texto a alguien que lo conserve, el lugar donde se lo conservará, y, ante todo, la
demarcación de aquello que queda fuera del archivo, esa “cierta exterioridad” sin la cual “no
hay archivo posible” (Derrida, 1995, p. 19). No es posible conservar nada si no se olvida
nada, si no existe algo al menos que, activamente, sea borrado. Coherentemente con el
avenimiento de la era digital, una gran cantidad de autores (McLuchan y Powers 1989;
Huyssen, 2003; Berardi, 2017, entre muchos otros) se han preocupado por las implicancias
de esta virtualmente todopoderosa memoria que es internet y los desafíos que eso implica
para la memoria humana, que necesita su cuota de olvido para recordar. Los peligros de la
virtual posibilidad de guardarlo todo ya eran advertidos por Derrida en Mal de archivo.
Privilegio el indicio del E mail por una razón más importante y más evidente:
porque el correo electrónico está hoy día, más aún que el fax, a punto de
transformar todo el espacio público y privado de la humanidad y, en primer
lugar, el límite entre lo privado, lo secreto (privado o público) y lo público o
lo fenomenal. No es solo una técnica en el sentido corriente y limitado del
término: a un ritmo inédito, de forma casi instantánea, esta posibilidad
instrumental de producción, de impresión, de conservación y de destrucción
del archivo no puede no acompañarse de transformaciones jurídicas y, por
tanto, políticas, Éstas afectan nada menos que al derecho de propiedad, al
derecho de publicar y de reproducir. Transformaciones en curso, turbulencias
radicales e interminables, a la vista y a escala de las cuales nos es preciso
calibrar… Clásicos y extraordinarios, estos trabajos se alejan de nosotros a
toda velocidad, acelerándose sin cesar. Se hunden en el pasado a una distancia
que es, cada vez más, comparable a la que nos separa de las excavaciones
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
arqueológicas…, de la filología bíblica, de las traducciones de la Biblia, de
Lutero a Rosenzweig o a Buber, o del establecimiento de los escritos
hipomnémicos de Platón o de Aristóteles. (1995, p. 25).
Las casi proféticas palabras de Derrida ante la aparición del correo electrónico y la
portabilidad de las computadoras no distan mucho del análisis que puede conducirse con la
apertura al público, en noviembre de 2022, del Chat GPT de OpenAI.org. Con Derrida, es
posible advertir que las masas ingentes de texto que serán producidas por inteligencia
artificial prontamente “se alejan de nosotros a gran velocidad, acelerándose sin cesar”, “a
una distancia que es cada vez más comparable a la que nos separa … del establecimiento de
los escritos de Platón o Aristóteles”, fundamentalmente porque, si bien se tratan de textos
que se producen en base a otros textos anteriores, desafían el único punto en común que
conservaban los textos más allá de los cambios de soporte: su esencia de ser un producto
humano.
Mientras que múltiples trabajos académicos, como los ya mencionados de Chartier, pero
también los de autores desde la década de los noventa (Aarseth, 1997; Ryan, 1999, Hayles,
2008, entre otros), advirtieron una importante alteración en las formas de circulación de los
textos y las prácticas nuevas que rodean a la lectura desde hace décadas, otros autores
problematizan la filología contemporánea, como Daniel Link (2015) y Juan José Mendoza
(2019), reclamándole una actualización. Uno de los aspectos más interesantes de los trabajos
de estos dos autores es reconocer cómo las operaciones de lectura y escritura en la
contemporaneidad —y Link lo advirtió ya en 2015— implican, antes que el ejercicio de una
close reading o distant reading, las operaciones de “cortar, copiar y pegar” como instancias
básicas del proceso (Link, 2015, p.120). En una línea similar, Mendoza describe el mismo
fenómeno, comprendiendo que estas formas de lectura “maquínica” son parte de “los modos
de leer en la web”:
Distintos aspectos, sustantivos aquí, se superponen en la tarea de comprender
—desde una nueva perspectiva teórico-crítica— los nuevos corpus y las
nuevas textualidades, dispuestos por fragmentos “automáticos”, esto es,
motivados por “recortes de lecturas” muchas veces no oficiados por ningún
“sujeto lector” sino por fenómenos “maquínicos” y eventuales, algorítmicos,
suscitados por los propios avatares del copy-paste. ¿Cómo leer la web? Esa
interrogación sobre la perspectiva —¿desde qué lugar disciplinar, cómo
estudiar, con qué metodologías de trabajo, ese nuevo objeto textual inmerso
en la proliferación y en la dispersión y pergeñado de fragmentos? —
encuentra su respuesta en una nueva fisonomía de lo literario —su potencia,
sus tradiciones, la literariedad misma— que, a su manera, se impone en la era
digital. Determinados recortes —temporales, geográficos, lingüísticos,
textuales— comienzan a dar forma a los efectivos corpus y los específicos
objetos que empiezan a ser examinados por esa nueva perspectiva que, lo
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
entendemos, desde diferentes campos del saber estamos construyendo.
(Mendoza, 2019, p. 218).
En este sentido, la filología reclama, incluso en la era digital, una concepción del texto
como algo más que información en términos de contenido, por lo que se diferencia de un
procesamiento informático como el que describe Byung-Chul Han. Desde sus inicios, la
filología trabaja directamente con las fuentes de las que se nutre y problematiza el proceso
de génesis de los textos, atendiendo a su contextualización histórica, la construcción de la
autoridad, y la estilística; todos estos aspectos propios de la génesis del texto son analizados
en el lenguaje utilizado dentro del texto (Cerquiglini, 1999; Pollock, 2016). La filología es
el paradigma que permite entender un texto, en principio, como un producto de la cultura,
de un momento histórico, como un monumento (Wolf 1808), como un objeto de estudio en
sí mismo, pero sobre todo como algo más que componentes a identificar o fines y
posicionamientos a develar: se inscribe históricamente como la disciplina que estudia la
escritura y lectura de textos como una producción humana y subjetiva inscripta histórica y
culturalmente.
Posicionarse desde una perspectiva filológica para abordar las nuevas textualidades invita
a construir una “’Historia de las textualidades’ que sea capaz de abordar la relación dialéctica
entre varias historicidades en conflicto: la de los textos y la de las culturas” (Mendoza, 2019
p. 221). El objetivo de la filología en la era digital es lograr de forma efectiva la devolución
de los textos digitales, “desordenados” y “desjerarquizados” de internet, como afirma
Mendoza, a los ojos de un sujeto que pueda circunscribirlo dentro de una lectura propia. Y
precisamente, uno de los mayores desafíos a los que se enfrenta la filología con respecto a
los estudios de la inteligencia artificial es que, lejos de reemplazar la lectura humana o de
asistirla, convierte a textos en fragmentos alienados de su contexto y los ordena en función
de mecanismos que no es posible reponer, porque carece de un autor que se haya involucrado
subjetivamente en ese proceso y pueda dar cuenta de él. No resultaría deseable en este
momento aspirar únicamente al rechazo de las nuevas formas de producción textual sin
considerar estrategias novedosas y metodologías innovadoras para estudiarlas, o estudiar con
ellas. Lejos de buscar leer el fenómeno de los modelos de lenguaje artificial bajo un esquema
de apocalípticos e integrados (Eco, 1984 [1968]), a la filología parecería que debiera
interesarle estudiar los efectos de la herramienta digital como los chatbots como una nueva
dimensión asignada a su objeto de estudio.
Las herramientas que la filología ofrece para leer textos evocan una serie de
procedimientos consolidados en torno a la institucionalización de la disciplina durante el
siglo XIX en Europa, y en términos generales esta misma institucionalización condensó un
saber-hacer que integrara el análisis de la dimensión lingüística con la historia de la
constitución de los propios textos (Scotto, 2022). Se trata de una sucesión de análisis de la
lengua utilizada en las producciones escritas, interpretación del texto y diferentes
procedimientos utilizados para integrar las primeras dos —procedimientos que implican
tanto lo textual, como el análisis retórico o gramatical, dialectológico o estilístico, como lo
extratextual, la interrelación con otras obras del mismo autor o la historización de los
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
textos—. En cualquier caso, estas herramientas requieren, al menos, dos premisas, que
sostienen entre sí: que la elección fonológica, léxica, gramatical, sintáctica de un texto es
relevante para su estudio y está motivada, y que existe un autor con vida, historia,
producciones y contexto propio que amplía el universo de lecturas mucho más allá de unas
pocas palabras. El estudio de textos producidos por chatbots niega ambas premisas: incluso
si se tiene en cuenta que las palabras producidas tienen originalmente una fuente humana,
estarían descontextualizadas y vaciadas de cotexto y contexto en el momento en el que el
chatbot se alimenta de fuentes que no ofrece ni repone; a la vez, la selección léxica y
sintáctica ofrecida por el chat para reformular esos conceptos alienados responde a una de
tantas formulaciones aleatorias prefijadas por el modelo de lenguaje artificial y cada vez que
se interrogue a un chatbot por un mismo problema cambiará levemente las formulaciones
sin que estas tengan el espesor de significado que podemos asignarle a una producción, por
ejemplo, verdaderamente creativa, y no producto de meras asociaciones divergentes
(Cropley, 2023).
La única salvedad posible es que intervenga el usuario: en este punto, nuevamente, un
uso activo por parte de un estudiante o de un profesional tomaría el texto producido por el
chat y podría transformarlo, devolviéndole a esas palabras la dimensión contextual y
humana. Las preguntas que Mendoza formula en su trabajo de 2019 (“¿desde qué lugar
disciplinar, ¿cómo estudiar, con qué metodologías de trabajo, ese nuevo objeto textual
inmerso en la proliferación y en la dispersión y pergeñado de fragmentos?”) ponen en jaque
a la filología precisamente porque sus estrategias disciplinares, históricamente, requirieron
la semantización y la contextualización. Y si bien toda palabra que se sistematiza mediante
los modelos generales de lenguaje tiene un cotexto que se inscribe en un contexto social, con
ciertos discursos que disputan su lugar en una hegemonía (Williams 2019 [1977]), el proceso
de transformación en información priva a las palabras de cierta potencia que le es propia
gracias, precisamente, a la lectura filológica.
Existe un paso previo en la alimentación de las tecnologías de aprendizaje automático y
lenguaje artificial que está invisibilizado: para poder extraer la información, los softwares
como ChatGPT la extraen de relatos constituidos, ideologizados, frecuentemente cargados
de sesgos e ideologemas. La normalidad contemporánea —digital, tecnológica,
instagrameada— del realismo capitalista acostumbra a sus integrantes —usuarios,
individuos, avatares— a leer relatos aparentemente asépticos, que anuncian la neutralidad
como forma básica de autoridad, negando su parcialidad: construye información que rara
vez es objetiva bajo la apariencia de universalidad natural, indiferente a los devenires de la
singularidad, aséptica, no humana (Berardi, 2017). Franco Berardi afirma en
Fenomenologías del fin que de aquello de lo que los humanos se alejan con el entrenamiento
de la tecnología que regula el lenguaje es “de la historia humanista”. La opción por poner en
el centro el humanismo —de hecho, Berardi hace hincapié en una definición de humanidad
a cargo de Picco della Mirandola, un reconocido filólogo del Renacimiento— cristaliza una
posición de Berardi: el filósofo italiano reclama que la cultura humana, los contratos
sociales, la moral y la política poseen leyes propias que abstraen la historia de la evolución.
El abandono total a la técnica, para Berardi, “avanza encubierto como darwinismo social. Y
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
su crisis está conduciendo a una crisis del humanismo en sí mismo, dado que está eliminando
la distinción entre el reino de la naturaleza y la república de los hombres y, por consiguiente,
la diferencia entre historia y evolución” (2017, p. 292). Y luego afirma:
Si la liberación humana de la dominación natural comenzó con el
establecimiento de la técnica y con la apertura de un espacio histórico
autogobernado, el desarrollo técnico en sí mismo está creando las condiciones
para el retorno del determinismo en el intercambio lingüístico y social. Dios
les dio a los humanos la libertad para definirse a sí mismos. El lenguaje fue
el espacio de esta autodefinición y la tecnología, el instrumento para hacer
efectiva esa libertad. Pero ahora somos testigos de un revés paradójico, dado
que la tecnología está asumiendo el lugar que el Dios humanista había
decidido dejar vacío. La tecnología está reemplazando a aquel Dios
determinista que Él había decidido no ser, porque está transformando el
lenguaje en una cadena de automatismos y, así, está anulando la
indeterminación que era la condición para la posibilidad de la autodefinición
y la Libertad. (Berardi, 2017, p. 292).
Para Berardi, reclamar el lugar de lo humano en el lenguaje, en el discurso, y no delegar
la capacidad de narrar a un ente externo, determinista, implica volver a ganar autonomía para
conducir la propia historia. En este punto, el análisis de Berardi recuerda al de Byung-Chul
Han y su oposición entre verdad e información: la verdad es una narrativa, la información es
un cúmulo sin dirección; las personas tenemos la capacidad de tomar información y
convertirla en una verdad por fuerza de nuestro intelecto, porque necesitamos verdades para
vivir. Y Berardi explica que relegar la construcción de la historia —es decir, de narrativas,
de verdades— a leyes deterministas, asépticas, externas, implica dejar que de los procesos o
narrativas se tome solo aquello que puede sistematizarse, eliminando la singularidad propia
del relato: “cuando el lenguaje se reconfigura por la tecnología conectiva, la creación
lingüística del ser pasa a estar regulada por cadenas algorítmicas matemáticas. El evento y
el ser se vuelven divergentes y se anula la singularidad” (Berardi, 2017, p.294). De estas
“cadenas algorítmicas matemáticas” no podrá salir jamás una narrativa, un texto, puesto que
no son artefactos enteramente humanos.
El problema es, claro, que lo son en apariencia. Y que, en apariencia, lo humano puede
reducirse a cadenas de significación que bastan con la repetición y la sustitución. En este
punto, una objeción posible a la filología (quizás a este trabajo) podría ser que, si todo ha
sido ya inventado, y la única novedad radica en la sustitución y la repetición, todo autómata
puede ser un artista; en este contexto es posible proponer que el ser humano puede lograr
corregir su propia humanidad conservando su apariencia y entregando sus herramientas de
creación a una máquina que logrará hacerlo mejor. En definitiva, la utilidad de un chatbot
puede convencer a un empresario de que no requiere empleados que redacten, o a un Estado
nacional de que no necesita alfabetizar a las infancias, apenas entregarles una computadora:
las generaciones anteriores ya lo han hecho todo por ellos, les han ofrecido la última
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
herramienta que permitiría reemplazar el ejercicio del lenguaje más allá de unas pocas
palabras tipeadas sin esfuerzo.
En este punto se cae, como afirma Mark Fisher, en dos simulacros del realismo capitalista:
“la idea de que la expansión infinita del capitalismo es posible, [y la de que] el capitalismo
puede proliferar incluso sin la mediación del trabajo humano” (2016, p. 42). Si las sociedades
propias del realismo capitalista propulsan estas fantasías como formas de suprimir lo Real –
retomando a Lacan, “un vacío traumático del que solo nos llegan atisbos a través de las
fracturas e inconsistencias en el campo de la realidad aparente”— entonces invocar lo que
hay detrás del simulacro, invocar lo Real puede resultar en “una estrategia efectiva contra el
realismo capitalista” (Fisher, 2016, p.43). La relación con la tecnología no puede estar
mediada por la pretensión de que la mera emulación de lo humano constituye, en un aparato
alimentado por la fuerza humana que crea energía eléctrica, algo que sustituye
definitivamente la fuerza y el intelecto humanos en sí. Se trata de una ilusión producto de la
caída en desprestigio de cierto humanismo del cual la filología fue la ciencia piloto durante
el siglo XIX, un humanismo que apuesta actualmente, incesantemente, por descubrir lo real
tras el simulacro, lo humano detrás de la respuesta del chat.
La filología, la empatía, la libertad
En este contexto de rampante desarrollo de análisis de textos, imágenes, datos, relegado
a dispositivos tecnológicos y algoritmos rara vez transparentes, optar por regresar a la
filología, una disciplina del siglo XIX, centrada en la lectura fina, rigurosa, un ejercicio viejo,
lento, “la menos útil y sexy de todas las humanidades” (Said, 2004, p. 57) es, ante todo, una
posición política y una posición humanista.
Sheldon Pollock, en 2016, publicó un artículo en el primer número de la revista
Philological Encounters, titulado “Philology and Freedom”. La revista surge en ese primer
número como un espacio dedicado a problematizar el rol y la vigencia de la filología como
disciplina humanística ya enteramente atravesada por múltiples crisis y cambios de
paradigma que transformaron su objeto y sus metodologías. En su artículo, Pollock señala
que “la filología, nos han dicho, siempre ha estado, ‘inherentemente’, lamentándose de ‘su
decadencia actual’” (Pollock, 2016, p. 10); y, aun así, admite que la crisis que atraviesa
actualmente no parece tener parangón histórico en sus características. La filología, para
Pollock, ha perdido relevancia en tanto se presupone una disciplina con cada vez menos
presupuesto en un contexto en el que “problemas globales de enorme magnitud” en otras
áreas absorben una gran cantidad de “recursos intelectuales y económicos” de las
instituciones, mientras que los propios filólogos tampoco demuestran “demasiada habilidad”
en “defender la filología filológicamente” (Pollock, 2016, p.8), lo que ha conducido a que
en la actualidad la disciplina “viva una existencia pálida, fantasmal” en la que apenas
sobreviven y se destacan sus componentes metodológicos, como “la crítica del texto, la
bibliografía, la gramática histórica, la lingüística de corpus” (Pollock, 2016, p.13).
Pero estos, afirma Pollock, son los medios, no el fin de la filología. Su objeto es, según
el autor, “no la teoría de la lengua como tal -eso es la lingüística- ni la teoría de la verdad en
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
la lengua -eso es filosofía- sino la teoría de la lengua-como-es-usada-en-los-textos”; por ello
la filología logra tomar “los textos, su historia, su forma de ser, su textualidad, por no
mencionar su contenido, y, sobre todo, como motor primario, la lengua en la que ese texto
ha sido compuesto” “como fin en sí mismo” (Pollock, 2016: 16). Al historizar las
condiciones de posibilidad del propio objeto de estudio, incorpora una dimensión globalista
en las humanidades, y da lugar a una pluralidad de metodologías dentro de los límites de la
tarea problematizando la construcción del conocimiento, reivindicando la memoria,
abriendo el pasado a la crítica responsable, facilitando el encuentro con la belleza y la
creatividad interna de los textos y permitiendo “la experiencia intelectual incomparable de
hablar con los muertos” (Pollock, 2016, pp.13-16). El problema, sin embargo, es que la
filología cuenta con un objeto de estudio —la lengua utilizada en los textos—, una teoría
general de interpretación de su objeto —la hermenéutica— y una serie de herramientas
metodológicas —el análisis gramatical, la crítica textual, el estudio retórico-histórico— pero
no cuenta hoy con un lugar distintivo en la división disciplinar del trabajo intelectual
académico institucionalizado.
Volverse a la filología representa un gesto político asociado a la recuperación de la
memoria, del pasado y el presente, para establecer lecturas novedosas, que se vinculen con
la singularidad de la experiencia de los sujetos que las conducen; para la filología, la
producción de textos y la lectura son eventos contextualmente únicos, fenómenos
atravesados por la contingencia de sus infinitas proyecciones y semantizaciones. La
automatización de los textos vacía de singularidad la producción, los chatbots eliminan la
contingencia reemplazándola por operaciones aleatorias de sustitución: un chat con una
inteligencia artificial de lenguaje automático es el sitio en el que el valor de los signos dentro
del sistema se reduce radicalmente, donde las palabras pierden afectividad y profundidad, y
todo análisis lingüístico, retórico, contextual se encuentra con su límite, que es,
precisamente, no poder asignar decisiones a ninguna consciencia. De la misma forma, el chat
repetirá lecturas originales, creativas que un humano habrá plasmado como texto en internet,
pero la procesará apenas como datos asociados a otras palabras.
En términos de las elaboraciones de Pollock, entonces, leer filológicamente significa
asignar contexto, conectar creativamente ideas diferentes, apropiarlas en relación con una
serie de eventos singulares y transformarlas precisamente por la utilización de ciertas
expresiones y no otras; es decir, constituir una narrativa, una producción mucho más allá del
mero encadenamiento de la información, y producir, a partir de ella, un texto. En este sentido,
un chatbot es incapaz de (re)crear la vinculación entre relato e información, entre
singularidad y regularidad; tampoco podrá producir lecturas comparadas, intertextuales, ni
ofrecer interpretaciones creativas. Esto no supone que todos los lectores humanos puedan
realizar todas estas operaciones, pero sí podrán hacerlo aquellos que hayan alcanzado cierto
grado de alfabetización académica: en este punto, desde la filología se pueden comenzar
empresas que transformen las herramientas tecnológicas como los chatbots sin eliminarlas.
La filología, gracias a su perspectiva acerca de qué significa leer, podría proponer modelos
de lenguaje que ofrezcan soluciones para los tres problemas presentados aquí: modelos que
tengan trazabilidad de los textos de los que se alimentan, y se los muestre al usuario; que a
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
su vez fuercen la intervención de los usuarios en los textos producidos, al presentarles no un
producto pretendidamente cerrado sino una serie de proposiciones que el usuario deba
terminar de formular a partir de fuentes seleccionadas; y que, por último, garanticen el
involucramiento del individuo en la confección de un texto que, en este caso sí, tendrá
marcas específicas de contextualización, gracias a que involucrará su subjetividad en el texto
final. Este tipo de herramientas no solo supondrían alentar la escritura sino
fundamentalmente la lectura como instancia fundante de cualquier relación con el lenguaje.
La propuesta de Pollock posee una dimensión más para reivindicar la filología como
práctica de lectura, algo que tampoco es capaz de hacer ninguna máquina. Pollock propone
volver a darle lugar a la filología no tanto porque en sí misma la filología represente una
revolución académica, o un regreso a cierta forma disciplinar de trabajo humanístico
intrínsecamente mejor, sino porque considera que la filología propone formas diversas de
leer, y esa diversidad implica un ejercicio ético de empatía y amplitud de pensamiento. “Sos
como leés, y aprender a leer de forma diferente significa, potencialmente, aprender a ser
diferente” (Pollock, 2016, p.27): en este punto la potencialidad de la filología para Pollock
radica en la posibilidad de democratizar las interpretaciones y ejercitar la incorporación de
nuevas lecturas de los textos. La filología crítica, argumenta Pollock, logrará por medio de
la lectura “lenta, comprometida, cuidadosa”, reforzar el vínculo de las personas con “la
verdad, la solidaridad, y una autoconsciencia crítica” para “hacernos más libres, como
ciudadanos y como seres humanos” (Pollock, 2016, p.17). Esto que puede parecer a primera
vista una sobreestimación de los poderes de la filología quizás sea, ocho años después de
que lo publicara Pollock, una apuesta necesaria a la poderosa influencia de la lectura en un
momento histórico en el que esta se vuelve cada vez menos necesaria, al menos en lo
aparente y en lo inmediato. La posibilidad de confeccionar nuevos modelos tecnológicos que
estén al servicio de estos nobles propósitos requerirá algo más que destreza programática y
hardware que la sostenga: necesita un programa político-filológico que ponga a las personas
y su formación en el centro de la cuestión de la producción de textos. Esta apuesta, en
términos de Berardi y de Pollock, representa una reivindicación del humanismo, de la
búsqueda de la verdad y de la apuesta a la empatía por la forma de ser, de escribir, de leer
de otros, otros humanos: lecturas integrales, comparadas, creativas, bellas.
Para pensar en las tecnologías de los modelos de aprendizaje automático como los
chatbots, es preciso recordar que por mucho que lo parezcan, no se tratan de producciones
originales, sino de operaciones copy-paste propias de las tecnologías del texto digital. Esto
importa, más que como un recordatorio de que los chatbots no están vivos, porque permite
reponer que la asombrosa capacidad de producción que tiene un chatbot es apenas una
muestra selectiva de la increíble producción lingüística que los seres humanos hemos
volcado en internet. Y es relevante recordarlo porque, ante todo, las operaciones de
interpretación de información que conducen estas tecnologías solo podrán tomar de esa
ingente masa textual apenas lo que puedan codificar como información para reorganizarla y
luego producir algo que será, solo en apariencia, una narrativa: una forma de contar el mundo
que es ajena pero asombrosamente familiar, porque es un producto de la imitación y la
sustitución. El miedo a lo no humano es, antes que temores realistas al reemplazo de cuerpos
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
por máquinas, la emergencia de fantasmas y tristes fantasías que hablan, como el fantasma
del padre de Hamlet, vestidas con una armadura técnica y alimentada de miedos y tensiones
que no son sobrehumanas en lo absoluto. Del otro lado del ChatGPT no hay nada más que
una versión pasada de nosotros, que ya hemos escrito las palabras que ahora nos asusta
volver a ver.
Conclusiones
En este trabajo se ha buscado comenzar a abordar, desde una perspectiva filológica, una
elaboración teórica a propósito de las promesas y peligros que presenta la masificación del
uso de los modelos de lenguaje artificial, específicamente de ChatGPT. Para ello se ofreció,
inicialmente, una presentación de aquello que la tecnología es capaz de hacer, algunas
generalidades sobre su funcionamiento, y las promesas que se proyectan en el presente y en
el futuro. Se han identificado, específicamente, tres peligros concretos: la incapacidad de
reponer las fuentes —heterogéneas y desjerarquizadas— de las producciones de ChatGPT,
la posibilidad de que su uso delegue toda tarea de lectura por parte de los usuarios y algunas
de las implicancias que esto tendría en contextos educativos, y el abandono de la escritura a
máquinas no humanas. Para abordar los problemas II y III se utilizaron trabajos
provenientes del ámbito educativo y aportes teóricos de la filosofía, como los de Byung-
Chul Han, Franco Berardi y Mark Fisher; para abordar la interpretación de este fenómeno
desde la filología se convocaron las obras de filólogos y estudiosos de la historia de los textos
como Sheldon Pollock y Roger Chartier. Finalmente se propuso que, más allá de las
promesas que estas tecnologías pueden ofrecer en términos de utilidad, la reivindicación de
la filología convoca dos posicionamientos centrales para abordar este tipo de fenómenos:
por un lado, en tiempos de textualidades digitales y navegación de una web que no requiere
la lectura, es preciso recordar que este tipo de tecnologías se alimentan de producciones
humanas sometidas a procedimientos maquínicos que las vacían de sentido y orientación y
las convierten en mera información; por otro lado, la lectura y la escritura humana poseen
potencialidades específicas que es necesario recordar, recuperar y reivindicar. Hacia el final
se ha resumido brevemente alguna de las formas en las que esta perspectiva filológica puede
colaborar con formar mejores lectores y, a la vez, concebir nuevas herramientas tecnológicas
sostenidas en este objetivo. Se espera que este trabajo colabore con la reivindicación de la
filología como una disciplina que, de renovarse, puede tener mucho que decir acerca de las
tensiones eminentemente humanas que se producen entre los nuevos y viejos modos de leer
textos digitales.
Referencias bibliográficas
Aarseth, E. (1997). Cybertext. Perspectives on Ergodic Literature. Baltimore & London:
John Hopkins University Press.
AlAfnan, M. A., Dishari, S., Jovic, M. y Lomidze, K. (2023). ChatGPT as an Educational
Tool: Opportunities, Challenges, and Recommendations for Communication,
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
Business Writing, and Composition Courses. Journal of Artificial Intelligence and
Technology, 3(2), 60–68. https://doi.org/10.37965/jait.2023.0184
Berardi, F. (2017). Futurabilidad. La era de la impotencia y el horizonte de la posibilidad.
Buenos Aires: Caja Negra.
Bonneau, J., Grondin-Robillard, L., Ménard, M.y Mondoux, A. (2022). Fighting the
“System”: A Pilot Project on the Opacity of Algorithms in Political
Communication. En A. Hepp, J. Jarke y L. Kramp (eds.), New Perspectives in
Critical Data Studies. Transforming Communications. Studies in Cross-Media
Research. Palgrave Macmillan. DOI: 10.1007/978-3-030-96180-0-5
Calle Álvarez, G. (2014). Las habilidades del pensamiento crítico durante la escritura
digital en un ambiente de aprendizaje apoyado por herramientas de la web 2.0.
Revista Encuentros, 12(1), 27-45.
Castillo, A. G. R., Silva, G. J. S., Arocutipa, J. P. F., Berríos, H. Q., Rodríguez, M. A. M.,
Reyes, G. Y., López, H. R. P., Reves, R. M. V., Rivera, H. V. H. y González, J. L.
A. (2023). Effect of Chat GPT on the digitized learning process of university
students. J. Namib. Studies. 2023, (33), 1-15.
Cerquiglini, B. (1999). In praise of the variant. John Hopkins University Press.
Chartier, R. (2018). La mano del autor y el espíritu del impresor. Siglos XVI al XVIII.
Buenos Aires: Katz.
Chihaia, M. (2023). II. 2. Literatura y datos. Oportunidades y desafíos de la filología digital.
En prensa.
Chomsky, N., Roberts, I. y Watumull, J. (2023). Noam Chomsky: the False Promise of
ChatGPT. Ney York Times. Recuperado de
https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html
Cropley, D. (2023). Is artificial intelligence more creative than humans?: ChatGPT and the
Divergent Association Task. Learning Letters, 2, 13.
https://doi.org/10.59453/ll.v2.13
DePillis, L. y Lohr, S. (2023). Tinkering With ChatGPT, Workers Wonder: Will This Take
My Job? New York Times. Recuperado de
https://www.nytimes.com/2023/03/28/business/economy/jobs-ai-artificial-
intelligence-chatgpt.html
Derrida, J. (1995). Mal de archivo. Una impresión freudiana. Madrid: Trotta.
Díaz, A. y Postay, V. (2023). Empiezan las clases. ¿Qué hacemos con la inteligencia
artificial? Gloria y Loor. Recuperado de https://www.gloriayloor.com/empiezan-las-
clases-que-hacemos-con-la-inteligencia-artificial/
Eco, H. (1984 [1968]). Apocalípticos e integrados. Barcelona: DeBolsillo.
España Palop, E. (2022). Teaching writing and discursive genres in the digital age: Results
of a Writing Project. HUMAN REVIEW. International Humanities Review. Revista
Internacional De Humanidades, 13(6), 1-9.
https://doi.org/10.37467/revhuman.v11.4081
Fisher, M. (2009). Realismo capitalista. ¿No hay alternativa? Buenos Aires: Caja Negra.
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
Greenhouse, S. (2023). US experts warn AI likely to kill off jobs – and widen wealth
inequality. The Guardian. Recuperado de
https://www.theguardian.com/technology/2023/feb/08/ai-chatgpt-jobs-economy-
inequality
Han, B-C. (2022). Infocracia. La digitalización y la crisis de la democracia. Madrid:
Penguin Random House.
Hayles, C. (2008). Electronic Literature: New Horizons for the Literary. Notre Dame:
Notre Dame University Press.
Huyssen, A. (2003). Present Pasts: Urban Palimpsests and the Politics of Memory.
Stanford: Stanford University Press.
Islam, F. (2023). AI: Which jobs are most at risk from technology? BBC. Recuperado de
https://www.bbc.com/news/business-65459827
Kocoń, J., Cichecki, I., Kaszyca, O., Kochanek, M., Szydło, D., Baran, J. y Kazienko, P.
(2023). Chatgpt: Jack of All Trades, Master of None. SSRN. Recuperado de
https://ssrn.com/abstract=4372889
Link, D. (2015). Suturas. Imágenes, escritura, vida. Buenos Aires: Eterna Cadencia.
Magro Mazo, C. (2018). Docentes para nuestra época. Cuadernos de pedagogía, (489), 63-
71
Marcin, T. (2023). Microsoft's Bing AI chatbot has said a lot of weird things. Here's a list.
Mashable. Recuperado de https://mashable.com/article/microsoft-bing-ai-chatbot-
weird-scary-responses
McLuhan, M. y Powers, B. R. (1992). The Global Village: Transformations in World Life
and Media in the 21st Century. Oxford: Oxford University Press.
Melamed, A. (2023). Por qué ChatGPT puede cambiar el futuro del trabajo. Infobae.
Recuperado de https://www.infobae.com/tendencias/2023/03/08/por-que-chatgpt-
puede-cambiar-el-mundo-del-trabajo/
Mendoza, J. J. (2019). Avatares de los textos en la época de la reproductibilidad digital.
(Ensayo para una historia de las textualidades). BiblioGraphica, 2, 198-224.
Montenegro-Rueda, M., Fernández-Cerero, J., Fernández-Batanero, J. M. y López-
Meneses, E. (2023). Impact of the Implementation of ChatGPT in Education: A
Systematic Review. Computers, (12), 153.
https://doi.org/10.3390/computers12080153
Park, Y. J. (2023). Let me tell you, ChatGPT-like AI will not change our world. Internet
Policy Review. Recuperado de https://policyreview.info/articles/news/let-me-tell-
you-chatgpt-ai-will-not-change-our-world/1694
Pérez Pozo, A., De la Rosa, J., Ros, S., González-Blanco, E., Hernández, L. y De Sisto, M.
(2021). A bridge too far for artificial intelligence? Automatic classification of
stanzas in Spanish poetry. Journal of the Association for Information Science and
Technology, 73(2), 258–267. Recuperado de https://doi.org/10.1002/asi.24532
Pollock, S. (2016). Philology and Freedom. Philological Encounters, 1(1), 4-30.
Quevedo, L. (2016). Vivimos en la época de la digitalización de las relaciones. Entrevista a
Roger Chartier. Nuevos papeles. Recuperado de
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
https://www.nuevospapeles.com/nota/1128-roger-chartier-ldquo-vivimos-en-la-
epoca-de-la-digitalizacion-de-las-relaciones-rdquo
Roose, K. (2023). Una conversación con el Chat de Bing me dejó profundamente perturbado.
The New York Times. Recuperado de
https://www.nytimes.com/es/2023/02/17/espanol/chatbot-bing-ia.html
Ryan, M-L. (1999). Cyberspace, Virtuality and the Text. Cyberspace, Textuality, Computer
Technology and Literary Theory. Bloomington: Indiana University Press.
Said, E. W. (2004). The return to Philology. Humanism and Democratic Criticism. New
York: Columbia University Press.
Sánchez, L. (2022). Los maestros del siglo XX ante el fetichismo de las nuevas tecnologías.
Gloria y Loor. Recuperado de https://www.gloriayloor.com/los-maestros-del-siglo-
xx-ante-el-fetichismo-de-las-nuevas-tecnologias/
Schöch, C. (2018). Zeta für die kontrastive Analyse literarischer Texte: Theorie,
Implementierung, Fallstudie. En T. Bernhart, M. Willand, M., S. Richter, A. Albrecht
(eds.), Quantitative Ansätze in den Literatur- und Geisteswissenschaften:
Systematische und historische Perspektiven. Berlín & Boston: De Gruyter.
Scotto, V. (2022). Filología y arquetipo. Una historia política de la fijación de la tradición
textual (Tesis doctoral). Ensenada: Universidad Nacional de La Plata. Recuperado de
https://www.memoria.fahce.unlp.edu.ar/tesis/te.2324/te.2324.pdf
Secretaría de Innovación Tecnológica y Transformación Digital (SITD). (2022). El caso de
Boti. Buenos Aires. Recuperado de
https://buenosaires.gob.ar/innovacionytransformaciondigital/boti
Teel, Z. A., Wang, T. y Lund, B. (2023). ChatGPT conundrums: Probing plagiarism and
parroting problems in higher education practices. College & Research Libraries
News, 84(6), 205-208. Recuperado de https://ssrn.com/abstract=4480551
Thorp, H. H. (2023). ChatGPT is fun, but not an author. Recuperado de
https://www.science.org/doi/10.1126/science.adg7879?cookieSet=1
Torres, A. (2023). ¿Qué posibilidades hay de que ChatGPT se quede con tu trabajo? La
Nación. Recuperado de https://www.lanacion.com.ar/tecnologia/que-posibilidades-
hay-de-que-chatgpt-se-quede-con-tu-trabajo-nid28042023/
Vincent, J. (2016). Twitter taught Microsoft’s AI chatbot to be a racist asshole in less than a
day. The Verge. Recuperado de https://www.theverge.com/2016/3/24/11297050/tay-
microsoft-chatbot-racist
Williams, R. (2019 [1977]). Marxismo y literatura. Buenos Aires: Las Cuarenta.
Wolf, F. A. (1808). Darstellung der Alterthumswissenschaft. Realschulbuchhandlung.
Zizek, S. (2011). Primero como tragedia después como farsa. Madrid: Akal.
Notas
1
Aquí, y en todos los casos en los que se cita un texto en otra lengua, se ofrece una
traducción ad hoc para facilitar la lectura.
Obra bajo Licencia Creative Commons 4.0 Internacional.
Recial Vol. XV. N° 25 (Enero- Junio 2024) ISSN 2718-658X. Victoria Scotto, El ChatGPT y el fin de la historia:
una elaboración teórica sobre sus peligros y promesas leídos desde la filología, pp. 118-146.
2
En adelante, la preferencia por el ChatGPT frente al análisis de otros chatbots como
Perplexity, Bing Chat o CHATBIT, a menos que sea explícito, se justificará por la
radicalmente mayor popularidad que el primero tiene en relación con los demás. En general,
las tecnologías que potencian a uno y otros son marcadamente similares sino la misma, y en
este sentido ChatGPT funciona como un testigo de las problemáticas que aúnan a todos los
chatbots de uso amplio que se mencionaron antes.
3
En este punto ChatGPT se diferencia de Perplexity, que ofrece algunas de las fuentes de
las que extrae la información. Sin embargo, la característica de Perplexity es que trabaja con
la misma tecnología que ChatGPT y que, a su vez, es un motor de búsqueda. En este punto,
su funcionamiento es similar al del buscador de Google en aquellas búsquedas en las que se
ofrece una pregunta y el propio buscador extrae un fragmento que responde (o parece
responder), además de ofrecer sitios web con información vinculada debajo.
4
Esto se evidenció ante el pedido explícito al ChatGPTde recomendación por parte del chat
de artículos científicos sobre regulación de la información a la que acceden los chatbots. El
chat respondió que recomendaba textos como “‘Regulating Artificial Intelligence in Health
Care’ por M. H. Furrow, R. J. Greely, and D. L. Johnson, DOI 10.1056/NEJMhle1911921”:
ni el título del artículo ni los autores ni el DOI se corresponden con nada de la información
descrita por el chatbot.
5
El escritor Pedro Mairal realizó un experimento sobre el chat con algunas novelas y cuentos
y expuso sus exploraciones en la red social Twitter:
https://twitter.com/MairalPedro/status/1651621355119419400.
6
Las cursivas pertenecen al original.
