la humanidad tiene quien le escriba | Revista Crisis
GPT-2 y GPT-3 / inteligencia artificial / Entrevista a Jorge Carrión
la humanidad tiene quien le escriba
Las últimas novedades, al menos las compartidas para el público masivo, en materia de Inteligencia Artificial son los chats y la escritura de textos a manos de los algoritmos. Estas herramientas generan una mezcla de fascinación tech, desdén por parte de los intelectuales y también sensaciones de horror en los más nostálgicos. ¿Quién sabe lo que puede una máquina? Jorge Carrión ensaya una escritura ¿colectiva? con los algoritmos y lanza una serie de hipótesis y preguntas filosas sobre una época en la que las máquinas empiezan a tomar la posta de la escritura automática.
Fotografía: Dan Damelio
23 de Marzo de 2023

 

En Corazones estallados (2019), un ensayo teórico sobre la crisis de lo humano, el argentino J. P. Zooey resumió su visión del humanismo como la capacidad de ascender del ámbito terrestre y vulgar al espacio celestial del conocimiento y la sabiduría. Gracias a esta razón humanista, “mediante los libros, a través de la lectura y la escritura, hombres y mujeres pueden progresar sobre el mundo cotidiano y repetitivo”. Un humanista contemporáneo, señala, sabe que “las redes y Netflix son armas de distracción masiva” en su ascenso a partir de la palabra y el conocimiento. En el otro lado del globo, otro escritor y ensayista, también reflexiona acerca de las mutaciones que introduce la tecnología en lo humano. En su caso, Jorge Carrión (Tarragona, 1976) se pregunta por los cambios que introduce la escritura producida por aprendizaje automático y otras formas de inteligencia artificial. ¿La poesía y la prosa pueden ser generadas por machine learning? ¿Los sistemas que aprenden automáticamente, por inteligencia artificial, pueden crear canciones o vídeos a partir de su propia experiencia?

Para responder estas preguntas Carrión se embarca en una acción de escritura colectiva con algoritmos. Junto con los chats GPT-2 y GPT-3, los ingenieros del Taller Estampa y el escritor le dan vida a Los campos electromagnéticos (Caja Negra, 2023), un libro que sitúa en un mismo plano ontológico el lenguaje maquínico y lenguaje humano. “Cada vez existen menos lenguajes que solo dominemos los seres humanos”, remarca Carrión en la introducción. Pero en su boca, estas palabras no suenan a amenaza o a nostalgia. La aspiración de Carrión es colaborar, co-crear, con los objetos técnicos, en lugar de ver en ellos una amenaza externa a la realidad humana que los desarrolló.

Al final del Fedro de Platón, se señala que la letra muerta no es capaz de responder preguntas. La letra muerta vuelve al hombre olvidadizo al tener a su alcance un dispositivo técnico externo a su alma. Con la inteligencia artificial, ¿estamos frente a una letra muerta capaz responder preguntas?

Habría que revisar el concepto de alma humana. Si existe ha sido moldeada por la tecnología. Es decir, son muchos los años que la tecnología acompaña a la humanidad desde que dominamos el fuego, inventamos la cocina, la joyería, el tejido, el lenguaje y la escritura. A partir de estas intervenciones somos tecnohumanos. Si existe algo así como un alma, es un alma tecnológica. En lo humano, no existe lo natural biológico sin lo tecnológico. Dicho esto, quizás la máxima expresión de la invención humana, hoy sean los algoritmos creativos. Creados por los humanos, herramientas fabulosas, hijas nuestras. Pero es cierto que desde una perspectiva tradicional, lo que genera el GPT-3, es un lenguaje que no ha sido concebido con sentido. No hay conciencia del lenguaje, hay generación de palabras con corrección gramatical y sintáctica.

¿Cómo aprende una inteligencia artificial?

El GPT-2 se entrena con un dataset. Hay una parte que ya viene dada de las carreras de internet. Y existe otra parte que se puede personalizar. Lo que hicimos fue darle libros que yo había leído con la idea de que escribiera como yo. Tu le das libros, él los procesa, y después le dimos mis libros, mis artículos, mis guiones de podcast, porque hay una fase de la escritura que se llama refinamiento, que le da un estilo determinado. Está entrenado para escribir como yo. Lo podemos seguir entrenando y haciéndolo crecer. El GPT-3 es una api que ya viene dada, una aplicación diseñada como interfaz. Le das una instrucción en playground y escribe un texto sobre tal tema, o un poema. Hay otra opción que es el chat. En la cual haces preguntas y la IA te las contesta como un chat. Pero no tiene coherencia. No hay un tema de conservación. El GPT-3 se acuerda de sus respuestas y no cae en contradicciones. Te puede decir, “como ya te he dicho…” y repetirte la respuesta. La evolución de esta red neuronal, de aprendizaje profundo, tiene sus particularidades. La principal es la aceleración. Mejora su conocimiento de manera exponencial.

Si existe algo así como un alma, es un alma tecnológica. En lo humano, no existe lo natural biológico sin lo tecnológico. Dicho esto, quizás la máxima expresión de la invención humana, hoy sean los algoritmos creativos. Creados por los humanos, herramientas fabulosas, hijas nuestras.

¿Qué lugar ocupan las inteligencias artificiales en la larga historia de la palabra humana?

Comenzaste con una referencia al Fedro. A mí me resuena distinto. Lo que ocurre ahora se parece bastante a La República, en la cuál el artista es expulsado de la república. En la actualidad, los algoritmos son expulsados de un modo parecido. Lo que tenemos que hacer es integrarlos, cooperar con ellos, generar una relación horizontal y ética. Porque hasta ahora los hemos tratado de un modo vertical. O sea, Siri es una esclava que nos habla con voz femenina. Este tipo de sesgos no se pueden seguir reproduciendo. En este sentido, el GPT-3 y el GPT-4, son una oportunidad. Los campos electromagnéticos, escritos con GPT-2 es irreverente, es salvaje, es surreal. En cambio, el texto escrito junto con GPT-3, tiende hacia el buenismo, tiende hacia la autoayuda, el mensaje positivo. ¿En qué radica esta diferencia? En que el GPT-2 fue criticado por sus sesgos. Entonces la empresa Open AI quiso corregir esto. Siempre es ensayo y error. Pero el camino es encontrar una cierta armonía con las máquinas.

¿Cómo se prefigura Los campos electromagnético?

Si he hecho este libro es porque escribí Membrana (Galaxia Gutenberg, 2021). Una novela distópica que transcurre en el año 2100. Se inaugura el Museo del Siglo XXI y el catálogo es escrito por una inteligencia artificial. Esta novela la escribí poseído por una voz del futuro que me hablaba, sin darme cuenta que era muy oscura. Los campos electromagnéticos culmina un camino que siguió con el podcast Solaris y la novela Lo viral. En estos textos el denominador común es buscar formas de la utopía. ¿Qué forma adquiere esta utopía? Bueno, más que expulsar a la inteligencia artificial, a los algoritmos, de la república, habría que aceptarlos e integrarlos. Convertirlos en ciudadanos que comparten con nosotros su tekné.

Tanto Los Campos Electromagnéticos, como en tus novelas y el podcast hay una intención de salir del antropocentrismo ¿Cómo se puede expresar esta intención en algoritmos que son intervenidos por la voluntad corporativa?

Es una pregunta difícil de responder. Por un lado, en nuestra época predominan las inteligencias en red y, por lo tanto, descentralizadas. Ya tenemos modelos antiguos de ello. Como puede ser el pulpo o las plantas. Internet convirtió ese modelo natural en un modelo artificial. Yo creo que, aunque es cierto que las corporaciones lideran una parte de la investigación en esos ámbitos, de algoritmos que a través de redes neuronales, de aprendizaje profundo, generan texto, también hay muchos centros de investigación públicos, redes de universidades, la Unión Europea, China, que están trabajando en innovación tecnológica. Tenemos que apoyar proyectos alternativos, transparentes y menos opacos en su funcionamiento. No obstante ello, yo usé algoritmos gratuitos, en versión beta, pero privados. Tenemos que hackear el sistema. Esto no se puede hacer desde afuera o demonizándolo.  Lo que hicimos con Taller Estampa fue encontrar el modo de entender mejor esta tecnología, no para generar desinformación o suplantar humanos, sino para agregar belleza y poesía al mundo.

Tenemos que apoyar proyectos alternativos, transparentes y menos opacos en su funcionamiento. No obstante ello, yo usé algoritmos gratuitos, en versión beta, pero privados. Tenemos que hackear el sistema. Esto no se puede hacer desde afuera o demonizándolo. 

¿Cómo fueron las sesiones de escritura?

Igual que Bretón y Soupault que quedaban para escribir unos días y horarios determinados, en sesiones que recordaban al espiritismo, nosotros nos juntábamos en Taller Estampa. Estas sesiones lograban un carácter ritual, de encuentro entre humanos y no-humanos, para invocarlos. La escritura automática en sí dió pocos frutos interesantes desde el punto de vista artístico tradicional. Sin embargo, el método fue exitoso, porque es el cimiento de la improvisación. Este método surrealista se lleva al jazz, a la danza contemporánea, a la fotografía, al hip hop, a la presentación de spoken word. Me interesaba revitalizar el espíritu de la vanguardia a partir del libro.     

La intención de Breton y Soupault, influidos por el psicoanálisis, era liberar el inconsciente. ¿Cuál es el objetivo de la colaboración humano - maquínica del libro?

De Membrana en adelante, todos mis proyectos tienen que ver con cuestionar la centralidad del ser humano en el contexto del antropoceno. Pero seamos sinceros, eso tiene que ver con un espíritu filosófico e inquietudes intelectuales. En el fondo también me parecía un reto muy divertido. Eso también es una diferencia respecto a las máquinas. Reír, irse de fiesta, los rituales. De algún modo, mi relación con Taller Estampa y Roc Albalat en particular ha sido super interesante. Compartimos todo lo que escribimos sobre el tema. Y las sesiones de escritura con GP-2 y GP-3 fueron muy divertidas. Reivindicar la ironía y el humor de estas sesiones me parece importante, porque todavía son propias de lo humano.

Destacadas
podcast de revista / quinta temporada / análisis geopolítico
Por Marco Teruggi
diálogo picante / autoayuda para políticos / el trauma del pro
Por Mario Santucho
la tierra en disputa / sed terrateniente / resistencia mapuche
Por Hernán Schiaffini
sucesos argentinos / resistir la catástrofe / historia del presente
Por Agustín Valle