Éric Sadin: "El lenguaje estandarizado de la inteligencia artificial huele a muerte"
El filósofo francés, de visita en el país, afirma que la lengua humana es la creación siempre singular de una persona que habla en su nombre con libertad, lo opuesto a lo que produce el ChatGPT
El pensador francés Éric Sadin visitó nuevamente la Argentina, esta vez para brindar dos conferencias (una en el patio de la sede del Rectorado de la Universidad Nacional de Tres de Febrero, otra en el auditorio del Malba) y para presentar su nuevo libro, La vida espectral. Pensar la era del metaverso y las inteligencias artificiales generativas (Caja Negra), escrito antes y después de los anuncios de OpenAI sobre los avances en materia de inteligencia artificial.
Para Sadin, el futuro que espera a la humanidad es poco menos que catastrófico si no se ponen límites a las mentes (humanas) de Silicon Valley y a lo que llama la "tecnologización de la vida cotidiana". "Estoy feliz con la recepción que reciben tanto mis obras como mis posiciones en la Argentina y en el mundo hispanoparlante, algo que empezó hace siete años, con la aparición de La realidad aumentada", dice. En Francia, sus libros venden decenas de miles de ejemplares; Sadin colabora en los medios franceses más importantes, como Le Monde y Le Figaro.
"Ahora hay un sistema al que le encargamos que realice tareas que hasta hace poco movilizaban nuestras facultades intelectuales y creativas"
Como pasa con las obras de otros pensadores contemporáneos, la de Sadin prosigue una argumentación de un libro a otro; este no es la excepción y en varios capítulos continúa el debate iniciado en libros anteriores, como La era del individuo tirano, donde se enfocaba en el "usuario" formateado por el "tecnoliberalismo".
Su nuevo ensayo, entonces, aborda el impacto que tiene en la sociedad la "adicción a las pantallas", puesta en tensión con el legado cultural, artístico y político del pasado.
"Este fue un libro complicado para mí por la fuerza misma de las cosas –dice Sadin–. Como trabajo sobre dimensiones contemporáneas que están continuamente en movimiento, este es un texto que se movió mucho en el transcurso de la escritura. El desafío inicial era analizar las consecuencias de lo que llamo la pixelización integral de nuestras vidas, el hecho de que cada vez más actividades de la vida humana se pierden en pantallas y sistemas digitales, dimensión que quisieron intensificar Mark Zuckerberg y Silicon Valley a partir del otoño de 2021, a finales del gran confinamiento, donde el desafío era que el mundo pudiera venir hacia nosotros y nosotros realizar una cantidad creciente de actividades a distancia a través de pantallas y asistidos por sistemas digitales cada vez más conscientes".
El proyecto inicial era analizar el alcance de este proceso, que cristalizó en la aparición de la industria del metaverso, cuenta el filósofo, autor también de La silicolonización del mundo (Caja Negra, 2018).
Sin embargo, en medio de la escritura del libro, irrumpió un acontecimiento insoslayable: la puesta en línea del ChatGPT, el 30 de noviembre de 2022. "Eso me produjo una suerte de vértigo –dice Sadin–. Ahí entendí que se trataba de una fecha histórica, única en la historia de la humanidad. Fue la primera vez en un libro que me pasa esto de trabajar en dos dimensiones sin haberlo previsto. Eso hace que este sea un libro que da un testimonio sobre el curso del estado de las cosas, tiene una dimensión prospectiva, pero sigue siendo bastante híbrido. Por eso tengo la idea de escribir otro de 150 páginas sobre el fenómeno preponderante, este terremoto que presenta la irrupción de la IA generativa, las consecuencias y cómo deberíamos actuar como sociedad".
–¿Y cómo deberíamos actuar?
–Hablemos primero de lo que tenemos enfrente. Desde hace unos quince años están en funcionamiento unos sistemas de IA. La IA era, hasta 2022, un sistema de diagnóstico y recomendación, un sistema de evaluación de una cantidad de aspectos de la vida humana, por ejemplo, tomar tal camino o no, comprar tal producto en tal lugar o no. Es lo que llamo la organización cognitiva y organizacional de la IA. Esta dimensión sigue en funcionamiento más que nunca, con una cantidad de consecuencias jurídicas y políticas que a mi juicio no están siendo pensadas y que analicé en 2018 en La inteligencia artificial o el desafío del siglo. Pero desde noviembre de 2022, si bien este sistema sigue en pie, vivimos lo que llamo el giro intelectual y creativo de la IA.
–¿Qué implica ese giro?
–Significa que ahora hay un sistema al que le encargamos que realice tareas que hasta este momento movilizaban nuestras facultades intelectuales y creativas. En diciembre de 2022 se puso en línea ChatGPT y una multitud de gente dijo que era increíble un sistema que, con una mera instrucción, un prompt, pudiera producir texto en un seudolenguaje. Estas mismas personas dijeron que todavía hacían falta nuevos desarrollos para que el ChatGPT se acercara a un lenguaje humano. Lo que tendríamos que haber hecho entonces es ver cómo funcionaba eso, quizá para un filósofo de la técnica ese era su deber, ya que los ingenieros no nos explican cómo funciona, nos dicen que va a ser genial y que vamos a vivir en un mundo maravilloso. El sistema de IA generativa deglutió todos los corpus existentes desde la noche de los tiempos hasta 2021, con miras a someterlos a análisis estadísticos, matemáticos, esquemas lógicos y ecuaciones probabilísticas. Por ejemplo, cuando escribimos en WhatsApp, el predictivo completa la frase. En una dimensión probabilística el sistema funciona a través de correlaciones y aparecen entonces las probabilidades más altas en función de estadísticas y ejemplos lógicos. Pero esto es lo opuesto a la manera en que mantenemos nuestra relación con el lenguaje hasta ahora.
"Vamos hacia un entorno en donde no sabremos cuál es la verdad, y eso es muy grave; una sociedad no solo comparte principios, sino también las referencias en común"
–¿En qué se contrapone con nuestro uso del lenguaje?
–La relación con la lengua es el lugar del encuentro, el maravilloso choque entre el legado común y cada singularidad con su capacidad subjetiva. Lo que llamamos cultura está hecho de una infinidad de textos, esquemas de construcción, gramática y ortografía que aprendemos en la infancia y que, en la adultez, nos permite forjar textos en primera persona, de manera única. Lo que voy a decir ahora mismo, la palabra que vamos a decir en el momento siguiente no la podemos predecir, no la sabemos. Y no lo sabemos porque no mantenemos una relación probabilística con el lenguaje sino indeterminada. Y ese es el lugar de la libertad humana, el lugar de la creatividad; el lenguaje es la creación continua y siempre singular de una persona que habla en nombre propio con libertad. Es lo opuesto al lenguaje necrosado de la IA, que huele a muerte porque está fundado en esquemas lógicos de correlaciones: si hay A, hay B y habrá C. Nosotros utilizamos el lenguaje dentro de una dimensión asociativa. Ahora este lenguaje necrosado, industrializado, estandarizado, esquematizado está llamado a convertirse en algo mayoritario en el espacio simbólico. Cuando las personas empezaron a utilizar ChatGPT no vieron las consecuencias civilizatorias que tiene.
–¿Solamente se valoró su función práctica y utilitaria?
–Sí, y eso es terrible. Porque el utilitarismo se convirtió tanto en una norma en nuestra sociedad que llegó a infiltrar nuestros cerebros y solo pensamos en términos utilitaristas. Ahora bien, la cuestión en particular que nos van a plantear pronto nuestros hijos es: "¿Por qué debo ir a la escuela si hay sistemas que a través de una mera instrucción producen texto? ¿Para qué voy a estudiar en la escuela, perdiendo tiempo con la gramática y la ortografía?".
–¿Qué deberían responder los adultos ante un planteo como ese?
–La educación es el aprendizaje de la alteridad. La educación en casa es verse solo a sí mismo y eso contribuye al estatuto del individuo tirano. Lo que propongo hacer es tratar de captar las consecuencias sociales, políticas y civilizatorias del ChatGPT. Quizás el utilitarismo nos impide hacer el esfuerzo de captar todo esto. Quizás a los niños haya que hacerles entender que el lenguaje es el lugar de la libertad humana, la pluralidad, la capacidad para construirse como individuo singular, un ser capaz de tener posiciones propias en una sociedad libre y plural; que el aprendizaje de los grandes textos y de la cultura son una ocasión de alegría intensa para la existencia. Podríamos responderles también que el seudolenguaje de la IA va a reforzar un capitalismo algortítimico que solo brega por el lucro. Podríamos decir además que son sistemas que van a generar consecuencias de consumo energético más grandes, en momentos en que se dice que hay que modificarlos.
–¿Qué impacto tendrá en el mundo de las representaciones?
–Lo que está sucediendo hoy con las IA generativas es que con una simple instrucción, el menor esfuerzo, sentadito en un sillón, puedo pedir que prepare el discurso de esta noche mientras yo duermo la siesta. Es lo que llamo el "régimen del promptismo generalizado". No pasa solamente con el seudolenguaje, sino también con las imágenes. Con una instrucción se pueden generar imágenes falsas, como la del papa Francisco con campera o el falso audio de Joe Biden.
"Frecuentar de manera compulsiva las pantallas genera conexiones neuronales empobrecidas y nos priva de la expresión de nuestra singularidad"
–Se trata de una cuestión ontológica.
–Más que eso, un audio falso de Biden pidiendo a sus electores no votar en New Hampshire para reservarse y votar en Florida o el video seudopornográfico de Taylor Swift producen consecuencias concretas. A través de una instrucción puedo pedir a la IA que cree un video falso de un vecino con el que tengo una diferencia, pegándole a una mujer, y después lo subo a internet. Vamos camino a eso porque son tecnologías que están en manos de todos; vamos hacia un entorno en donde no sabremos cuál es la verdad y eso supone una extrema gravedad, porque una sociedad no es solo los principios en común, sino también las referencias en común. La sociedad ya está lo suficientemente enloquecida con las fake news, con la posverdad, con la expresión del rencor, con el complotismo.
–¿Cómo actuar ante esta situación?
–La sociedad está cruzada por una psiquiatrización, pero ¿qué hace el legislador en lugar de prohibir la IA generativa en diciembre de 2022? Dice que, puesto que estos sistemas saquean los fondos de imágenes y textos, hay que analizarlos a través del mismo sistema en lugar de ver las consecuencias. Los legisladores están fuera del contacto con la realidad y no entienden nada, o están bajo el yugo del supuesto crecimiento económico y solo piensan en las consecuencias económicas, no en las civilizatorias. Ya no estamos en la posverdad sino en la indistinción generalizada, ya no vamos a saber más nada. En dos años este régimen corre el riesgo de volverse mayoritario.
–¿Cuáles podrían ser las consecuencias en el mundo del trabajo?
–Un año después de la puesta en línea del ChatGPT, Sam Altman dijo que habíamos tenido un buen año y todos se rieron, el auditorio se rio, todo el mundo se rio, pero también dijo que eso no era nada en comparación con lo que se venía. "Vamos a darles a todos los individuos del planeta superpoderes con los superasistentes", dijo. O sea, sistemas de IA generativa que van a responder de manera personalizada. Te vas a mudar y necesitás un arquitecto que te asesore; por ahora, es un arquitecto, pero pronto un superasistente va a incorporar todos tus deseos y datos. Un profesor en casa les ofrece a los niños programas de estudio personalizados; un médico clínico será cada vez menos necesario si se puede tener una entrevista con una IA que analizará mi cara y me dará consejos de salud. En el mundo más de dos tercios de los empleos pertenecen al sector terciario, de servicios. Habíamos hablado del giro intelectual y creativo, que es lo que caracteriza a las profesiones que tienen que ver con los servicios, porque movilizan nuestras facultades intelectuales. Ahora hay sistemas que pueden desempeñar de manera infinitamente más rápida y fiable, y a menor costo, esas tareas. No hay que ser adivino para ver lo que se viene. Diseñadores, periodistas, abogados, profesores, en suma, todas las profesiones que en su mayoría requieren largos y costosos estudios y además son oficios que procuran placer y fenómenos de reconocimiento, dentro de pocos años van a sufrir un huracán, todas esas profesiones van a ser trituradas y destruidas. Por eso los gurúes de Silicon Valley ya hablan de un "salario mínimo universal". En mayo de 2023, los guionistas de Hollywood reaccionaron, fueron muy valientes y sin esperar a los legisladores o la regulación se movilizaron, hicieron huelga y dijeron "esto no lo queremos". Eso necesitamos hoy: tiene que haber una movilización al interior de las corporaciones.
–Augura un futuro inmediato turbulento.
–Nos corresponde a nosotros más que nunca promover una sociedad crítica que nos permita estar más al corriente de la realidad de estas cosas y no a merced de discursos que vienen de supuestos expertos que nos cuentan pavadas. Los guionistas de Hollywood relataron lo que estaba pasando y dieron testimonio de lo que iba a pasar y cómo este huracán se los iba a llevar puestos. Tuvieron la determinación, la valentía, la conciencia, se comprometieron en una acción política, una acción social. Es muy probable que la sociedad entre en ebullición de acá a seis meses o un año. Desde el sector terciario tenemos que movilizarnos por eso.
–¿Hay una relación entre el auge de estas tecnologías y el de las nuevas derechas?
–Sí. Esas derechas, esos populismos, son indisociables de la acumulación de desilusión, del sentimiento de imposibilidad e inutilidad de cada uno. Muchas promesas fueron defraudadas y, en un momento histórico, se colocó en manos de los individuos herramientas para la expresión. Eso liberó rencores, resentimiento, teorías alocadas, y ahora llegamos a un mundo donde solo se ve lo real a partir de los propios rencores.
–¿Qué les diría a los jóvenes que utilizan estas herramientas?
–Muchas cosas. Que es envidiable una vida cotidiana con compañías que nos estimulan y buscan estimular nuestros comportamientos, en lugar de actuar en forma pasiva con herramientas que muchas veces nos llevan a compararnos con los demás, a estar en un juego de competición social sumamente triste. No son solo los jóvenes, es todo el mundo. Ahora sabemos que frecuentar de manera compulsiva las pantallas genera conexiones neuronales empobrecidas, sistemas que nos privan de la expresión de la singularidad, la tranquilidad y de impulsos a los que no dejamos de responder. Sabemos hoy, mediante estudios, que la lectura de libros estimula zonas del cerebro, aportando alegría, reflexión, aprendizaje, singularización. Hay que ofrecer medios para hacer valer nuestra libertad y subjetividad, y esto es indisociable de otras temporalidades que no son las de las pantallas, y del aprendizaje de la alteridad. Hay libros que cambian una vida; ver un video en TikTok no cambia la vida.
PENSADOR CRÍTICO DEL PRESENTE
PERFIL: Éric Sadin
■ Éric Sadin nació en 1973, en París. Escritor y filósofo, es uno de los pensadores más críticos sobre los efectos de las tecnologías digitales. Brinda conferencias en distintos países y colabora regularmente con diarios como Le Monde, Le Figaro, Libération, El País, Die Zeit y Corriere della Sera.
■ Es autor de varios ensayos, muchos de ellos best sellers en Francia, España y la Argentina, como La humanidad aumentada, La siliconización del mundo y La era del individuo tirano, publicados en el país por Caja Negra. Herder lanzó Hacer disidencia. Una política de nosotros mismos.
■ Si bien no da clases en universidades, es invitado por casas de estudios superiores en todo el mundo. También es autor de libros de poesía.
■ Caja Negra acaba de lanzar en el país su libro más reciente, La vida espectral.