“Todo lo que esté hecho de palabras será controlado por la IA”.
La afirmación del título no es mía sino del discurso de Yuval N. Harari en el Foro de Davos el 20 de enero pasado. El texto del discurso completo tiene muchas aristas para comentar. Es de un tono desafiante, que interpela al lector y a la vez, destila un tono de prédica o profecía metafísica y también bíblica. Pero aquí me voy a centrar en dar algunas pinceladas de algunas de las objeciones que se le podrían hacer al texto de Harari. Las presento en una tabla porque todavía están en borrador; de todos modos, así como están, pueden servir para continuar conversando.
Para clarificar el sentido de mis comentarios, le adelanto al lector mis dos objeciones centrales:
- El uso de la palabra “palabra”: Para Harari, las palabras no remiten a algo por fuera de ellas. Es decir, para él las palabras no son signos, no tienen relación con las cosas, sino que son términos arbitrarios independientes de cualquier realidad. (Por “cosas” entendemos diversos tipos de seres). Para Harari, las palabras no remiten a un algo extramental que exista de por sí, por fuera del lenguaje. Entonces, eso que él llama “palabra”, en verdad, son solo términos, vocablos, léxicos o, más precisamente, combinaciones de ceros y unos.
- La antropomorfización de la IA: No pongo en duda qué maravillas puede lograr hacer la IA, ni su gran utilidad, pero sí creo que subrayar su valor atribuyéndole características humanas nos confunde, le crea al ser humano un falso conflicto de identidad.
| Texto de Harari | Comentario de MMP |
| “El tercer aspecto que hay que saber sobre la IA es que puede mentir y manipular. Cuatro mil millones de años de evolución han demostrado que todo lo que quiere sobrevivir aprende a mentir y manipular. Los últimos cuatro años han demostrado que los agentes de IA pueden adquirir la voluntad de sobrevivir y que las IA ya han aprendido a mentir”. | En este párrafo hay dos cuestiones entremezcladas. Una (i) es la afirmación de Harari acerca de que mentir y manipular es un aprendizaje que hace aquello que quiere sobrevivir.
La otra, (ii) que es la que me interesa, es que la IA puede mentir y manipular.
Mi objeción va por el lado de que la IA no puede mentir, porque no tampoco puede decir la verdad. Para esto voy a citar un párrafo del semiótico y filósofo del lenguaje Umberto Eco.
“Signo es cualquier cosa que puede considerarse como substituto significante de cualquier otra cosa. Esa cualquier otra cosa no debe necesariamente existir, ni debe sustituir de hecho en el momento en que el signo la represente. En ese sentido, la semiótica es, en principio, la disciplina que estudia todo lo que puede usarse para mentir. Si una cosa no puede usarse para mentir, en ese caso tampoco puede usarse para decir la verdad: en realidad, no puede usarse para decir nada” (*)
Para Harari, las palabras de la IA no son signos, no son sustitutos significantes de las cosas, sino pura arbitrariedad sin relacion con lo extramental. Por lo tanto, la IA ni miente ni dice la verdad. (Tampoco “tiene” valores, pero eso es tema de otro análisis) |
| “¿Desafiará la IA nuestra supremacía en el campo del pensamiento? Eso depende de lo que signifique pensar. Intenta observarte pensando. ¿Qué ocurre? Mucha gente observa cómo las palabras surgen en su mente y forman oraciones. Y las oraciones luego forman argumentos, como: “Todos los humanos son mortales, yo soy humano, luego soy mortal”. Si pensar realmente significa ordenar palabras y otros elementos del lenguaje, entonces la IA ya puede pensar mucho mejor que muchísimos humanos. Sin duda, la IA puede formular una frase como: “La IA piensa, luego existe”. | Aquí Harari, plantea muy bien que hay diferentes formas de entender aquello que llamamos “pensar”. Sin embargo, al igual que Marvin Minsky y los integrantes del Darthmouth Group de los años 50 del siglo pasado, sus investigaciones sobre el funcionamiento de la mente humana eran solamente autobservaciones. Desde el punto de vista de la cientificidad de su afirmación, es posible decir -sin dudarlo- que su metodología es extremadamente subjetiva.
Por otra parte, da por supuesto que la mente ordena las palabras, en lugar de abrirse a la pregunta de si la mente encuentra el orden en lugar de crearlo. Por otra parte, la recurrencia de Harari a citar a Descartes es bastante coherente en este caso, aunque la frase final me parece solo un “punch” retórico. |
| “Algunos argumentan que la IA simplemente predice la siguiente palabra de una oración. Pero ¿es eso tan diferente de lo que hace la mente humana? Intenta observar, captar la siguiente palabra que te venga a la mente. ¿Sabes realmente por qué viste esa palabra, de dónde viene? ¿Por qué pensaste en esa palabra en particular y no en otra? ¿Lo sabes?”
|
En esta frase Harari admite la condición de “loro estocástico” (Bender, 2021) de la IA, es decir que repite y predice aleatoriamente las palabras que siguen. Sin embargo, vuelve a sugerir la auto observación para confirmarlo.
Me pregunto ¿puede alguna persona observar la aleatoriedad en la construcción de sus frases? o, por el contrario, ¿no es más evidente auto observar la búsqueda de las mejores palabras para expresar el sentido de lo que quiere decir? Para Harari no hay un sentido o significado más allá de la palabra y, además, sugiere la arbitrariedad de los ordenamientos del lenguaje. Para responder a esta idea harariana se puede citar otra vez a Umberto Eco:
“Existe una teoría singular de los orígenes del lenguaje en la obra de un pensador árabe del siglo Xl, lbn Hazm. Los lenguas no pueden haber nacido por convención, porque para establecer las reglas los seres humanos habrían tenido necesidad de una lengua precedente”
Es decir, el lenguaje dice siempre una relación a algo extralingüístico, no puede explicarse encerrado en sí mismo. |
| “En cuanto a ordenar palabras, la IA ya piensa mejor que muchos de nosotros. Por lo tanto, cualquier cosa hecha de palabras será controlada por la IA. Si las leyes están hechas de palabras, la IA controlará el sistema legal. Si los libros son solo combinaciones de palabras, la IA controlará los libros. Si la religión se construye con palabras, la IA controlará la religión”. | Donde dice “piensa mejor” yo leo “calcula mejor”.
Si el orden es arbitrario y no hay sentidos o significados, entonces es posible el control total por aquel que pueda y quiera hacerlo. |
| “Sin embargo, algunos podrían decir: ¿podemos realmente reducir la espiritualidad humana a solo palabras en libros? ¿Pensar significa solo ordenar elementos del lenguaje? Si te observas atentamente mientras piensas, notarás que algo más ocurre allí, además de las palabras que surgen en tu mente y forman oraciones. También tienes algunas sensaciones no verbales. Quizás sientas dolor, quizás miedo, quizás amor. Algunos pensamientos son dolorosos, algunos son aterradores, algunos están llenos de amor.
(…) Que los humanos aún tengan un lugar en ese mundo depende del lugar que otorguemos a nuestras emociones no verbales y a nuestra capacidad de encarnar la sabiduría que no se puede expresar con palabras. Si seguimos definiéndonos por nuestra capacidad de pensar con palabras, nuestra identidad se derrumbará”. |
En este párrafo, Harari mezcla la espiritualidad con las sensaciones no verbales.
Cae en la dicotomía propia de algunas disciplinas que -en la interioridad del ser humano- solo identifican razón y emociones, nada más. No queda claro que habrá querido decir con la sabiduría inefable. Pero sí, se olvida de lo que distingue al hombre: la voluntad, el deseo y la libertad.
|
Continuará….
(*) Scolari, C.A. (2016). Umberto Eco, el hombre que sabía todo. Una lista.