Traducción por Amapola Fuentes para Colapso y desvío
Disponible en Ill Will aquí
Disponible para descarga en PDF aquí.
Nota de la traducción al español: El texto original está escrito en francés en Lundi Matin y ha sido traducido al inglés por Robert Hurley, y subido a Ill Will. Esta es una traducción al español que ha sido realizada desde el inglés, gracias al trabajo de Ill Will.
Mientras que muchas críticas a la inteligencia artificial siguen girando en torno a fantasías de robots competidores que se alzan contra el hombre, el siguiente ensayo pretende dar la vuelta al problema: la verdadera preocupación de la investigación en IA, argumenta Azaïs, no reside en los robots parecidos a los humanos, sino en la imagen empobrecida de la humanidad a la que nos condena por su reducción de la inteligencia humana al nivel de la técnica o el cálculo. Al descomponer y traducir el razonamiento, la comunicación y la decisión humanos al lenguaje informatizado de las tareas, la computación no sustituye al hombre por la máquina, sino que garantiza que el hombre “se comporte y actúe como una máquina, que la sociedad en su conjunto tecnifique mediante un sutil juego, por turnos, de normalización e imitación.”
Inspirándose en el filósofo francés Jacques Ellul, Azaïs argumenta que estos aspectos aparentemente científicos de la ”tecnología de la IA” son inextricables de un mito prometeico que no sólo es necesario para su funcionamiento, sino que también sirve para ocultar la alienación que ella misma produce. Ficciones como la “inteligencia artificial general” y la “singularidad” no sólo aglutinan una mezcolanza de técnicas y aplicaciones sin conexión ni fundamento, sino que también refuerzan una creencia mágica en la omnipotencia de la tecnología. Esta imagen sacralizada de la técnica, encarnada en la paradójica búsqueda de producir una criatura demiúrgica autónoma y todopoderosa, invierte y distorsiona la verdad del sistema tecnológico en el que se apoya. En realidad, la eficacia de la IA depende precisamente de la integración de la vida humana en un sistema social tecnificado, una ”utopía cibernética” en la que la decisión, el derecho y la ley humanos han sido sustituidos por el hecho técnico de la gubernamentalidad algorítmica. Los mitos milenaristas sobre el “futuro de la IA” no son, por tanto, más que personificaciones mistificadas de la heteronomía opresiva de nuestra condición actual. En ellos, la fuente misma de nuestra alienación -un sistema técnico que invisibiliza, desnaturaliza y destruye todo lo que elude su racionalidad unívoca- se transforma en una fantasía sobrenatural de ciencia ficción cuya “autonomía” no es más que un reflejo invertido de nuestra pasividad actual.
A medida que las distopías tecnofeudalistas siguen engullendo a la clase dominante estadounidense, el esfuerzo por combatirlas no puede contentarse con una oposición estrictamente política, sino que debe incorporar simultáneamente estrategias para desacralizar la técnica. La profanación de las técnicas, como nos recuerdan Ellul y Azaïs, constituye una condición previa para cualquier esfuerzo de auténtica liberación.
_______________________________________________
La tecnología tiene en sí misma un cierto número de consecuencias, representa una cierta estructura, ciertas exigencias, y provoca ciertas modificaciones del hombre y de la sociedad, que se imponen por sí mismas nos guste o no. La tecnología, por sí misma, va en una determinada dirección. […] Para cambiar esta estructura o reconducir este movimiento tenemos que hacer un tremendo esfuerzo para apoderarnos de lo que se creía móvil y dirigible, tenemos que tomar conciencia de esta independencia del sistema tecnológico, frente a la tranquilizadora convicción de la neutralidad tecnológica.
-Jacques Ellul
“En los últimos meses hemos visto a los laboratorios de IA enzarzados en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable.” Esta declaración precedió a la recomendación, firmada el 22 de marzo de 2023, de una moratoria de seis meses en la investigación de la IA, tras la llegada de los programas ChatGPT y de IA generativa.[1] Entre los firmantes había científicos de renombre, peces gordos de Silicon Valley e investigadores de la IA, desde Yoshua Bengio [Premio Turing] a Steve Wozniak [Apple], pasando por Stuart Russell y Elon Musk, además de otros expertos, profesores e ingenieros. Esta moratoria, ampliamente pregonada en los medios de comunicación, dio una expresión ambigua a las ansiedades relativas a la inteligencia artificial, invocando una especie de fantasía milenarista escalada: “¿Deberíamos desarrollar mentes no humanas que con el tiempo podrían superarnos en número, inteligencia, obsolescencia y reemplazo?”. La petición se hacía eco del concepto de “singularidad tecnológica”, es decir, el momento, teorizado a finales del siglo pasado, en que la IA alcanzaría una forma de “conciencia” y autonomía, allanando el camino a una aceleración tecnológica que el hombre ya no podría controlar.[2] Aquí surge también una cuestión relativamente nueva: una vez que abandonamos la forma habitual de hablar de una “IA con fines utilitarios”, ¿cómo debemos posicionarnos ante una tecnología tan poco fiable, que no sólo representa un riesgo, sino tal vez incluso una amenaza para la humanidad? ¿Se ha vuelto incomprensible incluso para sus creadores?
A finales de mayo se envió otra petición, cuya forma en sí era desconcertante. Titulada “SAFE AI Statement” (Declaración sobre una IA segura) e iniciada por investigadores e ingenieros en IA, hacía un llamamiento sencillo: “Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial, junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”[3]. Aunque muchos señalaron la hipocresía de esta declaración, pocos parecen haberse percatado de la novedad de un discurso que echa por tierra un supuesto convencional sobre la técnica: la tecnología no sólo no es neutral, sino que en este caso ni siquiera es”buena”[4] .Señalemos también, de paso, que aunque esta tecnología parece escapar ya peligrosamente al control de sus creadores (existe un riesgo, pero sólo puede mitigarse), el elemento de hostilidad que le es inherente no se considera un problema a priori, sino simplemente un riesgo a posteriori (de extinción).
Este relato de una máquina inteligente que se vuelve contra el hombre sirve para desalentar un enfoque más racional que, ateniéndose a una crítica de la tecnología, vería también en la IA un riesgo de esclavización o de descalificación del hombre. Un mito arrasa con todo.
La sensación que infunde es, pues, extraña, como si viviéramos en un mundo de ciencia ficción que instrumentaliza sus propios códigos dentro de sí mismo. Una especie de metanarrativa, un simulacro de ciencia ficción que enmascara un horizonte distópico, a su vez plenamente tangible y real… Para comprender mejor la cuestión, es necesario distinguir entre ciencia ficción y distopía, género y subgénero, recordar cómo estos dos géneros de ficción se alimentan mutuamente, cómo operan a través de una puesta entre paréntesis de lo real. La “singularidad” es el mito de Frankenstein trastocado: la alegoría prometeica queda vacía en favor, en primer lugar, de una creencia en la omnipotencia de la técnica, que es totalmente contraria a la historia original. Hay que rechazar esta lectura milenarista de la singularidad. En su lugar, debemos interpretarla no como una proyección fantaseada de un futuro posible, sino como una alegoría de nuestro propio presente. Esto, a su vez, nos permitirá reapropiarnos de la narración antigua y restaurar su significado metafórico.
Sucede que el “mito” de la inteligencia artificial se hace eco en gran medida de la interrogación de Jacques Ellul, a mediados del siglo XX, sobre el lugar de la tecnología en nuestras sociedades. El mito de la IA traduce algo que ha permanecido impensado. Presagia una posibilidad que nos llevaría más allá del “sistema tecnológico” (1977) descrito con tanta precisión por Ellul, haciendo realidad temores que ya había anticipado en la introducción del libro. El mito de la IA materializa, de forma negativa, el peligro de una sociedad utópica, de un sistema encerrado en la tecnología: una “Megamáquina” en la que los individuos y las relaciones sociales estarían regidos de hecho por principios técnicos (es decir, reducidos en última instancia a simulacros). El objetivo del presente ensayo es trazar los contornos y las consecuencias de esta afirmación.
I. Técnica y mito
El punto de vista más “ilustrado” sobre la IA -crítico o no- suele pasar por alto el mito que la rodea, limitándose a encogerse de hombros ante la cuestión. Si la IA pretende ser la realización de lo que la ciencia ficción había anunciado o “profetizado”, en realidad tendría poco que ver con esta visión milenaria. El problema aquí es que un exceso de racionalismo puede llevarnos a considerar el fenómeno técnico de forma aislada, como una cosa en sí misma. Siempre es grande la tentación de relegar su mito a mera fantasía. Sin embargo, al hacerlo, acabamos ocultando la construcción mítica que mantiene unido lo que de otro modo, con la IA, no sería más que un surtido de técnicas y aplicaciones sin conexión ni fundamento alguno. En otras palabras, es precisamente a través de su relación ambivalente con el mito como podemos entender qué es la inteligencia artificial. Por esta razón, antes de recurrir a las ideas de Jacques Ellul (que siempre se preocupó de abordar las creencias y los mitos de nuestro tiempo[5]), debemos considerar primero esta relación entre la IA y el mito en sus propios términos.
Incluso algunos de los más fervientes defensores de la IA están convencidos de que el mito y la técnica deben mantenerse separados. Al fin y al cabo, el rendimiento técnico de la inteligencia artificial debería ser la prueba de su racionalidad, independientemente de cualquier sistema de creencias. Desde este punto de vista, las predicciones irracionales y los temores que rodean a la IA sólo acaban alimentando una especie de folclore tecnológico (con la IA, nunca estamos muy lejos, de hecho, del espectáculo de fenómenos, del acto de magia); o peor aún, promueven intereses privados que son en sí mismos parasitarios.
Sin embargo, aunque una visión puramente tecnicista (prefiero este término al de “utilitarista” en su sentido un tanto anticuado[6]) podría querer distinguir el verdadero progreso de la tecnología de la IA de la singularidad (como producto de maniáticos), nada nos permite separarlos tan nítidamente. El mito es uno y el mismo (veremos más adelante el papel preciso que desempeña esta fantasía de ciencia ficción de pesadilla).
Por otra parte, no tiene sentido desacreditar la alusión a la singularidad contenida en las peticiones antes mencionadas, o reducirla a una mera estratagema de marketing, aunque también sea eso (la insinuación de una tecnología tan poderosa… todopoderosa). Si la ambigüedad del mito es tan llamativa, ello se debe a que lo que está en juego no es simplemente la cuestión secundaria del poder que prestamos a la máquina, y que simplemente necesitamos regular, sino la cuestión más compleja y enrevesada de la sacralización de la técnica de la que depende el poder que invertimos o no en la IA. A diferencia del mito de la singularidad (que se extrapola de ella), el mito de la inteligencia artificial alimentado por el imaginario de la ciencia ficción no va más allá de la hipótesis de la posible emergencia en la “máquina” de una forma de conciencia. Es este mito el que debemos abordar en primer lugar.
Así como el mito de la singularidad funciona para desalentar de antemano cualquier crítica de la técnica, limitarse a una deconstrucción de este mito no sería menos problemático: por un lado, todos los argumentos en su contra juegan a su favor, ya que el mito goza del atractivo de una fantasía o de una falsa pretensión (el discurso mitificador y el desmitificador tienden así a fusionarse). Por otro lado, el racionalismo de la técnica, entendido a través de su principio activo como performance [eficacia], parece asumir la tarea de desmitificarse a sí mismo, aunque la propia IA tienda a la personificación de la técnica. Aunque esta aparente contradicción podría haber permitido al mito eludir el análisis, lo cierto es que el mito y el
“racionalismo” técnico son producto el uno del otro, se compenetran y amalgaman en su creencia compartida en la omnipotencia de la técnica. En resumen, en lugar de aislar el mito de la técnica, es precisamente a través de su mutua relación (y aparente contradicción) como la inteligencia artificial se construye y se deja comprender.
“La técnica ya no está subordinada, sino que legitima la investigación científica” (TS, 266), observa Jacques Ellul. Heidegger, otro pensador de la técnica que no gustaba especialmente a Ellul, llega a una conclusión similar: “La técnica… no deriva de la ciencia; al contrario, es la ciencia la que deriva de la técnica y es, en cierto sentido, su brazo armado”. Con esta evolución, la ciencia y la técnica parecen en realidad haberse fusionado. Aunque el carácter preponderante de la técnica es importante, veremos que es de la propia ambivalencia de este acoplamiento de donde la IA extrae su sustancia y dinamismo.
Considerada como ciencia o campo de investigación, la inteligencia artificial es prometeica; considerada como técnica, no tiene ese significado predeterminado. De hecho, ¿qué tienen que ver entre sí el GPS y el ChatGTP, las técnicas de detección de melanomas y los sistemas de armas autónomas letales (LAWS), salvo que todos ellos utilizan IA? ¿Qué tiene esto que ver con el mito?
A primera vista, la profusión de tecnologías de IA hace que su propio concepto sea difícil de definir. Por lo general, la IA se entiende en términos de tres etapas predefinidas: IA débil, general y fuerte. La IA débil se refiere a formas de automatización y complejidad tecnológica con las que todos estamos fácilmente familiarizados: apoyo a la toma de decisiones, neurociencia, sistemas de detección, modelos estadísticos complejos, etc. La IA general [AGI] se asocia a la simulación de la inteligencia humana, incluyendo la computación emocional, la simulación cognitiva, el pensamiento, el lenguaje, etc. La IA fuerte, por último, se refiere a la creación de una inteligencia artificial verdaderamente autónoma, es decir, igual o superior a la inteligencia humana, y se sitúa por tanto en un futuro puramente hipotético que es materia de mito. Aunque a veces se confunde con la AGI, la IA fuerte se distingue por la introducción de la noción de conciencia.
Por supuesto, esta tipología sólo es interesante en la medida en que el mundo de los ingenieros y diseñadores de IA la invoca a la hora de enmarcar sus retos técnicos y teóricos (los trabajos sobre modelos lingüísticos giran todos, por ejemplo, en torno a la AGI). ¿No se podría objetar en este punto que la técnica, que “determina la investigación” -siendo ésta sólo un medio para alcanzar un fin-, nunca se asigna de hecho tales objetivos generales? De hecho, si se examina más de cerca, la inteligencia artificial no es más que la suma de sus diversos caminos. Aquí vemos precisamente la ambigüedad técnica de la que se nutre la IA. La IA no es más que el producto de una desnaturalización mal entendida de la técnica por el mito, que por tanto no puede aislarse de ella. En contraste con el “ideal” puramente técnico, las tecnologías de la IA tienen su propia estructura o lógica peculiar.
(i) Podemos distinguir una primera clase de IA que se insertan en otros sistemas técnicos ya complejos. Por ejemplo, en la programación informática, en la industria logística (gestión de flujos y existencias, transporte), en el diseño de las propias inteligencias artificiales, etc. En estas aplicaciones -que siguen siendo las más invisibles y menos controvertidas- la inteligencia artificial, como técnica pura, parece distanciarse del mito, al tiempo que expone un rasgo fundamental del mismo: la autonomización.
Al integrarse en sistemas técnicos que ya son autónomos (logística, entornos complejos) y que el ser humano sólo puede modificar o torcer en un sentido u otro con gran dificultad, este uso de la IA parece validar una tendencia general. Cuando se trata de la creación de herramientas informáticas, o de la creación de IA por IA, la autonomización cuestiona de una manera nueva el gesto “creativo” de los ingenieros informáticos. Por supuesto, la noción misma de ingeniería informática evoca una forma de autonomía (de los programas, de los sistemas); pero, en este caso, ¿el ingeniero informático cede de algún modo los mandos a la máquina? ¿Empuja un sistema digital de este tipo hacia una autonomía aún mayor para sí mismo? En cuanto al caso de la creación de la IA por la IA: ¿empuja el ingeniero a esta tecnología hacia una forma de autonomía, o no existe ya una tendencia “natural” a que la tecnología informática se vuelva autónoma? La respuesta parece ser “un poco de ambas”. El ingeniero informático compensa lo que la técnica le ha quitado (ya que la técnica elude muy rápidamente al técnico) invistiendo a esta tecnología de un poder virtual aún por venir: se moviliza un vocabulario, la IA así concebida recibe el nombre de “niño” (el sistema Nasnet generado por el AutoML de Google) y se imagina con la potencia o el potencial de inspirar otros modelos de IA en el futuro (se hace un llamamiento a otros desarrolladores para que retomen esta tecnología y la perfeccionen).[7] La tecnología de la IA es una forma de dirigir hacia una mayor autonomización una tecnología dada (la computación), cuyo rasgo característico ya es autonomizarse. Mientras tanto, la proyección de categorías humanas sobre el objeto técnico lo inviste de un significado particular. La “investigación de la IA” sistematiza esta autonomización de forma ambigua, elevándola a la categoría de sujeto. Promete una relación de poder constante del hombre con la técnica y de la técnica con el hombre. La técnica ya no se entiende como un medio para el poder, sino como poder a secas, poder como tal (como el fuego o la electricidad).
El concepto de inteligencia artificial se remonta a la invención del ordenador. Desde los años 50, cuando se elaboró por primera vez el concepto, y mucho antes de que la propia tecnología alentara la hipótesis, la ambición era claramente demiúrgica y prometeica. Aunque la investigación permanecía en el ámbito teórico, el optimismo de sus pioneros -de Alan Turing a Marvin Minsky, pasando por Allen Newell y Herbert Simon- declaraba que una IA con capacidades similares o superiores a la inteligencia humana era previsible en el horizonte de menos de una generación.[8] Esta hipótesis demiúrgica de una investigación en IA sin objetivos ni aplicaciones prácticas se ha convertido hoy en día en algo casi evidente. El proyecto metafísico prometeico, el cuestionamiento de la conciencia y la consecución de una forma de conciencia informática (la “prueba de Turing”), subyace a toda la investigación en IA.
El advenimiento de la cibernética en el mismo periodo que la formulación del concepto de IA popularizó la idea de una ciencia integralmente tecnificada, que ya no puede recurrir más que al razonamiento técnico para formular, probar y validar sus teorías. En este sentido, la teorización de la inteligencia artificial -inteligencia asimilable a un cálculo o a un programa informático- parecería desde el principio no ser más que un desafío técnico: su aspecto teórico da paso a lo técnico, luego a lo práctico, que sin embargo conservan siempre esta coloración científica, experimental.
En este acoplamiento de ciencia y técnica, es la ciencia la que proporciona el impulso dinámico, haciendo de la inteligencia artificial un ámbito de investigación, unificando y orientando sus diversas formas técnicas, del mismo modo que unifica los distintos corpus científicos vinculados a este ámbito de investigación. Más allá de la hibridación de los procesos técnicos, se trata de tender hacia una síntesis técnica y funcionalista. El mito prometeico de la IA es el producto de esta tecnociencia, esta ciencia monopolizada por la técnica, como el fuego que ha robado. La inteligencia como programa informático. De hecho, la técnica y la investigación no se ponen límites a sí mismas, y es precisamente en este sentido en el que la técnica se ve atravesada por un mito: en su carácter dual y cambiante, la inteligencia artificial es a la vez técnica y técnica-en-construcción.[9]
______________________________________________
La IA es una proyección del hombre sobre el objeto técnico (el mito antropomórfico) y una proyección de la técnica sobre el hombre (el cerebro-máquina como postulado). Estas dos concepciones, inseparables aunque aparentemente opuestas, se reflejan mutuamente. Sin embargo, puede resultar difícil seguir el hilo lógico que va del objeto teórico, metafísico, a la aplicación técnica, práctica. Si, teóricamente, la inteligencia artificial y la inteligencia humana funcionan de forma similar, ¿qué hace de la inteligencia artificial una técnica para el hombre? ¿Qué uso podría hacer de ella? Esta es la pregunta que plantea el pensador John Searle, menos como cuestión filosófica que como cuestión práctica y de sentido común: “Si suponemos que el cerebro es un ordenador digital, seguimos enfrentándonos a la pregunta: “¿Y quién es el usuario?”.
Concebir la inteligencia como una operación matemática, como algo que puede cuantificarse y manipularse mediante un lenguaje informático, ya es inscribir nuestra relación con la herramienta dentro de un proceso de reificación. Una cosa es fabricar una herramienta que utilizamos y otra muy distinta fabricar herramientas que se supone que reflejan nuestra inteligencia. En este último caso, la relación con la herramienta ya no es en absoluto la misma, sino que se ha vuelto reflexiva: el hombre se observa y se proyecta a través del prisma técnico.
Toda la cuestión de la IA y de la investigación en IA se reduce a un rechazo desde el principio a pensar nuestra relación con esta tecnología. En el plano ideal, se convierte en una pura técnica sin uso específico, una construcción mental, un delirio demiúrgico. Concretamente, a través de las aplicaciones que se le encuentran, arrastra al ser humano a un proceso de cosificación, como un salón de espejos. La llamada cuestión de la sustitución -una falsa cuestión- es el resultado directo de esta ausencia de perspectiva sobre el uso de la tecnología de la IA, la forma en que se aprehende desde el principio como objeto metafísico, como técnica potencial o como pura potencia.
Se trata de una estructura vacía e ilusoria (creadora de ilusiones). En realidad, existe una identidad entre el modelo (la inteligencia humana) y su traducción al lenguaje digital. Una vez que la inteligencia, entendida simplemente como cálculo, se traslada al ámbito técnico y se formaliza su proceso, la inteligencia artificial se convierte en un modelo. Es modelada tanto como modela. El principio de la inteligencia “aumentada” mediante la inteligencia artificial presupone ya la reducción de la inteligencia humana al nivel de la técnica o del cálculo.
La segunda categoría que debemos exponer aquí incluye, por tanto, todas aquellas tecnologías de IA que tienden a modelar o modelar la inteligencia humana. Pues constituyen la otra cara del mito.
De hecho, podemos pensar en estas diferentes tecnologías, en los distintos tipos de IA, como en otros tantos modelos. “La IA es lo que aún no se ha hecho”, según el investigador Douglas Hofstadter. Tecnología en evolución, la IA es también una tendencia agrupada en torno a la noción de que la inteligencia humana puede transponerse, es decir, falsificarse, en un lenguaje informático. La IA aspira a alcanzar una síntesis (AGI o IA fuerte); ante todo, debe entenderse como algo en marcha, en constante evolución (en consonancia con la “Ley de Moore”[10]). ¿Qué aspira a ser, tanto en potencia (en la elaboración de su mito) como en su realidad?
Empíricamente hablando, la investigación en IA (en consonancia con esta idea de inteligencia entendida como técnica) intenta descomponer y luego recomponer nuestras formas de pensar, nuestras facultades de percepción, razonamiento, habla, comunicación, decisión, etc., traduciéndolas al lenguaje informático de las tareas.[11] Muchas aplicaciones, aunque todavía incipientes, se derivan esencialmente de esta idea, constituyendo las diversas tecnologías de IA los hilos y cuerdas de esta “ciencia” del titiritero.
Esta idea, que es fundacional de la IA, y que implica que el hombre podría ser sustituido por la máquina para ciertas tareas que un ordenador puede eventualmente realizar mejor o más eficazmente, desconecta totalmente estas técnicas de nuestra relación con ellas. Sin embargo, aunque puedan sustituir al ser humano, sigue siendo el ser humano el que interactúa con ellas, lo que devuelve la cuestión a una concepción más esencial del hombre como máquina: los usos militares (sistemas de armas autónomas letales (LAWS)), usos policiales (prevención, controles de identidad automatizados, gestión de concentraciones, vigilancia, etc.), pero también el uso de la IA en la salud (diagnósticos, medicina como “sistema experto”), su posible uso en la esfera política (administración) y en el derecho (aceleración y simplificación de las decisiones judiciales), en la educación (modelos, técnicas de ciencia cognitiva), la IA en los sectores terciarios, los servicios (asistencia automatizada en línea), la contratación, los chatbots, etc.
En realidad, esta concepción de la inteligencia como la realización de una serie de tareas o cálculos se extiende con la IA a un número potencialmente infinito de técnicas, deslizándose el mito en un discurso puramente tecnicista sin que parezca establecer una relación directa con él. Así, Kaplan y Haenlein, por ejemplo, definen la inteligencia artificial como “la capacidad de un sistema para interpretar correctamente datos externos, aprender estos datos y utilizar este aprendizaje para cumplir determinados objetivos y tareas específicos adaptándose de forma flexible”.[12] Esta definición mínima trata de reducir la IA a una herramienta para una aplicación determinada. Sin embargo, es evidente que no entenderemos nada de esta tecnología si no tenemos en cuenta todo el abanico de aplicaciones que genera, así como su tendencia a ser captada como una potencia en sí misma. No se trata sólo de “objetivos y tareas específicas”, sino de un vasto campo de aplicaciones en constante desarrollo, que se logran mediante procesos similares en todos los aspectos (el “sistema” algorítmico de la IA).
En esta definición, la antropomorfización o personificación de la técnica tampoco tiene un papel a priori. Entrará en juego más adelante, a través de una forma de hablar sobre las herramientas técnicas o de concebirlas, a través del desarrollo de tecnologías antropomórficas (por ejemplo, mediante el uso del lenguaje) y, de forma más general, a través de la orientación de la investigación en IA hacia la autonomización.[13] Este último punto es sin duda el más importante, y supone la apariencia engañosa de una tecnicidad pura. En términos generales, la IA es la proyección de un poder o potencial en la tecnología (con el corolario de la renuncia a dominarla, lo que plantea de nuevo la cuestión del uso). Es una creencia en la omnipotencia de la tecnología, encarnada en la paradójica búsqueda de un empoderamiento autónomo que, a fin de cuentas, no es otra cosa que una sacralización de la tecnología.[14]
La IA avanza y retrocede constantemente entre el mito y la aplicación técnica. El discurso técnico “racionalista” y la creación de mitos se despliegan indistintamente, reforzándose mutuamente de forma dinámica, en la idea de una tecnología en evolución, inacabada e incompleta por naturaleza.
Las dos categorías de IA mencionadas no están separadas entre sí, sino que forman un sistema. De manera más general, la inteligencia artificial es una forma de ordenar lo real, según una norma (técnicamente asimilable por la máquina) o una (re)programación informática. Proporciona un modelo unificado y autónomo cuya particularidad es extenderse aquí, en el dominio digital, sin freno alguno: La IA en las finanzas (comercio algorítmico, sistemas de previsión del mercado, que a su vez condicionan el mercado, la economía), la algoritmización de los medios de comunicación (producción y sugerencia de contenidos), la traducción automática (según la idea de una lengua única, reducida al cálculo), la gestión de datos (extracción, explotación), las tecnologías digitales (gestión personalizada, moderación, sugerencia de contenidos), etc. Muy especificada en su principio original (el horizonte demiúrgico de la “investigación en IA”), la inteligencia artificial tiende así en la práctica a diluirse hasta el punto de coincidir con el conjunto del sistema digital, formando un cibernetismo generalizado. Un modelo cibernético de sociedad que sólo conserva del mito una imagen en el espejo contra la que el hombre lucha, en la que se fija.
Así pues, estas tecnologías permanecen en su mayor parte invisibles, en un segundo plano. A pesar de aparecer como una cuestión estrictamente técnica, forman parte de un entorno que ya está muy tecnificado, y contribuyen más ampliamente a la virtualización que ya está en marcha en nuestras sociedades, por la que el hombre y sus interacciones sociales también dejan de verse como algo más que cuestiones técnicas.
El objetivo de la IA no es tanto sustituir al hombre por la máquina como hacer que el hombre se comporte, actúe como una máquina, que la sociedad en su conjunto se tecnifique mediante un sutil juego, por turnos, de normalización e imitación. La IA intensifica el proceso subyacente de representación técnica de nuestra sociedad, donde el hombre tiende a entrar en sí mismo como una cantidad digital (y donde, en consecuencia, ya no tiene ninguna importancia).
Eficacia y representación están, pues, intrínsecamente ligadas a través de la IA: el algoritmo -o “agente inteligente” [modelo basado en agentes] en la jerga antropomórfica de la investigación en IA- efectúa un reajuste constante en tiempo real, a través del deep learning, de las tareas que debe realizar, pero también de la representación del entorno [agente basado en modelos] con el que interactúa. El mundo se convierte así en medición, en estadística en tiempo real. Mediante la acumulación de datos, la IA optimiza esta representación (de sistemas o fenómenos sociales, fenómenos de comportamiento, etc.) en un sentido tecnicista. Pertenece a la naturaleza de este sistema aproximar después esta “representación” a sus cálculos mediante las operaciones técnicas que realiza: el sistema técnico no es el de la inteligencia artificial, sino el más amplio de la inteligencia artificial en un entorno social dado, que tiende imperceptiblemente a modificar y tecnificar.
Antoinette Rouvroy, que ve en esta organización estadística de la sociedad una forma de !gubernamentalidad algorítmica”, hace un buen trabajo de análisis del nuevo orden que nos ocupa, que se esfuerza por perpetuar un modelo social de poder técnico (el capital, en este mundo digitalizado, se ha convertido en una acumulación de datos).[15] Esta gestión por algoritmos pretende una “neutralización de la incertidumbre” o de los fenómenos emergentes, un modo cibernético de regulación que anticipa y excluye toda forma de accidente mediante el análisis granular de los comportamientos y la anticipación.
Estamos ante una tecnología del reflejo, de la duplicación: un aparato de espejos.[16] El propio tiempo se convierte en el del ordenador, mientras que el futuro inmediato, discordante, es como duplicado por los algoritmos. Con el comercio algorítmico, gestionado por la inteligencia artificial, los algoritmos no predicen el futuro, sino que lo producen. El derecho ya no es potencialmente más que una correlación entre hechos, una administración estadística (no muy diferente de la ciencia médica, etc.)[17]
Señalemos aquí, por último, que si bien este empirismo cibernético tiene en cuenta el error y lo registra continuamente en su sistema, el principio estadístico del “deep learning” sigue siendo, a fin de cuentas, menos que fiable (el límite del cálculo aplicado a lo vivo). Lo importante, lo que queda en última instancia, es en el fondo el propio modelo -espejo, espectro o prisma técnico-: ese régimen de apariencia sistematizado a través de la técnica.
Cuanto más invisibles se hacen, cuanto más parece desvanecerse el mito, más eficaces se vuelven las técnicas de IA (pero en el sentido de la normalización de un sistema: él mismo generando a su vez una serie de aberraciones). Lo que la técnica consigue es una forma de utopía cibernética, que es algo muy distinto de la figura del androide, que aquí sólo tiene un papel accesorio. Pero el mito siempre está ahí: a esta aparente desaparición del mito, a su invisibilización en el sistema digital, corresponde una inflación del mito en el imaginario colectivo. Un cierto discurso ambiental, impregnado de clichés de ciencia ficción, junto con los avances más espectaculares de la investigación en IA, garantiza la reproducción de una narrativa u horizonte de la IA en el imaginario social.
En un doble movimiento, la inflación del mito oculta la alienación general provocada por la técnica, con una IA que tiende de forma subyacente a coincidir con el sistema digital en su conjunto (la IA nunca será más que una personificación, o conceptualización algorítmica, del ordenador -véase la obra de Turing). Esta inversión es contraria al sueño prometeico de la IA: la omnipotencia de la inteligencia artificial sólo reside finalmente en su eficacia como sistema, como aparato que asimila el ser humano a una estadística, integrada en este sistema técnico – muy lejos de la realización de una criatura demiúrgica todopoderosa.
______________________________________
Cada avance en la tecnología de la IA se presenta como una desmitificación y, sin embargo, contribuye en realidad a la fabricación del mito. Mientras que la IA parece dividirse en un número indefinido de técnicas, la investigación, en cambio, opera de forma sintética (con el mito como horizonte). Estas síntesis sucesivas ponen en perspectiva la idea prometeica de la máquina inteligente. Corresponden a un avance de tipo técnico, presentándose primero como tal, pero siempre con esta identificación antropomórfica (las más de las veces de forma ambiguamente lúdica).[18]
La última categoría que debemos distinguir es la de los modelos lingüísticos de reciente aparición, como ChatGPT, que aparece hoy como esta síntesis. La función estrictamente técnica de los modelos de lenguaje no está muy clara. A primera vista parecen artilugios, y han sido recibidos como tales. La especulación en torno a estos modelos es sintomática. Se dice que tienen multitud de aplicaciones prácticas (pudiendo servir, por ejemplo, en tareas laborales o en formación). Estos modelos se acercan al mito (la AGI)[19], y más que técnicas en sentido estricto, son técnicas en ciernes.
El problema que plantea el mito de la inteligencia artificial, que sigue siendo un producto de la imaginación, puede verse claramente: si alguna vez llegara a ser real, dejaría por ello de ser una técnica. Una IA verdaderamente autónoma presupone por definición que ya no sea reducible a la técnica. Se convierte en puro artificio, en un autómata para el que se han perdido, por así decirlo, las instrucciones de uso. Una técnica es esencialmente una operación o un cálculo, una función destinada a obtener un resultado. La IA, a través de su proceso de autonomización, coquetea así con la idea de que este resultado podría en algún momento entrar en cuestión, sin más finalidad.
La inteligencia artificial es una virtualización de la técnica. Es técnica al límite, que extrae su sustancia de este límite. Si su mito se encarnara, simplemente ya no habría inteligencia artificial (como objeto de investigación), ni técnica ni uso posibles.
¿Cuál es entonces el papel del mito de la IA, de este milenarismo tecnológico? ¿A qué equivale, en última instancia, esta identificación de mito y técnica? La IA va mucho más allá del antiguo mito del progreso, del perfeccionamiento incesante de las técnicas, de la ciencia .La fantasía de un fin de la técnica, a través de la técnica, deja al descubierto una torcedura. Esta aporía de la herramienta algorítmica, de la máquina, que accede a la conciencia y se libera del hombre, sólo parece enmascarar esta idea más realista y especular de que el hombre mismo se tecnifica..
II. Ellul y la IA
Ya en 1954, en el mismo momento en que se desarrollaban las primeras “máquinas pensantes”, Jacques Ellul publicó su obra fundamental, La sociedad tecnológica. En aquel momento, su argumento encontró poca resonancia en el contexto de la Guerra Fría. En su opinión, las ideologías capitalistas o posmarxistas ya no tenían ninguna importancia: la productividad, las ganancias de productividad (beneficios), la economía, estaban determinadas por el desarrollo de la Technique, un “sistema tecnológico”. Según Ellul, la técnica [la Technique], o el fenómeno técnico[20], se ha convertido en el factor determinante, el que, más que todos los demás, da forma y estructura a las sociedades modernas[21]. Este fenómeno espontáneo de autonomización de la técnica se remonta a la primera mitad del siglo XX, a la prolongación de la revolución industrial y su “maquinismo”, para acabar transformándose en “sistema tecnológico” en los años cincuenta con la aparición de los primeros ordenadores (TTS 20-23).[22]
Hoy en día, la técnica se establece en nuestras sociedades como su propia causa, formando su propio “entorno” en el que los medios se han convertido en un fin. Ya no existe la idea de progreso, sólo la de complejificación sin fin o “autocrecimiento”. En este sistema autogestionario, todo acaba convirtiéndose en técnica, entendida como resolución de los problemas que ella misma provoca. Tras haberse autonomizado, este “sistema tecnológico” se caracteriza por una interdependencia entre diversas técnicas o subsistemas. Vector de la estandarización, de esa “racionalización” que subyace a la creencia en la neutralidad de la técnica[23], este sistema arrasa y aplana todo, y ya es universal.[24] La búsqueda unívoca de la eficacia, el predominio de los criterios técnicos en todos los puntos, a todos los niveles y en todos los ámbitos invisibiliza, desnaturaliza o destruye poco a poco todo lo que se resiste a ser subsumido bajo él.
Participando así en un proceso de artificialización general, este sistema tecnológico se ha convertido en el régimen de racionalidad suprema, por el cual y al cual todo se conforma, se agrega, y que para los seres humanos constituye la experiencia primaria, a la vez una nueva “naturaleza” y una fuente de alienación.
Ellul describe con bastante precisión lo que es la técnica, pero no nos dice lo que representa fundamentalmente, de lo que sería el signo. No hay antropomorfismo aquí; Ellul no humaniza la técnica más de lo que la diviniza.[25] Tiene la apariencia de “una extraña esterilidad” (TS, 231). En un giro irónico, es el deseo de poder del hombre lo que finalmente lo reduce a la impotencia. La técnica era aquello mediante lo cual el hombre pretendía convertirse en amo; sin embargo, una vez que adquiere autonomía, acaba esclavizándolo.
La técnica es una abstracción que nos gobierna. El campo de la política, sometido ahora al imperio de la técnica, pierde su autonomía y sigue reduciéndose. Al mismo tiempo, y proporcionalmente, el dominio del Estado, como estructura coordinadora, se expande perpetuamente, igualmente al servicio de la técnica. El hombre debe, en primer lugar, tomar conciencia de este fenómeno. Como este sistema tecnológico se nos oculta en cierto modo, nos queda “la aprehensión vívida y coloreada de una no-realidad, que no tiene otra función que camuflar el mecanismo y satisfacernos con el “espejismo milagroso”” (TS 16).
A pesar de haber sufrido y padecido esta autonomización del sistema tecnológico, seguía siendo poco comprendida, incluso totalmente negada. Con el advenimiento de los avances de la IA, asume ahora una apariencia antropomórfica e incluso parece como si fuera querido, deseado (en el sentido cibernético). A medida que la IA y la “gubernamentalidad algorítmica” sustituyen a la decisión humana, el hecho técnico sustituye a cualquier derecho o ley de jure. Para Ellul, la conciencia de la autonomía del sistema tecnológico constituía un requisito previo para cualquier acción. A través de su milenarismo, la inteligencia artificial pospone y reduce esta realidad de la independencia del sistema tecnológico a algún momento en el futuro, convirtiéndola en una fantasía de ciencia-ficción cuyas dimensiones sobrenaturales aseguran que el ser humano no tenga poder de compra sobre ella. En otras palabras, este fenómeno impensado de la técnica en nuestras sociedades toma un giro más refinado con la inteligencia artificial: su represión se vuelve tanto más sofisticada cuanto que pasa a depender de una ficción, de una construcción mítica imaginaria.
La inteligencia artificial tiende a coincidir con este sistema tecnológico unificado por las redes digitales, a su vez ya en completa ruptura con “el viejo mundo”:
La única función del conjunto informático es permitir una unión, una unión flexible, informal, puramente tecnológica, inmediata y universal de los subsistemas tecnológicos. Así pues, tenemos un nuevo conjunto de nuevas funciones, de las que el hombre está excluido, no por competencia, sino porque nadie ha desempeñado hasta ahora esas funciones. Esto no implica, por supuesto, que el ordenador eluda al hombre; más bien, se está estableciendo un conjunto estrictamente no humano (TS, 102-103).
La IA es la sustitución de esta “nueva espontaneidad” por un horizonte mítico (TTS, 26). Como personificación de la técnica, constituye un horizonte doblemente no humano: fetichizar este “nuevo conjunto digital” mediante la ilusión de acceder a una nueva forma de inteligencia, de conciencia, es en efecto concederle “derechos”, una autonomía suplementaria que el ordenador no poseía anteriormente.
Lo que la IA añade al sistema tecnológico descrito por Ellul es una imagen del hombre tecnificado, es decir, un modelo técnico del hombre que ya no es más que una función, un vector técnico: una imagen que quizá podría calificarse de subliminalmente manipuladora, si este simulacro producido por la IA no fuera también una irónica vuelta atrás [retournement] de la técnica sobre el hombre.
En un sistema en el que la técnica se ha autonomizado hasta el punto de sustituir el mundo real por el digital, la IA parece constituir para el hombre a la vez su horizonte más probable y más irreal, un horizonte que se tiende a llamar distópico (aunque sin considerar lo que este término abarca aquí, lo que realmente significa).[26]
Este fenómeno distópico es una tendencia básica de nuestras sociedades, de la que la instalación gradual de la IA constituye sólo un aspecto.[27] Funciona a través de un metateatro que recicla temas, clichés y mitos de la ciencia ficción (de la que la distopía es precisamente uno de los géneros fundadores). La idea de que la ciencia ficción se convierta en realidad (y no a la inversa) tiende a ocultar las formas en que se explota el género para establecer un modelo de sociedad. Lo que aparece como el hecho más consumado (“profetizado” por la ciencia ficción) no es la mayoría de las veces más que una construcción de tipo mítico, ideológico (IA, distopía, los peores escenarios postapocalípticos, modelos predictivos dickianos… todo es apto para el reciclaje). La postura es la de una sociedad alimentada por el imaginario de la ciencia ficción, falsamente consciente de sí misma, de sus proezas técnicas, mientras que la realidad subyacente es precisamente una destrucción del imaginario y una alienación, finalmente, a través de la técnica.
En este proceso distópico, la IA parece desempeñar, no obstante, un papel bastante particular. La idea de que la técnica o la máquina dominen al hombre se acepta en parte, o al menos se contempla (esto es evidente, por ejemplo, en el dogma de la singularidad). El sistema tecnológico tiende a cerrarse en sí mismo mediante esta sacralización de la técnica, precisamente lo que Jacques Ellul parecía temer. El mito “lúdico” de la IA tiende a enmascarar esta autoalienación del hombre (no tanto por la técnica como por esta sacralización).
El horizonte mítico es aquí exactamente el mismo que el horizonte distópico, pero oculta su lógica, su mecanismo. Antes de ver cómo funciona este juego de ocultación, consideremos primero los medios por los que se propaga el mito: los logros tecnológicos (las sucesivas síntesis de la investigación en IA) y la propia profusión de tecnologías de IA, el discurso (ya sea técnico o más teórico -evidentemente, el “transhumanismo”-), la cobertura mediática, los numerosos debates, las ficciones, etc. También es, por supuesto, una economía general (con la idea de un aumento de la productividad mediante la sustitución del hombre por el ordenador): GAFAM, los “gigantes de la tecnología”, la industria digital, se benefician hoy masivamente del advenimiento de las IA generativas (¡una capitalización bursátil de decenas de miles de millones de dólares!), con sumas disparatadas de dinero que se invierten ahora en IA.[28] Completamente central aquí, sin duda, es el poder de esta industria, su inmensa influencia en este ámbito, el discurso tecnocientífico que ofrecen en relación con el mito, que corresponde a la fabricación de una narrativa, es decir, a la manipulación de herramientas narrativas, de conceptos procedentes de la ciencia ficción. Pero más allá de esta manipulación, hay aquí algo inconsciente: el mito perfectamente ambiguo de la IA parece revelar una alienación en el seno mismo del discurso profesado. En rigor, no se trata de un discurso político, sino técnico, que sólo se centra en los medios y en una apuesta a corto plazo (sobre el desarrollo futuro e incierto de estas tecnologías).
Entre paréntesis, no hay necesariamente cinismo en este discurso, y la creencia en este mito no es sólo una postura (las figuras actualmente más influyentes de la investigación en IA, los ganadores del Premio Turing Bengio, Le Cun y Hinton, todos plantean seriamente la cuestión del mito, de la IA general o fuerte, y de la singularidad – Hinton hasta el punto de acabar dimitiendo de Google). Además, aunque desde cierto punto de vista la cuestión del mito pueda parecer abstracta y sólo interese a una élite técnica, inquieta a toda la sociedad y actúa como un inconsciente. El propio término, completamente ambiguo, de investigación en IA, debe considerarse desde el punto de vista de una búsqueda (prometeica) y parece referirse a un inconsciente colectivo. La cuestión de la dilución de la responsabilidad en el sistema tecnológico, y de la autonomía de la técnica, es central aquí, pero queda oculta por el poder del mito.
En la famosa conferencia de Dartmouth de 1956, donde se conceptualizó la IA, John McCarthy propuso el término inteligencia artificial para distinguirlo del término cibernética, que consideraba demasiado relacionado con su padre fundador, el célebre matemático Norbert Wiener.[29] “Cibernética” se refiere a la idea de la sociedad como una máquina, un sistema de comunicación. Los dos hombres compartían así la misma creencia en el advenimiento de una máquina inteligente: mientras McCarthy trabajaba por ese advenimiento, Wiener, más distante, expresaba el temor de que una máquina inteligente transformara nuestro mundo en una pesadilla de ciencia ficción si no se la controlaba. Con la IA, estas dos visiones se combinan ahora. El robot maligno y el horizonte distópico comparten una misma realidad, cada uno el reflejo reflejado negativamente y la metáfora del otro: la máquina sustituye al hombre, mientras que el hombre se convierte en máquina.
A medida que se implantan las tecnologías de la IA, ¿debemos seguir hablando sólo de un horizonte (o tendencia) distópico en lugar de una distopía bastante real? Aquí la distopía está más cerca de un proceso que de una forma fija. Es una forma de distopía que utiliza la narrativa de la ciencia ficción, la ficción como herramienta de desarrollo, de configuración, hacia una idea de sociedad puramente tecnicista.
El sitio Wikipedia (en francés) afirma que “en una distopía, el desarrollo tecnológico no es un factor determinante”, y que “los postulados científicos o metafísicos sobrenaturales simplemente no tienen su lugar allí”: pueden constituir un horizonte, pero no una condición.[30] Por todo ello, la ideología distópica puede hacer uso de las técnicas narrativas (e incluso del mito – aquí, la inteligencia artificial) para llegar a la instauración, a la configuración de un sistema distópico (y esto incluso de forma más bien inconsciente – quiero decir no formulada en esos términos).
Para entender cómo funciona esto, tenemos que descorrelacionar ciencia ficción y distopía. Más en profundidad, la distopía no sería sólo un género (narrativo) y, por tanto, no necesariamente ciencia ficción. Se trata de un sistema político y social de tipo utópico que ha ido mal.
Uno se equivocaría, además, si pensara -según cierto cliché traficado por la ciencia ficción- que con la IA el sentimiento distópico pertenecería sólo a las máquinas y a las interfaces robotizadas, en lugar del hombre. Aquí, este sentimiento aparece más bien en una sociedad que ha adoptado el principio de regirse únicamente por la técnica (sabemos, desde La Boétie, que la servidumbre al cuerpo social sólo consiste en un cierto grado de integración, o de aceptación).
La modernidad está sembrada de fábulas en relación con los avances técnicos, fábulas que el hombre ha inventado para vender o sacar provecho de las máquinas, fábulas que podrían calificarse de positivas. Un hecho sin precedentes: con la IA, tenemos la creación de un mito, por los mismos que desarrollan esa tecnología, según el cual la inteligencia artificial amenazaría a la humanidad con la “extinción”. También es una inversión de la forma en que generalmente se nos presentan las nuevas tecnologías, que en el fondo dependería simplemente del buen uso que uno haga de ellas: aunque se inculca de forma bastante difusa, con la singularidad tecnológica, el mal sueño de la técnica, nace una forma de fantasía de ciencia ficción pesadillesca, de mito pervertido. Que esta fantasía sea un miedo sincero (fobia), una postura interesada o incluso una expectativa real (por parte del movimiento transhumanista en particular) no tiene mucha importancia, la verdad. La fantasía descansa esencialmente en una sacralización de la técnica.
En cuanto al efecto en las sociedades modernas de las obras de ciencia ficción que presentan una invención tecnológica aterradora, Ellul plantea el siguiente problema: «Puesto que la tecnología no se parece en nada a lo que se nos ha mostrado, nos parece perfectamente aceptable y tranquilizadora. Nos refugiamos en la sociedad tecnológica real para escapar de la ficción que se presentaba como la verdadera tecnología» (TS, 112). El caso de la inteligencia artificial, con su horizonte demiúrgico, es ciertamente más ambiguo, pero el balance sigue siendo el mismo: ciertos individuos pueden temer la singularidad, o esperarla, pero el presente de la inteligencia artificial es definitivamente más realista. Por su parte, la utopía/distopía tecnicista y cibernética está muy avanzada.
La inteligencia artificial tiende a modelar, potencialmente, la totalidad de nuestra sociedad (hasta nuestra forma de pensar, nuestro lenguaje). Desvinculado de sus correlatos técnicos, abstractamente entendido, el mito sigue siendo objeto tanto de burla como de curiosidad. Penetra tanto más cuanto que es, como he intentado mostrar, profundamente ambivalente, no del todo asumido como tal, lo que le permite parecer inofensivo. Sacralizada en el extremo opuesto, la IA también funciona como apariencia de algo.
Como explica Ellul, el mundo está “unificado” por la técnica: el sistema tecnológico, “instituido” por el ordenador, ha encontrado en la digitalización algo que se aproxima a una estructura universal. En consecuencia, el riesgo para Ellul era que este sistema globalizado y globalizador se deslizara hacia la utopía técnica, cibernética. «La única utopía es la tecnológica […] La utopía está en la sociedad tecnológica, en el horizonte de la tecnología. Y en ninguna otra parte» (TS, 20).
Como explica Ellul, el mundo está “unificado” por la técnica: el sistema tecnológico, “instituido” por el ordenador, ha encontrado en la digitalización algo que se aproxima a una estructura universal. En consecuencia, el riesgo para Ellul era que este sistema globalizado y globalizador se deslizara hacia la utopía técnica, cibernética. «La única utopía es la tecnológica […] La utopía está en la sociedad tecnológica, en el horizonte de la tecnología. Y en ninguna otra parte» (TS, 20). Como también nos recuerda Ellul, «todos los utopistas del pasado, sin excepción, han presentado la sociedad exactamente como una megamáquina. Cada utopía ha sido una repetición exacta de una organización ideal, una conjunción perfecta entre las diversas partes del cuerpo social.» La sociedad utópica “perfecta” tiende a tecnificarse en el propio cuerpo social. En este sistema social, nacido de la utopía, la IA desempeña un papel central: tecnifica las relaciones humanas, tiende a hacer de los humanos nada más que vectores técnicos, los muestra y los somete a esta imagen. El mito que tiende a convertirse de nuevo en utopía cibernética contra el hombre, adosa a sí mismo el elemento sagrado e irracional heredado de la ciencia ficción. Ya no es una utopía intencionada, pensada, deseada como tal, sino que se impone de un modo tanto más natural cuanto que parece emanar del inconsciente de una sociedad dada, de la “creencia absoluta del mundo moderno” en la técnica. Tampoco es un utopismo estático, sino siempre un horizonte: más precisamente, ese horizonte distópico que nos promete el milenarismo de la IA. Se podría hablar de una distopía potencial, pero en realidad se trata de un horizonte distópico, que no es virtual, sino que se actualiza progresivamente en proporción al desarrollo de sus tecnologías.
______________________________
La IA en nuestra sociedad se traduce en una preparación sin fin para la distopía, para la sociedad tecnológica (que ya no se rige más que por principios técnicos). Pero la inteligencia artificial no es más que el sueño de un autómata. “La tecnología forma parte inevitablemente de un mundo que no es inerte” observa Ellul. «Sólo puede desarrollarse en relación con ese mundo. Ninguna tecnología, por autónoma que sea, puede desarrollarse al margen de un contexto económico, político e intelectual determinado. Y si estas condiciones no están presentes, entonces la tecnología será abortiva» (TS, 31). En el fondo, la ilusión de la IA consiste en creer que se desarrolla en un medio a su imagen y semejanza, totalmente artificial e inorgánico.
Del mismo modo, Ellul señala varias veces, a propósito de la hegemonía del sistema tecnológico, que “decir que la tecnología es el factor determinante de esta sociedad no significa que sea el único factor” (TS, 18). El horizonte distópico que destila el mito de la IA -a través de la apropiación por parte de la tecnociencia de los temas de la ciencia ficción- no hace sino perpetuar el reinado de la técnica, de la gubernamentalidad algorítmica, del poder vigente, y no es más que eso.
La pregunta que habría que hacerse, básicamente, sería: ¿cuánto tiempo más perseguiremos esta distopía, esta ilusión? Si es posible que nunca lleguemos a tocar fondo con la IA, el abanico de elementos perturbadores, que llegarán en un momento u otro -sin siquiera pensarlo necesariamente- a apoderarse de la máquina, es también ilimitado.
Ellul parece haber dado con el origen del problema central de la autonomización de la técnica en su ensayo de 1988 El engaño tecnológico: “En efecto, es una convicción básica común que la técnica puede colmar todas nuestras ansias de poder y que ella misma es omnipotente”, apunta, pero también es esta “creencia absoluta del mundo moderno la que implica nuestra renuncia absoluta al dominio: ¡delegamos el poder en la técnica!”. (TB, 156) Aquí se aloja la irracionalidad del sistema tecnológico, pero también la de la inteligencia artificial, su carácter fundamentalmente ilusorio. Pasar de la idea de un dominio técnico (racional) a la idea del poder a través de la técnica produce una “contradicción increíble”.
En cuanto a esta “misteriosa” preeminencia de la técnica en nuestras sociedades, conocemos la famosa ley de Gabor: “Lo que puede hacerse técnicamente se hará necesariamente” (1971). Esto se hace eco de una afirmación que Ellul ya había hecho en los años cincuenta: «Porque todo lo que es técnico, se utiliza necesariamente en cuanto está disponible, sin distinción del bien y del mal. Esta es la principal ley de nuestro tiempo» (TTS 99). En realidad, la relación del hombre con la técnica supera ampliamente el marco de la racionalidad. Para el hombre gris, objeto de una “trascendencia oscura” (Hottois), la técnica se ha convertido así en lo que le parece un “engendramiento ciego y mudo del futuro”.[31]
Es a partir de la presunción de la neutralidad de la técnica, exenta por así decirlo de todo tipo de cuestionamiento moral, que se desencadena el monstruo técnico: la técnica no es nada en sí misma, y «puede por tanto hacer lo que quiera. Es verdaderamente autónoma» (TS 134). Además de su autonomía, tiene su propia razón o lógica. Es una apariencia de libertad, “puede hacer lo que quiera”; sin embargo, al desencadenarse, nos encadena, demostrando no ser más que una operación sobre el hombre, una racionalización sistemática de su universo.
La inteligencia artificial, y en particular el problema de la “alineación de la IA”, sintetiza esta ambivalencia. La noción de alineación se refiere a la idea de un control de la IA, de un regulador “ético” (a fin de cuentas, para hacer viables, legales, estas técnicas, para “normalizarlas”). Resume muy bien esta contradicción, este desfase total entre la creencia del hombre en la “omnipotencia de la técnica” y su ambición soberana de dominarla: querer construir herramientas tan poderosas que uno acaba por dejar de entender cómo funcionan y, desde otro ángulo, imaginar erróneamente que puede canalizar esta omnipotencia. Hacer que la IA sea cada vez más autónoma, mediante una serie de arreglos técnicos, asegurándose, en suma, de que pueda escapar de nosotros, y al mismo tiempo acribillándola a reglas, a códigos, acompañándola de un batiburrillo de leyes (que en el fondo sólo serán el reflejo de lo que el hombre se impone, se inflige a sí mismo a cambio). Las diferentes moratorias sobre la IA de la pasada primavera, las medidas legislativas de la Unión Europea y del gobierno americano, la noción misma de alineación, sólo pretenden de este modo integrar la inteligencia artificial, prever concretamente los casos de uso y de práctica.
Visionario, Ellul anticipó el próximo ascenso de las nuevas tecnologías, señalando que “el universo numérico del ordenador se está convirtiendo gradualmente en el universo considerado como la realidad en la que estamos integrados” (TS, 105). La sociedad pixelada ha sucedido a la sociedad del espectáculo (Debord), el hombre espectral ha sustituido al hombre alienado. Si ChatGPT ha dado tanto que hablar, no es tanto porque exista el riesgo de que la inteligencia artificial sustituya a la inteligencia humana, o de que constituya para nosotros una “aflicción narcisista”(!)[32]; es que el sentido mismo del lenguaje, de lo que nos constituye, se reduce a la nada en él. Es que nos estamos dando cuenta de que este mundo digitalizado, que se ha convertido en nuestro mundo “real”, ya no podría ser generado más que por ordenadores.
De este modo, se insinúa aquí una sustitución mucho más llamativa e indicativa que una sustitución como tal por las máquinas, porque, mucho más que esta eventual degradación, la musiquita susurrada a nuestros oídos desde el advenimiento del ChatGPT presupone una aceptación, la autopersuasión del hombre allí donde se ve a sí mismo como técnica (inicialmente, la IA sólo sugiere o “ratifica” una equivalencia entre el hombre y la técnica, que resulta ser, recordémoslo, una mera inversión del sentido del mito).
Por razones civilizatorias, metafísicas, la IA plantea más una cuestión de elección, de responsabilidad del hombre, que lo que Jacques Ellul nos hizo pensar frente al fenómeno técnico. La IA es ante todo un aparato espejo, un prisma técnico, estadístico. Pero en el sentido más metafísico, prometeico, este espejo parece también capaz de llevar al hombre a una reflexión, a un cuestionamiento sobre su relación con la técnica. La imagen reflejada sólo parece poder llegar a posteriori, y ser precisamente la menos halagüeña para el hombre, la de una cosificación a través de la técnica. Pero este milenarismo, que además establecería un giro antropológico, es también una ilusión, un espejismo que se desvanece a medida que se avanza hacia él. La IA no “refleja” realmente, y no es más que una fantasía de nuestro sistema tecnológico, una imagen que al final se evapora. Una técnica moribunda, sin más utilidad.
Si la responsabilidad de todos ( especialmente en los ámbitos político y mercantil) se diluye cada día más en el sistema tecnológico globalizado, es siempre, frente a este estado de cosas tecnificado, la noción de libertad la que está en juego (para Ellul, esta noción es central: si demuestra, tan implacablemente, a la vez la hegemonía y el callejón sin salida de este sistema, tanto mejor es, paradójicamente, volver a esta libertad, que fundamenta su pensamiento).[33]
El debate sobre el beneficio, la utilidad, de tal tecnología es engañoso; en realidad sólo hay una elección que hacer con la inteligencia artificial, que es si deseamos sacralizar la técnica o no. Ellul, por su parte, nunca se planteó como tecnófilo, ni como tecnófobo; sin embargo, rechazó por completo la sacralización de la técnica. Por nuestra parte, queda por determinar qué significaría desacralizar.
[1] Varios, “Pause Giant AI Experiments: An Open Letter.” Online aquí.
[2] Vease Vernon Vinge, “Technological Singularity,” 1993. Online aquí.
[3] Vease el “Statement on AI risk of extinction” (Declaración sobre el riesgo de extinción de la IA) Wiki para más informaciín
[4] Es lo que Jacques Ellul llama la “ambivalencia” intrínseca al progreso técnico. Véase La revue administrative (1965), pero también Technological Bluff (1988): “El desarrollo de la técnica no es ni bueno, ni malo, ni neutro, sino que se compone de una compleja mezcolanza de elementos positivos y negativos, “buenos” y “malos”, si se quiere adoptar un vocabulario moral”. Este tema aparece también en su libro Les nouveaux possédés, Fayard, 1973 (en línea aquí).
[5] Hoy en día, nuestro mundo técnico no se preocupa mucho por la teoría. Esto llevó a Chris Anderson a hablar del “fin de la teoría” («The End of Theory: The Data Deluge Makes the Scientific Method Obsolete», 2008; en línea aquí). Sobre la superación de la concepción utilitarista en nuestro sistema tecnológico, Ellul señala: «La tecnología exige al hombre un cierto número de virtudes (precisión, exactitud, seriedad, actitud realista y, por encima de todo, la virtud del trabajo) y una cierta concepción de la vida (modestia, devoción, cooperación). La tecnología permite juicios de valor muy claros (qué es serio y qué no, qué es eficaz, eficiente, útil, etc.). (…) Tiene la gran superioridad sobre otras morales de ser realmente experimentada. (…) Y esta moral las impone, por tanto, de forma casi autoevidente antes de cristalizar como una doctrina clara situada mucho más allá de los utilitarismos simplistas del siglo XIX». Jacques Ellul,, The Technological System, trad. J. Neugroschel, Continuum,1977/1980, 149. En adelante abreviado como TS.
[6] Aatif Sulleyman, «Google AI creates its own “child” AI that’s more advanced than systems built by humans», The Independent, diciembre de 2017. En línea aquí.
[7] Frederik E. Allen, “The Myth Of Artificial Intelligence,” American Heritage, March 2001. Online aquí.
[8] No olvidemos que si hoy tiene el significado de complejidad técnica, o de técnicas informáticas digitales, el término “technology” es una deformación anglosajona: la tecnología no es más que una ciencia de la técnica. De ahí que se prefiera el término “tecnología” al de «”ecnociencia”, popularizado por Hottois en 1977, teniendo el primero en la actualidad este doble sentido (este giro semántico, que dice mucho, también tiene más en cuenta la preeminencia actual de la técnica sobre la ciencia).
[9] Una ley empirista, asumida como un mantra por todos los ingenieros informáticos, verificada desde su creación en 1965, según la cual la potencia de cálculo de los ordenadores -es decir, el número de transistores en los chips de los microprocesadores- se duplica cada dos años.
[10] Proposition pour un projet de recherche d’été sur l’intelligence artificielle [Propuesta para un proyecto de investigación de verano sobre inteligencia artificial], como preámbulo a la conferencia de Dartmouth (1956), considerada como la «cuna de la inteligencia artificial» como área de investigación independiente: “El estudio se basará en la conjetura de que cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, describirse con tanta precisión que puede fabricarse una máquina para simularlo”.
[11] Andreas Kaplan, Michael Haenlein, «Siri, Siri, en mi mano: ¿Quién es el más justo del país? On the Interpretations, Illustrations, and Implications of Artificial Intelligence», Business Horizons, enero de 2019. Esta definición, la más alejada del mito que se puede encontrar, deriva de la definición de John McCarthy (el inventor del término «inteligencia artificial»): “La inteligencia es la parte computacional de la capacidad de alcanzar objetivos en el mundo”.
[12] Las transcripciones simbólicas de estas herramientas de IA conducen a una personificación o antropomorfismo: el modelo BDI [Creencias-Deseos-Intenciones], las “redes de neuronas artificiales”, los sistemas de recompensa [recompensa acumulativa] en el aprendizaje automático, el concepto de motivación intrínseca, el propio término “aprendizaje”, etc.
[13] Véase Ellul, citando a Castoriadis: “(…) la ilusión inconsciente de que la técnica es virtualmente omnipotente -una ilusión que domina nuestra época- descansa sobre otra idea que no se discute, sino que se oculta: la idea de poder”, El engaño tecnológico, 156. (El poder humano y la omnipotencia de la técnica están en contradicción, como veremos más adelante).
[14] Antoinette Rouvroy : “El principal objeto de la acumulación capitalista de plataformas ya no es el dinero, las finanzas o los bancos, son los datos.” Simposio, “Intelligence Artificielle: fiction ou actions?”, Coloquio “Intelligence Artificielle: fiction ou actions?” en La gouvernementalité algorithmique, Variances, julio de 2018. En línea aquí.
[15] Giorgio Agamben, ¿Qué es un aparato? (2006): “Llamaré aparato a todo lo que tiene la capacidad de captar, orientar, determinar, interceptar, modelar, controlar y asegurar los gestos, los comportamientos, las opiniones y los discursos de los seres vivos”. https://www.cairn.info/revue-poesie-2006-1-page-25.htm
[16] Véase Bernard Stiegler, en un intercambio con Antoinette Rouvroy: “Para mí, el tema del big data es en sí mismo el tema de hecho y de derecho [le sujet fait et droit]. Es el famoso texto de Chris Anderson (2008), frecuentemente comentado, que dice que la teoría está acabada, que el método científico está obsoleto. ¿Qué significa eso? Significa que la diferencia entre hecho y derecho está obsoleta. […] Chris Anderson sugiere que ya no necesitamos teorías, es decir, leyes, modelos: basta con tener correlaciones entre hechos. Para él, la comprensión de los hechos se ha vuelto autosuficiente. Ya no hay necesidad de la razón, ni de razonar, ni de debatir”. Antoinette Rouvroy y Bernard Stiegler, Le régime de vérité numérique, abril de 2015. En línea aquí.
[17] Estas síntesis sucesivas también aparecen como acontecimientos mediáticos. Por ejemplo: El Perceptrón (1957), Eliza (1966), el ordenador Deep Blue vence a Gary Kasparov al ajedrez (1997), Blue Brain (2005), Watson (IBM, 2011), Siri (Apple, 2011), Alexa (Amazon, 2014), AlphaGo vence al campeón de go Lee Seedol (2016), aparición de la tecnología Deepfake (2017), Dall-E (2021), ChatGPT (2022), etc.
[18] Véase este informe de los creadores del GPT-4: «Chispas de Inteligencia General Artificial: Primeros experimentos con GPT-4». En línea aquí.
[19] «Es inútil arremeter contra el capitalismo. El capitalismo no creó nuestro mundo; lo hizo la máquina». ¡Es un admirador de Marx quien habla! Jacques Ellul, La sociedad tecnológica, trad. J. Wilkinson, Vintage, 1964, 5. Citado en adelante como TTS.
[20] Ellul prefiere el término “Técnica” (con mayúsculas en la edición francesa) para describir cómo el fenómeno técnico se establece como un sistema.
[21] La técnica, tal como la entiende Ellul, es «la búsqueda de los medios más eficaces, en todos los ámbitos» (TTS 341). No se limita a agrupar lo que entendemos espontáneamente por técnica (técnica informática o industrial, técnica de producción, máquinas, etc.), sino que es más ampliamente la búsqueda del método más eficaz en todos los ámbitos. Se basa muy a menudo en un cálculo, y sitúa su legitimidad en una ciencia de la técnica. La digitalización, que unifica el sistema tecnológico, sería el mejor ejemplo de Técnica como factor determinante, pero una infinidad de técnicas rigen la sociedad, teniendo todas ellas en común una búsqueda exclusiva de la eficacia, y una interconexión, en fin, como elementos de un mismo sistema.
[22] Si es “el computador el que permite al sistema tecnológico establecerse definitivamente como sistema”, es porque unifica, coordina los grandes conjuntos técnicos entre sí (TS 98).
[23] Ellul desmonta la ilusión racionalista de que la técnica no es “ni buena ni mala”, un medio que sólo depende de los fines, y considera que éste es “uno de los errores más graves y decisivos en lo que respecta al progreso técnico y al propio fenómeno técnico”.
[24] Huelga decir, asimismo, que para Ellul la autonomía del sistema tecnológico no es asimilable a ninguna forma de voluntad; es funcional, comparable a un tren en marcha que sería difícil detener, orientar… Sobre la transferencia de lo sagrado a la Técnica: “La invasión técnica desacraliza el mundo en el que el hombre está llamado a vivir. (…) Pero asistimos a una extraña inversión: no pudiendo vivir sin lo sagrado, transfiere su sentido de lo sagrado a aquello mismo que ha destruido su objeto: a la técnica” (La sociedad tecnológica)
[25] “En esta evolución decisiva -de la técnica hacia su constitución como sistema y hacia la formación progresiva del rasgo de autoaumento- el hombre no interviene. No busca hacer un sistema tecnológico, no avanza hacia una autonomía de la técnica. Es aquí donde se produce una nueva espontaneidad; es aquí donde debemos buscar el movimiento específico e independiente de la tecnología, y no en un ‘levantamiento de los robots’ o en una ‘autonomía creativa de la máquina’” (ST, 227).
[26] “De ahí que estemos dispuestos a dar realidad al universo fabricado por el ordenador, un universo a la vez numérico, sintético, casi omnicomprensivo e indiscutible. Ya no somos capaces de relativizarlo; la visión que nos da el ordenador del mundo en el que estamos nos parece más verdadera que la realidad en la que vivimos. Allí, al menos, tenemos algo indiscutible y nos negamos a ver su carácter puramente ficticio y figurativo. (…) El universo numérico del ordenador se va convirtiendo poco a poco en el universo que se considera como la realidad en la que estamos integrados” (TS, 104-105)..
[27] En relación con este capítulo de la distopía, considérese la gestión biopolítica de la “crisis Covid”, con el telón de fondo de la “seguridad sanitaria”. Sobre este tema, véase mi artículo “L’invention d’un moment dystopique”, Lundi matin, marzo de 2022. En línea aquí
[28] Delphine Tillaux, Pourquoi le phénomène est appelé à durer, Investir nº 2595 dedicado a la IA, septiembre de 2023: “Apple, Microsoft, Alphabet (empresa matriz de Google), Tesla, Amazon, Nvidia y Meta. Entre finales de diciembre de 2022 y finales de julio, la capitalización bursátil del Nasdaq 100 creció en casi seis billones de dólares, de los cuales más del 80% estaban ligados únicamente a estas siete entidades.” [No hemos podido verificar este dato -IWE].
[29] Nils J. Nilsson, The Quest For Artificial Intelligence, 2010, p. 78: “McCarthy ha dado un par de razones para utilizar el término “inteligencia artificial”. La primera era distinguir el tema propuesto para el taller de Dartmouth del de un volumen anterior de artículos solicitados, titulado Automata Studies, coeditado por McCarthy y Shannon, que (para decepción de McCarthy) se refería en gran medida al tema matemático esotérico y bastante estrecho llamado ‘teoría de autómatas’. La segunda, según McCarthy, era huir de la asociación con la “cibernética”. Su concentración en la retroalimentación analógica parecía equivocada, y yo deseaba evitar tener que aceptar a Norbert Wiener como gurú o tener que discutir con él”.
[30] “Dystopie,” Wikipédia, October 24 2023. Online aquí.
[31] Hottois, Le Signe et la technique, 1984, 158.
[32] “Esta ansiedad de sustitución sería una aflicción narcisista, básicamente, un caso en el que el hombre se cuestiona a sí mismo, junto con su creencia en lo que tiene de más singular”. Libération, 19 de junio de 2023. En línea aquí.
[33] Jacques Ellul y Patrick Chastene, À contre-courant. Entretiens, La Table ronde, 2014: “Nada de lo que he hecho, experimentado, pensado, es comprensible sin la referencia a la libertad”.
