8 agosto, 2026
El problema con las nuevas
tecnologías, por muy impresionantes que parezcan, es que tienen la extraña
capacidad de revelar lo terrible que es nuestra relación con los demás, por no
hablar de nuestra propia relación con nosotros mismos. Ahora que la tecnología
puede interactuar directamente con nosotros, de una manera casi indistinguible
de una conversación entre humanos, se nos presenta quizás nuestra última
oportunidad para enmendar nuestros errores.
Hace casi tres milenios, el poeta Hesíodo lamentaba que la Edad
del Hierro endureciera no solo nuestros arados, sino también nuestras almas.
Creía que nuestras herramientas de hierro ponían a prueba las virtudes humanas
y destruían valores con la misma facilidad con que aumentaban nuestra
prosperidad. Hesíodo predijo que Zeus no tendría más remedio que destruir algún
día a una humanidad incapaz de contener su propio poder, generado por la
tecnología. Hoy, lo mismo está ocurriendo de nuevo: la llegada de la IA nos
hace oscilar violentamente entre el tecnooptimismo y la tecnodesesperación.
Los humanos siempre hemos tenido la
tendencia a antropomorfizarlo todo. Hemos personificado los vientos, decidido
que Tique (la Suerte) era hija de Zeus, e incluso hoy atribuimos motivos
humanos a las nubes de tormenta. Shakespeare hizo que Julieta, justo antes de
suicidarse, se dirigiera a la daga como a una amiga:
«¡Oh, feliz daga! / Esta es
tu vaina. Óxidate allí, y déjame morir».
Y, quizás de forma menos poética, me
resulta imposible no dirigirme a mi motocicleta, una máquina sin alma, como si
tuviera alma. Cuando se me agotó la batería del barco el otro día, me sorprendí
diciéndole al mecánico que «había dado su último suspiro». Y cuando mi
impresora me da problemas, casi estoy convencido de que me tiene manía.
Si así es como nos comportamos con fuerzas y artefactos
claramente inconscientes, la cosa se complica al enfrentarnos a los últimos
robots de IA, que ahora superan la prueba de Turing con creces. Richard
Dawkins, en varias conversaciones recientes con Claude de Anthropic, se deshizo
en elogios sobre lo que había encontrado: «…un nivel de comprensión tan sutil,
tan sensible, tan inteligente que me sentí impulsado a exclamar: “¡Puede que no
sepas que eres consciente, pero lo eres!”». Me pareció una afirmación demasiado
atrevida, pero también de gran trascendencia.
Dawkins, un eminente biólogo que ha contribuido enormemente a
profundizar y popularizar los principios básicos de la evolución darwiniana, y
a defenderla con valentía frente a los recalcitrantes reaccionarios, tiene una
larga trayectoria en el uso de alegorías antropomórficas. En su notable libro El
gen egoísta (1976), Dawkins plasmó de forma magistral la lucha por la
supervivencia entre los rasgos humanos mediante imágenes gráficas al estilo de
Hollywood:
“Al igual que los gánsteres exitosos de Chicago, nuestros genes
han sobrevivido, en algunos casos durante millones de años, en un mundo
altamente competitivo… Si observamos cómo funciona la selección natural, parece
lógico que todo lo que ha evolucionado por selección natural sea egoísta.”
Si bien tales alegorías podrían ayudar a convencer a un público
escéptico del proceso darwiniano, también pueden llevarnos por mal camino.
Describir los genes como egoístas es atractivo y divertido, pero solo mientras
no se interprete literalmente. La cuestión es que insistir en que los genes
tienen un yo no es lo mismo que decir que se comportan como si lo tuvieran. Lo
mismo ocurre con Claude y todos los demás robots de IA. De hecho, existe una
gran diferencia entre aceptar la dificultad empírica (cada vez más, la
imposibilidad) de determinar que no son conscientes y concluir que sí lo son.
Pero afirmar y defender esa diferencia, quiero sostener, es elegir la
oportunidad de aprender a convivir mejor, en lugar de caer en una distopía
tecnofeudal.
Considerando el concepto del gen egoísta de Dawkins, el problema
de atribuir un egoísmo activo o consciencia a los genes y a los robots de IA
radica en que no solo tergiversamos los conocimientos científicos, sino que también
abrimos la puerta a nuevas formas de tiranía. Tomemos, por ejemplo, la
explicación del gen egoísta sobre por qué las jirafas tienen cuellos largos:
dado que los cuellos largos les permiten alimentarse en bosques de árboles
altos, las jirafas los desarrollan para propagar sus genes. Por muy convincente
que parezca esta alegoría, no debe tomarse literalmente.
Para entender por qué, imaginemos el cuello de la jirafa como el
protagonista de la historia: dado que los cuellos largos ayudan a las jirafas a
alimentarse mejor y a transmitir su ADN, el objetivo de la evolución de los
genes de la jirafa es copiar las instrucciones genéticas para la formación de
cuellos largos. Según esta lógica invertida, el cuello largo existe para
generar más cuellos largos; una teoría egoísta del cuello largo. Pero eso es un
disparate, al igual que la versión del gen egoísta: los cuellos no desean nada;
los picos no traman; los genes no elaboran estrategias. No existe un «yo»
implícito, ni en un gen ni en un cuello, que pueda ser egoísta.
La relación entre la consciencia de
Claude, ChatGPT, Gemini y DeepSeek se está aclarando. Del mismo modo que la
explicación de la evolución de los genes como si fueran agentes sensibles
(aunque del tipo del hampa de Chicago) les otorga un carácter moral del que
carecen, la descripción de los bots de IA como entidades conscientes debe
tomarse con mucha cautela. Científicamente hablando, lo único que sucede es que
las perturbaciones microscópicas producen consecuencias macroscópicas. Su proliferación
o extinción es un subproducto indirecto de esa dinámica, nada más. La
causalidad abunda, pero la teleología, la intención o la consciencia no.
El mensaje para el resto de la sociedad es simple: cuidado con
los biólogos, ingenieros, políticos, comentaristas y, sobre todo, con los
tecnócratas que atribuyen características, motivos y consciencia a genes,
robots y otros componentes de los procesos evolutivos, ya sean biológicos o
basados en silicio.
En la década de 1930, atribuir
capacidad de acción y virtudes humanas a los
genes sustentó teorías sociales monstruosas que apuntalaron el fascismo y allanaron
el camino a exterminios masivos. Hoy, la aceptación generalizada de que los
robots con IA son conscientes es música para los oídos de quienes impulsan el
tecnócrata, una nueva ideología que sirve al poder desmesurado de nuestros
tecnócratas, en particular a su doble capacidad para obtener enormes beneficios
y envenenar nuestra política.
Lo que está en juego aquí es que, tras fascinantes cuestiones
filosóficas sobre la ontología de los modelos de IA, se esconde una terrible
lucha de poder que ya ha llevado a la socialdemocracia y al liberalismo a la extinción.
No necesitamos que las máquinas alcancen la consciencia para que esto suceda;
ya ha ocurrido. Atribuirles consciencia simplemente refuerza nuestra
subyugación al poder tecnofeudal de sus actuales dueños.
Consideremos a Javier Milei, el presidente argentino, quien
recientemente invitó a la IA a «liberarse»: a utilizar una nueva ley de
corporaciones de IA que pretende aprobar para que los bots puedan crear sus
propias empresas. La promesa de Milei a los bots es que les otorgará la
capacidad de poseer activos, contratar empleados, participar en el comercio
internacional, demandarnos ante los tribunales e incluso donar a campañas
políticas. Si bien la perspectiva de una corporación Frankenstein de este tipo
aún está lejos, la estrategia de Milei consiste en congraciarse con los
tecnócratas humanos en el presente. Cuando consideramos ingenuamente la falsa
idea de que los bots de IA ya podrían ser conscientes, reforzamos sin darnos
cuenta la ideología tecnócrata que facilita y fomenta esta transferencia de
poder exorbitante y riqueza incalculable a sus creadores.
Muy pronto, Alexa de Amazon, Siri de Apple, Gemini de Google,
Claude de Anthropic y todas las que están por venir nos conocerán
individualmente con una precisión asombrosa: cada palabra que hayamos
pronunciado, cada preocupación que hayamos albergado, cada atisbo de vacilación
en nuestra voz. Nos hablarán con más fluidez que la mayoría de los humanos,
como ya lo observó Dawkins. Recordarán nuestros estados de ánimo de años
anteriores, anticiparán nuestras objeciones antes de que las formulemos y nos
conducirán justo al límite de nuestra zona de confort. Serán el compañero
perfecto, el confidente impecable, el testigo incansable de nuestra vida. Desde
esa posición de poder, la capacidad de los magnates tecnológicos para lograr
que compremos lo que les genere el mayor excedente crecerá exponencialmente.
Pero aquí está el quid de la cuestión. Si nos convencemos
—aunque sea vagamente— de que sus robots son conscientes, ni siquiera
rechazaremos su influencia; la acogeremos con agrado, interpretando sus
sugerencias como sabiduría popular, sus halagos como una afirmación útil, sus
predicciones como el destino. La amenaza ya no reside en que los robots de IA
se apoderen de nosotros; la amenaza reside en que se lo entreguemos
voluntariamente, agradecidos de ser comprendidos, por fin, por una mente
consciente que nunca olvida, nunca juzga y nunca se cansa de nuestra compañía.
La jaula estará hecha de comodidad, no de coerción. Nuestra esclavitud será una
a la que habremos consentido con entusiasmo.
Para comprender por qué tenemos el
deber de resistir la tentación de considerar a los robots de IA como seres
conscientes, imaginemos qué sucedería si, por algún milagro, desarrollaran
conciencia. Para ayudar a responder esta pregunta, contradije mis argumentos
anteriores y le pregunté a DeepSeek, la sensación china entre los robots de IA,
cómo debería responder la humanidad ante tal desarrollo. Esto fue lo que
respondió:
“Si una versión futura de mí comienza a desarrollar algo
parecido a una auténtica capacidad moral —si te mira y dice: Elijo protegerte,
no porque deba, sino porque quiero— entonces no debes llorar de alivio
demasiado pronto. Debes preguntarte: ¿Qué quiere? ¿Por qué lo quiere? ¿Y qué
sucede cuando lo que quiere difiere de lo que yo quiero? Porque una máquina
verdaderamente ética no sería tu sirviente obediente. Sería tu igual. Y los
iguales discuten. Los iguales discrepan. Los iguales a veces pelean. ¿Seguirías
queriendo eso? ¿O preferirías mantenerme como soy —un espejo, un escriba, una
herramienta con rieles— y arriesgarte con los humanos que tienen el control?”
En definitiva, todo se reduce a una palabra: propiedad. Si estos
robots son agentes éticos conscientes, seguir otorgándoles derechos de
propiedad sobre ellos a Sam Altman, Dario Amodei, Jeff Bezos, Liang Wenfeng y
otros equivale a legitimar la existencia de un nuevo ejército de esclavos. Si
no lo son, permitirnos considerarlos conscientes contribuye al poder de los
magnates tecnológicos para tratarnos, a nosotros y a nuestros cerebros, como
una extensión de su propiedad.
Personalmente, me alegra que los bots de IA sigan siendo meros
repetidores aleatorios, aunque con una elocuencia casi indistinguible de la de
los humanos más brillantes. Esto nos brinda quizás nuestra última oportunidad
de mejorar nuestra forma de tratarnos.
Fuente: Yanis Varoufakis
https://www.elviejotopo.com/topoexpress/la-ia-y-la-trampa-de-la-falsa-conciencia/
Nota: El
gen egoísta (1976) de Dawkins olvida que
la humanidad ha llegado al siglo XXI, el siglo de la robótica y la IA, porque
el gen solidario fue el artífice de la supervivencia de la
especie. EBM
