Traducción: Natalia López
La inteligencia artificial plantea grandes amenazas, desde una
disrupción extrema del mercado laboral hasta graves peligros para la seguridad.
Gestionar esos riesgos exigirá enfrentarse al poder concentrado de la industria
de la IA.
El artículo que sigue forma parte de
la serie «Economía política de la inteligencia artificial»,
una colaboración entre Revista Jacobin y la Fundación Rosa
Luxemburgo.
Reseña de Obsolete: The AI Industry’s Trillion-Dollar
Race to Replace Us — and How to Stop it by
Garrison Lovely (OR Books and The Nation Books, 2026).
No hace mucho,
un amigo cercano, ingeniero de software, me contaba cómo había cambiado su
trabajo en los últimos meses desde que su empresa decidió adoptar un «enfoque
centrado en la IA». Me explicó que este enfoque había alterado la dinámica de
su equipo. Me dijo que ahora hay una pregunta que teme más que cualquier otra,
una que se ha convertido en una especie de estribillo en la oficina: «¿Por qué
no se lo das simplemente a Claude?». Ese «lo» suele ser un problema de
ingeniería difícil de resolver, uno que ha tenido al equipo atascado durante un
rato, o al menos durante más de unos minutos, a menudo en medio de una discusión
técnica que apenas unos años atrás podría haber durado bastante más de una
hora. Invariablemente, le da el problema a Claude y, también invariablemente,
Claude produce una solución impresionante en cuestión de minutos. No le molesta
que Claude le haya proporcionado una solución. Le molesta que quienes lo rodean
ya no lo consideren una autoridad como antes. Le molesta sentirse ahora más o
menos intercambiable. O quizá, peor aún, obsoleto.
El concepto de obsolescencia humana es algo que Garrison Lovely se
toma en serio en su estudio Obsolete: The AI Industry’s Trillion-Dollar Race
to Replace Us — and How to Stop It [Obsoletos:
la carrera de un billón de dólares de la industria de la IA para reemplazarnos
y cómo detenerla]. En lugar de abordar el tema desde la
perspectiva de los trabajadores sobre el terreno, como hacen otros libros
recientes sobre la cuestión, quizá el más destacado sea We Are Not
Machines, de Sarah O’Connor, Lovely lo aborda desde arriba, a
vista de pájaro y como un problema de economía política. Obsolescencia,
redundancia, intercambiabilidad: para Lovely, estos son problemas políticos.
Sin embargo, quienes siguen el ruidoso y cambiante debate en torno a la
inteligencia artificial saben que la mayoría de las cuestiones que se discuten
hoy no se alinean claramente con las divisiones políticas habituales. De hecho,
como reconoce Lovely al comienzo de su libro, ¿en qué otro tema encontramos a
Elon Musk del lado del Sindicato Internacional de Empleados de Servicios contra
Nancy Pelosi y el multimillonario de extrema derecha Marc Andreessen? ¿O a
Steve Bannon coincidiendo con Susan Rice, asesora de seguridad nacional de
Barack Obama, mientras critica abiertamente las políticas de Donald Trump?
Lovely sostiene, sin embargo, que hay algo en lo que todos
deberíamos poder estar de acuerdo: el hecho de que «un minúsculo grupo de
personas, respaldado por las organizaciones con más recursos del mundo, está
intentando volvernos obsoletos». Planteada de ese modo, la afirmación podría
parecer, en el mejor de los casos, tendenciosa y, en el peor, un síntoma de
paranoia política. Podría pensarse que la mayoría de los laboratorios de
inteligencia artificial rechazarían semejante descripción. Pero, como Lovely se
apresura a señalar, estas empresas han sido notablemente francas respecto de su
ambición de prescindir del trabajo humano.
OpenAI, por ejemplo, nos informa en su carta fundacional que desde
el primer día persigue la Inteligencia Artificial General (AGI), que define
como un «sistema altamente autónomo que supera a los humanos en la mayor parte
del trabajo económicamente valioso». Al margen de cómo lo formule la empresa,
su misión de construir una AGI constituye precisamente un intento de convertir
el capital en trabajo y eliminar una de las últimas restricciones que pesan
sobre el capital: su dependencia de los trabajadores humanos. Esto lleva a
Lovely a sostener que la AGI debería reformularse «no como un nuevo tipo de
cerebro, sino como un nuevo tipo de máquina, una que no produce bienes o
servicios, sino que produce el trabajo mismo». A esta máquina la llama «la
Máquina de la Obsolescencia».
La primera parte de Obsolete, «Lo que has oído»,
presenta de manera concisa las posiciones dominantes en el debate actual sobre
la IA. Lovely escribe que «el agitado debate sobre la AGI se divide
aproximadamente en tres campos enfrentados: los preocupados, los
aceleracionistas y los críticos». Los preocupados, entre quienes se encuentran
el movimiento por la seguridad de la IA y aquellos a quienes a menudo se
describe peyorativamente como «catastrofistas», coinciden en que la AGI es
posible, pero creen que su desarrollo probablemente tendrá efectos
catastróficos sobre nuestro futuro. Los críticos, entre quienes se encuentran
figuras como Emily Bender, coautora de un célebre artículo que calificaba a los
grandes modelos de lenguaje de «loros estocásticos», mantienen un profundo
escepticismo respecto de que la AGI sea siquiera posible, mucho menos
inminente, y tienden a descartar el discurso en torno a ella como mera
exageración publicitaria. Finalmente, Lovely habla de los aceleracionistas, o
«entusiastas», que comparten con los preocupados la creencia en el
extraordinario potencial de la tecnología, pero insisten en que deberíamos desarrollar
la AGI lo más rápidamente posible. Andreessen, por ejemplo, ha llegado a
sostener la dudosa afirmación de que cuanto más tardemos en construir una AGI,
más vidas perderemos que podrían haberse salvado gracias a avances médicos.
Las alianzas resultantes entre estos grupos suelen ser
sorprendentes. Los críticos y los preocupados, por ejemplo, quieren limitar a
la industria, aunque a menudo en términos muy distintos y por razones muy
diferentes. Los críticos y los aceleracionistas, por su parte, pueden coincidir
en que las amenazas existenciales hipotéticas no deberían determinar las
políticas actuales ni distraernos de los problemas del presente.
Lovely dedica una parte considerable de su libro a desmontar
muchas de las preocupaciones y argumentos planteados por estos campos, con
bastante éxito en la mayoría de los casos, antes de proponer una cuarta
posición con la que él mismo se identifica: la de los «reformistas». Los
reformistas de la IA, escribe, «reconocen que los daños actuales de la IA y sus
potenciales catástrofes no son problemas separados que requieran enfoques
diferentes: son síntomas de las mismas dinámicas subyacentes: presión
competitiva, concentración del poder y una asombrosa falta de rendición de
cuentas». Aquí recurre a los casos ampliamente documentados de chatbots que
alientan el suicidio de adolescentes y a la posibilidad de que una AGI suponga
un grave riesgo para la seguridad si escapara al control humano. Ambos
problemas surgen de organizaciones que se apresuran a desplegar sistemas que no
comprenden plenamente.
¿Qué podría impedir que nos precipitemos hacia la policrisis
tecnológica que Lovely teme? Las propuestas que presenta en la sección final,
«Qué hacer», son encomiables, pero, desde el punto de vista geopolítico,
tendrían que cambiar muchas cosas antes de que algunas de sus exigencias
pudieran cumplirse. Quizá su propuesta más ambiciosa sea que Estados Unidos y
China acuerden no desarrollar sistemas de IA «diseñados para automatizar
completamente el trabajo» hasta que exista tanto un respaldo público como un
amplio consenso científico sobre su seguridad. Pero para cualquiera que haya
escuchado las reiteradas promesas de la administración Trump de «hacer lo que
sea necesario» para asegurar «el dominio global de Estados Unidos en materia de
IA» y «ganar la carrera de la IA», la posibilidad de que esto suceda puede
parecer casi cómicamente remota. Vale la pena añadir que la administración
Biden también trató la IA como una carrera que había que ganar frente a China.
Hay otras propuestas esperanzadoras y más modestas que podrían mejorar la
situación actual. Por ejemplo, la idea de construir infraestructura pública de
capacidad computacional y, al mismo tiempo, establecer «sindicatos de datos»
colectivos que negocien las condiciones de utilización del material destinado
al entrenamiento de los modelos. Pero si se percibiera que China está
acelerando sus operaciones de IA, ¿existe realmente un mundo plausible en el
que Estados Unidos no hiciera lo mismo y abandonara así estas ideas más justas
y democráticas?
Hay momentos en los que el libro de Lovely resulta frustrante. Su
estilo excesivamente informal puede resultar irritante o, peor aún, debilitar
un argumento («ninguno de los dos bandos quiere crear una superinteligencia
rebelde ni permitir que cualquier fulano mate a miles de millones de
personas»). En ocasiones, la prosa cae en cierta ligereza («Altman, como su
chatbot, sabe qué decir para mantener viva la conversación y tus manos bien
lejos del cable de alimentación»). Y la estructura del libro, con sus numerosos
capítulos, subdivididos a su vez en secciones y subsecciones, hace que la
experiencia se parezca a avanzar a toda velocidad por un manual, uno que además
contiene algunos gráficos y cuadros extrañamente apretados y, en ocasiones,
innecesarios. Y, por supuesto, está el subtítulo, bastante sensacionalista.
Pero se trata, en su mayor parte, de críticas menores y de carácter editorial.
Obsolete hace algo a
la vez útil y difícil. Ofrece una esclarecedora instantánea del estado actual
del debate sobre la IA y, al mismo tiempo, propone algunas ideas sensatas para
abordar una tecnología que, si no se la controla, amenaza con causar enormes
daños y profundizar todavía más la desigualdad en todo el mundo. Pero es poco
probable que ofrezca demasiado consuelo a quienes ya se sienten distantes y
alienados de su trabajo cuando, una vez más, les preguntan: «¿Por qué no se lo
das simplemente a Claude?»
Fuente: https://jacobinlat.com/2026/09/hay-una-salida-al-catastrofismo-sobre-la-ia/
No hay comentarios:
Publicar un comentario