Por BettBeat Media
La
inteligencia artificial para la prevención de delitos está redefiniendo la
libertad humana. Lo presencié. Y es lo más aterrador que he visto en mi vida
BettBeat
Media, jul 01, 2026, BettBeat’s Newsletter
La
sala de seminarios
En un seminario de IA en
mi universidad, presenté tres fotografías mías: una frontal, una de perfil y
una sonriendo. En aproximadamente un minuto, el sistema generó un vídeo mío. Lo
que vi no era una simple imitación. Los pequeños gestos de mi rostro, la ligera
asimetría de mi sonrisa, la forma en que mis ojos se arrugan en las comisuras,
todo se reprodujo con una precisión asombrosa. Le había proporcionado tres
imágenes fijas y me había devuelto mi propio reflejo.
Soy psicólogo. Sé lo que
significa la predicción del comportamiento. Entiendo el efecto que los grandes
conjuntos de datos tienen sobre el concepto de singularidad individual. Pero
sentado en esa sala de seminarios, viendo mi propio rostro moverse en una
pantalla que no había animado, algo cambió en mi comprensión de dónde estamos y
hacia dónde vamos. No sentí entusiasmo. Sentí el pavor específico de quien
acaba de comprender la naturaleza de la jaula que se está construyendo
a su alrededor.
Seamos honestos sobre lo
que está sucediendo. La cuestión no es si la inteligencia artificial puede
predecir el comportamiento humano. Ya puede hacerlo, con una
precisión que debería aterrorizar a todo aquel que aún crea en el concepto de
un yo individual. La cuestión es quién posee esa capacidad, a quién beneficia y
qué tipo de mundo están construyendo con ella.
Somos
más predecibles de lo que creemos
Como bien sabe cualquier
estudioso serio de la ciencia del comportamiento, los seres humanos somos mucho
más predecibles de lo que nos gusta creer. Somos criaturas de patrones, de
repetición, de hábitos claros. El yo que experimentamos como soberano y
espontáneo es, en conjunto, asombrosamente consistente. Sutiles señales en
nuestro entorno desencadenan rutinariamente nuestro comportamiento sin que
seamos conscientes de ello, mientras que experimentamos la acción resultante
como una elección libre y soberana. El análisis de grandes datos reveló esto
sobre nosotros mucho antes de que la generación actual de sistemas de IA
llegara para explotarlo.
“La
alerta que se envía a la central de policía no indica que esta persona haya
cometido un delito. Indica que esta persona se comporta con un setenta por
ciento de similitud al perfil de comportamiento de alguien que lo hará”
Lo que ha cambiado es la
escala y el nivel de detalle de la explotación. Los investigadores ya han
demostrado que los sistemas de IA pueden predecir el sonido de la voz de una
persona a partir de una simple fotografía, infiriendo las propiedades acústicas
de la garganta, la forma de la cavidad bucal, la estructura del rostro y, a partir
de estos datos físicos, reconstruyendo algo que ninguna imagen estática debería
contener. No dimos nuestro consentimiento para esta inferencia. No sabíamos que
era posible. La tecnología no nos preguntó.
La invasión se produce en
ambas direcciones. Ya en 2022, antes de que la mayoría de la gente tuviera
motivos para prestar atención, la IA podía tomar solo el sonido de tu voz y
reconstruir tu rostro. Ya eras legible desde dentro hacia fuera.
Una
mascarilla no cambia nada
Pero el reconocimiento
facial es, a estas alturas, casi lo menos importante. La tecnología más
trascendental es el reconocimiento de la marcha, un
sistema biométrico que identifica a las personas no por su rostro, sino por su
forma específica de caminar, determinada anatómicamente. La curvatura de la
columna, la rotación de las caderas, el ritmo particular de la zancada: estos
rasgos son tan únicos como una huella dactilar y mucho más difíciles de
disimular. Los sistemas de reconocimiento de la marcha actualmente en
funcionamiento pueden identificar a una persona a partir de grabaciones de
seguridad incluso cuando su rostro está girado, cubierto por una capucha o
escondido tras una máscara. Los manifestantes que se cubrían el rostro en las
protestas creían que se protegían. No era así. El sistema ya los había
identificado desde los tobillos hacia arriba.
El reconocimiento de la
forma de andar le indica al sistema quién eres, incluso cuando crees que estás
oculto. Lo que sigue va más allá. A esto se suma el campo emergente del
reconocimiento de emociones en tiempo real, sistemas de IA integrados en la
misma infraestructura de CCTV ( circuito cerrado de TV, necesarios para un
sistema de vigilancia) que clasifican estados emocionales a partir de
expresiones faciales, asignando etiquetas de agitación, hostilidad, miedo u
ocultamiento a los rostros de personas que no han hecho nada más que estar en
un espacio público.
Y el
sistema está mejorando
La precisión es lo que se
consigue con miles de millones de dólares de inversión, y la inversión es implacable.
Se acerca el día —más cerca de lo que la mayoría de la gente imagina— en que el
sistema leerá los miles de marcadores codificados en tu rostro, tu forma de
andar, tus microexpresiones, y afirmará con un noventa y cinco por ciento de
certeza que cometerás un asesinato. Que cometerás una violación.
No es
que lo hayas hecho. No es que lo hayas intentado. Es que lo harás. Y cuando se alcance ese umbral de confianza, la presión para
actuar será abrumadora. La sociedad lo aceptará como fundamento para la
intervención, la detención, la expulsión preventiva, y la prevención del delito
dejará de ser una metáfora distópica para convertirse en política oficial del
Estado. Un sistema que etiqueta tu rostro como hostil no tiene por qué ser
correcto hoy. Solo tiene que llegar a serlo. Y lo es
Aprende
a reconocer las expresiones faciales de soledad y baja autoestima. Ahora,
imagina ese sistema integrados en unas gafas, anteojos. Entra en una
habitación. La imagen superpuesta le indica al depredador quién es débil.
El
instrumento del depredador
Lo que describí que
sucedió en ese seminario representa solo una pequeña faceta de lo que ahora es
técnicamente posible. Consideremos otra aplicación, una que debería hacer que
toda persona que alguna vez haya sido vulnerable se detenga a reflexionar sobre
sus implicaciones.
Vivimos
en un mundo plagado de depredadores. Empleadores
depredadores. Hombres depredadores. Instituciones financieras depredadoras.
Redes depredadoras como la que Jeffrey Epstein operó durante décadas sin
consecuencias, al servicio de los hombres más poderosos del mundo.
¿Qué ocurre cuando un
depredador de esa clase tiene acceso a un sistema de IA entrenado con miles de
horas de entrevistas terapéuticas con supervivientes de abusos, con personas
víctimas de trata y con individuos cuyos antecedentes psicológicos los
convirtieron en objetivos?
El sistema aprende cómo se
ve la vulnerabilidad desde fuera. Aprende la forma particular en que una
persona condicionada a la sumisión mueve su cuerpo en un espacio público.
Aprende la expresión facial de la soledad, de la baja autoestima, de alguien
que no se defenderá o a quien no se le creerá si lo hace.
Ahora, coloca ese sistema
integrado en unos lentes, unas gafas. Entra en una habitación. La
superposición le indicará al depredador quién es el más débil.
Palantir
y la arquitectura del control
Palantir no es una
hipótesis. Es una empresa con una valoración de mercado actual que se mide en
cientos de miles de millones de dólares, sólidas relaciones contractuales con
el ejército de los EEUU, la CIA, el FBI, el Mossad, el MI6 y el Servicio de
Inmigración y Control de Aduanas, y un conjunto de productos diseñados
específicamente para hacer lo que he estado describiendo.
Su plataforma Gotham recopila
datos de registros fiscales, archivos del DMV, (La extensión DMV es la
más utilizada para los archivos Adobe Acrobat Parsing Rules) historial
laboral, historial académico, estatus migratorio, cuentas de redes sociales
obtenidas mediante citación judicial, incluyendo mensajes privados e historial
de ubicaciones, y sintetiza esta información en expedientes individuales que pueden
buscarse por tatuaje, vecindario, asociación o patrón de movimiento. Su
aplicación de control migratorio, llamada ELITE, muestra en un mapa lo que
designa como objetivos de deportación y asigna a cada uno una puntuación de
confianza que estima la probabilidad de que una dirección determinada sea donde
duermen actualmente. La palabra " objetivo" es suya,
no mía.
Este no es un sistema
diseñado para la seguridad nacional en ningún sentido significativo de la
palabra. La seguridad nacional fue el pretexto utilizado para su
creación. En realidad, lo que hace es hacer que la población sea
legible, clasificable y susceptible de ser manipulada por quien tenga el
contrato. En este momento, entre quienes tienen ese contrato se encuentra una
administración que ya ha demostrado su disposición a usar estas herramientas
contra estudiantes que participaron en la protesta equivocada, académicos que
firmaron la carta equivocada e inmigrantes cuyo único delito fue existir sin
documentación en un país que durante décadas dependió de su trabajo.
Un
retuits puede abrir un archivo
El programa que el
Departamento de Estado denomina "Capturar y Revocar" utiliza
herramientas de IA, incluida una plataforma llamada Babel X, para realizar un
análisis automatizado del sentimiento en las redes sociales de ciudadanos
extranjeros con visa, incluidos estudiantes de posgrado e investigadores. El
sistema lee las publicaciones, asigna puntuaciones de intención, marca las
cuentas cuyas opiniones expresadas el algoritmo ha clasificado como amenazantes
e inicia procedimientos de revocación de visa, todo ello sin una revisión
humana significativa. Un retuits puede ahora abrir un expediente. Un
comentario dejado en una publicación de hace tres años puede desencadenar un
proceso de deportación. La persona afectada no tiene derecho a examinar
el algoritmo que lo condenó. El algoritmo es de propiedad exclusiva. Su
lógica interna es un secreto comercial.
El
acusador al que no puedes enfrentar
Este último punto tiene
una importancia que el sistema legal aún no ha empezado a asumir. Los sistemas
de IA que se utilizan para predecir el comportamiento, asignar riesgos
y dirigir acciones coercitivas son cajas negras, no en el sentido coloquial,
sino en el técnico y legal. Las empresas que los desarrollan no tienen
la obligación de revelar sus métodos. Un acusado cuyo arresto se desencadenó
por una alerta algorítmica no puede solicitar los datos de entrenamiento. Su
abogado no puede interrogar al modelo. La presunción de inocencia, el derecho a
confrontar al acusador, la estructura básica del debido proceso que requirió
siglos de lucha para establecerse, se desmorona en el momento en que el
acusador es un sistema de software propietario de una corporación con un
contrato gubernamental.
Europa tomó medidas para
prohibir esto, o al menos eso afirmaba la legislación. El artículo 5 de la Ley
de Inteligencia Artificial de la UE, que entró en vigor a principios de 2025,
prohíbe nominalmente los sistemas de IA diseñados para predecir la probabilidad
de que una persona cometa un delito. Las excepciones enumeradas en el texto incluyen
terrorismo, asesinato, violación y robo a mano armada. En otras
palabras, la prohibición se aplica a delitos menores. Para cualquier delito que
el Estado clasifique como grave, la predicción está permitida.
Ya sabemos lo flexible que
se ha vuelto el término terrorismo. En el Reino Unido, mujeres
mayores que participaban en manifestaciones de solidaridad con Palestina han
sido catalogadas como simpatizantes terroristas, vigiladas y derivadas a
programas de lucha contra el extremismo. La definición se amplía para incluir a
cualquiera que el Estado considere inconveniente. Una vez que se comprende
esto, las excepciones de la Ley de Inmunidades contra el Terrorismo dejan de
parecer garantías legales y se convierten en un cheque en blanco a favor de
quien ostente el poder en ese momento.
El
ciclo de retroalimentación
En USA ni siquiera existe
la apariencia de prohibición. Y el problema se agrava como todas las
injusticias estructurales cuando las instituciones diseñadas para contenerlas
caen en manos equivocadas. Los sistemas de vigilancia predictiva envían más
agentes a ciertos barrios. Más agentes en esos barrios generan más arrestos.
Más arrestos en esos barrios confirman la predicción original del
algoritmo. Los datos no describen un barrio peligroso; lo crean. Los
residentes ven cómo sus hijos pasan de ser ciudadanos a precriminales antes
incluso de haber cometido delito alguno.
“Los
centros de datos no se construyen para agilizar los resultados de búsqueda. Se
construyen para almacenar y procesar los perfiles de comportamiento de todas
las personas del planeta”
La
clase Epstein que construye esto
Necesitamos hablar con
franqueza sobre quién está construyendo esto y por qué. Elon Musk.
Peter Thiel, cuyo nombre es sinónimo de Palantir. Donald Trump, cuya administración
ha desplegado estas herramientas con una rapidez y agresividad que sugieren que
estaban esperando precisamente esta configuración política. Benjamin Netanyahu, bajo
cuyo gobierno se utilizaron sistemas de reconocimiento facial para vigilar a
civiles palestinos en Cisjordania, generando bases de datos que desde entonces
se han ampliado e integrado con redes de inteligencia internacionales.
OpenAI,
cuyo director ejecutivo, Sam Altman,
pasó años presentándose a sí mismo y a su organización como los responsables y
conscientes de la seguridad de la tecnología transformadora —una organización
sin ánimo de lucro creada para el beneficio de la humanidad— antes de
reestructurarse en una entidad con fines de lucro que ahora busca una
valoración que la convierte en una de las instituciones privadas más poderosas
de la historia. El mismo Sam Altman cuya hermana, Annie Altman, lo ha acusado
pública y repetidamente de violación sistemática desde que tenía tres años.
Estas acusaciones no han sido juzgadas en un tribunal. Tampoco han recibido la
atención que merecen por parte de la industria, la prensa o los gobiernos que
ahora colaboran con su empresa para dar forma a la infraestructura de IA del
futuro.
El hombre que construye
las herramientas de predicción y clasificación del comportamiento a escala
planetaria es alguien a quien su propia hermana dice haber temido desde la
infancia. Se nos dice que confiemos en los constructores. No se nos dice que
analicemos con detenimiento quiénes son.
Esta
es la clase Epstein. No es una metáfora. Jeffrey Epstein fue un depredador y un pedófilo que dirigió, durante
décadas, lo que en la práctica fue una operación de inteligencia privada basada
en el abuso sexual sistemático de niños por parte de los súper ricos.
La
infraestructura era el chantaje. La
moneda de cambio era el acceso: a menores de edad y a los secretos mejor
guardados de los hombres más poderosos de la ciencia, las finanzas, la política
y la tecnología que se movían en su mundo. Varios de los hombres que ahora construyen
la arquitectura de vigilancia del siglo XXI asistieron a sus cenas, volaron en
sus aviones, visitaron sus islas y abusaron de sus víctimas. Algunos en la
periferia. Otros, considerablemente más cerca del centro.
Lo que Epstein comprendió,
y lo que sus invitados comprendieron a su manera, es que el
conocimiento absoluto de una persona —sus deseos, su vergüenza, sus secretos,
sus vulnerabilidades— equivale a un poder absoluto sobre ella. Él
construyó ese sistema a mano, con cámaras, silencio y los cuerpos de niños. Los
hombres que compartieron su mesa lo han construido desde entonces a escala
planetaria, esta vez con centros de datos, legislación y la cooperación de los
gobiernos. La lógica depredadora es idéntica. Solo ha cambiado el
mecanismo.
No se trata de actores
aislados que persiguen intereses independientes. Son una clase. Han forjado
alianzas, inversiones conjuntas, cargos compartidos en juntas directivas y un
proyecto político común, características propias de las clases sociales que
reconocen una oportunidad común. En este caso, la oportunidad reside en
el dominio total de la información sobre el resto de la humanidad. Los
centros de datos que se construyen en el suroeste de EEUU, en los estados del
Golfo Pérsico y en el sudeste asiático —estructuras enormes y devoradoras de
energía, cuya construcción se presenta en la prensa como un ejemplo de
crecimiento económico y ambición tecnológica— constituyen la infraestructura
física de este dominio.
Los centros de datos no se
construyen para agilizar los resultados de búsqueda. Se construyen para
almacenar y procesar los perfiles de comportamiento de todas las personas del
planeta, para que quienes controlan los sistemas conozcan a los seres humanos
de forma tan exhaustiva que la predicción se vuelva indistinguible del
control.
Peor
de lo que Orwell jamás imaginó
Aldous Huxley comprendió
algo que solemos subestimar: que las formas más duraderas de control
autoritario no se experimentan como opresión por quienes viven bajo ellas. Se
experimentan como comodidad, como seguridad, como la administración razonable
de un mundo complejo. La cámara en la esquina no se siente como la
Stasi. La aplicación que sabe dónde estás no se siente como la Lubianka. El
algoritmo que te asignó una puntuación de riesgo que nunca verás no se siente
como nada, porque no sabes que existe. Esta es la genialidad
particular de la arquitectura que se construye a nuestro alrededor. Su
violencia es en gran medida invisible, estadística, blanqueada por el lenguaje
neutral de la ciencia de datos y la seguridad pública.
La tele pantalla de George
Orwell te vigilaba y sabías que te vigilaba. Él comprendía que ese conocimiento
era en sí mismo una forma de control. Lo que enfrentamos es peor, porque
la vigilancia no va acompañada de la conciencia de estar siendo vigilados. Los
perfiles de comportamiento que se recopilan sobre cada persona que lleva un
teléfono inteligente, que pasa frente a una cámara, que publica en línea, que
usa una tarjeta de crédito, que asiste a una escuela, visita a un médico o
cruza una frontera, existen en servidores a los que no podemos acceder,
propiedad de empresas que no podemos auditar y que se utilizan para fines que
legalmente no podemos obligarlas a revelar. El expediente ya está
creado. Simplemente no se nos permite leerlo.
Lo que se está
construyendo, pieza a pieza, contrato a contrato, cámara a cámara, no es un
estado de vigilancia en el sentido del siglo XX. Es algo más total e
íntimo. El antiguo estado de vigilancia vigilaba. El nuevo predice.
El antiguo acumulaba archivos. El nuevo asigna puntuaciones. El antiguo
empleaba informantes e interrogadores. El nuevo opera de forma continua y
automática, sobre los rostros de personas que no hacen más que vivir sus vidas
en un mundo que se ha convertido silenciosamente en un aparato de clasificación
y control.
La
finalización de un proyecto
Me quedé en aquella sala
de seminarios y vi mi propio rostro moverse en una pantalla que yo no había
animado, y comprendí que algo había terminado. Lo que había terminado era la
última barrera técnica entre quiénes somos y lo que aquellos con suficiente
poder computacional pueden saber sobre nosotros sin nuestro consentimiento ni
conocimiento. La barrera ha desaparecido. Lo que la reemplace, ya sea la ley,
la resistencia o la clase de furia pública sostenida que en ocasiones a lo
largo de la historia ha obligado al poder a retroceder, depende enteramente de
si suficientes personas comprenden lo que ya se ha construido y para quién se
construyó.
Los oligarcas dueños de
estos sistemas no perciben el mundo que la IA está creando como una amenaza.
Para ellos, es la culminación de un proyecto. El sueño de una clase que siempre
ha querido saberlo todo sobre quienes están por debajo de ellos, predecir sus
movimientos, anticipar su disidencia, identificar sus debilidades y
vulnerabilidades, para gestionar la población como un granjero gestiona un
rebaño, donde cada animal es etiquetado, rastreado y clasificado según su
utilidad. Para el resto de nosotros, los que estamos siendo
etiquetados, rastreados y clasificados, queda una sola pregunta urgente.
¿En
qué momento intentaremos detener esto?
https://bettbeat.substack.com/p/the-scariest-thing-ive-ever-witnessed
No hay comentarios:
Publicar un comentario