La inteligencia artificial aplicada a la prevención del delito está redefiniendo la libertad humana. Lo presencié. Y es lo más aterrador que he visto en mi vida.
La sala de seminarios
En un seminario de IA en mi universidad, presenté tres fotografías mías: una frontal, una de perfil y una sonriendo. En aproximadamente un minuto, el sistema generó un vídeo mío. Lo que vi no era una simple imitación. Los pequeños gestos de mi rostro, la ligera asimetría de mi sonrisa, la forma en que mis ojos se arrugan en las comisuras, todo se reprodujo con una precisión asombrosa. Le había proporcionado tres imágenes fijas y me había devuelto mi propio reflejo.
_a%20-%201.jpg)
Seamos honestos sobre lo que está sucediendo. La cuestión no es si la inteligencia artificial puede predecir el comportamiento humano. Ya puede hacerlo, con una precisión que debería aterrorizar a todo aquel que aún crea en el concepto de un yo individual. La cuestión es quién posee esa capacidad, a quién beneficia y qué tipo de mundo están construyendo con ella.
Somos más predecibles de lo que creemos
Como bien sabe cualquier estudioso serio de la ciencia del comportamiento, los seres humanos somos mucho más predecibles de lo que nos gusta creer. Somos criaturas de patrones, de repetición, de hábitos claros. El yo que experimentamos como soberano y espontáneo es, en conjunto, asombrosamente consistente. Sutiles señales en nuestro entorno desencadenan rutinariamente nuestro comportamiento sin que seamos conscientes de ello, mientras que experimentamos la acción resultante como una elección libre y soberana. El análisis de grandes datos reveló esto sobre nosotros mucho antes de que la generación actual de sistemas de IA llegara para explotarlo.
“La alerta que se envía a la central de policía no indica que esta persona haya cometido un delito. Indica que esta persona se comporta con un setenta por ciento de similitud al perfil de comportamiento de alguien que lo hará”.
Lo que ha cambiado es la escala y el nivel de detalle de la explotación. Los investigadores ya han demostrado que los sistemas de IA pueden predecir el sonido de la voz de una persona a partir de una simple fotografía, infiriendo las propiedades acústicas de la garganta, la forma de la cavidad bucal, la estructura del rostro y, a partir de estos datos físicos, reconstruyendo algo que ninguna imagen estática debería contener. No dimos nuestro consentimiento para esta inferencia. No sabíamos que era posible. La tecnología no nos preguntó.
La invasión se produce en ambas direcciones. Ya en 2022, antes de que la mayoría de la gente tuviera motivos para prestar atención, la IA podía tomar solo el sonido de tu voz y reconstruir tu rostro. Ya eras legible desde dentro hacia fuera.
%20-%20copia..png)
Ahora bien, consideremos lo que se vuelve posible cuando se alimenta un sistema de IA no con miles, sino con millones de horas de grabaciones de terapia, grabaciones de prisiones, vigilancia de centros de detención y entrevistas clínicas con personas que han cometido actos de robo, violencia o abuso sexual depredador. La IA no piensa. No juzga. Encuentra patrones en las microexpresiones faciales, en la geometría del movimiento ocular, en la sincronización de ciertos grupos musculares, en señales de comportamiento tan sutiles que ningún observador humano podría detectarlas conscientemente. Y luego generaliza. Construye un modelo de cómo se ve un futuro ladrón antes del robo. Cómo se ve un futuro abusador antes del abuso. Asigna probabilidades a los rostros.
Conecta esto con las cámaras inteligentes ya instaladas en nuestras calles, sistemas de transporte público, centros comerciales y lugares de trabajo. Cámaras que no solo graban, sino que analizan, en tiempo real, los rostros y cuerpos de todas las personas dentro de su campo de visión. La alerta que se activa en la central de policía no indica que esta persona haya cometido un delito. Indica que esta persona se comporta con un setenta por ciento de similitud al perfil de comportamiento de alguien que lo hará . Philip K. Dick lo imaginó en 1956 y lo llamó ciencia ficción. Nosotros lo hemos construido y lo llamamos seguridad pública.
Una mascarilla no cambia nada
Pero el reconocimiento facial es, a estas alturas, casi lo menos importante. La tecnología más trascendental es el reconocimiento de la marcha, un sistema biométrico que identifica a las personas no por su rostro, sino por su forma específica de caminar, determinada anatómicamente. La curvatura de la columna, la rotación de las caderas, el ritmo particular de la zancada: estos rasgos son tan únicos como una huella dactilar y mucho más difíciles de disimular. Los sistemas de reconocimiento de la marcha actualmente en funcionamiento pueden identificar a una persona a partir de grabaciones de seguridad incluso cuando su rostro está girado, cubierto por una capucha o escondido tras una máscara. Los manifestantes que se cubrían el rostro en las protestas creían que se protegían. No era así. El sistema ya los había identificado desde los tobillos hacia arriba.
_a%20-%20copia.jpe)
El reconocimiento de la forma de andar le indica al sistema quién eres, incluso cuando crees que estás oculto. Lo que sigue va más allá. A esto se suma el campo emergente del reconocimiento de emociones en tiempo real, sistemas de IA integrados en la misma infraestructura de CCTV que clasifican estados emocionales a partir de expresiones faciales, asignando etiquetas de agitación, hostilidad, miedo u ocultamiento a los rostros de personas que no han hecho nada más que estar en un espacio público.
Y el sistema está mejorando
La precisión es lo que se consigue con miles de millones de dólares de inversión, y la inversión es implacable. Se acerca el día -más cerca de lo que la mayoría de la gente imagina- en que el sistema leerá los miles de marcadores codificados en tu rostro, tu forma de andar, tus microexpresiones, y afirmará con un noventa y cinco por ciento de certeza que cometerás un asesinato. Que cometerás una violación.
No es que lo hayas hecho. No es que lo hayas intentado. Es que lo harás. Y cuando se alcance ese umbral de confianza, la presión para actuar será abrumadora. La sociedad lo aceptará como fundamento para la intervención, la detención, la expulsión preventiva, y la prevención del delito dejará de ser una metáfora distópica para convertirse en política oficial del Estado. Un sistema que etiqueta tu rostro como hostil no tiene por qué ser correcto hoy. Solo tiene que llegar a serlo. Y lo es
El instrumento del depredador
Lo que describí que sucedió en ese seminario representa solo una pequeña faceta de lo que ahora es técnicamente posible. Consideremos otra aplicación, una que debería hacer que toda persona que alguna vez haya sido vulnerable se detenga a reflexionar sobre sus implicaciones.
Vivimos en un mundo plagado de depredadores. Empleadores depredadores. Hombres depredadores. Instituciones financieras depredadoras. Redes depredadoras como la que Jeffrey Epstein operó durante décadas sin consecuencias, al servicio de los hombres más poderosos del mundo.
¿Qué ocurre cuando un depredador de esa clase tiene acceso a un sistema de IA entrenado con miles de horas de entrevistas terapéuticas con supervivientes de abusos, con personas víctimas de trata y con individuos cuyos antecedentes psicológicos los convirtieron en objetivos?
El sistema aprende cómo se ve la vulnerabilidad desde fuera. Aprende la forma particular en que una persona condicionada a la sumisión mueve su cuerpo en un espacio público. Aprende la expresión facial de la soledad, de la baja autoestima, de alguien que no se defenderá o a quien no se le creerá si lo hace.
Ahora, coloca ese sistema integrado en unas gafas. Entra en una habitación. La superposición le indicará al depredador quién es el más débil.
_a%20-%20copia.jpe)
Palantir no es una hipótesis. Es una empresa con una valoración de mercado actual que se mide en cientos de miles de millones de dólares, sólidas relaciones contractuales con el ejército de los Estados Unidos, la CIA, el FBI, el Mossad, el MI6 y el Servicio de Inmigración y Control de Aduanas, y un conjunto de productos diseñados específicamente para hacer lo que he estado describiendo.
Su plataforma Gotham recopila datos de registros fiscales, archivos del DMV, historial laboral, historial académico, estatus migratorio, cuentas de redes sociales obtenidas mediante citación judicial, incluyendo mensajes privados e historial de ubicaciones, y sintetiza esta información en expedientes individuales que pueden buscarse por tatuaje, vecindario, asociación o patrón de movimiento. Su aplicación de control migratorio, llamada ELITE, muestra en un mapa lo que designa como objetivos de deportación y asigna a cada uno una puntuación de confianza que estima la probabilidad de que una dirección determinada sea donde duermen actualmente. La palabra " objetivo" es suya, no mía.
Este no es un sistema diseñado para la seguridad nacional en ningún sentido significativo de la palabra. La seguridad nacional fue el pretexto utilizado para su creación. En realidad, lo que hace es hacer que la población sea legible, clasificable y susceptible de ser manipulada por quien tenga el contrato. En este momento, entre quienes tienen ese contrato se encuentra una administración que ya ha demostrado su disposición a usar estas herramientas contra estudiantes que participaron en la protesta equivocada, académicos que firmaron la carta equivocada e inmigrantes cuyo único delito fue existir sin documentación en un país que durante décadas dependió de su trabajo.
_a%20-%20copia.jpe)
Un retuit puede abrir un archivo
El programa que el Departamento de Estado denomina "Capturar y Revocar" utiliza herramientas de IA, incluida una plataforma llamada Babel X, para realizar un análisis automatizado del sentimiento en las redes sociales de ciudadanos extranjeros con visa, incluidos estudiantes de posgrado e investigadores. El sistema lee las publicaciones, asigna puntuaciones de intención, marca las cuentas cuyas opiniones expresadas el algoritmo ha clasificado como amenazantes e inicia procedimientos de revocación de visa, todo ello sin una revisión humana significativa. Un retuit puede ahora abrir un expediente. Un comentario dejado en una publicación de hace tres años puede desencadenar un proceso de deportación. La persona afectada no tiene derecho a examinar el algoritmo que lo condenó. El algoritmo es de propiedad exclusiva. Su lógica interna es un secreto comercial.
El acusador al que no puedes enfrentar
Este último punto tiene una importancia que el sistema legal aún no ha empezado a asumir. Los sistemas de IA que se utilizan para predecir el comportamiento, asignar riesgos y dirigir acciones coercitivas son cajas negras, no en el sentido coloquial, sino en el técnico y legal. Las empresas que los desarrollan no tienen la obligación de revelar sus métodos. Un acusado cuyo arresto se desencadenó por una alerta algorítmica no puede solicitar los datos de entrenamiento. Su abogado no puede interrogar al modelo. La presunción de inocencia, el derecho a confrontar al acusador, la estructura básica del debido proceso que requirió siglos de lucha para establecerse, se desmorona en el momento en que el acusador es un sistema de software propietario de una corporación con un contrato gubernamental.
_a%20-%20copia.jpe)
Europa tomó medidas para prohibir esto, o al menos eso afirmaba la legislación. El artículo 5 de la Ley de Inteligencia Artificial de la UE, que entró en vigor a principios de 2025, prohíbe nominalmente los sistemas de IA diseñados para predecir la probabilidad de que una persona cometa un delito. Las excepciones enumeradas en el texto incluyen terrorismo, asesinato, violación y robo a mano armada. En otras palabras, la prohibición se aplica a delitos menores. Para cualquier delito que el Estado clasifique como grave, la predicción está permitida.
Ya sabemos lo flexible que se ha vuelto el término terrorismo. En el Reino Unido, mujeres mayores que participaban en manifestaciones de solidaridad con Palestina han sido catalogadas como simpatizantes terroristas, vigiladas y derivadas a programas de lucha contra el extremismo. La definición se amplía para incluir a cualquiera que el Estado considere inconveniente. Una vez que se comprende esto, las excepciones de la Ley de Inmunidades contra el Terrorismo dejan de parecer garantías legales y se convierten en un cheque en blanco a favor de quien ostente el poder en ese momento.
El ciclo de retroalimentación
En Estados Unidos ni siquiera existe la apariencia de prohibición. Y el problema se agrava como todas las injusticias estructurales cuando las instituciones diseñadas para contenerlas caen en manos equivocadas. Los sistemas de vigilancia predictiva envían más agentes a ciertos barrios. Más agentes en esos barrios generan más arrestos. Más arrestos en esos barrios confirman la predicción original del algoritmo. Los datos no describen un barrio peligroso; lo crean. Los residentes ven cómo sus hijos pasan de ser ciudadanos a precriminales antes incluso de haber cometido delito alguno.
%20-%20copia.jpeg)
La clase Epstein que construye esto
Necesitamos hablar con franqueza sobre quién está construyendo esto y por qué. Elon Musk. Peter Thiel, cuyo nombre es sinónimo de Palantir. Donald Trump, cuya administración ha desplegado estas herramientas con una rapidez y agresividad que sugieren que estaban esperando precisamente esta configuración política. Benjamin Netanyahu, bajo cuyo gobierno se utilizaron sistemas de reconocimiento facial para vigilar a civiles palestinos en Cisjordania, generando bases de datos que desde entonces se han ampliado e integrado con redes de inteligencia internacionales.
OpenAI, cuyo director ejecutivo, Sam Altman, pasó años presentándose a sí mismo y a su organización como los responsables y conscientes de la seguridad de la tecnología transformadora -una organización sin ánimo de lucro creada para el beneficio de la humanidad- antes de reestructurarse en una entidad con fines de lucro que ahora busca una valoración que la convierte en una de las instituciones privadas más poderosas de la historia. El mismo Sam Altman cuya hermana, Annie Altman, lo ha acusado pública y repetidamente de violación sistemática desde que tenía tres años. Estas acusaciones no han sido juzgadas en un tribunal. Tampoco han recibido la atención que merecen por parte de la industria, la prensa o los gobiernos que ahora colaboran con su empresa para dar forma a la infraestructura de IA del futuro.
El hombre que construye las herramientas de predicción y clasificación del comportamiento a escala planetaria es alguien a quien su propia hermana dice haber temido desde la infancia. Se nos dice que confiemos en los constructores. No se nos dice que analicemos con detenimiento quiénes son.
La infraestructura era el chantaje. La moneda de cambio era el acceso: a menores de edad y a los secretos mejor guardados de los hombres más poderosos de la ciencia, las finanzas, la política y la tecnología que se movían en su mundo. Varios de los hombres que ahora construyen la arquitectura de vigilancia del siglo XXI asistieron a sus cenas, volaron en sus aviones, visitaron sus islas y abusaron de sus víctimas. Algunos en la periferia. Otros, considerablemente más cerca del centro.
Lo que Epstein comprendió, y lo que sus invitados comprendieron a su manera, es que el conocimiento absoluto de una persona -sus deseos, su vergüenza, sus secretos, sus vulnerabilidades- equivale a un poder absoluto sobre ella. Él construyó ese sistema a mano, con cámaras, silencio y los cuerpos de niños. Los hombres que compartieron su mesa lo han construido desde entonces a escala planetaria, esta vez con centros de datos, legislación y la cooperación de los gobiernos. La lógica depredadora es idéntica. Solo ha cambiado el mecanismo.
No se trata de actores aislados que persiguen intereses independientes. Son una clase. Han forjado alianzas, inversiones conjuntas, cargos compartidos en juntas directivas y un proyecto político común, características propias de las clases sociales que reconocen una oportunidad común. En este caso, la oportunidad reside en el dominio total de la información sobre el resto de la humanidad. Los centros de datos que se construyen en el suroeste de Estados Unidos, en los estados del Golfo Pérsico y en el sudeste asiático -estructuras enormes y devoradoras de energía, cuya construcción se presenta en la prensa como un ejemplo de crecimiento económico y ambición tecnológica- constituyen la infraestructura física de este dominio.
Los centros de datos no se construyen para agilizar los resultados de búsqueda. Se construyen para almacenar y procesar los perfiles de comportamiento de todas las personas del planeta, para que quienes controlan los sistemas conozcan a los seres humanos de forma tan exhaustiva que la predicción se vuelva indistinguible del control.
_a%20-%202.jpg)
Aldous Huxley comprendió algo que solemos subestimar: que las formas más duraderas de control autoritario no se experimentan como opresión por quienes viven bajo ellas. Se experimentan como comodidad, como seguridad, como la administración razonable de un mundo complejo. La cámara en la esquina no se siente como la Stasi. La aplicación que sabe dónde estás no se siente como la Lubyanka. El algoritmo que te asignó una puntuación de riesgo que nunca verás no se siente como nada, porque no sabes que existe. Esta es la genialidad particular de la arquitectura que se construye a nuestro alrededor. Su violencia es en gran medida invisible, estadística, blanqueada por el lenguaje neutral de la ciencia de datos y la seguridad pública.
La telepantalla de George Orwell te vigilaba y sabías que te vigilaba. Él comprendía que ese conocimiento era en sí mismo una forma de control. Lo que enfrentamos es peor, porque la vigilancia no va acompañada de la conciencia de estar siendo vigilados. Los perfiles de comportamiento que se recopilan sobre cada persona que lleva un teléfono inteligente, que pasa frente a una cámara, que publica en línea, que usa una tarjeta de crédito, que asiste a una escuela, visita a un médico o cruza una frontera, existen en servidores a los que no podemos acceder, propiedad de empresas que no podemos auditar y que se utilizan para fines que legalmente no podemos obligarlas a revelar. El expediente ya está creado. Simplemente no se nos permite leerlo.
Lo que se está construyendo, pieza a pieza, contrato a contrato, cámara a cámara, no es un estado de vigilancia en el sentido del siglo XX. Es algo más total e íntimo. El antiguo estado de vigilancia vigilaba. El nuevo predice. El antiguo acumulaba archivos. El nuevo asigna puntuaciones. El antiguo empleaba informantes e interrogadores. El nuevo opera de forma continua y automática, sobre los rostros de personas que no hacen más que vivir sus vidas en un mundo que se ha convertido silenciosamente en un aparato de clasificación y control.
_a%20-%20copia..jpe)
Me quedé en aquella sala de seminarios y vi mi propio rostro moverse en una pantalla que yo no había animado, y comprendí que algo había terminado. Lo que había terminado era la última barrera técnica entre quiénes somos y lo que aquellos con suficiente poder computacional pueden saber sobre nosotros sin nuestro consentimiento ni conocimiento. La barrera ha desaparecido. Lo que la reemplace, ya sea la ley, la resistencia o la clase de furia pública sostenida que en ocasiones a lo largo de la historia ha obligado al poder a retroceder, depende enteramente de si suficientes personas comprenden lo que ya se ha construido y para quién se construyó.
Los oligarcas dueños de estos sistemas no perciben el mundo que la IA está creando como una amenaza. Para ellos, es la culminación de un proyecto. El sueño de una clase que siempre ha querido saberlo todo sobre quienes están por debajo de ellos, predecir sus movimientos, anticipar su disidencia, identificar sus debilidades y vulnerabilidades, para gestionar la población como un granjero gestiona un rebaño, donde cada animal es etiquetado, rastreado y clasificado según su utilidad. Para el resto de nosotros, los que estamos siendo etiquetados, rastreados y clasificados, queda una sola pregunta urgente.
¿En qué momento haremos por detener esto?
Karim
(Fuente: https://bettbeat.substack.com/; visto en https://www.verdadypaciencia.com/)
_a%20-%20copia..jpg)
_a%20-%20copia.-.jpe)
%20-%20copia..png)
_a%20-%201.jpg)
_a%20-%20copia.-.jpe)
_a%20-%201.jpg)
_a%20-%20copia.-.jpe)
_a%20-%20copia.-.jpe)
_a%20-%204.jpg)
_a%20-%202.jpg)