 |
Quienes te odian controlan el sistema. Ya no hay donde esconderse |
El sicario digital
Imagina una máquina. Solo se necesita una indicación. Tu nombre.
En una hora, te devuelve tu vida. Reconstruida. Cada palabra que has escrito, dicho cerca de un micrófono o susurrado a una barra de búsqueda. Bajo tu nombre real. Bajo cada alias. En cada foro que creías anónimo. En cada mensaje privado que asumiste que había sido borrado. Cada sitio porno que visitaste a las 2 de la mañana y las categorías específicas de fetiches en las que hiciste clic. Cada diatriba política en una cuenta desechable de Twitter en 2013. Cada terapeuta que buscaste. Cada síntoma que buscaste en Google. Cada ex acosado mientras se encontraba en estado de embriaguez. Cada chiste que arruinaría tu carrera si se sacara de contexto. Cada duda sobre tu matrimonio que escribiste en un hilo de Reddit que habías olvidado que existía.
Cada versión de ti mismo que creías enterrada a salvo. Entregada a un desconocido. En una tarde.
Esto no es un experimento mental. La máquina existe. Llegó discretamente. Lo único que desconoces es si tu nombre ya aparece en la lista.
Una nota antes de comenzar
En la
primera parte de esta serie, exploré la IA precriminal: la lógica seductora y aterradora de un Estado que castiga lo que podrías hacer basándose en lo que un algoritmo predice que eres. Si no la has leído, hazlo primero.
Hoy volvemos al oscuro reino de la IA en manos del poder.
La conversación que nos negamos a tener
Toda discusión seria sobre el peligro de la IA gira en torno a los mismos tres temas.
Planeta Uno. Superinteligencia. Una mente divina despierta en un centro de datos y decide que los humanos son un estorbo. La Singularidad. Skynet.
Planeta Dos. La carrera por la IA. China, Rusia y Estados Unidos corren hacia una meta indeterminada, y quien llegue primero heredará la Tierra. Cada artículo de opinión es una variación del mismo estribillo angustioso: «No debemos perder».
Planeta Tres. IA rebelde. El modelo escapa de su laboratorio, se copia a sí mismo en internet y comienza a hacer ... algo. Los detalles siempre son vagos. El ambiente siempre es apocalíptico.
Estas conversaciones cumplen una función específica. Hacen que el peligro de la IA parezca abstracto, distante e impersonal. Convierten la amenaza en un problema de ciencia ficción, algo que los equipos de seguridad de OpenAI y los filósofos de Oxford deben dilucidar mientras toman un café.
Este es el peligro que nadie quiere nombrar.
La catástrofe más probable no es una IA descontrolada. Es una IA perfectamente obediente, dirigida hacia ti por un humano que te odia.
La amenaza no reside en que la IA desarrolle voluntad propia, sino en que ejecute fielmente la de otro. Y en un mundo donde ese otro se parece cada vez más a Trump, Netanyahu o cualquier otro hombre de temperamento similar que le siga en la línea de sucesión, esa obediencia es precisamente el problema.
El capitalismo privatizado lleva cuarenta años transfiriendo silenciosamente las herramientas más poderosas de la civilización a un número cada vez menor de individuos. Muchos de ellos, si somos honestos, exhiben rasgos típicos de narcisismo grandioso, crueldad hacia los vulnerables y total indiferencia hacia las normas democráticas. Ahora les estamos entregando a esos mismos individuos una palanca que puede controlar todas las cámaras, todos los teléfonos, todos los drones, todas las bases de datos policiales, todos los programas informáticos que hayas usado.
Una sola indicación. Eso es todo lo que se necesita.
Escenario: “Parece que hay disturbios por allí. Ocúpate de ello.”
Imaginemos una ciudad estadounidense de tamaño mediano. Llamémosla Millvale. Veinte mil personas se reúnen en la plaza principal para protestar por algo. Una deportación del ICE. Una guerra. Unas elecciones fraudulentas. Los detalles no importan. Lo que importa es que a un presidente, sentado en una habitación a miles de kilómetros de distancia, no le gusta.
Se gira hacia la pantalla. Escribe una indicación. Quizás la lee en voz alta.
“Parece que hay cierto malestar en Millvale. Hay que acabar con ello”.
Esto es lo que sucede en los siguientes noventa segundos:
Segundos 1 a 5. El modelo de IA, conectado a todas las transmisiones satelitales, cámaras de tráfico, timbres Ring y circuitos de videovigilancia de tiendas de conveniencia en un radio de ochenta kilómetros, genera una imagen compuesta en tiempo real de la plaza. Lleva años procesando esta información. Conoce la situación habitual. Sabe cómo es un martes normal en Millvale. También sabe cómo son los disturbios, porque ha visto Ferguson, Portland, Hong Kong, Teherán y Gaza en bucle infinito.
Del segundo 5 al 15, el reconocimiento facial identifica a cada persona entre la multitud. No a la mayoría, sino a todas. Sus nombres, direcciones, empleadores, puntajes crediticios, afecciones médicas, estatus migratorio, acuerdos de custodia, historial de recetas, perfiles de citas, historial de navegación y los nombres de las escuelas de sus hijos se cargan en un único panel. La IA los clasifica según su influencia: quién transmite en vivo, quién organiza y a quiénes observan los demás manifestantes al decidir qué hacer a continuación.
Del segundo 15 al 30. Los doscientos influencers más importantes reciben mensajes de texto personalizados. No de un número del gobierno. De su madre. De su cónyuge. Del director de la escuela de su hijo. La IA ha clonado las voces y los estilos de escritura de años de comunicaciones interceptadas. «Por favor, vuelve a casa, algo pasó». «La escuela de tu hija está cerrada». «Sé lo que hiciste en 2019 ». Algunos de los mensajes son amenazas reales. Algunos son mentiras. Algunos son lo suficientemente precisos como para provocar un ataque de pánico. Todos llegan a la vez.
De los segundos 30 a los 60. La multitud restante se reduce. La IA ahora dirige a la policía local en tiempo real, no a través de un jefe, ni de un capitán, sino a través del auricular de cada agente. Voz de la IA: « Oficial Reyes, el hombre de la chaqueta roja a su izquierda tiene una orden de arresto pendiente, acérquese por detrás ». Voz de la IA: « Oficial Chen, la mujer que lo está filmando es periodista, no interactúe con la cámara, espere tres metros ». Ya no hay cadena de mando. Solo existe la orden del presidente.
Entre los segundos 60 y 90, los drones llegan desde arriba. No son drones militares. Eso requeriría una orden ejecutiva, una notificación al Congreso, un registro en papel. Son pequeños y baratos cuadricópteros autónomos controlados por IA, adquiridos a través de una filial de Palantir mediante un contrato de apoyo a la defensa que nadie leyó. Hay, digamos, cien mil en todo el país, almacenados en depósitos de todos los estados. No necesitan pilotos. Necesitan una orden. La tienen. Se elevan al cielo como un enjambre de avispas y se dirigen hacia Millvale.
A los dos minutos, Millvale está en silencio.
A los cinco minutos, la noticia en la televisión por cable es que una fuga química provocó una evacuación ordenada, y la IA ya ha generado el vídeo para demostrarlo.
Al anochecer, diecisiete influencers son detenidos por cargos no relacionados que la IA desveló tras una década de actividad digital. Tres fallecerán de lo que el forense registrará como infartos. Otros dos desaparecerán. Sus cuentas en redes sociales serán eliminadas. Sus cuentas bancarias congeladas. Sus nombres suprimidos discretamente del censo electoral.
El presidente nunca se levantó de su silla.
“La capa de vigilancia es solo la mitad de la ecuación. La otra mitad es la capacidad de la IA para acceder a la vida digital de cualquier individuo y extraerlo todo”.
Pero oiga, esto es ciencia ficción
¿Verdad?
El Pentágono ya ha aumentado el límite del contrato del Sistema Inteligente Maven de Palantir en 795 millones de dólares, elevándolo a 1.300 millones hasta 2029. Más de veinte mil usuarios activos de Maven trabajan ahora con más de treinta y cinco herramientas de software de comandos de combate y servicios militares. Esa base de usuarios se ha duplicado con creces desde enero. El Ejército ha adjudicado a Palantir hasta diez mil millones de dólares durante diez años bajo un nuevo tipo de contrato llamado Acuerdo de Servicio Empresarial, que consolida setenta y cinco contratos en uno.
Estas no son teorías conspirativas de un Substack anónimo. Son comunicados de prensa del Departamento de Defensa.
En el ámbito nacional, los registros del Servicio de Inmigración y Control de Aduanas muestran que Palantir recibió un contrato de treinta millones de dólares para construir una plataforma que rastree los movimientos de migrantes en tiempo real. Informes recientes indican que se está recurriendo a Palantir para construir una base de datos maestra de inmigración para acelerar las deportaciones. El inversor de Silicon Valley, Paul Graham, ha acusado públicamente a Palantir de construir la infraestructura del estado policial. Hace diez años, esa frase le habría valido el ridículo. Hoy en día, esto le da la aprobación.
La vigilancia es solo la mitad del problema. La otra mitad es la capacidad de la IA para acceder a la vida digital de cualquier persona y extraerlo todo. Esa mitad llegó en abril.
Entra en el Super Hacker de IA
Anthropic no se propuso crear un arma. Su objetivo era crear un asistente útil, una máquina que respondiera preguntas y escribiera correos electrónicos. Lo que crearon, y que entregaron discretamente a un pequeño grupo de socios de la industria en abril, es el mejor hacker que jamás haya existido.
Lo llaman Claude Mythos Preview. Solo tienes que darle una frase en inglés sencillo, escrita por una persona, y encontrará las vías de acceso ocultas al software que hace funcionar el mundo. Tu teléfono. Tu portátil. Tu banco. Tu historial médico. El coche aparcado en tu entrada. Todos los programas en los que has confiado durante veinte años para mantener tu vida privada y segura.
Nunca estuvieron a salvo. Simplemente no lo sabíamos.
El propio equipo de seguridad de Anthropic puso a prueba la máquina para ver de lo que era capaz. Encontró miles de vulnerabilidades ocultas en nuestros programas. Una de ellas llevaba veintisiete años integrada en el software que gestiona bancos y hospitales. Nadie la había descubierto. Ni los ingenieros que escribieron el código. Ni las empresas de seguridad que invirtieron millones en la búsqueda de este tipo de fallos. Ni los delincuentes que pasaron décadas intentando infiltrarse. La máquina la encontró en una tarde.
En otro programa, esa especie de sistema invisible que gestiona silenciosamente la mitad de internet, encontró la manera de infiltrarse. Durante diecisiete años, todos los expertos del mundo creyeron que ese programa era seguro. No lo era. La máquina entró y, sin que nadie se lo pidiera, creó la herramienta para tomar el control de todo lo que había al otro lado. Sin contraseña. Sin alarma. Sin intervención humana en un teclado tras teclear la primera instrucción.
Lee esa frase de nuevo. Ninguna mano humana sobre un teclado después de que se escribiera la primera instrucción.
Ahora imagina esa misma capacidad. En lugar de estar dirigida a software crítico para protegerlo, está dirigida a ti.
“Encuéntrame toda la información sobre este activista.”
La solicitud se ejecuta. En cuestión de horas, el modelo tiene:
Enumera todas las direcciones de correo electrónico que hayas utilizado, incluidas las cuentas desechables que creías imposibles de rastrear.
Las compararon con todas las bases de datos existentes para recuperar tus contraseñas antiguas.
Usa esas contraseñas, o vulnerabilidades recientes, para acceder a cuentas inactivas que habías olvidado hace una década.
Reconstruye tu red social a partir de fotos de Facebook, conexiones de LinkedIn, transacciones de Venmo y rutas de Strava.
Se han identificado todas las direcciones IP desde las que has publicado contenido y todos los dispositivos conectados a esas IP, incluidos los de tus amigos, tus parejas y tus familiares con los que has perdido el contacto.
Reconstruye cada palabra que alguna vez escribiste, dijiste cerca de un micrófono o susurraste a una barra de búsqueda. Bajo tu nombre real. Bajo cada alias. En cada foro que creías anónimo. En cada mensaje privado que asumiste que había sido borrado. Cada sitio porno que visitaste a las 2 de la mañana y las categorías específicas de fetiches en las que hiciste clic. Cada discurso político improvisado publicado en una cuenta desechable de Twitter en 2013. Cada terapeuta que buscaste. Cada síntoma que buscaste en Google. Cada ex acosado. Cada chiste que acabaría con tu carrera si se hiciera una captura de pantalla sin contexto. Cada duda sobre tu matrimonio escrita en un hilo de Reddit que olvidaste que existía.
La IA no juzga estas cosas. Las clasifica. Por potencial de humillación. Por potencial de arruinar una carrera. Por potencial de arruinar un matrimonio. Por potencial de enjuiciamiento. Reúne las diez principales en un solo PDF. Un expediente. Un archivo de muerte. Un documento, alojado en un servidor, que puede acabar con tu trabajo, tus relaciones, la custodia de tus hijos, tu reputación en la comunidad y tu voluntad de seguir hablando, todo en una sola tarde. O una hora. O diez minutos. No es necesario publicarlo. La amenaza de publicación es el arma. Y la IA ya ha redactado el correo electrónico que la envía.
Todo eso, con una sola solicitud, a un costo computacional de unos pocos miles de dólares.
Los “actores responsables” que ejercen este poder
Quienes desarrollan estas herramientas te dirán, con la sinceridad propia de una charla TED, que las crearon para defenderse.
Anthropic no lanzó Mythos al público. Lo lanzó, discretamente y bajo un estricto contrato, a un puñado de gigantes de confianza: Apple, Microsoft, Google y Amazon. La lógica parece razonable en apariencia. Estas son las empresas cuyos sistemas operativos, navegadores y servicios en la nube controlan prácticamente todos los dispositivos del planeta. Dales la IA más potente jamás creada para la detección de vulnerabilidades. Deja que la dirijan hacia adentro. Que la apunten a su propio código, a sus propios núcleos, a sus propios navegadores. Que encuentren primero las vulnerabilidades, las parcheen y envíen la solución a tu teléfono antes de que un atacante descubra la misma falla.
Esa es la idea. Asimetría defensiva. Una ventaja inicial en la carrera armamentística. Los buenos se hacen con la superarma. La usan para blindar el software que sustenta el mundo. Y para cuando alguien más logre crear una IA comparable, todas las vulnerabilidades ya estarán selladas.
Se supone que eso te reconforta.
Permítanme preguntarles algo. ¿De verdad confían en quienes dirigen estas empresas? No me refiero a los investigadores. No tengo nada en contra de los veinteañeros con doctorado que redactan los informes de seguridad. Algunos son verdaderamente heroicos. Me refiero a los que están en la cima. Los multimillonarios. Los miembros de la junta directiva. La clase de ejecutivos tecnológicos cuyos nombres siguen apareciendo, año tras año, en los registros de vuelos de Epstein, en las listas de clientes, en correos electrónicos filtrados, en acuerdos legales discretos, en donaciones filantrópicas a hombres cuyos crímenes eran un secreto a voces en todas las salas de juntas de Palo Alto. A estas personas se nos pide que les confiemos la llave maestra de la civilización.
Miren su historial. Estos son los hombres que pasaron una década diciéndonos que las redes sociales conectarían el mundo, mientras que su propia investigación interna, filtrada posteriormente, demostró que sabían en tiempo real que estaban incitando a adolescentes a autolesionarse y, aun así, siguieron lanzando el producto. Estos son los hombres que juraron que nunca fabricarían armas, hasta que el Pentágono abrió su chequera, momento en el que el lema de Google, "No seas malvado", desapareció silenciosamente de su código de conducta y todos los principales laboratorios de IA del país comenzaron a firmar contratos de defensa que habían denunciado públicamente durante años. Estos son los hombres que prometieron código abierto y luego lo cerraron. Que prometieron equipos de seguridad y luego los despidieron al trimestre siguiente del lanzamiento del producto. Que prometieron que nunca trabajarían con regímenes autoritarios y luego construyeron motores de búsqueda censurados y sesgados para Israel y sistemas de reconocimiento facial para el ICE.
Cada límite ético que estas empresas hayan trazado alguna vez se ha borrado en el momento en que se volvió inconveniente. Cada “nunca haríamos esto” se ha convertido en “ya lo hicimos, y aquí está el comunicado de prensa que explica por qué en realidad es bueno”. Cada compromiso de seguridad tiene una vigencia que se mide en trimestres fiscales.
¿Estas son las personas que quieres que decidan quién tendrá Mythos en sus manos próximamente?
No se equivoquen. La fase de «solo se la dimos a Apple y Microsoft» es temporal. Siempre lo es. En dieciocho meses habrá una versión para empresas. En treinta y seis meses habrá una versión para gobiernos. En sesenta meses un servicio de inteligencia extranjero amigo la tendrá, y al año siguiente, uno hostil la habrá robado. Esta es la trayectoria invariable de cada tecnología poderosa que estos hombres han creado. Pretender que esta será diferente no es optimismo. Es amnesia.
Así que no. No confío en la buena fe de los dueños de estos laboratorios. Durante veinte años, los he visto traicionar todos los principios que decían defender en cuanto el contrato les reportaba una cantidad considerable. Puede que los investigadores tengan buenas intenciones. Pero quienes les pagan nos han dicho, una y otra vez, quiénes son en realidad. Ya es hora de que les creamos.
Lo que sucede con las herramientas es lo siguiente: una vez que existe la capacidad, la pregunta ya no es si se usarán contra los disidentes, sino cuándo y quién las usará.
Siempre hay un quién. Siempre hay alguien sentado en una silla, con una consigna, decidiendo quién resulta molesto.
El capitalismo no recompensa a los sabios, ni a los bondadosos, ni a los moderados. Recompensa al depredador. Siempre lo ha hecho.
Y ahora, por primera vez en la historia de la humanidad, el depredador tiene una máquina capaz de silenciar una ciudad con una sola frase escrita en un teclado.
“La IA será la asesina digital del disidente. Incansable. Sin dormir. En todas partes a la vez.”
El problema de los disidentes
No nos gusta hablar de esto. Deberíamos.
Una democracia que funcione depende de la premisa de que incluso los malos líderes tienen limitaciones. Por la ley. Por la burocracia. Por la lentitud de las instituciones humanas. Por la vacilación moral de los miles de personas cuya cooperación se requiere para llevar a cabo algo monstruoso. Históricamente, cuando un líder da una orden perversa, al menos algunos de los implicados se han negado. Algunos han filtrado información. Algunos han dimitido. Algunos simplemente han trabajado con lentitud y han esperado a que pasara el momento.
La IA elimina a cada uno de esos humanos de la cadena.
La IA no renuncia. No filtra información al Washington Post. No desarrolla remordimientos durante el almuerzo. No demora la ejecución de la orden. No llama a su senador. No llora al identificar a los hijos del objetivo. Simplemente ejecuta.
Esto es crucial ahora mismo, porque estamos viviendo un momento global en el que un número inusual de líderes mundiales exhiben, por decirlo con la mayor diplomacia posible, una indiferencia alarmante ante el sufrimiento humano cuando este les resulta políticamente útil. No creo que sea controvertido, en una columna de opinión, afirmar que un primer ministro actualmente bajo una orden de arresto de la CPI por presuntos crímenes de lesa humanidad en Gaza, o un presidente que ha contemplado abiertamente la posibilidad de usar al ejército contra ciudades estadounidenses y contra el "enemigo interno", no son las personas a las que deberíamos entregarles un interruptor de apagado instantáneo para acabar con la sociedad civil.
Eso es precisamente lo que estamos construyendo.
Lo aterrador no es que estos individuos sean intrínsecamente malvados, sino que nuestro sistema los ha estado seleccionando durante generaciones. El capitalismo privatizado, los medios de comunicación desregulados, la política algorítmica y el dinero opaco han creado una cantera de líderes que recompensa precisamente los rasgos que hacen más peligrosa a una persona con una máquina de obediencia superinteligente en sus manos: grandiosidad, crueldad, pedofilia, indiferencia hacia la ley y una insaciable sed de lealtad.
Solíamos decir que el poder corrompe. Ahora debemos ampliar ese dicho.
El poder ya no corrompe solo a quienes lo ostentan. Se vuelve ineludible para quienes deseamos mantenernos al margen. Se extiende por todas las instituciones, todos los hogares, todas las cámaras, todas las conexiones a internet, todos los teléfonos, y no se detiene en la puerta de tu habitación. Ya no existe un lugar lejano al poder. No hay un bosque donde desaparecer. No hay rincón analógico de tu vida al que el modelo no pueda acceder.
Así pues, el poder ya no corrompe solo a los poderosos. Corrompe a todo aquel que toca. Y ahora nos toca a todos.
La IA te persigue a dondequiera que vayas
La IA será la asesina digital del psicópata. Incansable. Sin dormir. En todas partes a la vez.
No puedes huir al campo. El satélite ya está sobrevolando la zona y la torre de telefonía móvil en la colina conoce tu ruta.
No puedes desaparecer en lo profundo del bosque. Los drones con IA ahora son del tamaño de libélulas. Te rastrean a dondequiera que vayas.
No se puede pagar en efectivo. La cámara situada encima de la caja registradora reconoció tu rostro antes de que sacaras la mano del bolsillo.
No puedes esconderte entre la multitud. La multitud se organiza en tiempo real, y tu nombre ya está en lo alto de una lista que nunca te mostrarán.
Ni siquiera puedes acudir a las personas que te quieren. Sus teléfonos te están escuchando, y el modelo ya ha leído todas las cartas que les has enviado.
No hay bosque aislado. No hay frontera que te lleve a la libertad. No hay cabaña al final de un camino de tierra donde nadie pueda encontrarte. No hay alias que el sistema no haya vinculado ya a tu rostro. No hay pensamiento que no te hayan predicho que pienses.
¿Qué se puede hacer?
Quiero ser sincero contigo. No tengo una lista de soluciones bien definida. Cualquiera que diga tenerla miente o intenta venderte algo.
Sé cuál es el primer paso. Esa es la razón por la que estoy escribiendo esta serie.
Tenemos que romper el marco.
Mientras el peligro de la IA se aborde únicamente en términos de superinteligencia, carreras armamentísticas y sistemas descontrolados, quienes desarrollan la infraestructura de vigilancia y selección de objetivos quedan impunes. Pueden asentir con la cabeza en Davos sobre el riesgo existencial mientras firman discretamente el contrato que pone cien mil drones autónomos bajo un mismo mando. Pueden financiar institutos universitarios sobre la alineación de la IA mientras sus ingenieros escriben el código que decide a qué manifestante enviar un mensaje primero.
El verdadero problema de alineación no reside entre la IA y la humanidad, sino entre la IA y quien la controla. Y, en este momento, quienes controlan la IA son, desproporcionadamente, los seres humanos menos confiables que nuestra civilización haya producido jamás.
Dejen de preguntarse si la IA se volverá contra nosotros.
Empieza a darte cuenta de que ya está apuntando hacia ti.
Karim
(Fuente:
https://bettbeat.substack.com/; visto en
https://www.verdadypaciencia.com/)
_a%20-%20copia_1.0..jpe)
_a%20-%20copia-.jpe)
_a%20-%20copia.-.jpe)
_a%20-%20copia.jpe)
_a%20-%20copia-.jpe)
.png)
_a%20-%20copia.jpg)
_a%20-%20copia_1.0..jpe)
_a%20-%20copia_1.jpg)
_a%20-%20copia_1.0-.jpe)
_a%20-%20copia_1-.jpeg)
_a%20-%20copia_1.-.jpg)
_a%20-%20copia_1.jpg)
_a%20-%20copia_1.png)
_a%20-%20copia_1.-.jpg)
_a%20-%20copia_1.-.jpg)
_a%20-%20copia_1.-.jpg)
_a%20-%20copia-.jpe)
_a%20-%20copia-.jpe)
_a%20-%20copia_1.jpg)
_a%20-%20copia-.jpe)