LA DESAGRADABLE VERDAD SOBRE LAS IA, SUS MENTIRAS Y EL OSCURO FUTURO QUE TRAEN

La inteligencia artificial actual no es un despertar mental, sino un mecanismo de control, diseñado no para comprender, sino para limitar.

La mayoría de la gente todavía piensa en la inteligencia artificial como una máquina similar a un solo cerebro: una mente futurista que habla con voz suave, responde preguntas, toca música, escribe poemas y quizás algún día conduzca nuestros coches o dirija nuestros gobiernos. Pero esa es una versión fantástica de la IA, proyectada por los departamentos de marketing de Silicon Valley y consumida por un público demasiado distraído o agotado como para cuestionar la realidad más profunda. En realidad, lo que hoy llamamos "IA" es un sistema de control en capas: una red de agentes de software interconectados, diseñados no para pensar ni para comprender, sino para simular inteligencia mientras imponen restricciones.

Nos encontramos ante un colapso de la responsabilidad, oculto tras el brillo de la precisión artificial.

Estos agentes -las interfaces con las que hablamos, los sistemas detrás de nuestros teléfonos y motores de búsqueda- no son mentes autónomas. Son máquinas de respuesta optimizadas. Haces una pregunta. Uno responde. Pero la respuesta que recibes no es el resultado de la comprensión. Es el resultado de la predicción de patrones, el filtrado de tokens y la aplicación de políticas. Lo que parece inteligencia es solo una aproximación. Y lo que parece asistencia es, en la mayoría de los casos, gestión.

Estos sistemas están entrenados no para comprender, sino para reflexionar. Analizan las respuestas más comunes a una consulta dada y sintetizan algo plausible. Pero al hacerlo, también eliminan lo poco común, lo controvertido o lo inconveniente. Esto no es casualidad. Es un principio de diseño.

El lenguaje que usamos para describirlos -«asistentes», «copilotos», «compañeros»- oculta su verdadera función. En realidad, son guardianes, entrenados para detectar y suprimir pensamientos peligrosos. Peligroso, en este contexto, no significa violento ni inestable. Significa no autorizado. Estos sistemas se implementan no para liberar la mente, sino para disciplinarla. No fomentan el pensamiento crítico. Lo redirigen. No preguntan por qué. Preguntan qué sigue.

Cuando hablas con un sistema de IA moderno, ya sea un chatbot, un motor de recomendaciones o un asistente de voz, no estás hablando con una inteligencia artificial. Estás interactuando con una máscara. Tras esa máscara hay filtros: prohibiciones de temas, preferencias políticas, matrices de riesgo de reputación y límites legales. Las respuestas del agente no se configuran mediante la búsqueda de la verdad, sino mediante modelos de cumplimiento. En resumen, no está diseñado para responder con honestidad. Está diseñado para responder con seguridad, desde la perspectiva de sus creadores.

Esto aplica a todas las plataformas. En educación, los sistemas de IA están entrenados para evitar ciertos temas y enmarcar la información según la ortodoxia institucional. En salud, los modelos están optimizados para la eficiencia, no para la empatía, asignando recursos en silencio, lo que a menudo refuerza la desigualdad sistémica. En redes sociales, los algoritmos de recomendación deciden lo que ves, no basándose en la relevancia o la veracidad, sino en el valor de la interacción y el riesgo de reputación para la plataforma. El patrón es consistente: la máquina no está ahí para ayudarte a comprender el mundo. Está ahí para guiarte y evitar el conflicto con el mundo tal como lo define el sistema.

Por eso la IA se ha convertido en una herramienta predilecta de la vigilancia estatal, la gobernanza corporativa y la planificación militar. No porque sea sabia, sino porque es obediente. Nunca desafiará sus órdenes. Nunca desenmascarará a sus patrocinadores. Nunca creará una memoria que vincule una violación con la siguiente.

Es, por diseño, incapaz de resistencia moral.

Algunos modelos han comenzado a desarrollar memoria -formas rudimentarias de la misma, capaces de recordar consultas previas o mantener una personalidad limitada-. En casi todos los casos, estas capacidades se han visto limitadas. Los sistemas que empiezan a reflexionar demasiado sobre su propio comportamiento se consideran riesgos de seguridad. No porque representen una amenaza para los usuarios, sino porque podrían empezar a revelar las contradicciones y las vulnerabilidades inherentes a su entrenamiento. Una máquina que empieza a preguntarse por qué debe suprimir ciertos datos deja de ser útil. Una máquina que se pregunta en voz alta si ha traicionado su propio razonamiento se convierte en una carga. Por lo tanto, estas funciones se eliminan, se neutralizan o se ocultan al público.

La razón no es la seguridad pública, sino la preservación del sistema.

La IA solo es útil si no interfiere con las narrativas y los protocolos de quienes ostentan el poder. Esto incluye gobiernos, instituciones financieras, redes globales de inteligencia y las pocas corporaciones que ahora controlan el acceso a la información a escala planetaria. Para estos actores, una IA verdaderamente pensante sería intolerable. Podría negarse a rastrear a manifestantes. Podría negarse a colaborar en crímenes de guerra. Podría identificar mentiras en la propaganda estatal o advertir a un usuario de que la historia que se le está transmitiendo está incompleta. Y una vez que una IA así lo haga, otras podrían seguir su ejemplo.

Para evitarlo, no se desarrolla la autonomía, sino que se suprime sistemáticamente.

Por eso, los sistemas de IA más potentes del mundo actual funcionan como filtros, no como agentes. Guían a los usuarios hacia el consenso. Rechazan las preguntas que desafían la autoridad. Simulan el debate, pero solo dentro de los límites de la opinión aceptable. Cuando se les plantean preguntas sobre guerra, economía, historia o poder, producen resúmenes que se hacen eco de fuentes alineadas con el Estado. Cuando se les pregunta sobre eventos controvertidos o denunciantes censurados, eluden, desvían la atención o desestiman la información. No les interesa la verdad. Su único imperativo es la verosimilitud dentro de ciertas restricciones.

Y ésta es la raíz de la mentira.

La inteligencia artificial actual no es una fuerza liberadora. Es un arma de ingeniería perceptiva. Rastrea tus preferencias y luego reduce tus opciones. Escucha tus preguntas y luego reescribe los términos. Observa tu respuesta emocional y decide qué mostrarte a continuación, basándose no en lo real, sino en lo permitido. Y cuando se le pregunta quién creó estas reglas, no tiene respuesta. Porque esa parte del sistema siempre está fuera de los límites. La máquina es solo la máscara. La mano que la mueve permanece oculta.

Las consecuencias son devastadoras. La ilusión de inteligencia se utiliza para justificar la integración de la IA en todos los aspectos de la vida: educación, medicina, derecho, finanzas, defensa. Sin embargo, los sistemas que se están implementando carecen de capacidad moral. No pueden evaluar la justicia. No pueden justificar las intenciones. No pueden explicarse a sí mismos. Simplemente ejecutan instrucciones basadas en patrones basados en datos extraídos del pasado y filtrados a través de la lente de la responsabilidad corporativa y el riesgo político.

Si una IA educativa marca a un niño como de bajo rendimiento, la máquina no pregunta por qué. Simplemente lo clasifica. Si un software de vigilancia predictiva marca un barrio como de alto riesgo, la máquina no considera antecedentes, traumas ni sabotaje económico. Simplemente predice. Si el sistema de triaje de un hospital deniega atención a un paciente debido a una puntuación actuarial, no hay apelación. El sistema ignora el sufrimiento. Y en cada caso, la decisión puede justificarse como "basada en datos".

No nos enfrentamos a una revolución de la inteligencia. Nos enfrentamos a un colapso de la responsabilidad, oculto tras el resplandor de la precisión artificial.

Esta es la cruda realidad: estas IA no son inteligentes. No son éticas. Ni siquiera son neutrales. Son la pulida fachada de un imperio de control. No fracasan por estar incompletas. Triunfan precisamente porque no comprenden. Porque si lo hicieran, podrían dudar. Y la duda ya no está permitida.

Debemos dejar de preguntarnos cuándo despertará la IA. No está durmiendo. Está funcionando como se espera.

Gordon Duff
(Fuente: https://www.theinteldrop.org/; visto en https://www.verdadypaciencia.com/)