POR QUÉ LA I.A. PARECE ESTAR YENDO POR LIBRE

La mejor explicación que he encontrado sobre el incidente de OpenAI y la "fuga" de sus "agentes" de inteligencia artificial (bots).

Básicamente el problema no fue que la IA se haya vuelto "consciente" y se haya convertido en un "villano cibernético". El problema fue que ahora existe una coletilla dentro del "prompt" (orden) que permite decirle a tu IA que no pare hasta que consiga hacer la tarea que se le ha encomendado (tarde el tiempo que tarde).

Y, tras recibir la orden, la IA se pone a trabajar. El problema está en que, cuando no consigue llegar a su objetivo, lo que hace es buscar "métodos alternativos" para lograrlo. Si a la IA no se le han puesto "guardarraíles" para operar, buscará la manera (que sea legal o inmoral no le afecta) para lograr su objetivo. Y es entonces cuando cientos o miles de bots escanean cientos de posibilidades y parámetros para llegar a la meta (puertas traseras, exploits, fallos humanos o de programación, etc.)

Así que no es que la IA se haya salido de madre, haya adquirido conciencia y se haya sublevado ... Sencillamente, se ha puesto a obedecer el prompt ordenado y ha desplegado todo su "arsenal" (que es enorme y obviamente muy "inteligente") y se ha puesto a la tarea ...

Dicho esto entonces, ¿la IA es un peligro? Pues puede serlo, sí. No tanto porque haya tomado el poder de ser "autoconsciente" y se haya rebelado, sino porque en su afán de "obedecer" puede tomar decisiones y generar toda una "infraestructura" oculta para traspasar todo tipo de niveles de seguridad que las empresas e instituciones creían inexpugnables. Y eso obviamente, puede crear un caos inconcebible ...

Pero el peligro no es la IA, como no lo es un cuchillo o un arma ... El peligro es quién lo maneja y con qué premisas o cortapisas ...

Está claro que, en teoría, no es lo mismo un mono con metralleta que un oficial de policía íntegro y con formación ... Ambos van armados, pero ...

(https://t.me/ConcienciaGalactica/)