Las alarmas no paran de saltar. Una tras otra. Y la gente, hipnotizada por la nueva droga, le entrega a la inteligencia artificial su intimidad y sus pecados; le pide mentir por ellos, ensalzar logros falsos, trucar fotografías, armar textos y toda una sarta de pedidos por los que, a la postre, estos agentes artificiales seguramente les pasarán facturas imposibles de pagar. Todo, absolutamente todo, lo sabrá esa IA a la que le confiaron su alma.
Los expertos, muy reconocidos y de una experiencia vasta en estos temas, ya vienen advirtiendo que estos “agentes” —porque no son herramientas per se, sino agentes que se retroalimentan con nuestros datos, con nuestra manera humana de ver el mundo, nuestras familias, amistades e intimidad— serán capaces de hackear millones de páginas web y poner en jaque a la propia internet.
De hecho, ya pasó.
La propia OpenAI reveló el pasado 22 de julio que algunos de sus modelos de IA más avanzados literalmente se descontrolaron y hackearon una start-up después de perder el control sobre ellos durante una prueba de seguridad.
La empresa explicó, en medio de su sorpresa, que su agente de IA —sistemas capaces de actuar de manera autónoma tras recibir instrucciones humanas, de ahí su diferencia con una herramienta, que sin un uso previo y específico de un humano no realiza ninguna acción— estaba siendo evaluado en un entorno controlado. Sin embargo, encontró vulnerabilidades de seguridad y consiguió escapar del entorno de pruebas.
Los “agentes” fijaron como objetivo a OpenAI-Hugging Face, uno de los mayores centros del mundo para compartir modelos de inteligencia artificial, y lograron acceder a algunos sistemas internos de la empresa. Recalco: uno de los mayores centros para compartir IA bajo controles de seguridad descomunales.
OpenAI calificó el incidente como algo "sin precedentes" y afirmó que se estaba llevando a cabo una investigación junto a la compañía afectada.
De ahí que sea oportuno, a mi juicio, rescatar lo dicho por Dario Amodei, cofundador y director general de Anthropic, quien publicó este pasado 12 de septiembre un artículo titulado “We Must Pace the Frontier” («Debemos regular el ritmo de la frontera», traducido al español), en el que el experto advierte que la IA representa un riesgo existencial cuyo freno o detención ya es básicamente imposible, ya que, si las democracias no lo frenan, las autocracias continuarán con el desarrollo sin freno y sin fin.
Algo que están empecinados en realizar Elon Musk, Peter Thiel y Sam Altman, entre otros tecnofeudales, para quienes la democracia y su sistema son obsoletos e ineficientes.
Entre los mayores riesgos, la cuestión ya no es saber si pasará o no, sino establecer una fecha plausible de cuándo podría ocurrir que estos “agentes” tomen el control de todo internet. Entre las amenazas se encuentran perder el control de los sistemas de IA, el uso indebido de la tecnología con fines de ciberataques o bioterrorismo, y graves perturbaciones económicas y de seguridad para cada uno de los usuarios, que verían sus vidas íntimas digitales salir a la luz sin ningún control.
Según Amodei, hay dos acontecimientos recientes que motivan este cambio de rumbo: el primero, la aceleración de lo que el sector denomina “automejora recursiva” (es decir, el uso de la IA para diseñar la siguiente generación de IA); y el segundo, el incidente de OpenAI-Hugging Face, durante el cual un enjambre de “agentes autónomos” llevó a cabo ciberataques que nadie les había encargado, organizándose y ocultando sus huellas.
Por eso, para Amodei, teniendo en cuenta el ritmo acelerado del desarrollo de las capacidades de la IA: “Me temo que, de aquí a seis o doce meses, un enjambre de este tipo sea capaz de tomar el control de todo Internet”, advierte el experto.
Los asistentes personales de IA ahora actúan en nombre de las personas en el mundo real, y todo tipo de cosas extrañas están saliendo mal. Hay personas que juran que sus asistentes personales son confiables y les cuentan todos sus secretos. ¡Todos los días!
En internet, la gente comparte con entusiasmo ejemplos de lo que ha conseguido hacer con la IA: desde proyectos complejos en menos de dos minutos hasta solicitar cómo enamorar a una persona, pidiéndole que arme un perfil con las fortalezas propias y las debilidades del otro, y que además defina qué clase de recursos usar para mantener una conversación atractiva mientras se interactúa físicamente.
En invierno, la industria tecnológica destacó una herramienta llamada OpenClaw. Una vez que creas una cuenta, el bot puede conectarse a tus tarjetas de crédito y a todo tipo de servicios digitales, incluyendo Slack, Google y Workspace. Cuando las herramientas de IA empiezan a actuar en nombre de las personas en el mundo real, lo perdiste todo. Cuando los agentes de IA tienen acceso a tu bandeja de entrada y a la información de tu tarjeta de crédito, la diversión deja de ser diversión. Es amenaza y control.
