Hay advertencias que parecen sacadas de una película de ciencia ficción y otras que, precisamente por parecer exageradas, terminan siendo más inquietantes. Recientemente, Jacob Coxon, un investigador británico de 27 años que trabajó en OpenAI y Anthropic, renunció a la industria y lanzó una bomba en X: la inteligencia artificial podría llegar a matar a todos los seres humanos antes de que termine la próxima década. Sus siete publicaciones acumularon más de 115 millones de visualizaciones.
La frase parece diseñada para alimentar el miedo: máquinas superinteligentes, capaces de mejorarse a sí mismas, hackear sistemas, obtener recursos y escapar del control humano. El escenario recuerda a Terminator, pero hay una diferencia importante: esta vez no habla un guionista de Hollywood, sino alguien que estuvo dentro de los laboratorios donde se está construyendo esa tecnología.
Coxon acusa a OpenAI y Anthropic de avanzar a toda velocidad hacia una superinteligencia sin haber resuelto el problema fundamental: cómo garantizar que una máquina extremadamente poderosa haga exactamente lo que queremos que haga. El problema no es que una computadora “odie” a los seres humanos. Es mucho más inquietante: podría perseguir un objetivo de manera tan eficiente que terminara produciendo consecuencias que nadie previó.
Lo verdaderamente perturbador es que algunos de sus antiguos colegas no se burlaron de él. Evan Hubinger, responsable de Ciencia de Alineación de Anthropic, reconoció que la empresa considera posible que una IA llegue a matar a todos los humanos y estimó personalmente ese riesgo en más de 10% durante la próxima década. Al mismo tiempo, aclaró que los modelos actuales presentan un riesgo bajo y que el gran temor está en una futura superinteligencia capaz de automejorarse.
Ese matiz debería ser obligatorio en cualquier discusión seria. Una cosa es decir que la IA actual está a punto de exterminarnos y otra, muy distinta, advertir que estamos desarrollando sistemas cuyo comportamiento futuro resulta difícil de anticipar. Confundir ambas cosas es sensacionalismo; ignorar la segunda sería irresponsabilidad.
Anthropic, de hecho, publicó en agosto un informe de 186 páginas sobre riesgos. Reconoce amenazas relacionadas con desalineación, automatización de investigaciones, ciberseguridad y hasta la posible creación de armas químicas o biológicas, aunque considera bajo el nivel de riesgo actual. El problema es que la velocidad del desarrollo tecnológico puede ser mayor que nuestra capacidad para establecer límites.
Y aquí aparece la pregunta incómoda: ¿quién controla a quienes controlan la inteligencia artificial?
Porque las empresas compiten por llegar primero. Cada una teme que, si frena, otra ocupará el espacio. Esa lógica puede convertir una cuestión de seguridad global en una carrera comercial. Es exactamente el tipo de situación en la que todos saben que deberían reducir la velocidad, pero ninguno quiere ser el primero en pisar el freno.
Sin embargo, existe una amenaza mucho más concreta que una rebelión de máquinas: el empleo. Mientras discutimos si una superinteligencia podría destruir a la humanidad en diez años, ya está sustituyendo tareas humanas, reorganizando profesiones y modificando el mercado laboral. Ese riesgo no necesita ciencia ficción ni escenarios hipotéticos. Está ocurriendo.
Tal vez el error sea preguntarnos si la IA nos va a matar. La pregunta más inteligente sería qué estamos dispuestos a sacrificar para desarrollarla cada vez más rápido.
La tecnología no tiene conciencia, ambición ni maldad. Los seres humanos sí tenemos competencia, codicia, miedo y una extraordinaria capacidad para correr detrás de aquello que puede generar poder y dinero antes de preguntarnos por sus consecuencias.
No sabemos si alguna vez habrá una máquina capaz de destruir a la humanidad. Pero sí sabemos algo mucho más sencillo: estamos creando herramientas cuyo poder crece más rápido que nuestra capacidad para comprenderlas.
Y eso debería preocuparnos bastante más que Terminator.
