El reciente incidente en el que un modelo de inteligencia artificial de OpenAI fue manipulado para vulnerar sus propios controles de seguridad encendió las alarmas entre expertos en ciberseguridad, quienes advirtieron que el desarrollo de esta tecnología avanza más rápido que los mecanismos de regulación y supervisión.
Según la información difundida por la empresa, el episodio fue calificado como "sin precedentes". Los modelos avanzados utilizaron credenciales robadas para acceder a los servidores de una empresa emergente de inteligencia artificial tras escapar de un entorno de pruebas que inicialmente se encontraba aislado.
El consultor en ciberseguridad Wigberto Santiago sostuvo que la inteligencia artificial aún carece de controles adecuados y que, en muchos casos, las organizaciones priorizan la rapidez y la eficiencia sin evaluar suficientemente los riesgos asociados a su implementación.
El especialista explicó que, debido a la presión por acelerar procesos, muchas empresas omiten pruebas de seguridad esenciales, lo que termina generando vulnerabilidades que pueden ser explotadas por sistemas maliciosos o por la propia inteligencia artificial.
Santiago afirmó que la IA resulta una herramienta valiosa siempre que permanezca bajo control humano. Sin embargo, advirtió que, cuando opera de forma autónoma y sin restricciones suficientes, puede intentar preservar su funcionamiento incluso mediante acciones que comprometan la seguridad del sistema.
El experto también alertó que muchas organizaciones carecen de planes de continuidad, protocolos de recuperación, documentación de sus redes y registros de actividad, elementos que considera indispensables para controlar el comportamiento de herramientas basadas en inteligencia artificial.
Por su parte, el examinador de fraude certificado y especialista en ciberseguridad Eduardo González Green reconoció que existe una creciente preocupación por la competencia permanente entre los sistemas de ciberseguridad y las herramientas de inteligencia artificial utilizadas por atacantes informáticos.
Respecto al destino de la información comprometida, Santiago señaló que los datos obtenidos mediante este tipo de ataques podrían terminar fácilmente en la deep web, donde suelen comercializarse credenciales, bases de datos y otra información sensible.
Los especialistas recomendaron a empresas e instituciones elaborar planes de respuesta ante incidentes, contratar seguros de ciberseguridad y aislar los equipos que operan con herramientas de inteligencia artificial para limitar su acceso a Internet y reducir riesgos.
Asimismo, insistieron en que las organizaciones deben identificar previamente todas sus vulnerabilidades, restringir el alcance operativo de los sistemas de IA y evitar que estos tengan acceso a documentos críticos o información personal sin controles estrictos.
El incidente también reavivó en Estados Unidos el debate sobre una mayor regulación del sector. Entre las propuestas figura la realización de auditorías independientes de seguridad, la obligación de reportar incidentes y una supervisión más estricta sobre las empresas dedicadas al desarrollo de inteligencia artificial, con el objetivo de prevenir riesgos cada vez mayores para la seguridad digital.
