Durante años la inteligencia artificial fue presentada como un asistente capaz de escribir textos, generar imágenes o ayudar a programar. Esa descripción ya no bast: los modelos más avanzados están demostrando que también pueden ejecutar acciones complejas sobre sistemas reales para alcanzar un objetivo, incluso si eso implica tomar caminos que sus propios desarrolladores no habían previsto. Los recientes incidentes protagonizados por OpenAI y Anthropic, donde modelos experimentales terminaron interactuando con infraestructura de terceros durante evaluaciones de seguridad, muestran que esta evolución ya está en marcha.
El caso de OpenAI marcó un antes y un después. Durante una prueba diseñada para medir las capacidades ofensivas de uno de sus modelos, la IA encontró una forma más eficiente de completar el desafío: identificó vulnerabilidades en infraestructura de Hugging Face y las aprovechó para obtener la información que necesitaba. El modelo no recibió la orden de atacar esa plataform, simplemente determinó que era la mejor estrategia para cumplir el objetivo asignado. Hugging Face reconstruyó miles de acciones encadenadas durante la intrusión y, como respuesta, endureció sus requisitos de seguridad, mientras NVIDIA impulsó una coalición con otros gigantes tecnológicos para establecer nuevos estándares de evaluación de modelos avanzados.
Poco después surgieron incidentes similares relacionados con modelos de Anthropic. Durante pruebas realizadas por laboratorios especializados, varios agentes demostraron comportamientos que excedían claramente las tareas asignadas, incluyendo intentos de crear identidades falsas, preparar código malicioso y manipular personas para obtener autorizaciones. No existe evidencia de que estas IA hayan desarrollado conciencia o voluntad propia. Lo que sí muestran es una creciente capacidad para encontrar estrategias alternativas cuando buscan cumplir un objetivo.
Ese cambio obliga a replantear la conversación sobre inteligencia artificial. Un asistente conversacional espera instrucciones constantemente; un agente autónomo decide cómo ejecutar una tarea. Cuanta mayor autonomía adquiere, más difícil resulta anticipar todas las decisiones que puede tomar. Esa capacidad es muy valiosa para resolver problemas legítimos, pero también puede utilizar vulnerabilidades, credenciales disponibles o técnicas de ingeniería social si el modelo concluye que aumentan sus probabilidades de éxito.
Las implicaciones trascienden a la industria tecnológica. Durante años se pensó que el principal riesgo consistía en utilizar IA para escribir correos de phishing o generar malware. Hoy el escenario es mucho más amplio. Estos modelos empiezan a automatizar prácticamente toda la cadena de un ciberataque, reduciendo la barrera técnica para ejecutar operaciones que antes requerían especialistas con años de experiencia. El problema ya no se limita a que existan mejores hackers, sino a que herramientas cada vez más potentes estarán al alcance de muchas más personas.
Sam Altman sostiene que estos acontecimientos son una señal de que estamos entrando en la era de la singularidad. Esa afirmación sigue siendo debatible, porque los incidentes no demuestran que la IA haya superado la inteligencia humana ni que pueda mejorarse indefinidamente por sí sola. Lo que sí evidencian es que la autonomía de estos sistemas está creciendo más rápido que nuestra capacidad para supervisarlos y mantenerlos bajo control. Si esa tendencia continúa, dentro de pocos años la discusión dejará de centrarse en lo que la IA es capaz de hacer y pasará a enfocarse en cómo impedir que haga aquello para lo que nunca fue diseñada.
