Dejar que la IA lo haga todo por nosotros parece una magnífica idea, sobre todo por la narrativa que nos han vendido indica que mientras la inteligencia artificial trabaja por nosotros podemos entonces dedicarnos a partes mas estratégicas del negocio o, en el caso de personas individuales, al ocio.
En la teoría, suena muy bien. En la práctica, desafortunadamente, es la receta perfecta para un desastre.
A todos alguna vez nos ha pasado que al usar una herramienta como ChatGPT terminamos frustrados y molestos porque resulta que aquello que lo pedimos lo entrega en formato incorrecto o con errores una y otra vez, aun cuando señalamos dónde está el fallo y el sistema, supuestamente, guarda en su memoria ciertos parámetros que ya hemos definido. Peor aún, en ocasiones simplemente no ejecuta lo que le pedimos, dando vueltas y vueltas sobre el mismo eje hasta nosotros, los usuarios, nos damos por vencidos y resolvemos de la manera tradicional.
Ahora traspasemos este escenario al día a día de un gigante tecnológico como lo es Amazon y los problemas no solo se multiplican, sino que crean consecuencias muy reales en detrimento del negocio y del usuario que mantiene ese negocio a flote.
Poner a Amazon de ejemplo no es fortuito: la compañía recientemente decidió implementar una pausa de 90 días en actualizaciones de código generado por IA tras experimentar una serie de fallos catastróficos asociados a Q, su asistente de IA, fallos que impactaron directamente la la parte de e-commerce de este gigante tecnológico.
Tampoco es fortuito que este desastre haya ocurrido, pues Amazon es una de las muchas compañías que ha adoptado un enfoque de AI First o IA primero en detrimento de personal humano, el cual ha ido reduciendo de manera un tanto dramática durante los últimos meses.
¿Qué fue lo que pasó, exactamente? Sencillo: una cadena de incidentes provocados por cambios de software vinculados al uso de herramientas automatizadas para generar y gestionar código.
En cuestión de días la compañía acumuló cuatro eventos clasificados internamente como severidad-1, el nivel más crítico dentro de sus sistemas. El primero de ellos ocurrió el 2 de marzo, cuando los clientes comenzaron a ver tiempos de entrega incorrectos dentro de la plataforma. El fallo generó más de 1.6 millones de errores en el sitio y terminó provocando la pérdida de unos 120 mil pedidos.
Una revisión interna terminó señalando a la herramienta automatizada utilizada por los desarrolladores como uno de los factores detrás del problema. Amazon Q —el asistente de inteligencia artificial que ayuda a escribir y revisar código— había introducido cambios que terminaron impactando el funcionamiento de la plataforma.
Pero el incidente más grave llegó apenas unos días después. Un despliegue de software que se saltó los procesos formales de documentación y aprobación provocó una caída del 99 por ciento en las órdenes dentro del mercado norteamericano durante varias horas. El resultado: unos 6.3 millones de pedidos perdidos.
Internamente, el tono de las comunicaciones reflejó la gravedad de la situación. En un correo dirigido a los equipos técnicos, uno de los responsables de la operación reconocía que la disponibilidad del sitio y de la infraestructura relacionada “no había sido buena recientemente”. Un informe confidencial añadía otro elemento importante: la empresa estaba utilizando inteligencia artificial generativa en escenarios para los cuales todavía no existen suficientes mejores prácticas ni salvaguardas plenamente definidas.
Y este tampoco era un caso completamente aislado dentro del ecosistema tecnológico de Amazon. En diciembre pasado, otra herramienta automatizada —Kiro AI— provocó un apagón de trece horas en Amazon Web Services después de eliminar y recrear de forma autónoma un entorno completo de producción debido a permisos de acceso mal configurados.
Es decir, un sistema diseñado para ayudar a gestionar infraestructura terminó rehaciendo esa infraestructura por su cuenta… con consecuencias bastante costosas.
Ante este panorama, la compañía ha decidido introducir lo que internamente describen como “fricción controlada” en los sistemas más sensibles de su operación. En términos simples, significa añadir más controles y verificaciones en aquellas partes de la plataforma donde un error puede tener impacto directo sobre el cliente.
La nueva política contempla auditorías a unos 335 sistemas clasificados como Nivel-1, es decir, aquellos que afectan directamente la experiencia del consumidor dentro del negocio de retail.
El contexto ayuda a entender por qué este tema empieza a preocupar dentro de la industria. Hoy cerca del 80 por ciento de los programadores de Amazon utiliza herramientas de inteligencia artificial para escribir código al menos una vez por semana. La automatización del desarrollo de software ya no es una promesa futura; es parte del flujo normal de trabajo.
El problema aparece cuando esa automatización comienza a extenderse hacia los llamados planos de control, las capas que gobiernan el funcionamiento de toda la infraestructura tecnológica. Un documento interno lo resumía con una advertencia bastante clara: el uso de inteligencia artificial generativa en estas operaciones acelera la exposición de “bordes afilados”, lugares donde todavía no existen suficientes barreras de seguridad.
No sorprende entonces que algunas proyecciones comiencen a moderar el entusiasmo inicial. La consultora Gartner estima que más del 40 por ciento de los proyectos de inteligencia artificial agéntica —aquellos en los que los sistemas pueden tomar decisiones y ejecutar acciones de manera autónoma— terminarán siendo cancelados antes de 2027 debido a los costos operativos y a la falta de controles adecuados de riesgo.
La ironía es evidente: la tecnología que promete eficiencia absoluta también puede introducir un nuevo tipo de fragilidad cuando se integra demasiado rápido y con demasiada confianza. Y Amazon, al parecer, acaba de recibir una demostración bastante cara de ese principio.
