La semana pasada, específicamente el martes 9 de junio, Anthropic hizo dos importantes anuncios: al tiempo que actualizaba el superpoderoso modelo de IA conocido como Claude Mythos a la versión 5, también ponía a disposición del público general una versión domada del mismo llamada Claude Fable 5.
Al tratarse de la continuación y evolución de un modelo tan poderoso que podría resultar peligroso en las manos equivocadas, el acceso a Mythos 5 está limitado a quienes forman parte de Project Glasswing, un programa nacido justamente de la necesidad de imponer controles sobre Mythos una vez este fue dado a conocer “accidentalmente” por la propia compañía a finales de marzo. Fable 5, por su parte, está supuesto a ser de acceso general y, a tal efecto, cuenta con un conjunto de salvaguardas diseñadas para prevenir usos indebidos que pudieran derivar en situaciones delicadas o potencialmente peligrosas.
Apenas Fable 5 salió al ruedo comenzaron a aparecer reseñas y comentarios que daban testimonio de las capacidades y proezas de un modelo de IA diseñado para mejorarse a sí mismo y actuar con altos niveles de autonomía. Tampoco tardaron en surgir las controversias. Investigadores y desarrolladores del área notaron que Fable 5 revertía a un modelo anterior -sin previo aviso- cuando se le formulaban preguntas o instrucciones relacionadas con IA de avanzada. A partir de ahí comenzó a regarse la narrativa de que Anthropic estaba utilizando este mecanismo para controlar el acceso a recursos poderosos y limitar cualquier intento de seguir desarrollando esta tecnología más allá de los límites que considera aceptables.
Esa era la controversia dominante tras el lanzamiento de Fable 5. Sin embargo, el viernes por la noche el debate dio un giro inesperado cuando Anthropic deshabilitó el acceso tanto a Fable 5 como a Mythos 5 sin ofrecer mayores explicaciones, más allá de que estaba cumpliendo con un mandato gubernamental.
Las preguntas no se hicieron esperar, sobre todo porque la orden del gobierno estadounidense consistía en negar el acceso a ciudadanos extranjeros, incluso si trabajaban para Anthropic. Dado que muchas de estas personas necesitan acceso a los modelos para desempeñar sus funciones, la compañía aparentemente concluyó que resultaba más sencillo apagarlo todo y seguir su camino.
Podría concluirse que Anthropic simplemente está cumpliendo órdenes de un superior, pero la historia parece ser mucho más compleja de ahí. Con el paso de los días ha ido emergiendo un relato donde ambición, poder e incertidumbre convergen. En medio de ese panorama sobresale un nombre: Amazon, señalada como la responsable de disparar las alarmas que llevaron a la Casa Blanca a entrar en pánico y tratar inicialmente de persuadir -sin éxito, según varios reportes- a Anthropic para retirar ambos modelos de circulación. Todo indica que esto ocurrió durante las primeras horas del viernes.
Como los mecanismos de persuasión aparentemente no funcionaron, entraron en escena las amenazas de controles de exportación. Finalmente, en la noche, para sorpresa de casi todos, llegó la decisión de Anthropic que ya conocemos.
Muchas preguntas quedan en el aire, pero hay una que sobresale por encima de las demás: ¿por qué Amazon alertó a las autoridades estadounidenses cuando es uno de los principales inversionistas de Anthropic y, en teoría, uno de sus aliados más cercanos? La lectura preliminar ha sido la de un posible sabotaje y la sospecha de que Amazon podría estar cocinando algo por su cuenta, pero las cosas no siempre son tan simples como parecen.
De entrada, Amazon sostiene que fue consultada como parte de procesos rutinarios del gobierno en asuntos relacionados con posibles riesgos de seguridad, precisamente el tipo de evaluación que cabría esperar ante una IA cada vez más potente y autónoma. Fue en ese contexto que la compañía aseguró haber logrado hacer jailbreak a Fable 5, sorteando las salvaguardas impuestas por Anthropic. Ese hallazgo habría sido el detonante de la crisis.
La explicación de Amazon es plausible. Sin embargo, Katie Moussouris, CEO de Luta Security, quien tuvo acceso al reporte entregado, sostiene que la reacción gubernamental ha sido exagerada y que el modelo se comportó exactamente como cabría esperar bajo un proceso de escrutinio de esta naturaleza.
Asumiendo que Amazon actuó de buena fe, queda en el aire otra posibilidad: que la Administración Trump forzara a Anthropic a deshabilitar sus modelos más recientes como consecuencia de las desavenencias que ambas partes vienen arrastrando desde febrero pasado. Aquello comenzó cuando una diferencia de criterio llevó al Departamento de Defensa a retirarle un contrato a Anthropic para entregárselo a OpenAI. En el interín, la compañía también terminó en una lista negra gubernamental, aunque posteriormente fue retirada de ella. Detrás de todo esto estaría el choque entre las exigencias del Pentágono y las posturas éticas y de seguridad que Anthropic se ha negado a abandonar.
¿En qué pie estamos parados entonces? Da la impresión de que la movida del gobierno estadounidense sienta un precedente que podría resultar nefasto para la gobernanza y la autonomía no solo de las Big Tech, sino de cualquier empresa en cualquier sector económico. Pero esta lectura también debe tomarse con pinzas. Del otro lado del espectro está el hecho de que estamos lidiando con una tecnología tan poderosa y avanzada que todavía no existe una comprensión clara de hasta dónde puede llegar ni de las consecuencias que podría traer consigo. No en vano Anthropic es una de las compañías que más insiste en advertir sobre esos riesgos.
