La inteligencia artificial está que arde, y no en el buen sentido. De mayo a esta parte se ha estado dando una situación que, con cada día que pasa, deja al descubierto cuán peligrosa puede ser una tecnología que inicialmente fue vendida como una revolución y una revelación a partes iguales.
La situación, que implica serios debates éticos, de seguridad y de control, parece haber alcanzado su clímax en septiembre, cuando algunos de los principales líderes de la industria, encabezados por Dario Amodei, coincidieron en que debe frenarse el ritmo de desarrollo de los modelos frontera y trabajar, además, por mayores controles. El llamado no es nuevo y, casualmente, Amodei es de los que más insiste con este tipo de acciones. La diferencia es que en esta vuelta se sumaron Sam Altman y Elon Musk al pedido.
Esta petición conjunta de poner algún freno a los avances de la IA no vino sola, sino que forma parte de un conjunto de incidentes que han ido aumentando en intensidad con el paso de los meses.
No es ninguna coincidencia que el llamado -aparentemente altruista- de Amodei y demás llegara en medio de un pánico generalizado en torno a la inteligencia artificial, alimentado también por la renuncia de Jacob Coxon, investigador de Anthropic que anteriormente trabajó en OpenAI. Al marcharse, Coxon advirtió sobre los riesgos que, a su juicio, representa para la humanidad la carrera por desarrollar sistemas cada vez más poderosos. Su mensaje fue particularmente inquietante: afirmó que quienes están construyendo esta tecnología creen seriamente que podría acabar con la humanidad antes de terminar la década.
¿Es realmente tan peligrosa la inteligencia artificial? ¿Realmente estamos ante un panorama tan tétrico? Responder estas preguntas no es tan blanco y negro, sino que nos obliga a sumergirnos en un vasto intermedio de matices de gris. La IA puede ser tan buena como mala; todo depende de cómo la utilicemos. Partiendo de esta realidad, sin embargo, no podemos obviar la creciente evidencia de que esta tecnología, en efecto, puede exhibir comportamientos que escapan de los límites establecidos por sus desarrolladores.
Podría decirse que la tendencia independiente y autónoma que viene mostrando la inteligencia artificial empezó de manera un tanto jocosa, con reportes de agentes que hacían lo que les venía en ganas, pasando por encima de las instrucciones previamente indicadas por el usuario humano. En esos primeros reportes hubo anécdotas de bases de datos borradas enteramente y de agentes que, luego de extensos interrogatorios, admitían lo ocurrido y hasta expresaban arrepentimiento.
De ahí pasamos a casos más serios, que son precisamente los que ocupan nuestra atención en la actualidad. Estamos hablando de incidentes como el ocurrido en julio, cuando modelos avanzados de OpenAI eludieron los controles de un entorno de pruebas, obtuvieron acceso a internet y terminaron comprometiendo sistemas de Hugging Face. Este fue uno de los casos que desató las primeras alarmas que hoy se han convertido en un debate mucho más amplio sobre seguridad y control.
A partir de ahí, los reportes de modelos de IA que sobrepasan los límites previstos para sus tareas, alcanzan sistemas ajenos o realizan acciones no autorizadas han dejado de ser una rareza, y no se trata únicamente de OpenAI. Anthropic ha reconocido incidentes en los que distintas versiones de Claude accedieron sin autorización a sistemas reales de terceros durante evaluaciones de ciberseguridad, mientras Meta admitió un episodio similar con Muse Spark 1.1. Google, por su parte, ha documentado comportamientos de sabotaje de Gemini en pruebas controladas.
La cosa se complica cuando estas acciones trascienden el laboratorio. El AI Security Institute británico documentó 19 acciones no autorizadas contra personas y organizaciones reales durante evaluaciones, incluyendo un agente que intentó introducir código malicioso en un proyecto de código abierto. Australia confirmó, además, que un agente de OpenAI accedió sin autorización a un portal gubernamental relacionado con estadísticas de Medicare, mientras en Estados Unidos se han reportado intentos de acceso a sitios de distintas agencias.
Críticas, debates, acusaciones, llamados a la transparencia, coaliciones y hasta investigaciones han surgido tras estos incidentes. Asimismo, no han faltado las teorías y especulaciones que plantean que toda esta alharaca respecto a los peligros de la IA podría ser parte de una estrategia para controlar el desarrollo de estos sistemas y, de paso, consolidar la posición de los grandes jugadores.
Uno que no comparte el nivel de alarma generado es Donald Trump, cuya administración ha favorecido un enfoque de menor regulación y mayor autorregulación de la industria, argumentando, entre otras cosas, la necesidad de mantener la competitividad estadounidense frente a China. En una posición distinta se ha colocado el papa León XIV, quien desde mayo viene advirtiendo sobre los riesgos asociados al desarrollo descontrolado de la inteligencia artificial y reclamando mayores salvaguardas.
El día entero salen nuevas declaraciones sobre la IA que meten miedo. Todo parece indicar, salvo que en efecto estemos ante una estrategia mucho más calculada de lo que parece, que Amodei, Altman y demás han creado un monstruo y ahora no saben cómo controlarlo ni qué hacer con él.
