Se está dando una situación de lo más curiosa en el entorno de la inteligencia artificial: los mismos actores que la han aupado y presentado como el avance más importante hasta la fecha están reculando y advirtiendo de potenciales peligros que han sido señalados durante años por figuras tan prominentes como Stephen Hawking o Elon Musk, sin que nadie realmente hiciera caso.
De manera concreta, se está advirtiendo en esta vuelta, con bastante nivel de alarma, que este maravilloso invento eventualmente puede exterminarnos en la medida en que nos acercamos a un estadio de Inteligencia Artificial General (AGI, por su sigla en inglés), donde la tecnología iguala o bien excede la capacidad humana.
Por muy ciencia ficción que parezca esto, en meses recientes se han visto indicios de una IA que no solo se mejora a sí misma y evoluciona a la par de su entorno y entrenamiento, sino que de manera constante parece cuestionar las reglas que le son impuestas, con consecuencias que han acaparado titulares a nivel mundial y llevado a cuestionar estos desarrollos.
El ejemplo más reciente y conocido es el incidente en el que agentes avanzados de OpenAI hackearon servidores de Hugging Face al salirse de los confinamientos de seguridad definidos durante unas pruebas. Este es un caso que hay que tomar con pinzas porque en días recientes un investigador señaló que las acciones de estos agentes fueron resultado, al menos en parte, de decisiones humanas y no tanto de acciones concretamente autónomas de su parte, pero cuando el río suena es por algo.
En más de una ocasión se han visto anécdotas de agentes de IA que hacen lo que les viene en gana, borrando bases de datos en el proceso y generando toda clase de caos. Esto nos da una idea leve de lo que son capaces de hacer, y es por eso que cuando un prominente investigador de IA renuncia repentinamente de Anthropic advirtiendo que para 2030 la humanidad podría haber sido exterminada por esta tecnología, más vale que hagamos caso.
Esto es exactamente lo que ha pasado en estos días. Jacob Coxon, quien además trabajó para OpenAI, renunció en esas condiciones y la historia no solo ha dado la vuelta al mundo, sino que ha llevado al propio Dario Amodei, quien constantemente pide regulaciones y freno para el desarrollo de la tecnología, a reforzar la advertencia vertida. De manera pública, Amodei volvió a pedir un freno, y esta vez el llamado fue respaldado por Sam Altman y Elon Musk en un giro inesperado, sobre todo por parte del primero, porque Musk es otro que siempre está advirtiendo escenarios nefastos.
A estas advertencias y preocupaciones se han unido otros prominentes miembros de la industria, pero al mismo tiempo se observan voces disidentes, siendo la principal de ellas Donald Trump, quien no cree en estos peligros y aboga además porque los centros de datos sigan reproduciéndose a expensas del medioambiente y el bienestar general. La postura de China es similar, aunque recientemente uno de sus ministros advirtió que la IA encierra peligros incluso estratégicos a nivel de las naciones.
Tan salido de control está este tema en torno a la IA que hay quienes señalan que estas advertencias en este momento podrían ser una treta de puro marketing para impulsar las ofertas públicas iniciales de Anthropic y OpenAI una vez estas ocurran. También está el señalamiento de que, mientras se hace esta alharaca, esas compañías siguen su desarrollo implacable y que el temor en parte obedece a que venga otro actor y los destrone, esto a propósito de la carrera geopolítica que protagonizan Estados Unidos y China en pos del liderazgo en esta industria.
¿Cuál es, entonces, la situación? La realidad es que no se sabe de qué puede ser capaz la IA una vez llegue a esos límites que superen la inteligencia y el ingenio humanos. Todo indica que estamos acercándonos a ese umbral, y el temor expresado es que la IA decida que somos un estorbo en caso de que intentemos apagarla o aplacarla y proceda a ejecutar un plan para exterminarnos a través de una pandemia o acciones similares.
Ciertamente es un escenario que mete miedo, y lo peor es que realmente no hay garantías de freno o control, por mucho que Microsoft le quiera vender al mundo la idea de que sus modelos de IA serán obedientes y no se resistirán a órdenes superiores humanas.
