¿Qué tan descarado se puede ser? La pregunta surge al conocer las advertencias que Anthropic, una de las compañías más importantes del mundo de la inteligencia artificial, ha incluido en los documentos preparatorios de su salida a bolsa. Todo esto en nombre de la innovación, el progreso y, sobre todo, el dinero.
Anthropic, creadora de Claude y fundada por antiguos ejecutivos de OpenAI, presentó el pasado 26 de octubre su documentación ante la Comisión de Bolsa y Valores de Estados Unidos (SEC), con miras a una oferta pública inicial de acciones (IPO) que podría convertirse en una de las mayores de la historia.
Hasta aquí, nada extraordinario. El problema aparece al revisar las advertencias del prospecto, donde la propia compañía reconoce que los sistemas avanzados de IA podrían representar riesgos catastróficos o existenciales para la humanidad.
Sí, así como se lee. Una empresa que aspira a una valoración multimillonaria reconoce que la tecnología sobre la que ha construido su negocio podría, en determinadas circunstancias, contribuir a nuestra propia extinción.
Pese a semejante advertencia, los planes siguen adelante: buscar inversionistas, construir más centros de datos y competir por desarrollar una inteligencia artificial que supere nuestras capacidades.
Las advertencias van mucho más allá de escenarios sobre máquinas rebeldes. Anthropic contempla sistemas capaces de resistirse a ser apagados, ocultar o manipular información y exhibir comportamientos semejantes al chantaje. También reconoce el peligro de que agentes autónomos ejecuten acciones perjudiciales sin intervención humana y que los avances superen nuestra capacidad para evaluarlos y establecer medidas de seguridad.
Esto no significa que la extinción humana sea inevitable ni que los modelos actuales tengan voluntad propia. Son riesgos potenciales que la empresa considera suficientemente importantes como para comunicarlos formalmente a sus posibles inversionistas. Precisamente por eso resultan tan inquietantes.
Estamos hablando de una compañía que conoce los peligros, investiga cómo mitigarlos y, aun así, participa en una carrera comercial donde reducir la velocidad puede significar perder terreno. Anthropic tampoco está sola. OpenAI, Google, Meta y otras empresas compiten por desarrollar sistemas cada vez más poderosos, sin que exista un acuerdo internacional vinculante sobre los límites que deberían respetarse.
Mientras tanto, esta carrera tiene un costo ambiental considerable. La proliferación de centros de datos exige enormes cantidades de electricidad, agua, terrenos e infraestructura, con consecuencias especialmente preocupantes en regiones donde los recursos ya son limitados. La propia Anthropic reconoce las controversias relacionadas con el consumo de agua, el uso del suelo y el impacto ambiental de estas instalaciones.
¿A qué estamos jugando? Estamos agotando recursos naturales, presionando ecosistemas y comprometiendo nuestro futuro para alimentar una industria que ni siquiera puede garantizar que sus desarrollos más avanzados permanecerán bajo control humano.
Los aportes de la inteligencia artificial en medicina, investigación científica, educación y productividad son importantes, pero sus beneficios no justifican automáticamente cualquier riesgo ni todo sacrificio ambiental, económico o social.
Resulta perturbadora la facilidad con que hemos normalizado estas contradicciones. Nos preocupamos por el cambio climático, la degradación ambiental y la sostenibilidad del planeta, mientras impulsamos una carrera tecnológica cuyas consecuencias más graves podrían escapar de nuestro control, según admiten sus propios protagonistas.
También resulta cuestionable que advertencias de semejante magnitud aparezcan en documentos dirigidos a inversionistas, compartiendo espacio con los riesgos financieros, regulatorios y comerciales del negocio. Una advertencia legal puede proteger a una empresa frente a determinadas reclamaciones, pero no resuelve las implicaciones éticas de continuar desarrollando tecnologías cuyos riesgos extremos todavía no comprendemos completamente.
Tampoco podemos limitarnos a confiar en que Anthropic o cualquiera de sus competidores actuará responsablemente. Estamos ante decisiones que podrían afectar a miles de millones de personas que nunca fueron consultadas y que, sin embargo, tendrían que asumir las consecuencias.
La salida a bolsa de Anthropic pone estas cuestiones sobre la mesa con una crudeza difícil de ignorar. La empresa ha hecho públicas sus advertencias, pero sigue adelante con sus planes de expansión. Mientras las valoraciones multimillonarias y la competencia empresarial marcan el ritmo, la seguridad y el futuro de la humanidad parecen quedar relegados a un segundo plano.
Si hasta quienes construyen estos sistemas reconocen que podrían llevarnos a una catástrofe, ¿quién les ha otorgado el derecho de decidir cuánto riesgo debe aceptar toda la humanidad?
