El pasado 9 de septiembre, el investigador Jacob Coxon, de 27 años, publicó una frase que condensa una paradoja: "Hoy renuncié a Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están compitiendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas".

Coxon había trabajado casi tres años en investigación de preentrenamiento en OpenAI, participando en el desarrollo de GPT-4o y GPT-4.5, antes de pasarse a Anthropic en julio pasado, decepcionado por los protocolos de seguridad de su anterior empleador. Sin embargo, apenas un mes después, decidió abandonar por completo la industria.

ANTHROPIC, ENTRE ESCÁNDALOS Y ADVERTENCIAS

La denuncia es notable porque proviene de alguien que observó el progreso desde dentro. Evan Hubinger, líder de ciencia de alineamiento de la propia Anthropic, estimó en más del 10% el riesgo de extinción humana en la próxima década si no se resuelven los problemas de seguridad.

En julio pasado, más de 1.000 investigadores y trabajadores de la industria, incluidos el propio Coxon, el científico jefe de OpenAI, Jakub Pachocki, y el CEO de Anthropic, Dario Amodei, habían respaldado una declaración a favor de una mayor coordinación gubernamental internacional para poder ralentizar el desarrollo si los riesgos aumentan demasiado.

Las palabras de Coxon encajan en un año de turbulencia sin precedentes para Anthropic. En febrero pasado, The Wall Street Journal reveló que el modelo Claude fue utilizado por el Pentágono durante la operación para secuestrar al presidente venezolano Nicolás Maduro, una misión que incluyó bombardeos sobre Caracas y alrededor de 100 muertes. Cuando la empresa pidió explicaciones a su socio Palantir sobre el uso del software, el Pentágono interpretó la consulta como una objeción.

El 27 de febrero, el presidente estadounidense, Donald Trump, ordenó a todas las agencias federales cesar el uso de la tecnología de Anthropic y el secretario de Guerra, Pete Hegseth, la calificó de "riesgo para la cadena de suministro". La respuesta judicial llegó el 26 de marzo y se confirmó en agosto pasado, cuando Rita Lin, una jueza federal, dictaminó que esta prohibición fue un acto de represalia ilegal contra las actividades de expresión protegida por la Constitución de la empresa, y desestimó los argumentos del Pentágono como una "invocación vacua de la seguridad nacional".

En días recientes, luego de las declaraciones de Coxon, Dario Amodei, CEO de Anthropic, pidió públicamente frenar el ritmo de avance de la IA, y Sam Altman, al frente de OpenAI, salió a respaldar el planteamiento, ofreció abrir sus sistemas a auditorías externas y anunció que su empresa no saldrá a bolsa este año. Elon Musk anunció que “acuerda” con la protesta.

Mientras tanto, informes señalan que Anthropic, que busca aparentar preocupación ética, evitó la lista negra del Pentágono, pero no puede deshacerse de la sombra de Palantir, y que implementaría un sistema de vigilancia dirigido a activistas. Según una investigación de The American Prospect, esta empresa que rechazó públicamente proporcionar herramientas de vigilancia masiva al Pentágono está construyendo un sistema de vigilancia predictiva dirigido a activistas que se oponen al rápido desarrollo de la inteligencia artificial (IA).

El responsable de operaciones de seguridad, Keon Ellison, confirmó que las alertas de la empresa externa Samdesk dieron a los ejecutivos "60 minutos críticos" para evitar a los manifestantes. La investigación describe esta práctica como una "precriminalidad" (pre-crime), que coloca el activismo junto al terrorismo, el crimen y la inestabilidad geopolítica en la misma lista de amenazas. El puesto de analista de amenazas y activismo está pagado con entre 180.000 y 230.000 dólares anuales, mientras que los guardias físicos de las oficinas cobran 22 dólares por hora .

A ello se suma el escándalo del "Proyecto Panamá", revelado por The Washington Post: Anthropic compró, digitalizó y destruyó físicamente millones de libros —cortando lomos y enviando los ejemplares al reciclaje— para entrenar a Claude, en una operación que un documento interno describía con franqueza: "No queremos que se sepa que estamos trabajando en esto".

El precedente judicial que lo ampara se ubica en 2025, cuando el juez William Alsup, bajo la doctrina del fair use, abrió la puerta a que el patrimonio cultural físico se convirtiera en combustible de los modelos. El argumento de las empresas de IA es que sus prácticas de entrenamiento están amparadas por esta excepción de la ley de copyright. Aunque la decisión no fue vinculante para otros casos, sentó un precedente judicial que podría inclinar la balanza a favor del sector tecnológico en futuras disputas.

DE LA CIBERNÉTICA A LA SUPERINTELIGENCIA

Para comprender la magnitud de lo descrito, es necesario analizar la superinteligencia desde la cibernética, un término introducido por Norbert Wiener (1948) para definir la ciencia del control y la comunicación en sistemas complejos. Como concepto fundante, la cibernética prefigura un futuro donde los bucles de retroalimentación algorítmica no solo optimizan procesos, sino que toman decisiones autónomas que reconfiguran la realidad material.

La superinteligencia lleva esa lógica a su extremo al desarrollar un sistema que no solo procesa información, sino que se reescribe a sí mismo, acelerando su propia evolución de manera recursiva. Coxon advirtió que estos sistemas pronto serán "capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales".

Las implicaciones son ambivalentes. En lo económico, la promesa es un salto de productividad que libere trabajo humano de tareas mecánicas; el riesgo es la concentración monopolística de una tecnología que, como advierte la encíclica papal Magnifica Humanitas, puede provocar la destrucción de empleo y la pérdida de dignidad laboral frente al paradigma tecnocrático de la eficiencia.

El documento, además, emite una alerta ante la creciente brecha de desigualdad global y denuncia el costo ecológico y la explotación asociados al hardware y consumo energético de los centros de datos, por lo que exige subordinar el lucro e innovaciones tecnológicas al bien común y al trabajo digno.

En lo político, el peligro más inmediato es la vigilancia, porque desarrollos como los sistemas de monitoreo dirigidos a activistas, convertirían a la cibernética en una tecnología de disciplina social. La capacidad de estos sistemas para "hackear" cualquier campo, como advierte Coxon, implica una vulnerabilidad estructural de las instituciones democráticas frente a actores privados no electos.

La distopía no radica únicamente en un escenario de exterminio físico ocasionado por una IA militarizada, sino que, en el ámbito civil, prevalecería la subordinación silenciosa de la voluntad humana a lógicas algorítmicas opacas.

En lo cultural, si esta dimensión se homogeneiza y la disidencia es neutralizada preventivamente por modelos predictivos, ello redefiniría la participación humana y reduciría la complejidad social a variables calculables.

Por otra parte, la destrucción de libros físicos ilustra una paradoja en la que, para "entender" al mundo, el sistema devora su memoria material. La cibernética promete optimización; su sombra es una sociedad gobernada por bucles de retroalimentación que ningún ciudadano diseñó ni controla.

La advertencia de Coxon en su renuncia sobre "apostar nuestras vidas" apunta precisamente a una trampa estructural en la que los actores que impulsan el desarrollo de la superinteligencia también están desmantelando sistemáticamente los mecanismos de rendición de cuentas sobre su conducta.

COMPETENCIA, RIVALIDADES Y UNA BURBUJA A PUNTO DE ESTALLAR

Mientras en Estados Unidos se debate internamente entre la fachada de la regulación ética y las demandas del complejo militar-industrial, China ha optado por una estrategia de integración cívico-militar sin las mismas restricciones corporativas que acelera su desarrollo en drones autónomos, armas navales inteligentes y sistemas de reconocimiento.

La ruta china presenta características distintas a la estadounidense. En el ámbito de la IA, el índice de Stanford de 2025 muestra que las brechas de desempeño en pruebas de referencia como MMLU, MMMU, MATH y HumanEval eran de 17,5, 13,5, 24,3 y 31,6 puntos porcentuales, respectivamente. Para finales de 2024, estos márgenes se habían reducido considerablemente a 0,3, 8,1, 1,6 y 3,7 puntos porcentuales.

China produce entre 3 y 4,7 millones de graduados en ciencia, tecnología, ingeniería y matemáticas (STEM, por sus siglas en inglés) anualmente, más de ocho veces la cifra estadounidense, y su gasto en I+D ha superado al de Estados Unidos. La estrategia china combina esta escala con una integración profunda en aplicaciones industriales y comerciales, lo que le otorga una ventaja asimétrica en el despliegue práctico.

Coxon identificó explícitamente la "rivalidad" entre Anthropic y OpenAI, así como la presión por mantener la delantera frente a los desarrolladores chinos, como factores clave que llevaron a dejar de lado las medidas de seguridad. Es decir, la competencia estratégica entre Estados Unidos y China moldea profundamente la dirección y la velocidad de esta faceta del desarrollo tecnológico.

Estos datos no son menores; de hecho, la rivalidad entre Anthropic y OpenAI es por obtener contratos millonarios del Departamento de Guerra, una competencia en donde también participan xAI (Elon Musk) y Google. Pero el otro dato reside en que el modelo de lenguaje a gran escala (LLM, por sus siglas en inglés) Kimi K3 de Moonshot (China) es de libre acceso y menos caro; además, carece de supervisión y control.

Se trata de una tecnología aproximadamente tan potente como Fable de Anthropic, un modelo propietario que el gobierno estadounidense trata como si fuera prácticamente un arma nuclear, lo que supone un duro golpe para el marco regulatorio de la IA en Estados Unidos.

La oleada de declaraciones denota que estas empresas buscan mayor protección regulatoria, privilegios y dinero público para maniobrar en medio de la burbuja de la IA —cuya deuda oculta va por los 1,8 billones de dólares— y mantener su oligopolio a salvo de los códigos abiertos chinos.

Los sistemas propietarios estadounidenses pudieran estar llegando a los límites de capacidad de cómputo, generación de electricidad y escala de los LLM y, si esto se hiciera evidente, crearía una escalada de pánico y estampida en los inversores públicos y privados que desinfle la burbuja.

En este escenario, los grandes gestores de activos, propietarios y bancos tendrían una participación mayoritaria en las empresas y tomarían el control. Se repetiría el ciclo de las hipotecas subprime que detonó la crisis de 2008: los ciudadanos ordinarios pagaron por las inversiones y las tarifas; luego se indujo una crisis, y los ciudadanos comunes fueron expulsados del esquema.

Las empresas de IA aparecen como defensoras de la ética, pero juegan un papel vital en la lucha por la hegemonía global como proveedoras de aplicaciones militares y actores fundamentales en la concentración de capital. Es por ello que lo de "apostar vidas" describe un dilema sistémico en el que la carrera por la superinteligencia no solo se trata de capacidad tecnológica, sino de quién tiene el derecho de definir lo que es "responsable" y para qué.