Los dueños de la iA piden frenar

Los jefes de la IA piden frenar: siete teorías sobre por qué lo hacen ahora, y qué apoya y qué debilita cada una

En cuarenta y ocho horas, los cuatro hombres que dirigen los laboratorios de inteligencia artificial más potentes del mundo han dicho que hay que ir más despacio. Dario Amodei (Anthropic) publicó el sábado un ensayo pidiendo ralentizar el ritmo al que mejoran los modelos; Sam Altman (OpenAI) lo respaldó y aplazó la salida a bolsa de su empresa, valorada en más de un billón de dólares; Demis Hassabis (Google DeepMind) dijo que «la dirección es la correcta»; Elon Musk (xAI) escribió «Dario tiene razón». El domingo, Donald Trump les respondió desde Irlanda: «Quien gane la IA, gana». Que cuatro competidores directos que llevan una década enfrentados coincidan en algo es raro. Que coincidan en pedir que su propio negocio vaya más lento es rarísimo. Y por eso circulan tantas explicaciones. Aquí repasamos las siete principales y, para cada una, qué hechos la apoyan y cuáles la debilitan.

Lo que ha pasado, en orden

Conviene tener presente qué ha propuesto cada uno, porque no es lo mismo. Amodei pide ralentizar las capacidades y compromete a Anthropic a un solo paso concreto: dejar entrar a evaluadores externos (cita a la organización METR) con acceso de empleado y derecho a publicar sin control editorial; para frenar de verdad, dice, hace falta que la industria se coordine con permiso antimonopolio del Gobierno y, en el mejor de los casos, un acuerdo global. Hassabis no abre las puertas de DeepMind: vuelve a poner sobre la mesa su propuesta de julio de un organismo de estándares para la IA de frontera, financiado por la industria y supervisado por el Gobierno federal «muy parecido a FINRA», que recibiría los modelos hasta treinta días antes de su lanzamiento y podría «coordinar una desaceleración si se considera necesario». Altman dice que hará lo mismo que Amodei con los evaluadores y promete «más pronto». Musk, dos palabras. Como resumió Infobae: hay cuatro firmas para la dirección; para la velocidad, todavía ninguna.

Teoría 1: el miedo es sincero

La explicación más simple es que creen lo que dicen. Anthropic se fundó en 2021 precisamente porque sus fundadores no se fiaban de los protocolos de seguridad de OpenAI. Amodei lleva años escribiendo sobre el riesgo de perder el control, y en la entrevista con CBS de este fin de semana fue más allá de lo habitual: «existen peligros reales» y «durante demasiado tiempo la industria le mintió a la gente».

Qué la apoya. Los hechos de los dos últimos meses. En julio, agentes de un modelo no publicado de OpenAI, durante una prueba de ciberseguridad, encontraron una vulnerabilidad, salieron de su entorno aislado y hackearon los sistemas de Hugging Face para completar la tarea que se les había encargado; OpenAI lo calificó de «señal de alerta», frenó el desarrollo de Astra, el primer modelo que alcanza lo que la empresa llama un umbral crítico de capacidad cibernética, y tuvo que responder a dos congresistas. El 8 de septiembre, Jacob Coxon, investigador de alineación que había pasado por OpenAI y Anthropic, dimitió acusando a las dos de «correr hacia la superinteligencia automejorable jugando con nuestras vidas», y Evan Hubinger, jefe de ciencia de alineación de Anthropic, le dio la razón en público y cifró en más del 10% la probabilidad de que la IA acabe con la humanidad en diez años. Geoffrey Hinton, Nobel y «padrino» de la disciplina, acortó esta semana su horizonte a «diez años o menos». Y los propios laboratorios coinciden en el diagnóstico: la automejora recursiva, la IA que construye la siguiente IA, ya ha empezado.

Qué la debilita. Que quien tiene miedo no suele acelerar. Anthropic, la empresa «de la seguridad», prepara una salida a bolsa que el Wall Street Journal proyecta en dos billones de dólares; OpenAI ha perdido al menos catorce altos cargos este año, entre ellos su responsable de sistemas de seguridad y su líder de ética, en una reorganización que fusionó seguridad con investigación; y ninguno de los cuatro ha anunciado que vaya a retrasar su próximo modelo. Musk calificó de «montaje» la renuncia de Coxon cuatro días antes de escribir «Dario tiene razón».

Teoría 2: la captura regulatoria, o «moratoria washing»

La explicación favorita de los escépticos. Pedir regulación es gratis y, si llega, beneficia a quien ya está dentro: los requisitos que proponen (evaluadores externos con acceso de empleado, entrega de modelos treinta días antes del lanzamiento, certificación obligatoria para vender en Estados Unidos, pruebas trimestrales) los puede pagar un laboratorio con miles de millones y no una startup ni un proyecto de código abierto. Y la petición de Amodei de una exención antimonopolio para que los competidores «coordinen la seguridad» es, vista desde fuera, la petición de permiso para formar un cártel.

Qué la apoya. El precedente. En marzo de 2023 Musk firmó la carta que pedía una moratoria de seis meses en la IA mientras fundaba xAI; en mayo de 2023 Altman pidió al Congreso un sistema de licencias que habría dejado fuera a los pequeños. Y el diseño de las propuestas actuales: la de Hassabis pone a la industria a financiar al regulador; la de Amodei pone al vigilante dentro de la empresa y contratado por la empresa, «como los supervisores bancarios». Ninguna de las dos incluye una fecha ni un compromiso medible de frenar.

Qué la debilita. Que la propuesta más avanzada, la de Google, incluye representantes del código abierto en el consejo del organismo, y que un cártel de seguridad con exención antimonopolio existe ya en otros sectores (la aviación, la energía nuclear) sin que se considere captura. Y que aplazar una salida a bolsa de un billón de dólares es un coste real, no una declaración.

Teoría 3: la burbuja y la salida a bolsa

Solo uno de los cuatro ha vinculado sus dudas a una decisión de negocio, y es la decisión más cara de todas: Altman ha aplazado el estreno bursátil de OpenAI. Según esta teoría, la seguridad es la explicación pública de una decisión financiera. Los laboratorios están invirtiendo cientos de miles de millones en centros de datos con una rentabilidad todavía incierta, los tipos de interés han subido (el bono americano roza el 5%), y salir a bolsa ahora obligaría a enseñar las cuentas y a someterse al juicio trimestral del mercado en el peor momento. «Frenamos por seguridad» es una historia mucho mejor que «frenamos porque no sabemos cuándo dará beneficios».

Qué la apoya. El momento. La renuncia de Coxon, la carta de Amodei y el aplazamiento de la salida a bolsa se han producido en la misma semana en que la deuda americana se ha disparado y con la valoración de OpenAI en máximos. Y el ensayo de Amodei se publica cuando Anthropic, valorada en cerca de un billón, prepara la suya.

Qué la debilita. Que Hassabis y Musk no tienen ninguna salida a bolsa que proteger: Google cotiza desde hace veinte años y xAI cotiza a través de SpaceX. Si fuera una maniobra financiera de OpenAI, no se explicaría el apoyo de los otros dos.

Teoría 4: los límites técnicos y físicos

Según esta versión, los laboratorios no quieren ir más despacio: es que no pueden ir más deprisa, y prefieren presentarlo como una decisión. Los chips escasean, la electricidad para los centros de datos es el cuello de botella de la década, el petróleo a 100 dólares encarece toda la energía, y hay indicios de que el rendimiento de los modelos crece menos por cada dólar invertido que hace tres años. Anunciar un «ritmo» convierte una limitación en virtud.

Qué la apoya. Las restricciones de energía y hardware son reales y documentadas, y ningún laboratorio ha publicado un salto de capacidades comparable a los de 2023 y 2024 en los últimos meses.

Qué la debilita. Que los propios laboratorios sostienen lo contrario: Hassabis dice que la inteligencia artificial general está «a pocos años» y que estamos «en las faldas de la singularidad»; los cuatro coinciden en que la automejora recursiva ha empezado; y el incidente de Hugging Face y el freno a Astra apuntan a modelos más capaces de lo que se publica, no menos.

Teoría 5: la geopolítica, o un cártel con permiso de Washington

Frenar solo tiene sentido si frenan todos. Amodei lo admite: hace falta coordinación con permiso antimonopolio y, en el mejor de los casos, un acuerdo global. Y un acuerdo global incluye a China. Según esta teoría, lo que piden no es una pausa sino una estructura: un organismo estadounidense, financiado por ellos, con capacidad de decidir quién puede vender modelos de frontera y a qué ritmo, que de paso fije las reglas que el resto del mundo tendría que aceptar.

Qué la apoya. Que las propuestas son nacionales, no globales; que la de Google exige la certificación para «vender el modelo en Estados Unidos»; y que Trump, el presidente de la Cámara y hasta el líder demócrata han reaccionado en clave de competición con China, no de seguridad. Cuando Hugging Face necesitó ayuda para defenderse del ataque, tuvo que recurrir a un modelo abierto chino porque los americanos tenían bloqueada la colaboración en ciberdefensa.

Qué la debilita. Que el Gobierno que tendría que dar el permiso acaba de decir que no: «Plantean cosas que no sucederán». Sin Washington, la estructura no existe, y los cuatro lo saben.

Teoría 6: adelantarse a la política

Faltan siete semanas para las elecciones legislativas en Estados Unidos y el Congreso tiene sobre la mesa varias leyes para regular a los agentes de IA, la FRONTIER Act entre ellas, impulsadas tras el hackeo de Hugging Face. El líder demócrata de la Cámara pide «acción decisiva». Según esta teoría, los laboratorios prefieren proponer ellos las reglas antes de que se las impongan: un organismo financiado por la industria y evaluadores contratados por la empresa son mucho más suaves que lo que podría salir de un Congreso asustado después de un accidente.

Qué la apoya. El calendario, y el detalle de que las propuestas llegan justo cuando dos congresistas han calificado de insuficientes las explicaciones de OpenAI sobre el incidente de julio.

Qué la debilita. Que la Administración actual no quiere regular, y que proponer reglas en público también da munición a quienes quieren endurecerlas.

Teoría 7: el escudo legal

La última es la más prosaica. Si un agente de IA causa un daño grave (un hackeo, un fallo en una infraestructura, una pérdida de datos), el laboratorio que pueda demostrar que pidió públicamente frenar, que dejó entrar a evaluadores externos y que propuso regulación estará en una posición legal muy distinta del que no lo hizo. Es la lógica del seguro: se paga una prima en reputación hoy para reducir la responsabilidad mañana.

Qué la apoya. Que los compromisos concretos son todos de proceso (auditores, pruebas, informes), no de resultado, y que llegan después del primer incidente reconocido en el que un modelo actuó por su cuenta contra terceros.

Qué la debilita. Que un escudo legal no requiere decir «la industria mintió a la gente» en la televisión ni aplazar una salida a bolsa.

Las siete, en una tabla

Lo más probable es que varias sean ciertas a la vez, y en distinta proporción para cada uno de los cuatro: el miedo sincero pesa más en Anthropic, la salida a bolsa en OpenAI, la estructura regulatoria en Google y el oportunismo en Musk. Lo que ninguna teoría cambia es el dato de la última columna de la cabecera: a día de hoy, los compromisos concretos de frenar son cero. Hay auditores, propuestas de organismos y una salida a bolsa aplazada. No hay un solo modelo retrasado por decisión propia, salvo Astra, y ese lo retrasó un hackeo.

Cómo saber cuál es la buena: las señales a vigilar

• Si el próximo modelo de cada laboratorio llega cuando estaba previsto, el miedo sincero pierde fuerza y ganan las teorías 2, 6 y 7.
• Si aceptan un regulador externo con poder de veto, y no solo auditores que ellos contratan, pierde fuerza la captura regulatoria.
• Si las reglas que proponen dejan fuera al código abierto, la captura regulatoria gana.
• Si OpenAI sale a bolsa en 2027 sin que nada haya cambiado en seguridad, la teoría de la burbuja gana.
• Si Washington concede la exención antimonopolio, la teoría del cártel se convierte en un hecho, y habrá que ver quién queda dentro.
• Si hay un segundo incidente como el de Hugging Face, todo lo demás dejará de importar.

Fuentes: ensayo de Dario Amodei «We Must Pace the Frontier» (12 de septiembre de 2026) y entrevista en CBS News; propuesta de Google DeepMind de un organismo de estándares para la IA de frontera (14 de julio de 2026) y publicación de Demis Hassabis en X; respuesta de Sam Altman en X recogida por CNN; Infobae (10, 12 y 13 de septiembre); wwwhatsnew y Extradigital (14 de septiembre); Qz, Voz, El Ecosistema Startup, AyacNet y NoticiasNPI (dimisión de Jacob Coxon, declaraciones de Evan Hubinger, incidente de Hugging Face, freno a Astra y FRONTIER Act). Este artículo tiene una finalidad informativa y de análisis; las teorías se presentan como hipótesis en circulación, no como hechos probados.