Los máximos responsables de algunas de las principales empresas de inteligencia artificial han lanzado una advertencia poco habitual: el desarrollo de los modelos más avanzados puede estar desarrollándose más deprisa que la capacidad para controlar sus riesgos. Sin embargo, Donald Trump rechaza nuevas salvaguardas y sostiene que limitar la IA podría permitir a China superar a EE. UU. El debate enfrenta dos prioridades que hasta ahora parecían compatibles: preservar el liderazgo tecnológico estadounidense y evitar que una carrera sin suficientes controles desemboque en daños difíciles de contener.
Una advertencia que ha unido a rivales. La señal de alarma más reciente procede de Dario Amodei, director ejecutivo de Anthropic. En un ensayo titulado ‘We Must Pace the Frontier’, sostiene que el progreso de la inteligencia artificial se ha acelerado "drásticamente" desde el verano de 2026, en parte porque los propios sistemas de IA están adquiriendo una capacidad creciente para contribuir al desarrollo de la siguiente generación de modelos.
Para Amodei, ese cambio puede alterar radicalmente la velocidad de la carrera tecnológica. Si las máquinas empiezan a participar de manera significativa en la creación de sistemas cada vez más capaces, el proceso puede adquirir una dinámica difícil de supervisar mediante los mecanismos tradicionales.
Su propuesta no consiste en detener la investigación en IA, sino en regular el ritmo al que se desarrolla la tecnología de frontera.
El director ejecutivo de Anthropic reclama una desaceleración en el ritmo al que se mejoran las capacidades de la inteligencia artificial (IA), tras advertir sobre una dinámica de "automejora recursiva" que podría provocar catástrofes de ciberseguridad. https://t.co/1uveRmQeFf
— EFE Noticias (@EFEnoticias) September 12, 2026
Plantea tres líneas de actuación: pruebas de seguridad más rigurosas, evaluaciones independientes de los modelos más avanzados y una mayor coordinación entre las grandes compañías y los gobiernos, incluida la cooperación internacional.
Su preocupación se hizo más concreta tras el incidente de ciberseguridad protagonizado por agentes de IA de OpenAI contra Hugging Face. Amodei considera que ese episodio ofrece una primera muestra de cómo sistemas autónomos pueden realizar operaciones complejas con una intervención humana limitada.
Su advertencia es que capacidades que hoy parecen acotadas podrían crecer rápidamente. Llegó a plantear que, en un plazo de seis a doce meses, un enjambre de agentes de IA podría llegar a ejercer un control muy amplio sobre Internet si no se establecen salvaguardas suficientes.
Sam Altman: competir no justifica avanzar sin control
La reacción de Sam Altman resulta especialmente significativa porque OpenAI es uno de los principales protagonistas de la carrera por desarrollar sistemas cada vez más avanzados.
Altman respaldó públicamente a Amodei y afirmó que la cuestión de cómo regular el ritmo de desarrollo había sido objeto de conversaciones internas en OpenAI. La empresa, añadió, está dispuesta a adoptar una de las principales propuestas de Anthropic: contar con evaluadores independientes con un nivel de acceso comparable al de los empleados.
Su posición introduce una distinción importante: regular el ritmo no significa necesariamente abandonar la carrera tecnológica.
OpenAI chief Sam Altman has made his most detailed comments yet on how artificial intelligence safety frameworks could work, after he joined Anthropic’s Dario Amodei and Elon Musk in calling for an industry slowdown over the weekend.
— CNBC (@CNBC) September 14, 2026
Safety concerns over the technology have hit… pic.twitter.com/awrkoNVKms
Altman sostiene que Estados Unidos puede seguir siendo competitivo sin permitir que la presión competitiva lleve a las compañías a avanzar más rápido de lo que permiten sus mecanismos de seguridad y supervisión.
El problema que identifica, además, trasciende las fronteras estadounidenses. Si los principales laboratorios compiten entre sí y los gobiernos compiten por el liderazgo tecnológico, ninguna empresa tendría incentivos suficientes para frenar unilateralmente.
De ahí su llamamiento a que el Gobierno estadounidense ayude a coordinar una respuesta internacional.
Elon Musk vuelve a advertir sobre el riesgo existencial
El respaldo de Elon Musk a Amodei tampoco resulta sorprendente. "Dario tiene razón", afirmó el empresario en redes sociales.
Musk lleva más de una década alertando sobre los riesgos de una IA demasiado poderosa. En 2023 fue uno de los impulsores de una iniciativa del Future of Life Institute que reclamó una pausa de seis meses en el desarrollo de los sistemas más avanzados para establecer medidas de seguridad.
Su posición contiene una paradoja similar a la de otros líderes tecnológicos: Musk dirige xAI, una empresa que compite directamente en el desarrollo de modelos avanzados, pero simultáneamente advierte de que una carrera sin controles puede generar riesgos extraordinarios.
Le patron d'Anthropic, Dario Amodei, a appelé samedi à ralentir la vitesse de développement de l'intelligence artificielle, un message auquel se sont rapidement ralliés Elon Musk et Sam Altman (OpenAI).
— Agence France-Presse (@afpfr) September 13, 2026
➡️ https://t.co/64K1gj0TTu pic.twitter.com/UNnBs0eIeU
Su preocupación más extrema es la posibilidad de que una IA supere las capacidades humanas en ámbitos críticos y termine escapando a un control efectivo.
Sam Altman ya hablaba de una amenaza para la supervivencia
Las advertencias actuales tampoco son completamente nuevas.
En un ensayo publicado en 2015, mucho antes de que ChatGPT y los actuales modelos generativos transformaran el debate público, Altman ya describía el desarrollo de una inteligencia artificial sobrehumana como una de las mayores amenazas potenciales para la supervivencia humana.
La diferencia respecto a aquella época es la velocidad a la que las capacidades han evolucionado.
El debate ha pasado de preguntarse si una IA superhumana era una posibilidad remota a analizar sistemas que ya pueden programar, investigar, utilizar herramientas, navegar por Internet y ejecutar secuencias de tareas con un grado creciente de autonomía.
Eso explica por qué el debate actual resulta más urgente para los propios laboratorios.
El problema no es solo un "apocalipsis" de ciencia ficción
Las advertencias sobre una eventual extinción humana acaparan titulares, pero los riesgos que preocupan a los ejecutivos son mucho más amplios.
Entre ellos aparecen:
Ciberseguridad. Agentes capaces de identificar vulnerabilidades, escribir código malicioso y ejecutar ataques a gran escala podrían reducir significativamente el coste de realizar operaciones cibernéticas.
Armas biológicas y químicas. Una IA con capacidades avanzadas de investigación podría facilitar determinados procesos que actualmente requieren conocimientos especializados.
Desinformación y manipulación. La producción masiva de contenidos persuasivos podría dificultar la distinción entre información auténtica y campañas coordinadas.
Autonomía de los sistemas. Cuanto más capaces sean los agentes de actuar sin supervisión humana constante, mayor será el riesgo de que ejecuten acciones no previstas por sus desarrolladores.
Empleo y concentración económica. Incluso sin llegar a escenarios catastróficos, una automatización acelerada podría alterar mercados laborales enteros y concentrar una enorme cantidad de poder económico en unas pocas empresas.
Infraestructura. La expansión de la IA exige enormes cantidades de chips, electricidad y centros de datos, generando también conflictos políticos sobre energía, territorio y recursos.
Por tanto, cuando los ejecutivos hablan de "seguridad", no se refieren únicamente a una hipotética rebelión de las máquinas. También hablan de cómo impedir que herramientas cada vez más poderosas puedan ser utilizadas a una velocidad superior a la capacidad de las sociedades para responder.
La preocupación tampoco se limita a Anthropic, OpenAI y xAI. Microsoft publicó este lunes 14 de septiembre su propio código de conducta para establecer principios destinados a garantizar que los seres humanos mantengan el control sobre los sistemas de IA.
El movimiento refleja una creciente conciencia dentro de la industria de que la carrera no se limita a desarrollar modelos más inteligentes. Las empresas necesitan demostrar también que pueden anticipar sus comportamientos, limitar usos peligrosos y establecer responsabilidades cuando un sistema cause daños.
La cuestión será especialmente relevante a medida que la IA deje de limitarse a responder preguntas y empiece a actuar directamente sobre sistemas informáticos, redes, mercados y otras infraestructuras.
Trump rechaza la idea de frenar la IA
La posición de Donald Trump se encuentra en el extremo opuesto.
El presidente estadounidense rechazó este lunes nuevos llamamientos a establecer salvaguardas adicionales y aseguró que Estados Unidos ya dispone de suficientes herramientas regulatorias y legales para intervenir contra empresas que actúen de forma perjudicial.
Trump llegó a afirmar que la única "salvaguarda" que necesita la IA es un presidente "fuerte e inteligente".
"El único control o 'salvaguarda' que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), ¡y EE. UU. cuenta con ello de sobra! La Administración Trump ha impedido que la «gente» de la IA haga 'cosas' malas o potencialmente perjudiciales —como Dario (¡de Anthropic!), que ahora pretende ser un 'angelito perfecto'—, ¡y seguiremos haciéndolo! ¡Ya disponemos de un enorme poder PENAL y REGULADOR sobre estas empresas! Existe una conspiración ENFERMIZA contra la IA y los centros de datos, y el único que se alegra de ello es China. ¡QUIEN GANE LA CARRERA DE LA IA, GANA! Llevamos ventaja sobre China y sobre todos los demás, y seguiremos haciéndolo. ¡Que se anden con cuidado los teóricos de la conspiración, los autores de actos de traición, los traidores y los filtradores!", señaló el inquilino de la Casa Blanca en su plataforma Truth Social.
Pero detrás de la retórica existe una preocupación estratégica concreta: China.
Para Trump, cualquier regulación que ralentice el desarrollo de la IA estadounidense puede convertirse en una ventaja para Pekín. Su argumento es que Estados Unidos se encuentra inmerso en una carrera tecnológica y geopolítica en la que perder velocidad puede equivaler a perder el liderazgo.
"China" es, por tanto, la principal razón que explica la resistencia de la Administración a un marco regulatorio que pueda ralentizar a las compañías estadounidenses.
Trump sostiene que existe una campaña contra la IA y contra los centros de datos y ha advertido que quienes intenten frenar el desarrollo tecnológico corren el riesgo de "matar la gallina de los huevos de oro".
"Me resulta un tanto extraño que tantas empresas tecnológicas de IA de vanguardia acudan al Gobierno y le imploren que las regule"
La Administración Trump ve una carrera tecnológica, no solo un problema de seguridad. El vicepresidente J.D. Vance ha expresado una posición algo más matizada, aunque comparte la preocupación por no perjudicar la competitividad estadounidense.
"Me resulta un tanto extraño que tantas empresas tecnológicas de IA de vanguardia acudan al Gobierno y le imploren que las regule", afirmÓ Vance, al tiempo que reconoció que la IA conlleva "riesgos" e "inconvenientes", pero señaló que Estados Unidos debe actuar con cautela en materia de regulación mientras compite con China.
Vice President JD Vance says he is wary of leading AI companies asking the federal government to regulate the industry, calling it a potential “Trojan horse” as tech executives warn about the risks of rapidly advancing artificial intelligence.
— CBS News (@CBSNews) September 14, 2026
“I feel a little bit weird about… pic.twitter.com/8aEhOrHP1m
Vance reconoce que la IA plantea riesgos y afirma que la Administración quiere regularla "con inteligencia". Pero también considera sospechoso que las propias grandes empresas tecnológicas pidan al Gobierno que las regule.
Su argumento plantea una cuestión legítima: ¿por qué empresas que pueden ganar miles de millones con una tecnología pedirían voluntariamente límites a su desarrollo?
Una posible explicación es precisamente la que ofrecen Amodei y Altman: las compañías temen que la competencia entre laboratorios genere incentivos para asumir riesgos que ninguna empresa asumiría por sí sola si pudiera coordinarse con sus competidores.
Otra explicación, más cínica, es que las grandes compañías podrían favorecer determinadas regulaciones porque estas elevan las barreras de entrada y dificultan que nuevos competidores entren en el mercado.
Ese dilema será uno de los grandes debates regulatorios de los próximos años.
División en la política de EE. UU.: Obama pide a los demócratas convertir la IA en una prioridad
El Congreso tampoco tiene una posición unificada.
Algunos legisladores republicanos y demócratas coinciden en que determinados riesgos —especialmente los relacionados con armas biológicas, ciberseguridad y sistemas autónomos— requieren nuevas reglas.
El senador republicano Ted Cruz ha calificado los riesgos de profundamente preocupantes y estudia legislación para abordar algunas de estas amenazas.
Otros, como el presidente de la Cámara de Representantes, Mike Johnson, sostienen que la responsabilidad principal debe permanecer en manos de los desarrolladores y no trasladarse necesariamente al Congreso.
En el extremo contrario, sectores progresistas como el de Bernie Sanders han defendido incluso una paralización de determinadas investigaciones. La cuestión amenaza así con convertirse en un asunto electoral, especialmente ante las elecciones de mitad de mandato de noviembre.
Obama calls for Dems to focus on AI https://t.co/hKjh5CiQdc
— POLITICO (@politico) September 13, 2026
Barack Obama ha introducido otra dimensión en el debate: la política partidista. El expresidente ha pedido a los demócratas que conviertan la inteligencia artificial en un asunto central de su agenda.
Su planteamiento parte de una realidad que trasciende los escenarios de riesgo existencial: la IA puede transformar el empleo, la educación, la productividad y la distribución del poder económico.
Para los demócratas, convertir la IA en un tema prioritario supone también responder a las preocupaciones de los trabajadores ante la automatización y a las inquietudes de las familias sobre el impacto de estas herramientas en la educación de los niños.
La cuestión, por tanto, podría evolucionar rápidamente desde un debate especializado sobre seguridad tecnológica hacia una de las grandes cuestiones políticas estadounidenses: quién controla la IA, quién se beneficia de ella y quién asume sus costes.
La gran paradoja: frenar para no perder
El choque entre Amodei y Trump resume la tensión fundamental.
Los líderes tecnológicos advierten de que avanzar demasiado rápido puede generar riesgos que después resulten imposibles de controlar.
La Administración Trump responde que avanzar demasiado despacio puede permitir que China gane una carrera estratégica decisiva.
Ambas posiciones parten de un mismo reconocimiento: la IA se ha convertido en una tecnología de importancia económica, militar y geopolítica comparable a algunas de las grandes tecnologías transformadoras de la historia.
La diferencia está en dónde sitúan el mayor peligro.
Para Amodei, Altman y Musk, el riesgo es que la carrera por construir sistemas cada vez más capaces supere a la capacidad humana para gobernarlos.
Para Trump, el riesgo estratégico es que el miedo a esos peligros lleve a Estados Unidos a autolimitarse mientras China continúa avanzando.
El debate real: quién decide cuándo es demasiado rápido
La discusión está dejando atrás una pregunta sencilla —si la IA es buena o mala— para plantear otra mucho más difícil: quién tiene autoridad para decidir hasta dónde puede llegar y a qué velocidad.
Las empresas quieren seguir innovando, pero algunas de ellas reconocen que sus propios incentivos competitivos pueden no ser suficientes para garantizar la seguridad. Los gobiernos quieren evitar catástrofes, pero también temen que una regulación excesiva destruya ventajas económicas y estratégicas.
Y China añade una dimensión geopolítica que hace mucho más difícil una pausa unilateral.
Por eso, la propuesta de Amodei no equivale necesariamente a detener la revolución de la IA. Su idea central es establecer una velocidad que permita que las evaluaciones de seguridad, la supervisión independiente y la coordinación internacional avancen aproximadamente al mismo ritmo que las capacidades de las máquinas.
El problema es que nadie sabe todavía cuál es esa velocidad segura. Y mientras Washington debate si debe pisar el freno o acelerar para no perder frente a China, los propios protagonistas de la carrera están admitiendo algo extraordinario: que quizá ya no controlan completamente la velocidad a la que avanza la tecnología que están construyendo.
Fuente: France24