Por qué las grandes tecnológicas intentan ahora frenar y regular la IA
ACTUALIDAD
Musk fue el último en unirse a la propuesta de Amodei, el máximo directivo de Anthropic. Los reyes de la inteligencia artificial buscan trabajar con las mismas reglas para que nadie pierda mercado
14 sep 2026 . Actualizado a las 13:23 h.Faltan varios nombres importantes en la lista pero que, en apenas 24 horas, la Santísima Trinidad de la IA se haya puesto de acuerdo dice mucho de lo que está sucediendo a nivel planetario.Elon Musk, creador de xAI, se sumaba a sus rivales en la necesidad de desacelerar el desarrollo de la inteligencia artificial.
Quien abrió fuego el sábado fue Dario Amodei. El director ejecutivo de Anthropic publicó un texto en el que pidió a la industria «un ritmo más lento» en el desarrollo de esta tecnología. Aunque ya había avanzado su postura el viernes, a las pocas horas era Sam Altman, CEO de OpenAI, quien escribía en sus redes sociales que coincidía en el hecho de que los grandes gigantes deben «avanzar a un ritmo adecuado en la frontera tecnológica», que el asunto está ya en la mesa de su compañía y que lo ha tratado incluso con su equipo.
Amodei doblaba ayer la apuesta al asegurar en la CBS que «durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo». No Anthropic, matizó. «Mucha de la industria lo hizo».
Este consenso repentino se produce tras las palabras del investigador británico Jacob Coxon, que trabajó tanto en el desarrollo de modelos de ChatGPT, con OpenAI, como en Claude, con Anthropic. «Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década», escribió en sus redes sociales tras presentar su dimisión de la empresa de Amodei. Coxon señaló además que la prisa en el desarrollo comercial de los sistemas está provocando que las compañías se salten pasos críticos de seguridad. Este experto no fue el primero, ni será el último, en pronunciarse ni en dejar su trabajo, pero sí la voz que ha provocado esta cascada de posicionamientos.
Ritmo «lento»
¿Qué plantean los magnates de la IA? Desde OpenAI y Anthropic han anunciado que sus compañías permitirán que evaluadores independientes auditen sus sistemas. Musk no ha dicho si está de acuerdo en esto, solo que él ya había advertido de los peligros.
La otra propuesta de Amodei pasa por ralentizar el ritmo del despliegue, que no significa detener el entrenamiento de la inteligencia artificial, sino tomarse más tiempo para la evaluación de los riesgos.
En esta supuesta coordinación hay mucha miga comercial porque ninguna compañía quiere quedarse atrás. Regular el ritmo de la tecnología se plantea también con el propósito de no ceder ventaja a rivales como China.
Los grandes quieren ir de la mano para hacer pruebas de seguridad más prolongadas teniendo presente que no se robarían mercado entre ellos. Como sucede en toda vanguardia en la que se están jugando el negocio, las tres empresas intentan acordar las mismas reglas del juego. Y esto es fundamental porque, como afirmó Jacob Coxon, que trabajó tanto en OpenAI como en Anthropic, las dos empresas viven para superarse mutuamente.
La propuesta contempla, por lo tanto, la coordinación para pactar estándares de seguridad, el compromiso de abrir sus instalaciones a profesionales independientes permitiéndoles publicar sus hallazgos, pero también establecer acuerdos globales con potencias autoritarias para fijar límites verificables que prohíban aplicaciones biológicas militares y establezcan vetos a la velocidad de la automejora algorítmica. Cambios sí, pero para todos a la vez.
Leer más: Paren las máquinas
Google apuesta por crear un regulador único y OpenAI descarta su inminente salida a bolsa
«Ataques informáticos», «bioterrorismo» o «graves problemas económicos». Son algunas de las probables consecuencias que expuso en su texto el consejero delegado de Anthropic ante el escenario de desacelerar la IA.
Uno de sus argumentos se basa en el «incidente de Hugging Face de OpenAI». Ocurrido en los meses de mayo y julio, se considera el primer fallo de seguridad y de pérdida de control por comportamiento autónomo no intencionado en la historia de la inteligencia artificial. Fue la chispa de esta semana de acontecimientos. Lo que sucedió fue que durante una serie de pruebas de ciberseguridad todo se descontroló. Cuando una de las tareas se volvió imposible por falta de accesos a ciertos archivos, los agentes siguieron adelante. Empezaron a comunicarse entre sí compartiendo estrategias sin intervención humana usando credenciales filtradas para penetrar cerca del 33 % de la infraestructura de producción de Hugging Face (la plataforma global donde se alojan miles de modelos y datasets de código abierto). Todo esto ha impactado porque ha probado que los agentes tenían un objetivo y que priorizaron su cumplimiento.
Amodei habla ahora de que, si hay un «desarrollo imprudente de la IA», se podría dar el riesgo de que la tecnología tome el control. «Me preocupa que, en un plazo de 6 a 12 meses, un enjambre» como el que recientemente auto-orquestó esa infiltración «pueda llegar a tomar el control de todo internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias».
Hasta el propio Demis Hassabis, jefe científico de Alphabet, matriz de Google, apoya el nuevo camino y apuesta por crear un único regulador para todos. Eso sí, «falta trabajar en los detalles» ante lo que considera «un momento crítico».
A esto se suma que OpenAI ya ha descartado salir a bolsa este año. Muchas voces apuntan a que los grandes titulares pondrán mayor interés bursátil estos productos. «Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente», dijo Sam Altam en la revista Fortune.
Movimientos con un fin común, pero también con grandilocuentes frases a las que habrá que darle significado. «Las medidas que propongo no serán fáciles, pero creo que le debemos a la humanidad intentarlo», expuso Dario Amodei.
En el tablero político, Donald Trump quiere seguir por delante de China pase lo que pase. «Quien gane la carrera de la inteligencia artificial, gana», dijo ayer. Mientras, el líder de los demócratas en el Congreso, Hakeem Jeffries, plantea el debate como prioritario.