La élite tecnológica advierte del riesgo de que la superinteligencia escape al control humano
15 sep 2026 . Actualizado a las 18:26 h.Una nueva oleada de renuncias e inquietantes advertencias en el corazón de Silicon Valley ha situado el riesgo existencial del desarrollo de la IA en el centro de la agenda internacional. La dimisión de Jacob Coxon, científico formado en Cambridge y figura clave en la empresa Anthropic, ha funcionado como catalizador tras denunciar que las grandes firmas tecnológicas no actúan con responsabilidad. «Están avanzando a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas», afirmó. Su marcha no es un hecho aislado, sino el síntoma de una fractura en la narrativa oficial: el entusiasmo inicial se disuelve ante el pánico a una pérdida de control técnico, el sabotaje de infraestructuras críticas y la ausencia de cortafuegos eficaces frente a modelos sobrehumanos.
Comprender el alcance de esta aceleración tecnológica exige examinar un mapa de alertas cruzadas que trasciende el ámbito académico, adentrándose en un terreno complejo donde las advertencias éticas conviven con soterrados intereses económicos y disputas geopolíticas de primer orden. En esta encrucijada, a la inquietud por la autonomía algorítmica y los fallos de seguridad de estos modelos sobrehumanos se le suma el temor económico a una espiral inversora sin precedentes. Se trata de una carrera por la hegemonía tecnológica inflada por valoraciones multimillonarias cuyos riesgos de volatilidad y saturación financiera ya han comenzado a ser comparados por diversos analistas con el colapso de la burbuja de las empresas puntocom a principios de siglo.
«Riesgo DE EXTINCIÓN»
Las entrañas de Silicon Valley se revuelven
La salida de profesionales de la industria ha expuesto cómo la prisa comercial posterga los controles de seguridad. Como señala Samuel Marks, miembro del personal técnico de Anthropic: «Cuanto más alto es el cargo, mayor es la preocupación. Se sigue adelante por incentivos comerciales y por el temor a competir con desarrolladores menos responsables». En esta línea, Evan Hubinger, responsable de alineación en la firma, sitúa en más de un 10 % la probabilidad de que la IA provoque la extinción humana en la próxima década. Aunque detrás de este cálculo pueda haber una dosis de exageración —o la búsqueda de un titular efectista—, el temor se fundamenta en el problema técnico de la desalineación, es decir, el riesgo de que un sistema persiga sus objetivos entrando en conflicto con el bienestar humano.
una industria desbocada
La pelea por ganar la carrera de la IA.
Esta disputa trasciende el ámbito empresarial para convertirse en una cuestión de soberanía estatal. El ritmo de desarrollo ya no depende solo del capital privado, sino de la rivalidad geopolítica entre potencias que ven en esta tecnología un activo de defensa y liderazgo global. Pese a operar en un entorno opaco y carente de contrapesos democráticos, los grandes laboratorios cuentan con el aval implícito de sus gobiernos. Ante esta concentración de decisiones, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advierte que «un puñado de hombres tienen un poder casi ilimitado sobre la Inteligencia Artificial». Esta escalada industrial encuentra, entonces, su justificación estratégica en la pugna entre potencias. Así lo ratificó el Secretario del Tesoro de EE. UU., Scott Bessent, al dejar clara la postura de Washington: «No podemos hacer una pausa porque los chinos no la harán. Si ellos ganan la carrera no habrá un mañana».
El pulso civilizatorio
El reto de crear una IA con rostro humano.
Las divergencias entre el ritmo de la innovación y la capacidad de control estatal reactivaron los movimientos legislativos en las principales potencias. En Estados Unidos, congresistas como el senador Bernie Sanders, Greg Casar y Lori Trahan abogan por la aprobación inmediata de la Ley Frontier, una iniciativa diseñada para supervisar la salida al mercado de los sistemas más potentes mediante controles de seguridad obligatorios.
Leer más: El péndulo de las redes se está moviendo
La Unión Europea comparte esa orientación. El debate institucional en el continente coincide en la urgencia de fijar marcos regulatorios que impidan fallos sistémicos en sectores clave. Sobre esta falta de barreras legales opina también el presidente del operador Hispasat y exministro de Ciencia e Innovación, Pedro Duque, cuando afirma que «el escenario actual recuerda a Terminator» y que «sin regulación, todo se rige por la ley del mercado». El ritmo de la respuesta legislativa contrasta con la celeridad con que la tecnología altera el tejido productivo. El propio Bill Gates reconoce el alcance de esta metamorfosis al sostener que «la transición a la era de la Inteligencia Artificial será uno de los períodos más turbulentos de la historia humana».
Frente al alarmismo, voces de la academia piden evitar diagnósticos «catastrofistas» que paralicen la regulación. El catedrático de Computación de la UNIR, Pablo Moreno, precisa que «no es un riesgo de los modelos que usamos hoy, sino de cómo podrían llegar a ser dentro de unos años». Para el experto, la prioridad es lograr el alineamiento de la IA con los valores humanos, mientras advierte sobre la ineficacia de los frenos aislados: «Europa puede imponer una normativa muy restrictiva, pero si no va acompañada por Estados Unidos o China, ningún país ni empresa se atreverá a ser el primero en parar».