Sam Altman, director ejecutivo de Open AI: «El mundo hace bien en tener miedo, pero debe confiar en nosotros»
ACTUALIDAD
Los líderes de la IA debatieron este martes sobre los riesgos existenciales de la tecnología, la regulación y la urgencia de garantizar la seguridad de los nuevos modelos computacionales
16 sep 2026 . Actualizado a las 16:40 h.«El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto». Con estas palabras abordó Sam Altman la creciente inquietud en torno a los riesgos existenciales de la inteligencia artificial durante la conferencia Dreamforce en San Francisco. El máximo responsable de OpenAI admitió sin rodeos que «ya no hace falta tanta imaginación como antes para ver cómo esto podría salir mal», concluyendo que «creo que el mundo hace bien en tener miedo». Además, advirtió sobre la inminente llegada de la IA autónoma de uso continuo: «La IA estará funcionando para ti todo el rato: entenderá tu trabajo, lo que necesitas para rendir mejor, generará código de forma proactiva, siguiendo tu Slack o tu correo, mirando todo lo que está pasando dentro de una empresa. Estamos justo al borde de esa tercera fase».
En el mismo foro, el responsable de Anthropic, Dario Amodei, volvió a insistir en la necesidad de frenar el ritmo de desarrollo. «Creo que así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre», aseveró Amodei, subrayando que los sistemas actuales aún no han desplegado todo su potencial: «Cuando comparo la tecnología con lo poco que se ha difundido, incluso si la congeláramos tal como está, que es algo que no estamos haciendo, la tecnología va a seguir mejorando. Incluso supongamos que la congelamos tal cual. En ese caso, estamos aprovechando quizá solo un 5% o un 10% del valor potencial que tiene».
Por su parte, el presidente ejecutivo de Nvidia, Jensen Huang, rechazó la necesidad de fijar regulaciones externas y defendió que la velocidad de innovación no está enfrentada con la cautela. «La seguridad es primordial. Es la tarea número uno. Ahora bien, la seguridad es un problema de ingeniería. Al fin y al cabo, desarrollamos software», sostuvo Huang, añadiendo que «se pueden tener perfectamente las dos cosas a la vez. Corre todo lo que puedas. Pero si en algún momento sientes que la empresa se te está yendo de las manos o que el producto no va a ser seguro, para y asegúrate de hacerlo bien». El directivo concluyó de forma tajante: «Pero si no estamos seguros de que un producto es seguro, si no tienes confianza en su funcionamiento, sus capacidades o su seguridad, no lo lances».
Sin acudir al evento presencial, Mark Zuckerberg participó en la controversia desde la red social X para defender la independencia de cada empresa en materia de protección. El fundador de Meta señaló que «la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes a la hora de diferenciar agentes y modelos. Cualquier laboratorio que no se centre en la alineación se quedará atrás». Para ilustrar este enfoque, recordó su propia gestión: «Meta retrasó varios meses el lanzamiento de Muse para centrarse en la seguridad y la protección. No pedimos a los demás que hicieran esto antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros».
Tampoco pisó el escenario Elon Musk, quien siguió el debate a través de X. Tras responder con un leve «cool» a las publicaciones de Meta, el propietario de xAI fue categórico al respaldar las advertencias de control lanzadas por Anthropic, dejando un mensaje inequívoco: «Dario tiene razón».