Amparo Alonso: «Regular la IA no frena la innovación; nadie diría que las normas de un avión frenan la tecnología»

Amparo Alonso Betanzos (Vigo, 1961) acaba de ser distinguida con el Premio Nacional de Informática José García Santesmases, un reconocimiento que consolida una trayectoria de excelencia que la ha llevado a convertirse en una de las referentes en España y Europa en el desarrollo de una inteligencia artificial ética, fiable y sostenible. Pionera en España en este campo y expresidenta de la Asociación Española de Inteligencia Artificial, la investigadora del CITIC y catedrática de Ciencias de la Computación e Inteligencia Artificial en la Universidade da Coruña (UDC) entiende que la regulación de esta tecnología no solo es necesaria, sino que lejos de suponer un freno a la innovación permitirá un avance en beneficio de los ciudadanos. También defiende una inteligencia artificial más sostenible.

-Acaba de recibir el Premio Nacional de Informática José García Santesmases. Es un reconocimiento individual, pero también parece premiar el trabajo que se viene haciendo desde hace años en la UDC y en el ecosistema gallego de IA.

-Sí, completamente. En ciencia los premios nunca son solo individuales. Hace mucho tiempo que la investigación dejó de ser el trabajo de una única persona y, en informática, todavía más. Yo lo siento como un reconocimiento a mi grupo de investigación, pero también a la Facultad, al CITIC, a la Universidade da Coruña (UDC) y a todas las instituciones que hacen posible la investigación y la docencia aquí. Además, creo que también reconoce el esfuerzo de divulgación que hemos hecho durante muchos años para acercar la inteligencia artificial a la sociedad.

-Hace unos años defendía que la inteligencia artificial no debía asustarnos, pero sí necesitaba regulación. Ahora que Europa ya cuenta con el AI Act, aunque todavía esté desplegándose, ¿estamos más protegidos?

-Sí, sin duda. Vamos avanzando, aunque el proceso sea lento porque regular una tecnología tan compleja y tan potente es muy ambicioso. Europa ha decidido hacerlo y eso ya es un paso muy importante. Es verdad que la normativa se está ajustando y simplificando en algunos aspectos, pero la dirección es la correcta. Estamos viendo cada vez más el impacto social de la inteligencia artificial: cómo puede dejar atrás a las personas mayores si no se diseña bien, cómo puede generar problemas en la educación, afectar a los jóvenes, facilitar la manipulación a través de las redes sociales o favorecer fenómenos como los deepfakes. Todo eso demuestra que la regulación es necesaria. Siempre pongo el mismo ejemplo: nadie entendería que pudiéramos comprar un medicamento sin ningún tipo de control. Pues con la inteligencia artificial ocurre algo parecido. Regular lleva tiempo, pero aporta seguridad a los ciudadanos cuando utilizan estas tecnologías o cuando se tratan sus datos.

-Sin embargo, sigue existiendo el argumento de que Europa puede quedarse atrás porque regular frena la innovación frente a Estados Unidos o China.

-Yo creo justamente lo contrario, porque el problema de todo esto es que sin límites se avanza peor. Nadie diría que las normas para fabricar un coche o un avión frenan la innovación. Lo que hacen es garantizar que esa innovación sea segura. La inteligencia artificial necesita reglas claras porque generan confianza. Si dejamos que la tecnología avance sin ningún tipo de control, ya estamos viendo las consecuencias. Estamos viendo, por ejemplo, que el quitar filtros de las redes sociales tiene repercusiones como el incremento de suicidios entre los jóvenes o el aumento de los problemas psicológicos. No podemos dejar sin control a una tecnología tan poderosa, que se desarrolle sin unas garantías mínimas.

-Uno de sus principales ámbitos de investigación son los sesgos de la inteligencia artificial que perpetúan las desigualdades. ¿Se está avanzando en ese terreno?

-Yo creo que sí. Para empezar, desde el punto de vista tecnológico nos hemos dado cuenta de que teníamos un problema, lo cual ya es un paso importante. A partir de ahí estamos desarrollando herramientas para detectarlo y corregirlo. La inteligencia artificial aprende a partir de datos del mundo real, y el mundo real está lleno de sesgos. Además, quienes desarrollamos estas herramientas también tenemos nuestra propia visión del mundo. Por eso es tan importante contar con equipos diversos. Otro aspecto fundamental es que necesitamos nuevas métricas que te digan si una herramienta está sesgada o no. Hasta ahora medíamos sobre todo precisión o error medio, pero eso ya no es suficiente. Tenemos que ser capaces de medir también cuestiones como los sesgos de género, la sostenibilidad o la privacidad y entender que, en ocasiones, diferentes objetivos pueden entrar en conflicto. Necesitamos métricas multidimensionales que permitan evaluar todos esos aspectos al mismo tiempo.

-Otro gran problema de la IA es el enorme consumo de energía y agua, una cuestión de sostenibilidad que a usted le preocupa. ¿Estamos avanzando o aún queda mucho para solucionar este derroche de recursos?

-Sin ninguna duda es un problema. Nosotros estamos trabajando en lo que sería la inteligencia artificial frugal, que tiene más dimensiones que solo la IA verde, porque también incluye cómo gestionamos los datos o cómo desplegamos los modelos. No basta con analizar el coste del entrenamiento. También hay que estudiar el consumo cuando millones de personas utilizan esas herramientas. Ahí aparecen diferencias muy importantes entre unos modelos y otros. La frugalidad no solo es una cuestión de sentido de para qué sirve una herramienta, sino también de sostenibilidad, porque no podemos seguir creciendo en el derroche de energía de la inteligencia artificial que requieren centros de datos enormes que tenemos que alimentar ya con energía nuclear. Además, esto tiene una enorme repercusión sobre la soberanía tecnológica.

-¿A qué se refiere?

-Una gran multinacional puede asumir infraestructuras gigantescas y consumos energéticos enormes, pero una pyme o un centro de investigación no. Si somos capaces de desarrollar modelos más ligeros, que necesiten menos datos y menos recursos computacionales, estaremos democratizando el acceso a la inteligencia artificial. Una IA más democrática es una IA mejor para todos.

-¿Es realmente posible desarrollar una IA competitiva sin depender de esos enormes centros de datos?

- Sí, porque no todas las aplicaciones necesitan el mismo nivel de complejidad. No es lo mismo un algoritmo destinado a diagnosticar un cáncer con una precisión extraordinaria que otro pensado para recomendar una película.También depende del contexto. Un médico que trabaja en un entorno rural no necesita la capacidad de un gran centro de supercomputación para resolver determinados problemas. Una pyme tampoco necesita las infraestructuras de una multinacional para desarrollar herramientas útiles. La clave está en construir algoritmos que tengan sentido para cada aplicación, que sean sostenibles y que permitan a quienes los utilizan mantener el control sobre sus datos y su tecnología.

- La Agencia Española de Supervisión de la Inteligencia Artificial (Aesia) ya lleva un tiempo funcionando. ¿Está respondiendo a las expectativas?

-Hay que tener en cuenta que la agencia todavía está consolidándose y además ha cambiado recientemente de dirección. La administración tiene sus tiempos. Yo creo que lo importante no es solo la velocidad, sino el contenido de su trabajo. Formo parte del laboratorio de ideas de la Aesia y ya se están abordando cuestiones muy relevantes, como los sesgos de género o el impacto de la inteligencia artificial sobre los menores. Si la agencia consigue aportar propuestas de referencia para Europa, ya estará desempeñando un papel muy importante.

-En su momento se habló mucho de la Aesia como motor para convertir A Coruña en un polo de la inteligencia artificial.

-Creo que existe una gran oportunidad para reforzar la conexión entre la agencia, las universidades y el tejido empresarial. No es casualidad que la Aesia esté en A Coruña. Aquí existe un ecosistema muy potente de investigación e innovación que ha hecho posible que la ciudad ganase esa candidatura frente a otras. Ahora bien, este tipo de procesos necesitan planificación. No se instalan decenas de empresas de un día para otro.

-¿Considera que Galicia ya está consolidándose como un polo de inteligencia artificial?

-Desde la perspectiva académica, creo que tenemos un ecosistema muy importante. Basta abrir el periódico cualquier día para encontrar proyectos relacionados con la inteligencia artificial desarrollados desde el CITIC, desde distintos grupos universitarios o desde empresas tecnológicas. La presencia de la Aesia es también un reconocimiento a esa realidad. A partir de ahí, siempre hay margen para reforzar la interacción entre la agencia, las empresas y todo el ecosistema gallego.

-Otro de los grandes retos sigue siendo el talento. ¿Estamos consiguiendo atraerlo y, sobre todo, retenerlo?

-Ese es probablemente uno de los grandes desafíos pendientes. El talento es uno de los pilares fundamentales del sistema y todavía tenemos margen de mejora. Estamos formando investigadores excelentes, creamos nuevos grados y másteres, pero después resulta difícil ofrecerles estabilidad. La carrera académica es muy larga, muy rígida y, además, las universidades públicas atraviesan dificultades presupuestarias. Formar un investigador requiere muchos años y perder ese talento es muy fácil. Si no somos capaces de ofrecer condiciones atractivas, acabará marchándose a otras comunidades o al extranjero. Las empresas también lo sufren. El Clúster TIC lleva tiempo advirtiendo de la falta de ingenieros especializados, pero muchos de esos profesionales terminan trabajando fuera. Tenemos que hacer más atractivo nuestro ecosistema, tanto desde el punto de vista económico como de la estabilidad profesional.

-Usted fue una de las pioneras de la inteligencia artificial en España. ¿Imaginaba hace décadas que esta tecnología llegaría a tener el protagonismo actual?

-No con esta visibilidad. Cuando empecé a trabajar en inteligencia artificial era un ámbito muy especializado. En los últimos quince años la disciplina ha experimentado una explosión enorme y hoy aparece todos los días en los medios de comunicación. A veces por cuestiones preocupantes y otras por avances extraordinarios, como la medicina personalizada, el descubrimiento científico o las aplicaciones educativas. Es un momento apasionante para la inteligencia artificial y creo que todavía veremos un crecimiento muy importante durante los próximos años. Pero también conviene mantener cierta cautela. Yo he vivido varias primaveras de la inteligencia artificial y también algún invierno. Por eso creo que debemos seguir avanzando de forma equilibrada, desarrollando al mismo tiempo la tecnología, la regulación y el talento.

---

---

---