La importancia del control de la inteligencia artificial
OPINIÓN
España dispondrá de una agencia dedicada a vigilar y minimizar los «riesgos significativos sobre la seguridad y la salud de las personas, así como sus derechos fundamentales» que pueda causar el uso de sistemas de inteligencia artificial (IA). La agencia será la encargada de auditar los algoritmos desarrollados en el territorio español, tanto de empresas privadas como de administraciones públicas, «de forma transparente, objetiva e imparcial», y proveerá asesoramiento para que los sistemas de inteligencia artificial cumplan con la regulación de los algoritmos que establece la Ley Rider. Esta ley fue el primer paso para la regulación de la IA en nuestro país, estableciendo que los algoritmos no tienen que reproducir la realidad, sino que tienen que cumplir la ley. Nos recuerda a los profesionales que programamos algoritmos la importancia de tener en cuenta los contextos sociales, protegiendo a los colectivos vulnerables.
La función principal de la agencia se centrará en «el desarrollo, supervisión y seguimiento de los proyectos enmarcados dentro de la Estrategia Nacional de Inteligencia Artificial, así como aquellos impulsados por la Unión Europea, en particular los relativos al desarrollo normativo sobre inteligencia artificial y sus posibles usos». Para ello contará con capacidad sancionadora, aún no especificada.
Otro aspecto importante será la elección de la ubicación de la agencia, una oportunidad perfecta para dar impulso a regiones periféricas con madurez tecnológica en el ámbito TIC y apuesta por la investigación y desarrollo de talento universitario, como pueden ser Galicia, Granada, Salamanca… todas perfectas candidatas, una decisión complicada.
Aunque todavía quedan unos cuantos meses para que la agencia vea la luz, ya que primero será necesario redactar una ley específica, además de aprobar y publicar sus estatutos para que su proyecto sea posible, el mero anuncio de su creación y la dotación de presupuesto ya supone un gran avance en nuestro país para ponernos a la altura de otras naciones que han lanzado iniciativas similares.
Oxford Insights elaboró en el 2021 un ránking con los países en mejor disposición para implementar IA en sus procesos de gobierno. En este caso, EE.UU. es el que queda en mejor posición, seguido de Singapur, Reino Unido, Finlandia, Holanda, Suecia, con España en el puesto número 25, aún con recorrido de mejora, pero seguramente dando un salto de calidad en el próximo ránking gracias a la creación de la agencia.
Desde mi experiencia como profesional de un área de desarrollo de inteligencia artificial, los enormes beneficios de la IA surgirán solo cuando los algoritmos se vuelvan explicables (y, por lo tanto, comprensibles) en lenguaje sencillo a cualquiera. La brecha de confianza aún existe porque no hemos logrado la completa transparencia de la IA; necesitamos vencer el recelo inherente del gran público a lo desconocido que rodea a esta tecnología. Ganarse la confianza implica entender cómo funcionan los modelos de IA, así como garantizar la protección de los datos que los forman de diferentes tipos de ataques y de usos no autorizados. Para las compañías y las administraciones, las decisiones tomadas por la IA afectan a la confianza en la marca, y pueden tener un enorme impacto en el bienestar o la seguridad de los consumidores y ciudadanos. Todos los profesionales de la IA, en el ámbito privado y público, estamos dedicando nuestros mejores esfuerzos para conseguir esta confianza.