Escándalo por los desnudos de menores creados con IA: ¿dónde está el límite?
ACTUALIDAD · Exclusivo suscriptores
El caso de Almendralejo, en el que varios jóvenes ya identificados crearon imágenes de menores de edad desnudas con inteligencia artificial, altera la perspectiva del futuro de esta tecnología. «Veremos cosas sorprendentes, tanto para lo bueno como para lo malo», explica Pedro Cabalar, profesor de la UDC y experto en la materia
26 dic 2023 . Actualizado a las 08:22 h.La inteligencia artificial empieza a llenar conversaciones. Primero lo hizo con la irrupción del famoso Chat GPT y, en los últimos días, las redes sociales se llenan de vídeos de Chiquito de la Calzada o Belén Esteban hablando en un perfecto inglés. Todo es gracias a esta tecnología que, sin embargo, también ha sido utilizada para fines delictivos en el municipio extremeño de Almendralejo. De las imágenes creadas con inteligencia artificial de una veintena de menores de edad desnudas destaca su gran realismo, tal como señalan varias madres de las víctimas. «Todavía la informática forense permite distinguir si esos vídeos son reales o no», destaca Pedro Cabalar, coordinador del Máster Universitario en Inteligencia Artificial, adscrito a la Facultad de Informática de la UDC, que añade que estos sistemas generan imágenes cada vez más trabajadas. «Puedes examinar frecuencias de colores en la imagen o patrones, pero ya se parece mucho a una imagen real», apunta Cabalar que, eso sí, matiza que estas aplicaciones, ya al alcance en internet de cualquier usuario, todavía «cometen errores de bulto».
«Es difícil saber si una parte de la imagen ha sido creada si miramos la composición del color o el reparto de texturas y, sin embargo, puede ocurrir que estés viendo a una persona con seis dedos», explica el docente coruñés. «Los algoritmos siempre han estado ahí, pero incluso para los expertos han sido difíciles de aplicar. Ahora los sistemas de inteligencia artificial están entrenados con una cantidad de datos que antes no teníamos», explica.
Las aplicaciones que presumiblemente utilizaron los autores de las fotos ficticias de las menores están catalogadas con las siglas NSFW, que significa Non suitable for work («no apropiado para el trabajo» en español). Son aplicaciones especializadas en la generación de imágenes eróticas realistas que se publicitan en la red.
«Desnuda a cualquiera con nuestro servicio gratuito», reza una de estas aplicaciones que Miriam Al Adib, la madre de una de las afectadas, ha denunciado en Instagram. Algunas personas famosas, como la modelo Laura Escanes, criticó la circulación de fotografías creadas con estos algoritmos en los que aparecía ella sin ropa. «El cuerpo de una mujer no se utiliza. Ni para el placer, ni para abusar ni para manipular. Me repugna la persona que las haya creado, pero también los que están ahí y les parece divertido», aseguró la joven catalana tras conocer estos hechos. «La inteligencia artificial está avanzando mucho. Veremos cosas sorprendentes, tanto para lo bueno como para lo malo», sentencia Cabalar.
La legislación vigente
El horizonte sin límites de la inteligencia artificial también despierta preguntas sobre su uso indebido y, por ende, también acerca de cómo debe castigarse. «Nos encontramos con un delito contra la intimidad, que viene regulado en el Código Penal», asegura Daniel López, socio del área de tecnología de la firma jurídica Ecija, que añade que este delito se castiga con penas de seis meses a un año de prisión. Los menores de 14 años, susceptibles de acceder a estas aplicaciones, son imputables, Esto sería en el área penal, ya que en el apartado civil de la legislación vigente entraría en juego la Ley Orgánica 1/1982, que protege los derechos fundamentales al honor. «La imagen, sea o no real, conlleva una vulneración del derecho de esa persona», matiza.
López estima que la mayor ambigüedad está en el concepto de difusión, un factor clave en el caso de Almendralejo: «Se fija en torno al círculo más cercano de la víctima o del difusor. Se tiene en cuenta si hay intervenciones más allá de ese entorno más cercano».