El peligro de la difusión de fotos con IA: "Ha llevado a chicas al suicidio"

La IA, según la Comisión Europea, son sistemas de software diseñados por humanos que, ante un objetivo complejo, actúan en la dimensión física o digital percibiendo su entorno a través de la adquisición e interpretación de datos estructurados o no estructurados y razonando sobre el conocimiento, procesando la información derivada de esos datos y decidiendo las mejores acciones para lograr el objetivo dado.

Este pasado lunes se ha conocido un caso donde cinco jóvenes, entre ellos varios menores, están siendo investigados por difundir imágenes de 20 menores desnudas por Inteligencia Artificial. El portavoz de la Guardia Civil de Sevilla explica que las imágenes habían sido modificadas mediante un software basado en esta inteligencia.

Consiguieron un realismo con las fotografías que generaba gran dificultad para distinguir entre las que eran auténticas y las que habían sido modificadas. La nota de la Guardia Civil explica que "la investigación comenzó a raíz de una denuncia que interpusieron los padres de una de las víctimas por la difusión de imágenes manipuladas de su hija".

Tras conocerse la identidad de los supuestos autores, los agentes comprobaron que al menos uno de ellos conocía a una de las posibles víctimas. Ahora los jóvenes se enfrentan a posibles delitos de pornografía infantil y revelación de secretos por propagar y manipular fotografías pornográficas de menores en la provincia de Sevilla.

Borja Asduara, abogado experto digital explica que el daño psicológico que pueden producir este tipo de alteraciones de las fotografías es grande: "Puede producir un daño psicológico tan grande que ha llevado a alguna chica al suicidio", señala.

El caso de Sevilla no es un caso asilado. Ya pasó algo parecido hace casi un año en Almedralejo (Badajoz), donde más de una veintena de familias denunciaron la creación y difusión de imágenes de un falso desnudo de sus hijas creado con inteligencia artificial. La menores tenían entre 12 y 17 años y sus caras fueron usadas con cuerpo recreados que no son los suyos. En este caso se identificaron a varios menores por su supuesta implicación en la utilización de imágenes de chicas menores sin ropa. Finalmente, el Juzgado de Menores de Badajoz, dictó este julio libertad vigilada durante un año para 15 menores de edad al considerarlos responsables de 20 delitos de pornografía infantil y otros tantos contra la integridad moral por manipular esas imágenes.

En Zaragoza, este pasado febrero, unos padres dieron la voz de alarma también por un caso parecido.

Asduara señala que "no debemos mandar un mensaje de que es una tontería de niños".

La ley contempla tres delitos con distintas penas por estas acciones: pornografía infantil, delito contra la integridad moral o contra la intimidad. Las condenas pueden variar según las edades de los autores. Asduara explica que si son menores de 14 años, no van a tener responsabilidad penal. Si tienen entre 14 y 18 años, no van a la cárcel pero tienen responsabilidad penal de menores de edad".

Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad de antena3noticias.com

Indignación y dolor por el asesinato de Antonio, carnicero en Santiago: "Era una persona muy querida"