¿Dónde está el límite de la inteligencia artificial?

La Policía investiga la difusión de imágenes de adolescentes menores de edad desnudas que han sido creadas con una aplicación de IA

La inteligencia artificial (IA) se ha instaurado en nuestras vidas. Herramientas como ChatGPT o Dall-E se han vuelto muy conocidas en muy poco tiempo y personas con apenas conocimientos técnicos pueden hacer uso de ellas. El auge de la IA ha generado muchas expectativas por sus posibilidades, pero también muchas dudas.

El último incidente que ha saltado a los medios de comunicación ha reabierto el debate sobre el límite de esta tecnología. Estamos hablando del caso de varias chicas menores de edad que han denunciado que fotografías suyas desnudas manipuladas con inteligencia artificial circulan por Internet. 

Todo ha ocurrido en Almendralejo (Badajoz), donde las madres de las víctimas (de entre 12 y 17 años) han denunciado la situación. La Policía Nacional ya está investigando esta manipulación y difusión de imágenes falsas y, de momento, han detenido a varios menores que podrían estar implicados en el caso. 

Para crear estas fotografías, los adolescentes han utilizado una aplicación de IA. La app es capaz de hacer un montaje hiperrealista intercambiando el rostro o el cuerpo original de la víctima por el de cualquier otra persona. 

Estas imágenes se conocen como deepfakes y hoy en día son muy populares en redes sociales: seguro que has visto las fotografías del Papa Francisco con un enorme abrigo blanco o las del expresidente de Estados Unidos Donald Trump siendo arrestado.

La actitud de los adolescentes que han manipulado las fotos podría ser considerada un delito de pornografía infantil. Así lo detalla el artículo 189 del Código Penal, que entiende que pornografía infantil es “todo material visual a un menor participando en una conducta sexual explícita, real o simulada”. Además, las imágenes suponen una suplantación de la identidad y atentan contra la intimidad y el honor de las víctimas.

Un uso irresponsable

El caso de las menores de Almendralejo no es el único. En mayo de 2023, se viralizó en redes sociales una foto manipulada de Rosalía. La cantante subió una fotografía a su perfil de Instagram y un usuario decidió descargarla, manipularla con IA y difundir el resultado. En el montaje Rosalía aparecía con el pecho al descubierto. 

La democratización de las herramientas de IA ha llevado a que cualquiera pueda hacer uso de estas sin necesitar grandes conocimientos técnicos de edición de fotografías, por ejemplo. Esto ha hecho que haya un auge de los deepfakes, que van más allá de los memes del Papa Francisco y están llegando a industrias como la pornografía.

De acuerdo con un estudio de Deeptrace, compañía especializada en ciberseguridad, ocho de las diez principales páginas web de pornografía incluyen contenidos creados a través de deepfake. Aunque cualquier persona es vulnerable de que su cara o cuerpo aparezca manipulado y utilizado en un vídeo pornográfico, la empresa asegura que las mujeres se han convertido en las víctimas principales.

Algunas de las principales causas detrás de este tipo de manipulación es la falta de una adecuada educación afectivo sexual y la falta de valores en igualdad y respeto a todas las personas. Desde edades tempranas, debemos aprender a hacer un uso seguro, responsable y saludable de las tecnologías.  

Por este tipo de peligros y otros riesgos asociados, la Comisión Europea lleva meses tratando de regular la inteligencia artificial en la región. El organismo quiere que las plataformas digitales se comprometan a seguir unos principios básicos que garanticen que la inteligencia artificial protegerá los derechos y libertades de los ciudadanos europeos. 

¡Tú también puedes pararlo!

Crear deepfakes de contenido sexual sobre otras compañeras de clase nunca puede ser entendido como una broma. Este asunto es muy serio no solo porque puedes herir a las víctimas, sino también porque puedes estar cometiendo un delito grave. Por eso, es muy importante que sepas cómo actuar.

No crees ni difundas. No crees imágenes manipuladas o deepfakes que contengan contenido inapropiado, difamatorio o que viole la privacidad de alguien. Al hacerlo, estás haciendo daño directo a una persona. Si recibes este contenido, no lo difundas; eso solo empeorará la situación para la víctima.

No avergüences a la víctima. No uses las imágenes manipuladas para avergonzar, acosar o chantajear a otras personas. Esta conducta es inaceptable y puede tener consecuencias legales graves. 

Comunica a un adulto de confianza. Si recibes o te encuentras con contenido de este tipo, habla con un adulto de confianza, como tu familia, tutores o profesores. Ellos sabrán cómo actuar ante esta situación. 

Fomenta la empatía y sensibiliza al resto. Trata de ponerte en el lugar de la persona cuya imagen ha sido manipulada. Imagina cómo te sentirías si te sucediera a ti o a alguien cercano. Anima a tus compañeros y amigos a ser conscientes de los peligros de la manipulación de imágenes y deepfakes. 

Apoya a las víctimas. Si conoces a alguien que ha sido afectado por la manipulación de imágenes, ofrece tu apoyo y comprensión. Puedes ayudar a esa persona a buscar ayuda adecuada.

Trabaja la actualidad en el aula

Este artículo incluye materiales didácticos exclusivos para suscriptores. ¡Descubre la actividad que te proponemos hoy!