La Fiscalía investiga imágenes de desnudos con IA de 18 menores en un instituto de Almería

La Fiscalía de la Audiencia Provincial de Almería mantiene abierta una investigación sobre un caso de generación de imágenes sexuales mediante inteligencia artificial (IA) que afecta, al menos, a 18 alumnas menores de edad de un instituto de la provincia.

Así lo ha revelado este martes el fiscal delegado provincial de Criminalidad Informática, David Calvo López, durante su intervención en la jornada 'Inteligencia Artificial y Derechos Fundamentales', celebrada en la Universidad de Almería (UAL).

El fiscal ha explicado que en este caso, circunscrito a un municipio que no ha desvelado, se ha empleado la aplicación ClothOff, la cual permite a los usuarios introducir fotografías reales y obtener imágenes manipuladas de desnudos o escenas sexuales explícitas.

"El 90 por ciento de los usuarios generan escenas sexuales completas", ha advertido Calvo, quien ha detallado que el sistema toma la foto de la víctima y elabora un montaje virtual para simular su participación en el acto.

Durante su ponencia, Calvo ha analizado la respuesta del derecho penal ante el fenómeno de las 'deepfakes' y ha precisado que cuando las víctimas son menores de edad, la creación de estos contenidos constituye un delito de pornografía infantil virtual, penado con la misma gravedad que si se tratara de imágenes reales obtenidas mediante grabación, siempre y cuando el resultado sea "realista".

En los casos en los que la imagen generada carece de ese realismo, el Ministerio Público califica los hechos como un delito contra la integridad moral, tipificado en el artículo 173 del Código Penal, al atentar gravemente contra la dignidad de las víctimas.

JORNADAS SOBRE IA Y DERECHOS

En la jornada sobre la Inteligencia Artificial y los Derechos Fundamentales organizada por la Guardia Civil y la Universidad de Almería, se ha puesto de manifiesto que el 20 por ciento de los delitos que se cometen en España ya están relacionados con la informática y el uso de la Inteligencia Artificial.

Este vídeo reciente del canciller alemán viendo como han suplantado su identidad en redes sociales y comentando el uso de la Inteligencia Artificial es sólo un ejemplo del potencial de la IA y del riesgo que supone para los derechos fundamentales de los ciudadanos y la seguridad colectiva. En España el 2 de cada diez delitos ya están relacionados con la ciberdelincuencia. Un porcentaje que no para de subir por el uso de la Inteligencia Artificial. De hecho el 80 por ciento de las ciberestafas están relacionadas con la IA.

En esta jornada sobre la IA y los Derechos Fundamentales celebrada en la Universidad de Almería, también se ha destacado el lado bueno de la Inteligencia Articifial. Los algoritmos pueden predecir la ubicación de delitos con un 90 por ciento de precisión, ayudan a identificar huellas y ADN en tiempo récord, y pueden contribuir a la resolución de casos hasta en un 40 por ciento.