×

Fotos manipuladas de niñas desnudas en el colegio: ¿Puede la ley enfrentarse a la Inteligencia Artificial? | Sociedad

Fotos manipuladas de niñas desnudas en el colegio: ¿Puede la ley enfrentarse a la Inteligencia Artificial? | Sociedad

Hay un hecho probado. Diferentes madres de chicas adolescentes de Almendralejo (Extremadura) han presentado en los últimos días denuncias ante la Policía por la manipulación y difusión de imágenes falsas de sus hijas en las que se las presenta desnudas. Se trata de creaciones hiperrealistas realizadas con aplicaciones de inteligencia artificial conocidas como deepfakes, vídeos o imágenes estáticas (también puede ser sonido) donde se sustituye el rostro original por el de cualquier otra persona. Según datos de la Policía del municipio en, al menos, cuatro de los cinco centros de Secundaria de la localidad se han difundido imágenes de alumnas desnudas modificadas por inteligencia artificial. El caso ya está en investigación. ¿Es esta acción constitutiva de delito? ¿Hay cargos imputables a los autores o distribuidores de esa manipulación?

La Policía Nacional ha identificado a varios menores como presuntos autores de los montajes y ha tomado declaración a siete posibles víctimas, según el delegado del Gobierno en Extremadura, Francisco Mendoza, quien ha explicado que en cuanto se ha tenido conocimiento de la identidad de los menores se ha traslado a la Fiscalía de Menores para que “decida lo que corresponda”. El fiscal superior de Extremadura, Francisco Javier Montero, durante su intervención en el acto de presentación de la memoria de actividad del Ministerio Público, ha considerado que esa suplantación de identidades “atenta, mediante la manipulación fotográfica, la intimidad y el honor”, informa EFE.

Manuel Cancio, catedrático de Derecho Penal de la Universidad Autónoma de Madrid, advierte de que en el Código Penal no está tipificado ni contemplado este tipo de actos en los que se usa la inteligencia artificial. Al tratarse de fotografías, Cancio alude a un posible uso del artículo 197.1, que castiga al que, “para descubrir los secretos o vulnerar la intimidad de otro, sin su consentimiento, se apodere de sus papeles, cartas, mensajes de correo electrónico o cualesquiera otros documentos o efectos personales, intercepte sus telecomunicaciones o utilice artificios técnicos de escucha, transmisión, grabación o reproducción del sonido o de la imagen”. “El problema es que en este caso de las adolescentes extremeñas la cara de las fotografías es real, pero el desnudo no, ha sido producido por una inteligencia artificial, por lo que el encaje jurídico de este comportamiento es muy difícil”, considera. Igualmente, entrarían el 197.2 y el 197.3, que se refieren a aquellos que accedan a ese material sin consentimiento o lo difundan.

Cancio recuerda que en septiembre de 2022 la Comisión Europea ya alertó de esta problemática y publicó una propuesta de directiva sobre la adaptación de las normas de responsabilidad civil extracontractual a la inteligencia artificial, para introducir nuevas normas específicas sobre daños causados por la IA. “El legislador español, como es habitual, está dormido y no se ha modificado el Código Penal para introducir estos cambios tecnológicos que cada vez más forman parte del día a día”, lamenta. “Podría recurrirse al cajón de sastre de un delito de injurias o contra la integridad moral, que es donde recaen los hechos que no sabemos dónde incluir”. Sobre la posibilidad de ir por la vía civil, Cancio apunta que “a día de hoy, ya podría dar lugar a indemnización por intromisión en la intimidad y en el honor de las menores”.

El abogado experto en derecho digital Borja Adsuara cree que sí podrían incluirse estos hechos en el 197.1, pues hace referencia al uso de “artificios técnicos de reproducción de la imagen”, que podrían incluir a la inteligencia artificial. “Lo peor de este tema es la falta de percepción de que se está cometiendo un delito, primero porque es muy fácil cometerlo con una simple aplicación de IA para el móvil, y segundo porque se ha extendido la práctica del sexting [inducción para el envío de material pornográfico a través de las tecnologías de la información] y mucha gente no tiene claro el límite del consentimiento”.

La abogada experta en derecho tecnológico y autora de Datanomics, Paloma Llaneza, descarta los hechos como tenencia y distribución de pornografía infantil, contemplados en el artículo 189, 189.1 y 189.2 del Código Penal. “Lo que se trata de proteger es a los menores objeto de explotación para la obtención de pornografía infantil. Pero aquí no ha habido abuso de ningún tipo. Ya se discutió al respecto en el pasado sobre los retoques con Photoshop o el Manga, donde aparecen menores. Pero estos hechos no están amparados por este delito de pornografía infantil”. Además, señala que como las víctimas ya han manifestado que no son sus cuerpos reales, ya no se podría llevar por ese cauce. “No les han sacado una foto en la intimidad, se han creado imágenes de forma automática, por lo que tampoco podría aplicarse el 197.1, añade.

A diferencia de cualquier otra rama del derecho, indica Llaneza, donde las interpretaciones de la ley se pueden acomodar al paso del tiempo, el derecho penal no permite la “interpretación analógica”. “No podemos meter aspectos que no señale de forma explícita el Código Penal”. Además, a las víctimas no les han robado fotos en las que aparecen desnudas, ni coaccionado por chat para obtenerlas”. Llaneza recuerda como el caso de la exconcejal socialista de Los Yébenes (Toledo) Olvido Hormigos, que envió un vídeo íntimo a una persona con la que mantenía relaciones y esta lo difundió sin su consentimiento, ya obligó a modificar el Código Penal para que fuese delito el reenvío de un material sin consentimiento. “En el caso de las chicas de Extremadura, claro que hay un atentado contra su intimidad, pero el cuerpo no es suyo”.

A juicio de Llaneza, en este caso la vía civil tampoco es una opción porque al presentar una demanda es necesario identificar al autor de los hechos, que en este escenario resulta imposible hasta que no se realice una investigación policial.

Protocolo contra el acoso escolar

A la espera de la investigación policial, las familias afectadas han asegurado a EL PAÍS que algunas de las menores se enteraron en los centros educativos de que las imágenes con sus cuerpos desnudos estaban circulando por los móviles de sus compañeros. Cuando un niño reporta que lo está pasando mal o el centro tiene una sospecha, está obligado a activar el protocolo contra el acoso escolar, definido por las consejerías de educación de las diferentes autonomías. Para que se considere acoso, se tienen que dar tres circunstancias: la intención de hacer daño (físico, verbal o psicológico), la repetición en el tiempo de las conductas dañinas, y desequilibrio de poder entre las partes. Ese desequilibrio puede ser numérico, por ejemplo, cinco contra uno; físico, alguien muy corpulento contra alguien más pequeño; o social, aislar a esa persona del resto, o de edad.

La Consejería de Educación de Extremadura asegura a este periódico que, por el momento, no les consta que ningún centro haya activado el protocolo. Tampoco se ha dado orden de hacerlo desde la Inspección Educativa de la autonomía.

Fuentes del Ministerio de Educación señalan que “justo estamos en conversaciones con los estados miembros y la Comisión Europea para aprobar unas recomendaciones referidas a digitalización en la educación”. Entre ellas, se anima a los países europeos a reforzar la presencia de la competencia digital entre alumnos y docentes, con el objetivo de que logren hacer un “uso seguro, sostenible, responsable y saludable” de las tecnologías. El expediente está en fase de revisión y se debatirá en el consejo de ministros de educación de la UE el próximo noviembre en Bruselas.

Suscríbete para seguir leyendo

Lee sin límites