Informe IA i abús sexual infantil 2024
La Internet Watch Foundation ha actualitzat el seu informe sobre Intel·ligència Artificial i producció d'imatges d'abús sexual infantil publicat el 2023. El perill continua creixent i amb imatges cada cop més pertorbants. L'actualització coincideix amb l'emissió d'un reportatge al Tele Notícies de TV3 sobre aquesta amenaça amb la participació de les doctores Irene Montiel i Noemí Pereda, col·laboradores amb la Xarxa de Drets dels Infants, de la que PDA Bullying en forma part.
Les imatges d'abús sexual infantil creades totalment o parcialment a partir d'Intel·ligència Artificial (IA) comencen a incloure violacions i tortures. A més, les víctimes que hi apareixen són reals i l'eina ha permès als delinqüents que les creen i distribueixen afegir-hi la seva cara o semblances. En alguns casos, utilitzen el rostre d'infants famosos (que insereixen, per exemple, en un contingut pornogràfic) o, fins i tot, de víctimes conegudes d'abusos sexuals.
Aquesta preocupant situació ha sigut denunciada en la renovació de l'informe sobre el tema del 2023 de la Internet Watch Foundation (IWF). Aquest equip d'investigació alerta de la velocitat amb què la problemàtica creix i arriba, ja no només a la dark web, sinó també a llocs comercials. Per dur a terme l'informe, es va estudiar una d'aquestes "webs fosques" que contenia unes 20.000 imatges d'abús sexual infantil generades per IA a les que es van sumar 3.500 aquest any. Cada cop, un percentatge més alt forma part del que es coneix com la "Categoria A", amb escenaris de hardcore com serien violacions, tortures i assassinats.
Aquest diumenge 18 d'agost, la televisió pública catalana ha emès un reportatge a partir del citat informe durant el telenotícies del vespre. En aquest es destaca que la generació d'aquest tipus d'imatges produïda per les mateixes víctimes ha augmentat un 14% des de 2022, segons la IWF. A més, la majoria no són adolescents, sinó precisament de menors d'entre 7 i 13 anys. La causa és una combinació de la hipersexualització de les xarxes socials amb processos d'extorsió, coacció o manipulació perpetrats per agressors sexuals a través d'Internet.
Tal com s'explica en el reportatge, un dels mètodes emprats és l'accés a les víctimes a través dels xats dels videojocs fent-se passar per altres infants. Els depredadors ofereixen a les víctimes recompenses dintre dels mateixos jocs com "monedes" virtuals que els permeten accedir a continguts de pagament a canvi de les seves imatges sexuals.
La doctora Irene Montiel, professora de Criminologia i Ciberdelinqüència de la UOC i col·laboradora del Manifest davant les Violències Sexuals Infantils del que PDA Bullying forma part, explica al reportatge que també es capta a les víctimes a través de les xarxes socials. Aquestes, de fet, estan dissenyades per obtenir-ne més "èxit" quan "més hipersexualitzades estan les imatges", diu Montiel. "Hi ha molts anuncis per a captar sobretot noies joves i els ensenyen com han de ser les imatges, com han de ser les fotos, les poses, què han de fer, com ho han de fer per aconseguir més subscriptors al seu canal... Són veritables màfies d'explotació sexual infantil".
Per altra banda, al mateix reportatge, la doctora Noemí Pereda, professora de Victimologia de la UB i també col·laboradora del Manifest, adverteix que, un cop perpetrat l'abús, les imatges es fan eternes i, per tant, costa molt acabar amb les seves conseqüències i tancar ferides. "No tenim gaire clares les conseqüències a llarg termini perquè és un problema que ens estem trobant ara, però sí que hi ha estudis en què s'ha vist que es genera, fins i tot, en alguns casos, fòbia social", explica la doctora. Aquestes víctimes, en créixer, poden arribar a no voler sortir de casa o conèixer noves persones per por que hagin vist les seves imatges.
Aquest és un problema que costa d'entendre als infants quan es fa prevenció, però, en qualsevol cas, no se'ls ha de culpabilitzar, sinó apel·lar a la responsabilitat dels adults que els acompanyen. La doctora Montiel també considera imprescindible l'educació sexoafectiva en edats primerenques, al contrari que la introducció a les xarxes socials i plataformes, que s'hauria d'endarrerir, fins que les seves empreses puguin garantir la seguretat dels menors.
