IA i adolescència: riscos, privacitat i protecció (guia per a famílies i escola) (EducaLIKE)
Entorno Escolar és un recurs a càrrec d'EducaLIKE (Observatori per a la Promoció de l'ús Saludable de la Tecnologia) per entendre els principals riscos de la IA en menors (privacitat, dependència, biaixos, frau acadèmic) i pautes d’actuació si hi ha manipulació d’imatges íntimes.
Web d'Entorno Escolar (www.miraconquienhablan.com)
- Web d'EducaLIKE
- Quadern escolar sobre Salut Digital (llibre de text amb 12 temes clau, adaptat per 5è i 6è de primària i 1er i 2n de l'ESO)
- Canal de Youtube de Guillermo Cánovas (Director d'EducaLIKE)
- Eina per localitzar i eliminar imatges íntimes difoses sense consentiment
Educa i protegeix de l'ús incorrecte de les IA gràcies a la pàgina informativa d’Entorno Escolar.
Recull riscos clau quan infants i adolescents utilitzen IA generativa (p. ex. “autoritat aparent”, privacitat cognitiva, contingut inapropiat, biaixos, dependència i frau acadèmic) i orienta sobre com abordar-ho des de casa i el centre educatiu.
Per què el recomanem (valor afegit)
-
Ajuda a posar paraules als riscos reals (sense alarmisme) i facilita conversa familiar i educativa.
-
Inclou una via pràctica d’actuació quan hi ha dany (imatges íntimes manipulades o difoses).
Entre els recursos que es troben al web, també trobem el "Cuaderno Salud Digital" on s'aborden temes com el ciberbullying o la violència de control.
Com a complement, des d'EducaLIKE proposen una eina per localitzar i eliminar imatges íntimes (reals o generades amb IA) difoses sense consentiment, especialment rellevant en casos de ciberviolència sexual. En aquesta públicació associada d'Instagram explica els passos de manera molt pràctica.
Para eliminar imágenes de desnudos reales, difundidas sin consentimiento, o imágenes generadas con inteligencia artificial (deepfakes) denúncialo y sigue después los siguientes pasos:
1. Descarga en tu dispositivo la imagen que quieres localizar en internet y eliminar.
2. Si la imagen es de un adulto entra en la web StopCNII o en la del National Center for Missing & Exploited Children si es de un menor (enlaces al final).
3. Abre un “caso” y sube la imagen que necesitas encontrar y eliminar. Estas entidades crean una huella digital o “hash” único para esa foto.
4. NO guardan la foto. La eliminan y operan desde ese momento con el hash o huella digital.
5. Envían la huella a las webs colaboradoras: desde Instagram, Facebook y TikTok, X o Microsoft Bing, hasta sitios de contenido adulto.
6. Estas entidades colaboradores proceden a la retirada y eliminación de dicha imagen, y te comunican los resultados.
Tienen una tasa de efectividad del 90%. En los últimos 10 años han conseguido eliminar más de 200.000 imágenes íntimas individuales no consentidas en Internet.
Enlaces:
https://stopncii.org
https://takeitdown.ncmec.org/es
Vídeos d'intervencions de Guillermo Cánovas:
Entre les seves publicacions, trobem el llibre "Cariño, he conectado a los niños", una guia sobre salut digital per a famílies i professorat.
Documental "Mira con quién hablan":
