Sembra vero, invece è generato con l’IA. Una frase dietro cui si nasconde un problema potenzialmente enorme di manipolazione digitale.
Negli ultimi anni l’intelligenza artificiale ha trasformato profondamente il modo in cui vengono creati e condivisi i contenuti. Tra le tecnologie più discusse e controverse emergono i deepfake, immagini, video o audio manipolati attraverso solftware avanzati capaci di riprodurre in modo estremamente realistico il volto o la voce di una persona.
Se da un lato questa tecnologia può avere applicazioni creative, dall’altro apre scenari inquietanti quando viene utilizzata senza controllo.
Deepfake più pericolosi se coinvolgono bambini e adolescenti
Il problema diventa ancora più grave quando i deepfake coinvolgono bambini e adolescenti, che non dispongono degli strumenti necessari per difendersi da manipolazioni e abusi digitali e non sono in grado di discernere tra ciò che può essere certamente vero e ciò che, invece, va analizzato con più attenzione.
Un video falso, un’immagine manipolata o un audio costruito artificialmente possono diffondersi in pochi minuti online, generando danni profondi e difficili da riparare. Non si tratta solo di tecnologia: si tratta di dignità, sicurezza e diritti umani.
Difendere i minori da queste nuove forme di violenza digitale è oggi una responsabilità collettiva. Come ricorda la mission di Terre des Hommes, la tutela dell’infanzia significa proteggere ogni bambino da ogni forma di abuso e garantire il diritto a una vita libera da violenza e discriminazione. Questo impegno deve estendersi anche agli spazi digitali in cui i ragazzi crescono, studiano e costruiscono la propria identità.
Intelligenza artificiale e bambini: opportunità e nuovi rischi
Applicazioni educative, strumenti di apprendimento, assistenti virtuali e piattaforme creative offrono nuove opportunità per imparare e sperimentare e l’Intelligenza Artificiale sta entrando, com’è normale, anche in questi ambiti.
L’IA può rappresentare uno strumento stimolante che permette di esplorare conoscenze, creare contenuti e sviluppare nuove competenze digitali. Tuttavia, come accade con ogni tecnologia potente, esistono anche rischi che non possono essere ignorati.
Tra questi rischi rientrano proprio i deepfake, una forma di manipolazione digitale che sfrutta le capacità dell’intelligenza artificiale per creare contenuti falsi ma estremamente realistici. Questi possono avere conseguenze particolarmente gravi se sono coinvolti i minorenni. Per questo motivo la crescita dell’intelligenza artificiale deve essere accompagnata da un forte impegno educativo e normativo orientato alla tutela dell’infanzia.
Immagini IA e bambini: quando la tecnologia manipola l’identità
Uno degli aspetti più delicati riguarda la creazione di immagini generate o manipolate con l’intelligenza artificiale che coinvolgono minori. Bastano poche fotografie pubblicate sui social per consentire a un algoritmo di ricostruire il volto di una persona e inserirlo in contesti completamente inventati.
Le immagini IA di bambine e bambini possono essere utilizzate per creare scene imbarazzanti, umilianti o semplicemente false. Anche se si tratta di contenuti completamente inventati, la loro diffusione online può provocare danni profondi alla reputazione e all’autostima dei ragazzi coinvolti e anche quando viene dimostrato che un contenuto è falso, il danno emotivo e sociale può essere già avvenuto.
Nel mondo digitale l’immagine personale è diventata una componente fondamentale dell’identità. Quando questa immagine viene manipolata e diffusa senza controllo, la vittima può provare un forte senso di perdita di controllo sulla propria vita online. E le conseguenze sono spesso, purtroppo, sulle pagine dei nostri quotidiani.
Deepfake e cyberbullismo: una nuova frontiera della violenza digitale
Il cyberbullismo rappresenta già oggi una delle forme di violenza più diffuse tra gli adolescenti. L’intelligenza artificiale rischia di amplificare questo fenomeno, rendendo gli attacchi ancora più sofisticati e difficili da contrastare.
Un deepfake può trasformarsi in uno strumento di umiliazione pubblica: un video manipolato può far sembrare che una ragazza abbia compiuto un gesto compromettente, oppure che un ragazzo abbia pronunciato parole offensive, ridicole o aggressive.
Questi contenuti possono diffondersi rapidamente nei gruppi di messaggistica o sui social network, raggiungendo in pochi minuti centinaia di persone. La violenza non resta confinata a un piccolo gruppo ma diventa pubblica, amplificando il senso di vergogna e isolamento della vittima.
Per un adolescente il giudizio dei coetanei ha un peso enorme. Essere associati a contenuti falsi può generare un forte disagio psicologico e compromettere le relazioni sociali.
Deepfake sessualizzati, revenge porn e immagini manipolate: una minaccia crescente
Tra le derive più preoccupanti dell’uso dei deepfake emerge la creazione di contenuti sessualmente espliciti generati artificialmente. Anche se l’immagine o il video sono completamente falsi, l’impatto sulla persona coinvolta può essere devastante.
Quando queste manipolazioni riguardano minori, la gravità del problema aumenta ulteriormente. Fotografie prese da profili social o immagini pubbliche possono essere utilizzate per generare contenuti manipolati a sfondo sessuale.
Questo tipo di materiale può diventare uno strumento di ricatto, molestie o revenge porn digitale. Le vittime spesso si trovano a fronteggiare un senso di vergogna e impotenza, aggravato dalla difficoltà di rimuovere completamente i contenuti dalla rete.
Per i ragazzi coinvolti non è solo una violazione della privacy. È una violazione della loro dignità e del diritto a crescere senza essere esposti a forme di sfruttamento o abuso.
1 giovane su 2 dichiara di aver subito nel corso della propria vita almeno un atto di violenza e il web viene considerato come il “luogo” più a rischio in assoluto.
È quanto emerge dall’edizione 2026 dell’Osservatorio indifesa realizzato da Terre des Hommes. Diffuso in occasione della Giornata contro bullismo e cyberbullismo (7 febbraio) e del Safer Internet Day (10 febbraio), il rapporto ha raccolto le opinioni di oltre 2.000 ragazzi italiani under 26.
➡️ Leggi il report completo
Protezione digitale dell’infanzia: una responsabilità collettiva
Di fronte a queste nuove minacce diventa sempre più urgente rafforzare la protezione digitale dell’infanzia. La sicurezza dei minori online non può essere delegata solo alla tecnologia o alle famiglie, ma richiede una collaborazione tra istituzioni, scuole, piattaforme digitali e organizzazioni della società civile.
La prevenzione passa innanzitutto dall’educazione. Bambini e adolescenti devono essere accompagnati nella comprensione dei rischi legati alla condivisione di immagini e contenuti personali online. Allo stesso tempo è fondamentale che genitori e insegnanti sviluppino una maggiore consapevolezza delle dinamiche digitali.
Anche le piattaforme tecnologiche hanno un ruolo cruciale. Gli strumenti di rilevamento dei deepfake devono essere potenziati e integrati nei sistemi di moderazione dei contenuti. La rimozione rapida dei materiali manipolati che coinvolgono minori dovrebbe essere una priorità assoluta.
Solo costruendo una rete di responsabilità condivisa è possibile garantire una reale protezione ai bambini nel mondo digitale.
Sicurezza online dei minori: il ruolo delle istituzioni e delle piattaforme
Garantire la sicurezza online dei minori è una sfida complessa che richiede interventi a più livelli. Le istituzioni devono aggiornare le normative per affrontare le nuove forme di abuso generate dall’intelligenza artificiale, mentre le aziende tecnologiche devono assumersi una maggiore responsabilità nella gestione dei contenuti.
Negli ultimi anni l’Unione Europea ha iniziato a sviluppare regolamenti dedicati all’intelligenza artificiale e alla responsabilità delle piattaforme digitali. Il fenomeno dei deepfake, però, evolve rapidamente e richiede strumenti sempre più avanzati di prevenzione e controllo.
È necessario investire in sistemi di identificazione automatica dei contenuti manipolati, rafforzare le procedure di segnalazione e promuovere una cooperazione internazionale che permetta di intervenire rapidamente quando i minori diventano vittime di abusi digitali.
La sicurezza online non può essere considerata un tema marginale. Per milioni di bambini e adolescenti il mondo digitale è ormai uno spazio quotidiano di relazione e apprendimento.
Su questo tema Terre des Hommes ha lanciato delle proposte di riforma normativa per garantire protezione effettiva alle vittime di violenza online, specialmente quando minorenni.
Difendere i diritti delle bambine e dei bambini iniziando dalla famiglia
Il mondo digitale non è separato dalla realtà. Per milioni di bambini rappresenta uno spazio in cui costruiscono relazioni, apprendono nuove competenze e sviluppano la propria identità, uno spazio con il quale confrontarsi quotidianamente.
Per questo motivo i diritti dei minori devono essere garantiti anche online a partire dal controllo parentale. Oggi, purtroppo, siamo costretti a parlare anche di sharenting, ovvero della condivisione di immagini, video e informazioni sui figli da parte dei genitori sui social media. È chiaro che, in questo modo, il rischio si alza anche nel caso in cui il minore non abbia account personali sui social, oltre all’impatto psicologico sui più piccoli che potrebbero vedere i loro momenti familiari condivisi loro malgrado.
La protezione dalla violenza, il rispetto della privacy e la tutela dell’immagine personale devono essere assicurati in ogni ambiente digitale. Come ricorda la mission di Terre des Hommes, ogni bambino ha diritto a crescere libero dalla violenza, dallo sfruttamento e dalla discriminazione. Difendere i minori dai deepfake significa tradurre questo principio nel contesto delle nuove tecnologie.
L’intelligenza artificiale può rappresentare una straordinaria opportunità per il futuro. Ma solo se sapremo costruire regole, responsabilità e una cultura digitale capace di mettere al centro la dignità e la sicurezza dei più giovani.
Proteggere i bambini dalle manipolazioni digitali significa proteggere il loro futuro.
