Abusi sessuali su minori generati con l’IA (l’editoriale di David Oddone)

L’Internet Watch Foundation (IWF) sta sollevando preoccupazioni crescenti riguardo l’utilizzo dell’intelligenza artificiale per creare video di abusi sessuali su minori. Con il miglioramento e la diffusione degli strumenti di IA, si assiste a un fenomeno inquietante: i pedofili utilizzano sempre più frequentemente tali tecnologie per produrre contenuti disturbanti, manipolando filmati esistenti o creando immagini completamente sintetiche.

Nel 2023, l’IWF ha osservato un aumento significativo della qualità e del realismo delle immagini. Un rapporto recente dell’organizzazione evidenzia come, in un solo mese, siano state pubblicate su un forum del dark web oltre 12.000 nuove foto generate dall’IA, con più di 3.500 di queste, considerate criminali in base alle leggi del Regno Unito. Parecchi video, pur essendo ancora rudimentali, rappresentano una visione inquietante del futuro, con la possibilità di diventare sempre più realistici e difficili da distinguere da materiali reali di abusi sessuali su minori.

Susie Hargreaves, direttore esecutivo dell’IWF, ha sottolineato l’urgenza di implementare controlli più severi e di modificare le leggi per criminalizzare la creazione e la distribuzione di modelli IA utilizzati per generare tali contenuti. La Hargreaves ha evidenziato come questi strumenti stiano fornendo ai predatori online un mezzo per realizzare le loro fantasie più perverse, mettendo ulteriormente a rischio i bambini e perpetuando traumi nei sopravvissuti di abusi.

Oltre alla necessità di normative più rigide, l’IWF sta promuovendo un maggiore impegno da parte delle aziende tecnologiche e dei governi per affrontare la minaccia. Recentemente, in Inghilterra, la baronessa Kidron ha presentato un emendamento per includere tali crimini nella legge sulla protezione dei dati e delle informazioni digitali, ma la sua approvazione è stata sospesa a causa delle elezioni.

La tecnologia dell’IA, sebbene abbia un enorme potenziale per migliorare le nostre vite, sta dimostrando di avere un lato oscuro che deve essere affrontato con risolutezza. La capacità di creare immagini realistiche di abusi sessuali su minori non solo rappresenta un nuovo livello di depravazione, ma aumenta anche il rischio di “rivittimizzazione” per coloro che sono già stati vittime di abusi. Per questi motivi, è essenziale che si faccia di tutto per regolamentare e monitorare il settore.

Una citazione emblematica di Albert Einstein riassume bene la situazione: “Il mondo è un posto pericoloso, non a causa di quelli che fanno del male, ma a causa di quelli che osservano senza fare nulla”. È imperativo che la società, i legislatori e le aziende tecnologiche non restino indifferenti, ma agiscano prontamente per proteggere i più vulnerabili.

 

David Oddone

(La Serenissima)