“Il danno derivante dagli abusi dei deepfake è reale e urgente« , ha detto l’agenzia delle Nazioni Unite in a dichiarazione. “I bambini non possono aspettare che la legge si adegui”.

Secondo uno studio in 11 paesi condotto dall’agenzia delle Nazioni Unite, dall’agenzia di polizia internazionale, dall’INTERPOL e dalla rete globale ECPAT che lavora per porre fine allo sfruttamento sessuale dei bambini in tutto il mondo, almeno 1,2 milioni di giovani hanno rivelato di aver subito la manipolazione delle loro immagini in deepfake sessualmente espliciti nell’ultimo anno.

In alcuni paesi, ciò rappresenta un bambino su 25 o l’equivalente di un bambino in una classe tipica, ha rilevato lo studio.

Strumenti di ‘nudificazione’

I deepfake – immagini, video o audio generati o manipolati con l’intelligenza artificiale e progettati per sembrare reali – vengono sempre più utilizzati per produrre contenuti sessualizzati che coinvolgono bambini, anche attraverso la cosiddetta “nudificazione”, in cui gli strumenti di intelligenza artificiale vengono utilizzati per spogliare o alterare gli indumenti nelle foto per creare immagini di nudo o sessualizzate.

“Quando viene utilizzata l’immagine o l’identità di un bambino, quel bambino è direttamente vittima. Anche senza una vittima identificabile, il materiale pedopornografico generato dall’intelligenza artificiale normalizza lo sfruttamento sessuale dei bambini, alimenta la domanda di contenuti offensivi e presenta sfide significative per le forze dell’ordine nell’identificare e proteggere i bambini che hanno bisogno di aiuto”. UNICEF disse.

“L’abuso deepfake è un abuso e non c’è nulla di falso nel danno che provoca.”

Domanda di garanzie solide

L’agenzia delle Nazioni Unite ha affermato di accogliere con grande favore gli sforzi degli sviluppatori di intelligenza artificiale che stanno implementando approcci di “sicurezza fin dalla progettazione” e robusti guardrail per prevenire l’uso improprio dei loro sistemi.

Tuttavia, la risposta finora è frammentaria e troppi modelli di intelligenza artificiale non vengono sviluppati con adeguate garanzie.

I rischi possono aumentare quando gli strumenti di intelligenza artificiale generativa vengono incorporati direttamente nelle piattaforme di social media dove le immagini manipolate si diffondono rapidamente.

“I bambini stessi sono profondamente consapevoli di questo rischio”, ha affermato l’UNICEF, aggiungendo che in alcuni dei paesi oggetto dello studio, fino a due terzi dei giovani hanno affermato di temere che l’intelligenza artificiale possa essere utilizzata per creare immagini o video sessuali falsi.

Una minaccia in rapida crescita

“I livelli di preoccupazione variano ampiamente da paese a paesesottolineando l’urgente necessità di misure di sensibilizzazione, prevenzione e protezione più forti”.

Per affrontare questa minaccia in rapida crescita, l’agenzia delle Nazioni Unite ha pubblicato Guida su IA e bambini 3.0 a dicembre con raccomandazioni per politiche e sistemi che difendono i diritti dell’infanzia. Leggi il rapporto completo Qui.

Proprio adesso, L’UNICEF chiede un’azione immediata per affrontare la crescente minaccia:

• I governi devono ampliare le definizioni di materiale pedopornografico per includere contenuti generati dall’intelligenza artificiale e criminalizzare la sua creazione, approvvigionamento, possesso e distribuzione
• Gli sviluppatori di intelligenza artificiale dovrebbero implementare approcci di sicurezza fin dalla progettazione e robusti guardrail per prevenire l’uso improprio dei modelli di intelligenza artificiale
• Le aziende digitali dovrebbero impedire la circolazione di materiale pedopornografico generato dall’intelligenza artificiale, non semplicemente rimuoverlo, e rafforzare la moderazione dei contenuti con investimenti nelle tecnologie di rilevamento

Leggi l’ultimo brief dell’UNICEF sull’intelligenza artificiale e sull’abuso e lo sfruttamento sessuale dei minori Qui.