In Breve
- Cosa ha richiesto il procuratore di San Francisco?
- Il procuratore ha richiesto la rimozione di tredici app che generano immagini intime non consensuali.
- Quali aziende sono coinvolte nella richiesta?
- Le aziende coinvolte sono Apple e Google.
- Quali sono le conseguenze per le vittime?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
Il procuratore della città di San Francisco, David Chiu, ha preso una posizione ferma contro le applicazioni che utilizzano l’intelligenza artificiale per generare immagini intime non consensuali. In una recente iniziativa, Chiu ha inviato diffide ad Apple e Google, richiedendo la rimozione immediata di tredici applicazioni di face-swapping, otto delle quali disponibili sull’App Store e cinque sul Play Store.
Chiu ha anche chiesto la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori di queste app e la sospensione della monetizzazione tramite acquisti in-app. Secondo il procuratore, Apple e Google avrebbero incassato milioni di dollari nonostante le loro politiche per sviluppatori vietino esplicitamente contenuti pornografici, abusivi o molesti.
La legge californiana è chiara nel proibire il supporto a servizi che producono materiale pornografico deepfake. In passato, l’ufficio del procuratore aveva già avviato azioni legali contro sedici siti web dedicati a pratiche simili, dimostrando un impegno costante nella lotta contro la diffusione di contenuti dannosi.
Dan Jackson, portavoce di Google, ha dichiarato che l’azienda ha già rimosso centinaia di app con funzionalità di “nudificazione”, comprese quelle segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Tuttavia, Apple non ha rilasciato commenti ufficiali in merito alla richiesta.
Chiu ha descritto la situazione come “assolutamente scioccante”, sottolineando l’ampiezza del fenomeno e le gravi conseguenze per le vittime, che vanno dalla reputazione danneggiata a ripercussioni sulla salute mentale. Il procuratore si è detto fiducioso che le aziende rimuoveranno spontaneamente le app incriminate e miglioreranno i controlli, non escludendo ulteriori azioni legali se necessario.
Questa iniziativa di San Francisco si inserisce in un contesto più ampio di crescente preoccupazione per l’uso dell’intelligenza artificiale e delle tecnologie digitali per fini dannosi. La lotta contro i deepfake e le immagini non consensuali è diventata una priorità per molte giurisdizioni, e San Francisco si pone come un esempio nella regolamentazione di queste pratiche.
