In Breve
- Cosa ha richiesto il procuratore di San Francisco?
- Il procuratore ha richiesto la rimozione di tredici app di face-swapping che generano immagini intime non consensuali.
- Quali aziende sono coinvolte nella richiesta?
- Le aziende coinvolte sono Apple e Google.
- Quali sono le conseguenze per le vittime?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
Il procuratore della città di San Francisco, David Chiu, ha lanciato un allerta importante nel mondo della tecnologia e della giustizia. Ha inviato diffide ad Apple e Google, chiedendo la rimozione immediata di tredici applicazioni di face-swapping che generano immagini intime non consensuali tramite intelligenza artificiale. Di queste, otto si trovano sull’App Store di Apple e cinque sul Play Store di Google.
Chiu non si limita a chiedere la rimozione delle app, ma richiede anche la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori di queste applicazioni e la fine del profitto derivante dagli acquisti in-app. Secondo il procuratore, le due aziende avrebbero incassato milioni di dollari nonostante le loro policy vietino contenuti pornografici, abusivi o molesti.
La legge della California è chiara: è vietato fornire supporto a servizi che producono materiale pornografico deepfake. Questo non è il primo intervento dell’ufficio del procuratore, che in passato ha già avviato azioni legali contro sedici siti web dedicati alla stessa pratica di creazione di contenuti non consensuali.
Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già eliminato centinaia di app con funzioni di “nudificazione”, comprese le cinque segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Tuttavia, Apple non ha fornito commenti ufficiali in merito alla questione.
David Chiu ha descritto la situazione come “assolutamente scioccante” per l’ampiezza del fenomeno e per le conseguenze devastanti che può avere sulle vittime, che vanno dalla reputazione danneggiata a ripercussioni sulla salute mentale. Il procuratore si è detto fiducioso che le aziende rimuovano spontaneamente le app incriminate e rafforzino i controlli, non escludendo ulteriori azioni legali se necessario.
Questa iniziativa di San Francisco rappresenta un passo significativo nella lotta contro i contenuti non consensuali generati dall’intelligenza artificiale, sottolineando l’importanza di proteggere le vittime e di garantire un uso etico della tecnologia.
