Vai al contenuto
Black Friday Apple Le offerte su iPhone, iPad, Mac e AirPods fino al 30 novembre
App Store

Apple aggiorna le regole dell’App Store contro i nudi generati dall’AI

Con le nuove regole dell'App Store, Apple può rimuovere le app che nascondono funzioni come i nudi creati con l'AI e chiudere l'account sviluppatore.

Apple aggiorna le regole dell’App Store contro i nudi generati dall’AI

Apple ha aggiornato le linee guida per la revisione dell’App Store con una serie di modifiche pensate per proteggere meglio gli utenti dai contenuti dannosi e dalle pratiche ingannevoli durante la revisione delle app. Le nuove regole dell’App Store colpiscono in particolare le app che creano immagini di nudo con l’intelligenza artificiale e quelle che nascondono le loro vere funzioni.

Nell’ultimo anno non sono mancati i casi di app che aggiravano le regole di Apple, esponendo gli utenti, minori compresi, a contenuti dannosi o inappropriati. A gennaio il Tech Transparency Project (TTP) ha individuato sull’App Store decine di app di nudificazione, cioè app basate sull’AI che “spogliano” le persone nelle foto.

Ad aprile lo stesso gruppo ha pubblicato una seconda indagine, secondo cui anche i suggerimenti di ricerca e le pubblicità dell’App Store indirizzavano gli utenti verso queste app. A luglio, poi, le autorità di San Francisco hanno ordinato ad Apple di rimuovere otto app in grado di generare immagini intime senza il consenso delle persone ritratte.

Sempre a luglio, un’inchiesta giornalistica ha scoperto decine di app che mascheravano piattaforme di gioco d’azzardo da semplici giochi o utility, per superare la revisione dell’App Store. Molte erano disponibili anche per i bambini. Fuori dal Brasile funzionavano come promesso, ma aperte da un indirizzo IP brasiliano mostravano piattaforme di scommesse nascoste.

C’è stato infine il caso di Grok, il chatbot AI di Elon Musk, usato per generare immagini sessualizzate di donne e minori senza il loro consenso. Legislatori e associazioni hanno chiesto ad Apple di rimuovere X e Grok dall’App Store. In seguito Apple ha confermato di aver avvertito xAI in privato che Grok poteva essere rimosso, se l’azienda non avesse risolto il problema.

Le nuove linee guida intervengono proprio su problemi come questi. Nella sezione 1.2, dedicata ai contenuti generati dagli utenti, ora si legge:

“Le app che consentono agli utenti di creare, generare, caricare, condividere o contribuire in altro modo con contenuti presentano sfide particolari, tra cui la violazione della proprietà intellettuale, le immagini intime non consensuali e il bullismo anonimo.”

Apple aggiunge che “gli sviluppatori che non adottano tutele adeguate o che non rimediano alle violazioni individuate dopo una segnalazione potrebbero essere considerati in violazione del Codice di condotta per gli sviluppatori.”

Un’altra modifica importante riguarda le app bait-and-switch, che secondo Apple “travisano il loro scopo durante la revisione e rivelano funzioni dannose, come la nudificazione, solo dopo l’approvazione.” Per queste app Apple ha creato la nuova sezione 2.5.19, che recita così:

“Non includere nella tua app funzioni nascoste, inattive o non documentate. Il funzionamento della tua app deve essere chiaro agli utenti finali e al team di App Review. Il tentativo di nascondere funzioni non documentate nel codice binario dell’app, per esempio tramite l’offuscamento del codice o altri metodi, è motivo di rimozione dell’app dall’App Store e di chiusura dell’account sviluppatore.”

Il divieto di funzioni nascoste esisteva già nella sezione 2.3.1, ma ora Apple lo rende più esplicito. La regola cita in modo specifico l’offuscamento del codice e sottolinea che chi la viola rischia la rimozione dell’app e la chiusura del proprio account sviluppatore.

Infine, nella sezione 5, dedicata agli aspetti legali, Apple ha reso più netta la formulazione sulle app che favoriscono la tratta di esseri umani o lo sfruttamento dei minori. Il testo ora dice in modo esplicito che queste app “saranno rimosse dall’App Store e bloccate dalla distribuzione alternativa.”

Commenti

Partecipa alla discussione

Accedi o iscriviti con la tua email: ti inviamo un codice, niente password da ricordare.

    Ancora nessun commento. Scrivi il primo!

    Continua a leggere