In Breve
- Cosa vietano le nuove linee guida di Apple?
- Le nuove linee guida vietano app ingannevoli e contenuti offensivi generati da intelligenza artificiale.
- Quali misure devono adottare le app con contenuti generati dagli utenti?
- Devono filtrare materiale offensivo e fornire strumenti per segnalare contenuti e bloccare account abusivi.
- Quante app sono state bloccate da Apple nell'ultimo anno?
- Nel corso dell'anno precedente, Apple ha bloccato oltre 150.000 app.
Apple ha recentemente aggiornato le linee guida per gli sviluppatori, introducendo misure più severe contro le applicazioni che utilizzano l’intelligenza artificiale per generare contenuti offensivi. Le nuove norme si concentrano in particolare su quelle app che si presentano come normali durante il processo di revisione, ma che in seguito si trasformano in applicazioni di ‘nudify’ o che evidenziano tali funzionalità.
Le nuove regole richiedono che le app con contenuti generati dagli utenti implementino sistemi per filtrare il materiale offensivo. Inoltre, devono fornire strumenti per segnalare contenuti inappropriati e consentire agli utenti di bloccare account abusivi. È stato chiarito che sono vietate anche le funzionalità nascoste o non documentate, incluse quelle applicazioni che mascherano il loro scopo durante la revisione e che rivelano successivamente capacità dannose, una pratica nota come bait-and-switch.
Apple ha inoltre specificato che rimuoverà le app che aggiungono funzioni non presenti nella versione sottoposta alla revisione. Questa decisione è parte di un impegno più ampio per garantire un ambiente più sicuro e responsabile per gli utenti.
Le linee guida aggiornate includono anche un rafforzamento del divieto per le app che promuovono il traffico di esseri umani e lo sfruttamento di minori. Secondo quanto riportato dall’azienda, nel corso dell’anno precedente, il processo di revisione ha portato al blocco di oltre 150.000 app e alla rimozione di 193.000 account sviluppatori per frode e abusi.
Queste nuove normative arrivano in un contesto in cui, a luglio, l’autorità di San Francisco aveva ordinato a Apple e Google di rimuovere le app di nudificazione, accusando le aziende di aver tratto profitto dalle commissioni degli store. Un rapporto di aprile aveva già evidenziato la presenza di diverse app di questo tipo su entrambe le piattaforme, alcune delle quali erano state valutate come adatte ai minori.
Con queste misure, Apple mira a proteggere i propri utenti e a mantenere l’integrità delle sue piattaforme, affrontando le sfide legate ai contenuti generati dagli utenti e all’uso improprio dell’intelligenza artificiale.
