La proposta UE fa discutere: cercare messaggi di abuso sui minori nelle app di messaggistica (crittografate)

Ricordate l’iniziativa di Apple dell’anno scorso di scansionare gli iPhone alla ricerca di materiale pedopornografico? L’azienda di Cupertino aveva dovuto ritirare la funzione a furor di popolo, ma a quanto pare la Commissione Europea potrebbe aver imboccato la stessa strada, questa volta però per le app di messaggistica.

Come riportato infatti sul suo sito ufficiale, l’ente regolatore avrebbe proposto un nuovo regolamento inteso a combattere pedopornografia e adescamento di minori, che imporrebbe, se approvato, alle app di messaggistica di scansionare i messaggi degli utenti.

Ovviamente le app più coinvolte sarebbero Whatsapp, Signal, Telegram e Facebook Messenger, che dovrebbero, se la legge dovesse diventare effettiva, scansionare attraverso strumenti di intelligenza artificiale i messaggi di utenti selezionati alla ricerca di materiale contenente abusi sessuali sui minori (CSAM), noto e non, e qualsiasi messaggio che possa costituire “adescamento” o “sollecitazione”. Per dare un’idea delle dimensioni della legge, la proposta di Apple dell’anno scorso avrebbe cercato solo esempi noti di CSAM.

Una bozza era già apparsa all’inizio della settimana, e aveva cominciato ad accogliere un coro di critiche da parte degli esperti di privacy. I problemi rilevati sono essenzialmente due, e sono entrambi enormi.

• la nuova legge consentirà ai governi di accedere potenzialmente a tutti i messaggi degli utenti
• affinché funzioni, la proposta potrebbe minare (e persino rompere) la crittografia delle chat

Per quanto riguarda il primo punto, il regolamento stabilirebbe che gli “ordini di rilevamento” verrebbero emessi dalle singole nazioni dell’UE e la Commissione afferma che sarebbero “mirati e specificati” per ridurre le violazioni della privacy. Tuttavia, il regolamento non è chiaro su come sarebbero presi di mira questi ordini, se sarebbero limitati a individui e gruppi, ad esempio, o applicati a categorie molto più ampie. 

Secondo alcuni esperti, questo regolamento lascerebbe “completamente aperta la porta a una sorveglianza molto più generalizzata“, che descriverebbe “il più sofisticato meccanismo di sorveglianza di massa mai attuato al di fuori della Cina e dell’URSS.”. Ma non solo, non ci sarebbe infatti “modo di fare ciò che la proposta dell’UE cerca di attuare, se non che i governi leggano e scansionino i messaggi degli utenti su vasta scala”.

Per quanto riguarda il secondo punto, invece gli esperti di privacy concordano che pur non richiedendo esplicitamente la fine dei servizi crittografati, il regolamento imporrebbe di installare nei loro sistemi un software per rilevare CSAM che renderebbe impossibile una crittografia end-to-end robusta. Senza considerare il fatto che la legge rappresenterebbe un precedente che altri governi (anche gli stati autoritari) potrebbero copiare.

La parola ora passa alla Commissione. La proposta è sicuramente lodevole, ma come gli esperti hanno rilevato, sembra male implementata.