Di Luca Sambucci

Il federated learning è una tecnica che consente di addestrare modelli AI su dataset distribuiti, ovvero divisi e presenti su sistemi separati, come se fossero un unico grande dataset. Questo avviene quando le parti non vogliono condividere i loro dati le une con le altre (pensiamo ad esempio a un ambiente ospedaliero, dove i dataset contengono dati sensibili che non è possibile condividere con altri reparti o con altri ospedali).

Con il federated learning è possibile mantenere i vari dataset sui rispettivi server, senza che vi sia scambio o trasferimento di dati, ma godere comunque di un algoritmo addestrato usando i dati di tutte le parti che collaborano al training.

La tecnologia è interessante anche per il settore finanziario, dove le società coinvolte hanno necessità di addestrare algoritmi – ad esempio per il rilevamento delle frodi – usando i dati di tutte le aziende partecipanti, ma nessuna ha intenzione di condividere i propri dati con le altre.

Ricercatori dell’Università di Stavanger, in Norvegia, della Rheinisch-Westfälische Technische Hochschule Aachen e dell’Università di Colonia, entrambe in Germania, hanno tuttavia dimostrato che è possibile effettuare un reverse engineering delle tecniche di federated learning per recuperare i dati sottostanti, che si intendeva mantenere privati, a condizione che l’attaccante abbia accesso agli aggiornamenti dell’algoritmo condiviso.

Questo problema, se non risolto, potrebbe ora rendere la tecnica meno appetibile in tutti quei casi di addestramento collaborativo dove è necessaria una maggiore privacy dei dati.

Per approfondire: Towards General Deep Leakage in Federated Learning

***Abbiamo stipulato un accordo con l’autore per la divulgazione di alcuni suoi articoli. L’articolo originale si trova sul sito Notizie.ai