Förderprojekte

Förderbeginn 01.01.2021

Sicheres und datenschutzwahrendes Federated Machine Learning

Prof. Dr. Alexandra Dmitrienko
Universität Würzburg
Institute of Computer Science II

Prof. Dr. Farinaz Koushanfar
University of California, San Diego
Jacobs School of Engineering

Dieses Projekt zielt auf eine Verbesserung der Sicherheit und des Datenschutzes von Künstlicher Intelligenz und Techniken des Maschinellen Lernens ab. Die Verbesserung des Datenschutzes wird durch die Anwendung von Federated Learning (FL) erreicht – ein Ansatz, bei dem das Training der Modelle lokal stattfindet, während die lokal trainierten Modelle in einer zentralen Instanz zusammengefasst werden, bevor sie gemeinsam wieder an die Clients zurückverteilt werden. FL hilft den Datenschutz von Trainingsdaten zu bewahren, da eine zentrale Sammlung der Daten nicht notwendig ist. Allerdings sind FL Ansätze selbst anfällig durch Sicherheits- und Datenschutzrisiken. Zum Beispiel sind Angriffe bekannt, bei denen Informationen von Trainingsdaten durch lokale Modellupdates geschlussfolgert werden können. Ein weiterer bekannter Angriffsvektor sind „Data Poisoning“ Angriffe, bei denen ein Angreifer die Trainingsdaten manipuliert. In diesem Projekt wollen wir die offenen Probleme von FL Methoden lösen und ein verbessertes Verfahren entwickeln, das sowohl den Datenschutz wahrt als auch resistent gegen „Data Poisoning“ ist.