Da bei der Backpropagation die Gewichte basierend auf konkreten Eingabedaten angepasst werden, besteht theoretisch das Risiko, dass sensible Informationen in den Parametern des Netzes „gespeichert“ werden (Inversion-Attacken). Um die Sicherheit und den Datenschutz zu erhöhen, setzen Unternehmen Techniken wie Differential Privacy ein. Dabei wird während der Gradientenberechnung gezielt Rauschen hinzugefügt, um die Anonymität einzelner Datensätze im Modell zu wahren.
