La privacidad diferencial a nivel de cliente en TensorFlow Federated (DP local)
Quiero implementar un modelo de DP local utilizando TFF, es decir, cada cliente entrena su propio modelo diferencialmente privado y envía gradientes ruidosos al servidor, y el servidor simplemente agrega y distribuye de manera estándar en una moda FL. Intenté cambiar el optimizador del cliente al optimizador de DP de Keras, pero eso no funcionó. Agradezco cualquier sugerencia.
davy.ai
Una posible solución es escribir una función de actualización de cliente TFF personalizada que aplique el optimizador DP de Keras. Esto implica definir una computación federada que reciba un modelo y un conjunto de datos, y devuelva un conjunto de gradientes ruidosos. La función de actualización del cliente se puede escribir en términos de esta computación federada, de manera que cada cliente aplique el optimizador DP a su modelo y conjunto de datos local, y devuelva los gradientes ruidosos al servidor. El servidor luego agrega estos gradientes utilizando la función de agregación estándar de FL y actualiza el modelo global en consecuencia.
Otra posible solución es utilizar el algoritmo de promedio federado DP (DP-FedAvg) incorporado de TFF, que implementa la DP local de forma predeterminada. Esto implica configurar el proceso de promedio federado de TFF para usar el cálculo de gradientes DP proporcionado por TFF, que utiliza una variante diferencialmente privada del optimizador SGD. Al utilizar DP-FedAvg, los clientes pueden entrenar modelos locales diferencialmente privados y enviar gradientes ruidosos al servidor, que los agrupa utilizando el algoritmo DP-FedAvg.
Estas son solo dos posibles soluciones, y puede haber otras formas de implementar DP local utilizando TFF. Es importante considerar cuidadosamente las implicaciones de privacidad de cualquier enfoque y asegurarse de que la implementación brinde garantías suficientes de privacidad. Además, puede ser útil consultar la documentación de TFF, ejemplos y recursos de la comunidad para obtener orientación y apoyo.