Privacy-Preserving Deep Learning Using Homomorphic Encryption

Abstract

Machine learning algorithms have achieved remarkable results and are widely applied in a variety of domains. These algorithms often rely on sensitive and private data such as medical or financial records. It is therefore vital to draw further attention regarding privacy threats and corresponding defensive techniques for machine learning. Research community has proposed a wide range of defensive techniques to preserve data privacy in these systems, one of the promising approach is homomorphic encryption. Thus we revisit existing works that have contributed to reducing the cost of evaluating neural networks on encrypted data, mainly using homomorphic encryption schemes, as well as training neural network on encrypted data. Finally we summarize the empirical results reported in each work and the key differences between them in order to provide a practical comparison of performances and complexity.***

Les algorithmes d’apprentissage automatique ont obtenu des résultats remarquables et sont largement utilisés dans divers domaines. Ces algorithmes dépendent souvent de données privées et sensibles telles que des données médicales ou financières. Il est donc essentiel d’attirer davantage l’attention sur les menaces à la privacy et les techniques de défense correspondante pour l’apprentissage automatique. La communauté des chercheurs a proposé différentes techniques de défense pour la préservation de la privacy dans ces systèmes, l’une des approches prometteuses étant le chiffrement homomorphe. Nous revisitons donc les travaux existants qui ont contribué à la diminution du cout de calcul lors de l’évaluation des réseaux de neurones sur des données chiffrées, principalement en utilisant le chiffrement homomorphe, ainsi que l’entrainement des réseaux de neurones sur des données chiffrés. Au final, nous résumons les résultats empiriques rapportés par différents travaux et les différences principales entre eux afin de fournir une comparaison pratique des performances.