Commençons par un exemple ; supposons que votre employeur utilise un système d’IA pour analyser les données des employés et prendre des décisions concernant l’embauche et la promotion. Dans ce cas, il est possible qu’il utilise votre race ou votre sexe comme l’un de ses critères pour prendre ces décisions. Si cela se produit à votre insu ou sans votre consentement, en particulier si vous n’êtes pas d’accord avec la façon dont ils sont utilisés, il pourrait y avoir des implications juridiques pour l’entreprise et les employés. Ce problème a été au moins partiellement résolu en restreignant l’accès à certains types d’informations sensibles comme les visages et le sexe tout en permettant l’accès via d’autres canaux tels que les termes de recherche de texte ou les coordonnées GPS. Cependant, ces solutions ne résolvent toujours pas complètement tous les problèmes de confidentialité, car il y aura toujours des moyens de les contourner.
Ce problème a été au moins partiellement résolu en restreignant l’accès à certains types d’informations sensibles comme les visages et le sexe tout en permettant l’accès via d’autres canaux tels que les termes de recherche de texte ou les coordonnées GPS, mais ces solutions ne résolvent toujours pas complètement tous les problèmes de confidentialité depuis il y aura toujours des moyens de les contourner; quelqu’un ne pouvait pas prendre de photos sans inclure aucun visage.
Pourquoi est-ce important
Imaginez maintenant si Facebook avait pu utiliser un logiciel de reconnaissance faciale sur toutes ces photos téléchargées au fil des ans ; ils pourraient facilement constituer une vaste base de données contenant des milliers et des milliers de visages sans jamais demander la permission à aucun utilisateur. De même, une agence ou une entreprise gouvernementale pourrait utiliser un système d’intelligence artificielle comme celui-ci dans les aéroports ou les points de contrôle sans demander la permission à quiconque pourrait passer par ces points de contrôle ou sans tenir compte du nombre de fois où nous avons vu des entreprises comme Facebook nous demander l’accès afin que « notre amis » peuvent voir ce que nous faisons (et vice versa). Ceci est particulièrement préoccupant car de nombreuses applications permettent aux utilisateurs de partager leurs données avec des amis et des membres de la famille. Dans ces cas, le partage d’informations personnelles peut être volontaire, mais permet toujours l’accès à des tiers en raison des paramètres de confidentialité par défaut dans la plupart des applications qui rendent les données sensibles accessibles au public par défaut ou nécessitent une action positive de la part des utilisateurs avant d’apporter des modifications (comme la désactivation des services de localisation).
Ce qui peut être fait?
Les solutions d’IA doivent être conçues de manière à pouvoir apprendre sans pouvoir identifier les individus par leur nom ou d’autres identifiants directs. Ceci est important car cela garantit que vos données restent anonymes et privées tout en permettant à l’algorithme d’apprentissage automatique de faire des prédictions précises. Un exemple de ce type de système d’IA est celui qui prédit si une personne sera diagnostiquée avec une maladie spécifique à l’avenir en fonction de ses données de séquence génomique. Dans ce cas, avant de faire des prédictions sur la probabilité qu’un individu développe un cancer ou la maladie d’Alzheimer en fonction de sa constitution génétique, toutes les informations personnelles doivent être supprimées de l’ensemble de données (par exemple, noms, religion, nationalité, etc.). Cela permet aux chercheurs d’étudier les tendances sur de grandes populations sans compromettre la vie privée de quiconque. Ces types de systèmes sont appelés « anonymisés », ce qui signifie que toute information sur les individus dans l’ensemble de données est supprimée avant d’être utilisée. Il s’agit d’une mesure de protection de la vie privée qui permet aux chercheurs et à d’autres personnes ayant accès à des ensembles de données anonymisés d’analyser les informations sans compromettre la vie privée des personnes qui y sont représentées. Désormais, l’anonymisation n’est pas la même chose que l’anonymisation des données : les ensembles de données anonymisés peuvent toujours contenir des identifiants indirects tels que des codes postaux, des dates de naissance ou des numéros de téléphone, qui pourraient être utilisés pour identifier des individus s’ils étaient liés à d’autres sources (telles que des enregistrements de recensement ). Par exemple, votre numéro de mobile à 10 chiffres peut être modifié avec un ensemble de chiffres différent, mais ce sera toujours le même dans l’ensemble de données.
Approches pour rendre l’IA plus privée et sécurisée
Confidentialité différentielle
La confidentialité différentielle est une technique largement utilisée pour le ML préservant la confidentialité. L’objectif de la confidentialité différentielle est de protéger la confidentialité des points de données individuels dans un ensemble de données en ajoutant du bruit aux données. Le bruit est ajouté pour garantir que la sortie du modèle ML n’est pas affectée de manière significative. Cela implique d’ajouter une quantité de bruit soigneusement calibrée aux données, ce qui rend difficile l’identification des données d’un individu. La quantité de bruit ajoutée aux données est déterminée par un paramètre appelé epsilon. Plus la valeur epsilon est élevée, plus le bruit est ajouté aux données et plus la protection de la vie privée est élevée. Cependant, à mesure que le nombre de bruits augmente, la précision du modèle ML diminue. Par conséquent, trouver une valeur optimale pour epsilon est crucial pour atteindre un équilibre entre confidentialité et précision.
Apprentissage fédéré
Diverses applications ont utilisé l’apprentissage fédéré, notamment le traitement du langage naturel, la classification des images et les systèmes de recommandation. En outre, l’apprentissage fédéré peut être utilisé dans des situations où la confidentialité des données est cruciale et peut également être utilisé dans des situations où les données ne sont pas facilement transférables vers un emplacement central. Par exemple, il peut être utilisé pour former des modèles ML sur des appareils mobiles, où les utilisateurs peuvent ne pas vouloir partager leurs données avec un serveur central.
Cryptage homomorphe
Le chiffrement homomorphe permet au système d’effectuer des opérations sur les données chiffrées sans les déchiffrer. Cette technique peut être utilisée pour former des modèles ML sur des données chiffrées, en veillant à ce que les données restent privées. Le chiffrement homomorphe peut être appliqué à divers modèles ML, notamment la régression linéaire, les arbres de décision et les réseaux de neurones. Le chiffrement consiste à utiliser des opérations mathématiques sur des données chiffrées sans les déchiffrer. Cette technique est particulièrement utile lorsque vous travaillez avec des données sensibles qui ne peuvent pas être partagées, telles que des dossiers médicaux ou des données financières. Cependant, le chiffrement homomorphe est coûteux en calcul, ce qui le rend moins pratique pour certaines applications.
Bibliothèques pour créer des modèles préservant la confidentialité
Conclusion
La confidentialité devient une préoccupation de plus en plus importante dans le domaine de l’IA. Heureusement, il existe plusieurs techniques disponibles pour développer des modèles préservant la vie privée. La confidentialité différentielle, l’apprentissage fédéré et le chiffrement homomorphe ne sont que quelques exemples de ces techniques. Avec la bonne approche, nous pouvons continuer à progresser dans le domaine de l’apprentissage automatique tout en répondant aux problèmes de confidentialité.
J’espère que cet article vous permettra de mieux comprendre pourquoi il est essentiel d’avoir des systèmes préservant la vie privée et comment nous pouvons protéger au mieux la vie privée des individus tout en développant un système d’intelligence artificielle plus robuste et plus avancé.