Big Data, machine learning, intelligence artificielle

« Tracking » et « profiling » sont deux notions étroitement liées

Chaque individu laisse un grand nombre de traces chaque jour, lors de sa navigation en ligne, de l’utilisation d’applications mobiles ou d’ objets connectés, lors de ses achats et de ses déplacements…

Le « tracking » ou suivi de la personne peut permettre de mesurer l’audience sous forme de statistiques agrégées ; il peut aussi servir à constituer un profil de la personne afin de lui adresser de la publicité ciblée et des services personnalisés.

De nombreuses solutions sont utilisées en ce sens: Javascript, Supercookies, le Fingerprinting, les divers capteurs du mobile, Deep Packet Inspection (DPI)…

En démultipliant les possibilités d’interconnexion entre les données collectées « Online » et « Offline », le Big Data augmente les risques de violation de confidentialité et d’atteinte aux droits et libertés des personnes.

Qu’est-ce que le « Profiling » ou profilage?

Le « profiling » est un traitement automatisé de données dont la finalité est d’analyser ou de prédire la personnalité ou certains aspects de la personne, tels que ses performances au travail, sa situation économique, sa localisation, sa santé, ses préférences, sa fiabilité ou ses comportements .

Le profil d’une personne constitue en lui même une données à caractère personnel.

Le règlement européen de protection des données personnelles encadre les traitements automatisés de données personnelles et tout particulièrement les traitements de « profiling ».

En pratique, une organisation peut seulement être aussi intelligente que la somme de ses observations collectées dans les divers systèmes de l’entreprise, éventuellement enrichis de données de sources externes. « The data finds the data », c’est à l’utilisateur d’en déterminer la pertinence et la proportionnalité sur la base de critères prédéfinis.

Les traitements de Big Data exigent d’avoir une démarche de Data Protection & Privacy by Design. Il s’agit notamment d’intégrer les règles suivantes:

-minimisation des données,

-dé-identification ou anonymisation des données personnelles,

-gestion, traçabilité et contrôle des accès.

Pas de Big Data ni d’Intelligence artificielle sans protection des données et de la vie privée

• S’ils sont susceptibles d’exclure des personnes du bénéfice d’un droit, d’une prestation ou d’un contrat 
• S’ils portent sur l’interconnexion de fichiers dont les finalités principales sont différentes 
• S’ils font apparaître, directement ou indirectement des données « sensibles »,
• S’ils comportent des appréciations sur les difficultés sociales des personnes.

De plus, toute personne a le droit d’obtenir du responsable de traitement les informations permettant de connaître et de contester la logique qui sous-tend le traitement automatisé en cas de décision prise sur le fondement de celui-ci et produisant des effets juridiques à son égard.

Or, la quantité et la variété de données traitées peuvent aboutir au traitement de données sensibles; la fusion et le croisement de données apparemment anodines en elles-mêmes permettent de ré-identifier des personnes.

S’ils ne sont pas suffisamment encadrés, les traitements Big Data peuvent porter atteinte aux droits et libertés fondamentaux des personnes : violation de la vie privée, usurpation d’identité, exclusion, discrimination ou stigmatisation, privation de liberté ou d’un droit…

Des risques liés aux technologies et solutions de machine learning utilisées pour l’exploitation des gros volumes de données (Big Data)

Face à la variété des données en grande partie non structurées (format texte, image, vidéo, son, données de capteurs, flux d’informations, traces numériques), du fait de leur volume et de leur vélocité (fréquence de génération, de collecte, de modification des données), la typologie SQL, trop rigide, n’est pas adaptée.

Les Big Data reposent sur la statistique inférentielle et permet le traitement de gros volumes de données dont le potentiel en information pertinente est très faible .

Ensuite, les données font l’objet d’un traitement massivement parallèle qui consiste à les distribuer sur des milliers de nœuds.

Une fois le traitement effectué, les résultats partiels sont agglomérés en un résultat final envoyé aux frameworks d’Analytics .

Le machine learning permet d’exploiter ces grosses masses de données.La combinaison de ces deux concepts (Big Data, ML) avec celui d’intelligence artificielle est appelé « big data analytics ».

Conformément à l’obligation de rendre compte (accountability), tous les projets de Machine Learning devraient commencer par une description claire et documentée des objectifs initiaux (résultats souhaités et non souhaités) et des hypothèses. Afin de gérer les risques pour les droits et libertés des personnes, il est essentiel de comprendre quelles sont les exigences liées au modèle et les données utilisées par ce modèle à tous les stades (nature et qualité des données i.e caractère identifiant, caractéristiques, fraicheur, provenance, complétude…), ainsi que les biais susceptibles d’apparaitre.

De plus, l’exploitation des Big Data fait intervenir de nombreux acteurs avec des solutions diverses qu’il est difficile de maitriser pour le responsable des traitements: autant de facteurs de risques pour la transparence, la sécurité des données et la conformité des traitements.