Discriminations algorithmiques
Défendre vos droits lorsque des systèmes algorithmiques ou d'intelligence artificielle produisent des décisions susceptibles de vous désavantager.
Les systèmes d’intelligence artificielle et les algorithmes sont désormais utilisés dans de nombreux domaines : recrutement, accès à l’emploi, crédit, assurance, plateformes numériques, services publics ou encore modération des contenus. Lorsqu’une décision automatisée entraîne une différence de traitement injustifiée ou porte atteinte à vos droits, il est essentiel d’en apprécier les conséquences juridiques et d’identifier les recours envisageables.
Quand une décision automatisée devient une source d'inégalité
Les algorithmes sont conçus pour assister ou automatiser certaines décisions. Ils peuvent toutefois reproduire ou amplifier des biais présents dans les données utilisées ou dans les modèles qui les alimentent. Dans certaines situations, ces traitements peuvent conduire à des différences de traitement qui affectent les personnes de manière injustifiée. L’identification d’une discrimination algorithmique nécessite une analyse juridique attentive des circonstances, des critères utilisés et des effets concrets de la décision.
Dans quelles situations intervenir ?
Vous pouvez être confronté à une discrimination algorithmique notamment lorsque :
- une candidature est systématiquement écartée sans explication ;
- un outil de recrutement automatisé défavorise certains profils ;
- un crédit ou une assurance vous est refusé sur la base d’un système de notation ;
- une plateforme limite votre visibilité ou suspend votre compte de manière injustifiée ;
- un service numérique applique des critères de sélection opaques ;
- une décision automatisée produit des conséquences défavorables sans possibilité d’explication ou de recours.
Toutes ces situations ne constituent pas nécessairement une discrimination au sens juridique, mais elles peuvent justifier une analyse afin d’en apprécier la légalité.
Mes domaines d'intervention
Analyse de votre situation
Chaque dossier fait l’objet d’une analyse individualisée afin d’identifier :
- les règles applicables ;
- les droits susceptibles d’être invoqués ;
- les éléments de preuve disponibles ;
- les recours envisageables.
Décisions automatisées
J’accompagne les personnes confrontées à des décisions reposant, en tout ou en partie, sur des traitements automatisés lorsqu’elles produisent des effets significatifs sur leur situation.
Discriminations dans le recrutement
Les outils d’intelligence artificielle utilisés pour le recrutement ou la gestion des candidatures peuvent soulever des questions relatives à l’égalité de traitement. J’interviens afin d’apprécier les recours susceptibles d’être exercés lorsque ces outils conduisent à une différence de traitement injustifiée.
Plateformes numériques
Les plateformes utilisent des systèmes algorithmiques pour organiser les contenus, recommander des publications ou prendre certaines décisions concernant les utilisateurs. Lorsque ces décisions produisent des effets défavorables, il est possible d’en apprécier la conformité aux règles applicables et d’envisager les démarches appropriées.
Intelligence artificielle et droits fondamentaux
Les systèmes d’intelligence artificielle peuvent avoir des conséquences sur plusieurs droits fondamentaux, notamment :
- le droit à l’égalité de traitement ;
- le respect de la vie privée ;
- le droit à une information suffisante ;
- le droit à un recours effectif.
Chaque situation mérite une analyse tenant compte de l’ensemble des règles applicables.
Une approche fondée sur la protection des droits
Les discriminations algorithmiques constituent un sujet émergent. Toutes les décisions défavorables ne sont pas nécessairement discriminatoires. À l’inverse, certaines différences de traitement peuvent être difficiles à identifier lorsqu’elles résultent d’un traitement automatisé. Mon rôle consiste à analyser les circonstances de votre situation, à apprécier les règles applicables et à vous accompagner dans les démarches permettant de faire valoir vos droits.
Les discriminations algorithmiques : un enjeu qui dépasse les situations individuelles
Les systèmes algorithmiques sont souvent utilisés à grande échelle. Lorsqu’un même outil est déployé auprès de milliers d’utilisateurs, de salariés, de candidats ou de consommateurs, une différence de traitement peut concerner simultanément un nombre important de personnes. Dans ce contexte, certaines situations peuvent dépasser le cadre d’un litige individuel et soulever des questions d’intérêt collectif, notamment lorsqu’elles révèlent un dysfonctionnement systémique ou un risque de discrimination affectant un groupe de personnes. Selon les circonstances, différents acteurs peuvent être amenés à intervenir pour assurer la défense des droits des personnes concernées.
Le rôle des associations
Certaines associations agréées ou investies d’une mission de défense des droits peuvent accompagner les personnes confrontées à des pratiques susceptibles de porter atteinte à leurs droits ou à leurs libertés. Leur intervention peut contribuer à :
- informer les personnes concernées sur leurs droits ;
- documenter des pratiques susceptibles d’affecter un grand nombre de personnes ;
- soutenir des démarches amiables ou contentieuses ;
- participer à l’évolution des pratiques et à une meilleure protection des droits fondamentaux dans l’environnement numérique.
Les actions collectives
Lorsque plusieurs personnes sont confrontées à une même pratique ou à un même traitement algorithmique, des mécanismes d’action collective peuvent, dans certains cas, être envisagés selon le cadre juridique applicable. Ces actions permettent de répondre à des situations qui dépassent les intérêts d’une seule personne et interrogent plus largement les conditions d’utilisation de certains systèmes numériques. Chaque situation nécessite toutefois une analyse préalable afin d’apprécier les voies de recours les plus adaptées.
Questions fréquentes
Les traitements automatisés ne sont pas toujours visibles. Une analyse permet d’identifier les informations disponibles et les droits pouvant être exercés afin de mieux comprendre les modalités de la décision.
Non. L’utilisation d’un système d’intelligence artificielle ne suffit pas, à elle seule, à caractériser une discrimination. Il convient d’examiner les circonstances de chaque situation et les effets produits sur la personne concernée.
Selon les circonstances, différents recours peuvent être envisagés afin de demander des explications, de faire réexaminer une décision ou de faire valoir vos droits.
Non. Elles peuvent également apparaître dans d’autres domaines, comme l’accès au crédit, aux assurances, aux services numériques, aux plateformes ou à certains services publics.
Publications associées
- Les discriminations algorithmiques : de quoi parle-t-on ?
- Intelligence artificielle et égalité de traitement.
- Les outils de recrutement automatisé : quels enjeux juridiques ?
- Peut-on contester une décision prise par un algorithme ?
- Les droits fondamentaux face aux systèmes d’intelligence artificielle.
Échangeons sur votre situation
Vous estimez avoir subi une décision injustifiée prise ou facilitée par un système algorithmique ou d’intelligence artificielle ? Je vous accompagne afin d’analyser votre situation, d’identifier les recours envisageables et de défendre vos droits face aux usages des technologies numériques.