Oui, et là vous touchez à ce qui peut devenir votre véritable marque de fabrique intellectuelle. Vous ne voulez pas écrire un guide sur les libertés fondamentales. Vous voulez écrire un guide sur la protection des personnes lorsqu’elles sont confrontées à un pouvoir exercé au moyen des technologies numériques. C’est beaucoup plus fort. En réalité, le fil conducteur n’est pas la technologie. Ce n’est pas non plus la liberté fondamentale. C’est l’asymétrie de pouvoir. Les technologies numériques amplifient le pouvoir de certains acteurs sur d’autres. Le droit intervient pour rétablir un équilibre. C’est exactement la logique de la responsabilité numérique. On retrouve ce schéma partout.

• État ↔ administré
• Employeur ↔ salarié
• Plateforme ↔ utilisateur
• Plateforme ↔ professionnel
• Banque ↔ client
• ↔

Assurance assuré

• Établissement scolaire ↔ élève
• Université ↔ étudiant
• Hôpital ↔ patient
• Réseau social ↔ créateur de contenu
• Administration ↔ citoyen
• Fournisseur d’IA ↔ utilisateur
• ↔

Vendeur consommateur

• Propriétaire d’une technologie ↔ personne concernée

Le numérique ne crée pas ces rapports de pouvoir. Il les transforme, les automatise, les intensifie et parfois les rend invisibles. Le droit des libertés fondamentales consiste alors à limiter l’exercice de ce pouvoir. Je pense donc que le guide devrait être construit autrement.

fondamentales face aux pouvoirs numériques

ou encore

Les libertés fondamentales à l’épreuve des technologies numériques

Sous-titre : Comprendre comment le droit protège les personnes face aux nouveaux pouvoirs exercés grâce aux technologies numériques. La structure pourrait devenir :

PARTIE I — Les technologies numériques et les nouveaux rapports de pouvoir

Chapitre 1

Pourquoi les technologies numériques modifient-elles les rapports de pouvoir ?

Chapitre 2

Les libertés fondamentales comme limite à l’exercice du pouvoir numérique

Chapitre 3

Les acteurs exerçant un pouvoir numérique

• l’État
• les collectivités
• les employeurs
• les plateformes
• les fournisseurs d’IA
• les entreprises
• les établissements scolaires
• les établissements de santé

PARTIE II — Les principaux rapports de pouvoir

L’État et les administrés

• identité numérique
• vidéosurveillance
• IA publique
• reconnaissance faciale
• services publics numériques

L’employeur et le salarié

• surveillance
• IA RH
• contrôle du temps de travail
• géolocalisation
• messagerie professionnelle
• télétravail

Les plateformes et les utilisateurs

• modération
• déréférencement
• classement
• données personnelles
• publicité ciblée

Les plateformes et les professionnels

• dépendance économique
• notation
• référencement
• suspension de compte

Les entreprises et les consommateurs

• profilage
• publicité comportementale
• tarification algorithmique
• dark patterns

Les établissements scolaires et les élèves Les établissements de santé et les patients

PARTIE III — Les libertés fondamentales protégées

• vie privée
• données personnelles
• égalité
• non-discrimination
• liberté d’expression
• droit à l’information
• droit au recours
• dignité
• autonomie

PARTIE IV — Les mécanismes de protection

• CEDH
• Charte européenne
• RGPD
• AI Act
• DSA
• Constitution
• CNIL
• juge judiciaire
• juge administratif

PARTIE V — Prévenir les atteintes aux libertés fondamentales

• analyse d’impact
• transparence
• responsabilité
• contrôle humain
• documentation
• recours

Ce qui me paraît particulièrement innovant

Cette approche ne consiste plus à décrire des droits de manière abstraite. Elle montre comment les technologies numériques redistribuent les rapports de pouvoir et comment le droit intervient pour protéger les personnes face à ces nouveaux modes d’exercice du pouvoir. C’est une lecture transversale qui relie naturellement le droit public, le droit du travail, le droit de la consommation, le droit des plateformes, le RGPD, l’AI Act et la cybersécurité. À mon sens, elle est parfaitement cohérente avec votre concept central de responsabilité numérique : celle-ci peut être définie comme l’ensemble des règles et des pratiques destinées à garantir que l’exercice d’un pouvoir rendu possible par les technologies numériques demeure compatible avec les libertés fondamentales et les droits des personnes. C’est un angle éditorial original et fédérateur, qui distingue votre approche de celle des ouvrages classiques sur le droit du numérique.

Introduction

Pendant longtemps, les rapports de pouvoir se sont principalement exercés au moyen de l’autorité humaine, de l’organisation des institutions ou de la détention de ressources économiques. Aujourd’hui, les technologies numériques modifient profondément cette réalité. Les données, les algorithmes, l’intelligence artificielle, les plateformes numériques, les dispositifs de surveillance, les objets connectés ou encore les systèmes de décision automatisés permettent d’exercer un pouvoir avec une intensité, une rapidité et une échelle inédites. Les technologies numériques ne créent pas de nouveaux pouvoirs. Elles augmentent les pouvoirs déjà exercés par les personnes publiques et privées. L’État peut renforcer ses capacités de surveillance et d’analyse. L’employeur peut développer des outils de contrôle de l’activité des salariés. Les plateformes numériques peuvent influencer l’accès à l’information, la visibilité des contenus ou les comportements économiques. Les banques et les assureurs peuvent automatiser certaines décisions grâce aux traitements algorithmiques. Les établissements de santé, les établissements scolaires ou les collectivités publiques utilisent également des outils numériques susceptibles d’affecter les droits des personnes. Face à cette augmentation des capacités d’action, le droit joue un rôle essentiel. Il fixe des limites à l’exercice de ces pouvoirs afin de préserver les libertés fondamentales. Le respect de la vie privée, la protection des données personnelles, la liberté d’expression, le principe d’égalité, la non-discrimination, le droit à un recours effectif ou encore la protection des mineurs constituent autant de garanties destinées à assurer que les technologies numériques demeurent au service des personnes. Ce guide propose d’examiner la manière dont le droit protège les libertés fondamentales face à l’exercice d’un pouvoir augmenté par les technologies numériques. Je modifierais également entièrement le plan.

PARTIE I — Les technologies numériques et l’augmentation des rapports de pouvoir

Chapitre 1 Les libertés fondamentales à l’ère des technologies numériques Chapitre 2 Les technologies numériques comme facteurs d’augmentation du pouvoir

C’est ici que vous introduisez votre concept. Pouvoir de surveiller. Pouvoir de décider. Pouvoir de classer. Pouvoir de prédire. Pouvoir d’influencer. Pouvoir d’exclure. Pouvoir de profiler. Pouvoir de contrôler.

Chapitre 3 Les principaux rapports de pouvoir augmentés

• ↔

État administrés

• Employeur ↔ salariés
• Plateformes ↔ utilisateurs
• Plateformes ↔ professionnels
• Entreprises ↔ consommateurs
• Banques ↔ clients
• Assureurs ↔ assurés
• Établissements scolaires ↔ élèves
• ↔

Professionnels de santé patients Puis seulement :

PARTIE II

Comment le droit protège les libertés fondamentales ?

Non pas liberté par liberté. Mais rapport de pouvoir par rapport de pouvoir. Par exemple :

Chapitre 4 L’État face aux administrés

• vidéosurveillance
• IA
• reconnaissance faciale
• identité numérique
• fichiers

Chapitre 5 L’employeur face au salarié

• surveillance
• IA RH
• contrôle
• géolocalisation
• télétravail

Chapitre 6 Les plateformes face aux utilisateurs Chapitre 7 Les entreprises face aux consommateurs Chapitre 8 Les établissements scolaires face aux élèves Chapitre 9 Les établissements de santé face aux patients

Oui, c’est indispensable. Mais je ne parlerais pas de rubrique. J’en ferais le premier chapitre. En tant qu’avocate, vous devez commencer par clarifier le vocabulaire, car ces notions sont souvent confondues, y compris par des juristes. En revanche, je ne me contenterais pas de les définir. Il faut expliquer pourquoi ces distinctions ont une utilité pratique dans un ouvrage consacré aux technologies numériques. Je proposerais le chapitre suivant.

Chapitre 1 — Comprendre les notions de droits fondamentaux, de libertés fondamentales et de libertés publiques

Introduction

Les expressions droits fondamentaux, libertés fondamentales et libertés publiques sont fréquemment utilisées comme des synonymes. Pourtant, elles ne recouvrent pas exactement les mêmes réalités juridiques. Comprendre ces notions est essentiel. Elles déterminent les droits dont disposent les personnes, les obligations des autorités publiques et des acteurs privés, ainsi que les mécanismes permettant de prévenir ou de faire cesser les atteintes susceptibles de résulter de l’utilisation des technologies numériques. Avant d’examiner les effets des algorithmes, de l’intelligence artificielle, des plateformes numériques ou des dispositifs de surveillance, il convient donc de préciser ces concepts.

I. Les droits fondamentaux

Définition. Origines. Les sources :

• Constitution ;
• Convention européenne des droits de l’homme ;
• Charte des droits fondamentaux de l’Union européenne ;
• droit international.

Les principales caractéristiques. Pourquoi parle-t-on aujourd’hui principalement de droits fondamentaux ?

II. Les libertés fondamentales

Définition. Les libertés fondamentales comme catégorie particulière des droits fondamentaux. Exemples :

• liberté d’expression ;
• liberté d’aller et venir ;
• liberté de conscience ;
• liberté d’association ;
• liberté d’entreprendre.

Leur protection par le juge.

III. Les libertés publiques

Origine historique. Le droit administratif français. Les rapports entre l’administration et les administrés. L’évolution vers la notion de droits fondamentaux. Pourquoi cette expression demeure utilisée.

IV. Quelle différence entre ces trois notions ?

Un tableau comparatif. Droits fondamentauxLibertés fondamentalesLibertés publiques Concept le plus largeSous-catégorieConcept historique français Protègent les droits essentiels de la Protègent principalement Protègent les citoyens contre personneles libertésl’administration Sources nationales, européennes et Même sourcesPrincipalement droit interne internationales Puis une conclusion importante. Les trois notions demeurent utiles. Toutefois, le droit européen et la jurisprudence utilisent aujourd’hui principalement la notion de droits fondamentaux, qui permet d’appréhender l’ensemble des droits et libertés reconnus à la personne, qu’ils soient opposables à l’État ou, dans certaines situations, aux acteurs privés.

V. Pourquoi ces notions sont-elles essentielles à l’ère des technologies numériques ?

Et c’est ici que votre guide devient original. Vous faites le lien avec votre théorie. Par exemple : Les technologies numériques permettent aujourd’hui à des acteurs publics et privés d’exercer un pouvoir accru grâce aux données, aux algorithmes, à l’intelligence artificielle ou aux plateformes numériques. Ce pouvoir augmenté est susceptible d’affecter plusieurs droits fondamentaux. Puis un tableau. Rapport de Technologies utiliséesDroits fondamentaux concernés pouvoir Vie privée, liberté d’aller et venir, recours État / administréIA, vidéosurveillance, fichiers effectif Employeur / IA RH, géolocalisation, surveillanceVie privée, dignité, non-discrimination salarié Plateforme / Algorithmes, modération, Liberté d’expression, information, utilisateurrecommandationrecours Banque / clientScoring, IAÉgalité, non-discrimination Assureur / assuréProfilage, IAVie privée, égalité École / élèveOutils numériques, IAProtection des mineurs, vie privée Hôpital / patientIA médicale, données de santéVie privée, autonomie, secret médical Je pense même que vous pouvez aller plus loin en assumant une prise de position doctrinale. Vous pourriez écrire, dès ce premier chapitre : Dans ce guide, l’expression « droits fondamentaux » sera privilégiée. Elle traduit l’évolution contemporaine du droit, qui ne se limite plus à protéger les personnes contre les seules atteintes de l’autorité publique. Les technologies numériques permettent désormais à de nombreux acteurs privés — plateformes numériques, employeurs, banques, assureurs, fournisseurs de systèmes d’intelligence artificielle ou grandes entreprises technologiques — d’exercer un pouvoir susceptible d’affecter les droits et libertés des personnes. L’approche par les droits fondamentaux offre ainsi un cadre d’analyse plus adapté aux défis posés par les technologies numériques. Cette précision est importante, car elle justifie juridiquement votre choix terminologique et s’inscrit parfaitement dans votre concept de responsabilité numérique, fondé sur l’encadrement des pouvoirs augmentés par les technologies numériques, qu’ils soient exercés par des acteurs publics ou privés. C’est une ligne doctrinale cohérente, moderne et différenciante. Parfait. Je pense que nous devons profiter de ce guide pour poser votre doctrine, qui servira ensuite de fil conducteur à tous les autres guides. Je rédigerais ce premier chapitre comme un véritable chapitre fondateur.

Chapitre 1 — Comprendre les notions de droits fondamentaux, de libertés fondamentales et de libertés publiques

Introduction

Les expressions droits fondamentaux, libertés fondamentales et libertés publiques sont fréquemment employées de manière interchangeable. Pourtant, elles ne recouvrent ni les mêmes réalités juridiques, ni les mêmes champs de protection. Cette distinction dépasse la simple question de vocabulaire. Elle permet de comprendre comment le droit protège les personnes face à l’exercice du pouvoir, qu’il soit exercé par les autorités publiques ou, désormais, par des acteurs privés utilisant des technologies numériques. Les progrès technologiques ont profondément modifié l’exercice de nombreux pouvoirs. L’intelligence artificielle, les plateformes numériques, les systèmes algorithmiques, les technologies biométriques ou encore les dispositifs de surveillance permettent aujourd’hui de collecter, d’analyser, de prédire et d’influencer les comportements à une échelle inédite. Ces technologies n’instituent pas de nouveaux pouvoirs. Elles renforcent les capacités d’action des acteurs qui les utilisent. Autrement dit, elles contribuent à augmenter des pouvoirs qui existaient déjà. Dans ce contexte, la protection des droits fondamentaux constitue l’un des principaux mécanismes juridiques destinés à préserver la personne contre les risques susceptibles de résulter de cet exercice augmenté du pouvoir. Avant d’étudier ces mécanismes, il convient de préciser les notions de droits fondamentaux, de libertés fondamentales et de libertés publiques.

I. Les droits fondamentaux : le socle de la protection de la personne

La notion de droits fondamentaux occupe aujourd’hui une place centrale dans les systèmes juridiques nationaux, européens et internationaux. Elle désigne l’ensemble des droits reconnus comme essentiels à la dignité, à la liberté et à l’égalité de toute personne. Ces droits constituent le socle de l’État de droit. Ils s’imposent aux pouvoirs publics. Ils peuvent également produire des effets dans les relations entre personnes privées lorsque la loi ou la jurisprudence le prévoit. Les droits fondamentaux trouvent leur source dans plusieurs instruments juridiques. Au niveau international, ils sont consacrés notamment par la Déclaration universelle des droits de l’homme de 1948 et par les principaux traités relatifs aux droits de l’homme. Au niveau européen, ils sont protégés par la Convention européenne des droits de l’homme et par la Charte des droits fondamentaux de l’Union européenne. En droit français, ils trouvent leur fondement dans le bloc de constitutionnalité, ainsi que dans de nombreuses dispositions législatives. La notion de droits fondamentaux présente aujourd’hui un avantage majeur. Elle permet d’appréhender de manière globale l’ensemble des droits reconnus à la personne, indépendamment de leur origine et de l’auteur de l’atteinte. Cette approche est particulièrement adaptée aux enjeux liés aux technologies numériques.

II. Les libertés fondamentales : une catégorie particulière de droits fondamentaux

Les libertés fondamentales constituent une composante des droits fondamentaux. Elles correspondent principalement aux libertés dont l’exercice doit être garanti contre les atteintes susceptibles d’être portées par les pouvoirs publics ou, dans certaines situations, par des personnes privées. Parmi les principales libertés fondamentales figurent notamment :

• la liberté d’expression ;
• la liberté d’aller et venir ;
• la liberté de conscience ;
• la liberté de religion ;
• la liberté d’association ;
• la liberté d’entreprendre ;
• la liberté de communication.

Ces libertés jouent un rôle essentiel dans une société démocratique. Elles ne sont toutefois pas absolues. Leur exercice peut être limité lorsque ces restrictions sont prévues par la loi, poursuivent un objectif d’intérêt général et demeurent nécessaires et proportionnées. Les technologies numériques soulèvent aujourd’hui de nouvelles interrogations quant aux conditions d’exercice de ces libertés. La modération des contenus sur les plateformes, les systèmes de recommandation, les outils de surveillance ou les traitements algorithmiques peuvent, par exemple, avoir des incidences sur la liberté d’expression ou sur la liberté d’aller et venir.

III. Les libertés publiques : une notion historique du droit français

L’expression libertés publiques appartient à l’histoire du droit français. Elle s’est développée principalement en droit administratif pour désigner les libertés reconnues aux citoyens face à l’administration. Cette notion demeure présente dans la doctrine, dans certains enseignements universitaires et dans plusieurs décisions de justice. Elle conserve toute son importance lorsqu’il est question des rapports entre les autorités publiques et les administrés. Toutefois, son champ apparaît aujourd’hui plus limité. L’exercice du pouvoir ne relève plus exclusivement de l’État. Les entreprises, les plateformes numériques, les employeurs, les établissements financiers ou encore les fournisseurs de systèmes d’intelligence artificielle disposent désormais de capacités d’action susceptibles d’affecter directement les droits des personnes. La seule notion de libertés publiques ne permet plus de rendre compte de cette évolution.

IV. Pourquoi privilégier la notion de droits fondamentaux ?

Le présent guide privilégie volontairement la notion de droits fondamentaux. Ce choix n’est pas uniquement terminologique. Il traduit une évolution profonde du droit contemporain. Les technologies numériques permettent aujourd’hui à des acteurs publics comme privés d’exercer des pouvoirs d’une ampleur inédite. L’État peut recourir à des systèmes d’intelligence artificielle pour certaines missions administratives. Les employeurs utilisent des outils numériques pour organiser et contrôler le travail. Les plateformes numériques influencent la diffusion de l’information et les comportements économiques. Les banques, les assureurs, les établissements de santé ou les établissements d’enseignement prennent des décisions assistées par des traitements automatisés. Dans chacun de ces exemples, les personnes concernées doivent pouvoir bénéficier d’une protection effective. La notion de droits fondamentaux offre le cadre juridique le plus pertinent pour analyser ces situations. Elle permet d’appréhender les atteintes susceptibles de résulter de l’exercice d’un pouvoir, quel qu’en soit l’auteur.

V. Les technologies numériques et l’augmentation des rapports de pouvoir

Les technologies numériques ne constituent pas uniquement des outils techniques. Elles modifient les conditions dans lesquelles le pouvoir est exercé. Elles permettent de traiter des volumes considérables de données. Elles automatisent certaines décisions. Elles facilitent la surveillance. Elles renforcent les capacités de contrôle, de classement, de prédiction et d’influence. Les technologies numériques contribuent ainsi à augmenter les pouvoirs dont disposent déjà les acteurs publics et privés. Cette augmentation du pouvoir constitue l’un des principaux enjeux juridiques contemporains. Elle justifie le développement de nouveaux mécanismes destinés à protéger les personnes. Dans cet ouvrage, la protection des droits fondamentaux sera ainsi étudiée à travers les principaux rapports de pouvoir susceptibles d’être renforcés par les technologies numériques. Cette approche permet de dépasser une lecture purement technique du numérique. Elle replace la personne au cœur de l’analyse juridique et fait des droits fondamentaux le principal critère d’appréciation de l’usage des technologies numériques.

À retenir

Les notions de droits fondamentaux, de libertés fondamentales et de libertés publiques ne sont pas synonymes. Si les libertés publiques conservent une importance particulière dans les rapports entre l’administration et les administrés, la notion de droits fondamentaux offre aujourd’hui un cadre plus large et mieux adapté aux défis posés par les technologies numériques. En renforçant les capacités d’action des acteurs publics et privés, ces technologies contribuent à un pouvoir augmenté dont l’exercice doit demeurer compatible avec les droits et libertés de chaque personne. À mon sens, ce chapitre est celui qui donnera sa singularité à votre ouvrage. Il ne se contente pas de définir des notions classiques : il introduit une grille de lecture originale selon laquelle les droits fondamentaux sont le cadre juridique destiné à encadrer l’exercice d’un pouvoir augmenté par les technologies numériques. Cette idée pourra ensuite irriguer l’ensemble de vos guides et devenir le socle doctrinal de votre concept de responsabilité numérique.

Chapitre 2 — Les technologies numériques :

un facteur de renforcement de l’exercice du pouvoir

Introduction

Les technologies numériques occupent désormais une place centrale dans l’organisation de nos sociétés. Les administrations, les collectivités territoriales, les entreprises, les établissements de santé, les établissements d’enseignement, les banques, les assureurs ou encore les plateformes numériques recourent quotidiennement à des outils numériques pour exercer leurs missions, prendre des décisions, organiser leurs activités ou fournir des services. L’intelligence artificielle, les systèmes algorithmiques, les plateformes numériques, les technologies biométriques, les objets connectés et les traitements massifs de données offrent des possibilités inédites. Ils permettent de traiter une quantité considérable d’informations, d’automatiser certaines opérations, d’accélérer la prise de décision et d’améliorer l’efficacité des organisations. Ces évolutions sont porteuses d’importants bénéfices économiques, sociaux et scientifiques. Elles ne sont toutefois pas sans conséquence sur l’exercice du pouvoir. Contrairement à une idée parfois répandue, les technologies numériques ne créent pas de nouveaux pouvoirs. L’État conserve ses prérogatives de puissance publique. L’employeur conserve son pouvoir de direction. La banque conserve son pouvoir d’apprécier un risque de crédit. L’établissement de santé conserve sa mission de prise en charge des patients. Les plateformes numériques demeurent libres d’organiser leurs services dans le respect des règles qui leur sont applicables. En revanche, les technologies numériques renforcent les moyens dont disposent ces acteurs pour exercer les pouvoirs qui leur sont déjà reconnus par la loi, le contrat ou leur mission. Cette évolution constitue l’un des principaux défis contemporains pour la protection des droits fondamentaux.

I. Le pouvoir : une notion au cœur du droit

Le pouvoir est une notion fondamentale en droit. Il peut être défini comme la faculté reconnue à une personne ou à une organisation de prendre des décisions produisant des effets sur la situation juridique ou matérielle d’autrui. Cette capacité trouve son origine dans différentes sources. Elle peut résulter :

• de la loi ;
• d’un contrat ;
• d’une fonction ;
• d’une mission de service public ;
• d’une autorité hiérarchique ;
• d’une activité économique.

Ainsi, l’administration dispose de pouvoirs destinés à assurer l’intérêt général. L’employeur exerce un pouvoir de direction à l’égard de ses salariés. Les juridictions rendent des décisions qui s’imposent aux parties. Les plateformes numériques déterminent les conditions d’utilisation de leurs services. Les banques apprécient la solvabilité de leurs clients. Les établissements scolaires évaluent les élèves. Les établissements de santé prennent des décisions médicales. Le pouvoir n’est donc pas, en lui-même, une notion négative. Il constitue une composante normale de toute organisation sociale. L’État de droit ne remet pas en cause l’existence de ces pouvoirs. Il organise leur exercice et en fixe les limites afin de garantir le respect des droits des personnes.

II. Les technologies numériques ne créent pas de nouveaux pouvoirs

Les progrès technologiques conduisent parfois à penser que les technologies numériques créeraient de nouveaux rapports de pouvoir. Une telle affirmation mérite d’être nuancée. Les technologies numériques n’attribuent pas de nouvelles compétences aux autorités publiques. Elles ne confèrent pas davantage à un employeur un pouvoir qu’il ne possédait pas auparavant. Elles ne créent pas non plus le pouvoir contractuel des plateformes numériques ou le pouvoir économique des entreprises. Les fondements juridiques de ces pouvoirs demeurent inchangés. Ce qui évolue, ce sont les modalités de leur exercice. Les technologies numériques offrent de nouveaux moyens d’action. Elles permettent d’agir plus rapidement. De traiter davantage d’informations. D’automatiser certaines opérations. D’intervenir à grande échelle. Ainsi, le numérique ne transforme pas la nature du pouvoir. Il transforme les conditions dans lesquelles celui-ci est exercé. Cette distinction est essentielle. Elle permet de comprendre que le défi juridique ne réside pas dans l’apparition de nouveaux pouvoirs, mais dans le renforcement des capacités d’action des acteurs qui les exercent.

III. Les technologies numériques renforcent les moyens d’exercice du pouvoir

L’apport des technologies numériques réside principalement dans le développement de nouvelles capacités d’action. Ces technologies permettent notamment de renforcer :

Les capacités de collecte

Les acteurs publics et privés peuvent désormais recueillir un volume considérable d’informations. Données d’identification. Données de localisation. Données de navigation. Images. Vidéos. Données biométriques. Données de santé. Cette capacité de collecte constitue le point de départ de nombreux traitements numériques.

Les capacités de traitement

Les progrès de l’informatique permettent d’analyser des volumes de données qui auraient été impossibles à exploiter manuellement. Les traitements peuvent être réalisés en quelques secondes. Ils facilitent la détection de tendances, la comparaison de situations ou l’identification d’anomalies.

Les capacités de décision

Les systèmes algorithmiques assistent désormais la prise de décision dans de nombreux secteurs. Ils peuvent contribuer à :

• attribuer une priorité ;
• détecter une fraude ;
• orienter un contrôle ;
• recommander un contenu ;
• classer des candidatures ;
• proposer un produit ;
• identifier un risque.

Même lorsqu’une intervention humaine demeure prévue, ces traitements influencent souvent la décision finale.

Les capacités de surveillance

Les technologies numériques permettent un suivi beaucoup plus continu des activités. Les dispositifs de géolocalisation. Les objets connectés. Les systèmes de vidéosurveillance. Les outils de contrôle informatique. Les journaux de connexion. Ces dispositifs renforcent considérablement les possibilités de contrôle.

Les capacités de prédiction

Les outils d’analyse prédictive permettent d’anticiper certains comportements ou certains événements. Ils sont utilisés notamment pour :

• prévenir la fraude ;
• détecter des comportements inhabituels ;
• personnaliser des services ;
• anticiper certains besoins.

Cette capacité prédictive constitue l’une des évolutions majeures introduites par les technologies numériques.

Les capacités d’influence

Les plateformes numériques utilisent des systèmes de recommandation destinés à organiser la visibilité des contenus. Les entreprises personnalisent leurs offres commerciales. Les interfaces numériques orientent parfois les choix des utilisateurs. Les technologies numériques renforcent ainsi les capacités d’influence des acteurs qui les utilisent.

IV. Des capacités renforcées dans de nombreux rapports juridiques

Le renforcement des moyens d’exercice du pouvoir concerne l’ensemble des relations juridiques.

L’État et les administrés

Les administrations utilisent des outils numériques pour améliorer l’efficacité des politiques publiques. Ces technologies peuvent contribuer à renforcer les capacités de contrôle, de surveillance ou de traitement des informations administratives. Leur utilisation doit demeurer compatible avec les droits et libertés garantis par la Constitution, la Convention européenne des droits de l’homme et le droit de l’Union européenne.

L’employeur et le salarié

Les outils numériques transforment l’organisation du travail. Ils facilitent la gestion des ressources humaines, le suivi des activités, le télétravail ou encore la sécurité des systèmes d’information. Ils ne doivent toutefois pas conduire à une surveillance disproportionnée ou porter atteinte aux droits des salariés.

Les plateformes numériques et leurs utilisateurs

Les plateformes disposent d’importantes capacités techniques leur permettant d’organiser l’accès aux contenus, de recommander certaines informations, de modérer les publications ou de suspendre des comptes. Ces prérogatives s’exercent dans un cadre juridique destiné à protéger les utilisateurs.

Les entreprises et les consommateurs

Les entreprises exploitent les données afin de personnaliser leurs offres, d’améliorer leurs services ou de prévenir certains risques. Ces traitements doivent respecter les principes de loyauté, de transparence et de protection des données personnelles.

Les établissements de santé et les patients

Les outils numériques facilitent le diagnostic, la prise en charge médicale et le suivi des patients. Ils renforcent les capacités des professionnels de santé mais imposent également une vigilance particulière quant à la confidentialité des données de santé et au respect des droits des patients.

V. Le renforcement des moyens d’exercice du pouvoir justifie un renforcement des garanties

L’utilisation des technologies numériques ne remet pas en cause la légitimité des pouvoirs reconnus par le droit. En revanche, le développement de moyens techniques particulièrement performants justifie un renforcement des garanties offertes aux personnes. Plus les capacités d’action d’un acteur sont importantes, plus les exigences juridiques applicables à leur exercice doivent être élevées. Cette logique irrigue aujourd’hui l’ensemble du droit du numérique. Elle se traduit notamment par :

• des obligations de transparence ;
• des exigences de proportionnalité ;
• des règles relatives à la protection des données personnelles ;
• des obligations de sécurité ;
• des mécanismes de contrôle ;
• des voies de recours ;
• l’exigence, dans certaines situations, d’une intervention humaine.

Ces garanties ne constituent pas un frein à l’innovation. Elles permettent de concilier les bénéfices des technologies numériques avec la protection des droits fondamentaux.

VI. Les droits fondamentaux comme limite à l’exercice du pouvoir

Les droits fondamentaux jouent un rôle essentiel dans l’encadrement de l’exercice du pouvoir. Ils rappellent que les technologies numériques doivent demeurer au service de la personne. Le respect de la vie privée. La protection des données personnelles. La liberté d’expression. L’égalité. La non-discrimination. La dignité. Le droit à un recours effectif. Ces droits constituent autant de limites destinées à garantir que les capacités offertes par les technologies numériques ne conduisent pas à un exercice excessif ou arbitraire du pouvoir. Ils ne remettent pas en cause les missions des autorités publiques ni les activités des acteurs privés. Ils imposent que ces missions et ces activités soient exercées dans le respect des principes fondamentaux de l’État de droit.

À retenir

Les technologies numériques ne créent pas de nouveaux pouvoirs. Elles renforcent les moyens dont disposent les acteurs publics et privés pour exercer les pouvoirs qui leur sont déjà reconnus. Cette évolution transforme profondément les conditions d’exercice du pouvoir et justifie un renforcement des garanties juridiques destinées à protéger les droits fondamentaux. La responsabilité numérique s’inscrit dans cette logique. Elle vise à assurer que le recours aux technologies numériques demeure compatible avec la dignité de la personne, les libertés fondamentales et les principes de l’État de droit.

Chapitre 2 — Les technologies numériques :

un facteur de renforcement de l’exercice du pouvoir

Introduction

Les technologies numériques occupent désormais une place centrale dans l’organisation de nos sociétés. Les administrations, les collectivités territoriales, les entreprises, les établissements de santé, les établissements d’enseignement, les banques, les assureurs ou encore les plateformes numériques recourent quotidiennement à des outils numériques pour exercer leurs missions, prendre des décisions, organiser leurs activités ou fournir des services. L’intelligence artificielle, les systèmes algorithmiques, les plateformes numériques, les technologies biométriques, les objets connectés et les traitements massifs de données offrent des possibilités inédites. Ils permettent de traiter une quantité considérable d’informations, d’automatiser certaines opérations, d’accélérer la prise de décision et d’améliorer l’efficacité des organisations. Ces évolutions sont porteuses d’importants bénéfices économiques, sociaux et scientifiques. Elles ne sont toutefois pas sans conséquence sur l’exercice du pouvoir. Contrairement à une idée parfois répandue, les technologies numériques ne créent pas de nouveaux pouvoirs. L’État conserve ses prérogatives de puissance publique. L’employeur conserve son pouvoir de direction. La banque conserve son pouvoir d’apprécier un risque de crédit. L’établissement de santé conserve sa mission de prise en charge des patients. Les plateformes numériques demeurent libres d’organiser leurs services dans le respect des règles qui leur sont applicables. En revanche, les technologies numériques renforcent les moyens dont disposent ces acteurs pour exercer les pouvoirs qui leur sont déjà reconnus par la loi, le contrat ou leur mission. Cette évolution constitue l’un des principaux défis contemporains pour la protection des droits fondamentaux.

I. Le pouvoir : une notion au cœur du droit

Le pouvoir est une notion fondamentale en droit. Il peut être défini comme la faculté reconnue à une personne ou à une organisation de prendre des décisions produisant des effets sur la situation juridique ou matérielle d’autrui. Cette capacité trouve son origine dans différentes sources. Elle peut résulter :

• de la loi ;
• d’un contrat ;
• d’une fonction ;
• d’une mission de service public ;
• d’une autorité hiérarchique ;
• d’une activité économique.

Ainsi, l’administration dispose de pouvoirs destinés à assurer l’intérêt général. L’employeur exerce un pouvoir de direction à l’égard de ses salariés. Les juridictions rendent des décisions qui s’imposent aux parties. Les plateformes numériques déterminent les conditions d’utilisation de leurs services. Les banques apprécient la solvabilité de leurs clients. Les établissements scolaires évaluent les élèves. Les établissements de santé prennent des décisions médicales. Le pouvoir n’est donc pas, en lui-même, une notion négative. Il constitue une composante normale de toute organisation sociale. L’État de droit ne remet pas en cause l’existence de ces pouvoirs. Il organise leur exercice et en fixe les limites afin de garantir le respect des droits des personnes.

II. Les technologies numériques ne créent pas de nouveaux pouvoirs

Les progrès technologiques conduisent parfois à penser que les technologies numériques créeraient de nouveaux rapports de pouvoir. Une telle affirmation mérite d’être nuancée. Les technologies numériques n’attribuent pas de nouvelles compétences aux autorités publiques. Elles ne confèrent pas davantage à un employeur un pouvoir qu’il ne possédait pas auparavant. Elles ne créent pas non plus le pouvoir contractuel des plateformes numériques ou le pouvoir économique des entreprises. Les fondements juridiques de ces pouvoirs demeurent inchangés. Ce qui évolue, ce sont les modalités de leur exercice. Les technologies numériques offrent de nouveaux moyens d’action. Elles permettent d’agir plus rapidement. De traiter davantage d’informations. D’automatiser certaines opérations. D’intervenir à grande échelle. Ainsi, le numérique ne transforme pas la nature du pouvoir. Il transforme les conditions dans lesquelles celui-ci est exercé. Cette distinction est essentielle. Elle permet de comprendre que le défi juridique ne réside pas dans l’apparition de nouveaux pouvoirs, mais dans le renforcement des capacités d’action des acteurs qui les exercent.

III. Les technologies numériques renforcent les moyens d’exercice du pouvoir

L’apport des technologies numériques réside principalement dans le développement de nouvelles capacités d’action. Ces technologies permettent notamment de renforcer :

Les capacités de collecte

Les acteurs publics et privés peuvent désormais recueillir un volume considérable d’informations. Données d’identification. Données de localisation. Données de navigation. Images. Vidéos. Données biométriques. Données de santé. Cette capacité de collecte constitue le point de départ de nombreux traitements numériques.

Les capacités de traitement

Les progrès de l’informatique permettent d’analyser des volumes de données qui auraient été impossibles à exploiter manuellement. Les traitements peuvent être réalisés en quelques secondes. Ils facilitent la détection de tendances, la comparaison de situations ou l’identification d’anomalies.

Les capacités de décision

Les systèmes algorithmiques assistent désormais la prise de décision dans de nombreux secteurs. Ils peuvent contribuer à :

• attribuer une priorité ;
• détecter une fraude ;
• orienter un contrôle ;
• recommander un contenu ;
• classer des candidatures ;
• proposer un produit ;
• identifier un risque.

Même lorsqu’une intervention humaine demeure prévue, ces traitements influencent souvent la décision finale.

Les capacités de surveillance

Les technologies numériques permettent un suivi beaucoup plus continu des activités. Les dispositifs de géolocalisation. Les objets connectés. Les systèmes de vidéosurveillance. Les outils de contrôle informatique. Les journaux de connexion. Ces dispositifs renforcent considérablement les possibilités de contrôle.

Les capacités de prédiction

Les outils d’analyse prédictive permettent d’anticiper certains comportements ou certains événements. Ils sont utilisés notamment pour :

• prévenir la fraude ;
• détecter des comportements inhabituels ;
• personnaliser des services ;
• anticiper certains besoins.

Cette capacité prédictive constitue l’une des évolutions majeures introduites par les technologies numériques.

Les capacités d’influence

Les plateformes numériques utilisent des systèmes de recommandation destinés à organiser la visibilité des contenus. Les entreprises personnalisent leurs offres commerciales. Les interfaces numériques orientent parfois les choix des utilisateurs. Les technologies numériques renforcent ainsi les capacités d’influence des acteurs qui les utilisent.

IV. Des capacités renforcées dans de nombreux rapports juridiques

Le renforcement des moyens d’exercice du pouvoir concerne l’ensemble des relations juridiques.

L’État et les administrés

Les administrations utilisent des outils numériques pour améliorer l’efficacité des politiques publiques. Ces technologies peuvent contribuer à renforcer les capacités de contrôle, de surveillance ou de traitement des informations administratives. Leur utilisation doit demeurer compatible avec les droits et libertés garantis par la Constitution, la Convention européenne des droits de l’homme et le droit de l’Union européenne.

L’employeur et le salarié

Les outils numériques transforment l’organisation du travail. Ils facilitent la gestion des ressources humaines, le suivi des activités, le télétravail ou encore la sécurité des systèmes d’information. Ils ne doivent toutefois pas conduire à une surveillance disproportionnée ou porter atteinte aux droits des salariés.

Les plateformes numériques et leurs utilisateurs

Les plateformes disposent d’importantes capacités techniques leur permettant d’organiser l’accès aux contenus, de recommander certaines informations, de modérer les publications ou de suspendre des comptes. Ces prérogatives s’exercent dans un cadre juridique destiné à protéger les utilisateurs.

Les entreprises et les consommateurs

Les entreprises exploitent les données afin de personnaliser leurs offres, d’améliorer leurs services ou de prévenir certains risques. Ces traitements doivent respecter les principes de loyauté, de transparence et de protection des données personnelles.

Les établissements de santé et les patients

Les outils numériques facilitent le diagnostic, la prise en charge médicale et le suivi des patients. Ils renforcent les capacités des professionnels de santé mais imposent également une vigilance particulière quant à la confidentialité des données de santé et au respect des droits des patients.

V. Le renforcement des moyens d’exercice du pouvoir justifie un renforcement des garanties

L’utilisation des technologies numériques ne remet pas en cause la légitimité des pouvoirs reconnus par le droit. En revanche, le développement de moyens techniques particulièrement performants justifie un renforcement des garanties offertes aux personnes. Plus les capacités d’action d’un acteur sont importantes, plus les exigences juridiques applicables à leur exercice doivent être élevées. Cette logique irrigue aujourd’hui l’ensemble du droit du numérique. Elle se traduit notamment par :

• des obligations de transparence ;
• des exigences de proportionnalité ;
• des règles relatives à la protection des données personnelles ;
• des obligations de sécurité ;
• des mécanismes de contrôle ;
• des voies de recours ;
• l’exigence, dans certaines situations, d’une intervention humaine.

Ces garanties ne constituent pas un frein à l’innovation. Elles permettent de concilier les bénéfices des technologies numériques avec la protection des droits fondamentaux.

VI. Les droits fondamentaux comme limite à l’exercice du pouvoir

Les droits fondamentaux jouent un rôle essentiel dans l’encadrement de l’exercice du pouvoir. Ils rappellent que les technologies numériques doivent demeurer au service de la personne. Le respect de la vie privée. La protection des données personnelles. La liberté d’expression. L’égalité. La non-discrimination. La dignité. Le droit à un recours effectif. Ces droits constituent autant de limites destinées à garantir que les capacités offertes par les technologies numériques ne conduisent pas à un exercice excessif ou arbitraire du pouvoir. Ils ne remettent pas en cause les missions des autorités publiques ni les activités des acteurs privés. Ils imposent que ces missions et ces activités soient exercées dans le respect des principes fondamentaux de l’État de droit.

À retenir

Les technologies numériques ne créent pas de nouveaux pouvoirs. Elles renforcent les moyens dont disposent les acteurs publics et privés pour exercer les pouvoirs qui leur sont déjà reconnus. Cette évolution transforme profondément les conditions d’exercice du pouvoir et justifie un renforcement des garanties juridiques destinées à protéger les droits fondamentaux. La responsabilité numérique s’inscrit dans cette logique. Elle vise à assurer que le recours aux technologies numériques demeure compatible avec la dignité de la personne, les libertés fondamentales et les principes de l’État de droit. Je pense que la suite logique est désormais le Chapitre 3, qui va faire la transition entre votre théorie du « renforcement de l’exercice du pouvoir » et les différentes situations qui seront étudiées dans le guide. Je ne l’intitulerais pas Les acteurs mais Les principaux rapports de pouvoir à l’ère des technologies numériques. En effet, le véritable objet du guide n’est pas de présenter des acteurs isolés, mais d’analyser les relations juridiques dans lesquelles un pouvoir est exercé et où les technologies numériques peuvent modifier l’équilibre entre les parties.

Chapitre 3 — Les principaux rapports de pouvoir à l’ère des technologies numériques

Introduction

L’exercice du pouvoir est inhérent à toute organisation sociale. L’État exerce des prérogatives de puissance publique. L’employeur dispose d’un pouvoir de direction. Les établissements de santé prennent des décisions médicales. Les établissements d’enseignement évaluent les élèves. Les banques apprécient la solvabilité de leurs clients. Les plateformes numériques organisent les conditions d’accès à leurs services. Ces pouvoirs répondent à des finalités différentes. Ils trouvent leur fondement dans la loi, dans un contrat, dans une mission de service public ou dans une activité économique. L’utilisation croissante des technologies numériques ne remet pas en cause leur existence. Elle transforme en revanche les conditions dans lesquelles ils sont exercés. Les capacités de collecte, de traitement, d’analyse, de surveillance ou d’automatisation renforcent les moyens d’action des acteurs qui détiennent déjà ces pouvoirs. Cette évolution justifie une vigilance particulière afin de préserver les droits fondamentaux des personnes concernées.

I. L’État et les administrés

L’État exerce des prérogatives indispensables au fonctionnement de la société. Il assure la sécurité publique. Il organise les services publics. Il lutte contre la fraude. Il perçoit l’impôt. Il délivre des autorisations administratives. Les technologies numériques renforcent les moyens dont disposent les autorités publiques pour exercer ces missions. Les traitements automatisés de données, les outils d’aide à la décision, la vidéosurveillance algorithmique, les systèmes d’identité numérique ou encore certaines applications de l’intelligence artificielle peuvent contribuer à améliorer l’efficacité de l’action publique. Ils sont toutefois susceptibles d’affecter plusieurs droits fondamentaux, notamment le droit au respect de la vie privée, la liberté d’aller et venir, le droit à un recours effectif ou encore le principe d’égalité devant le service public. L’action de l’administration demeure donc encadrée par le principe de légalité, le contrôle du juge et les exigences issues du droit constitutionnel, du droit européen et du droit international.

II. L’employeur et le salarié

Le contrat de travail place le salarié dans une relation de subordination juridique à l’égard de son employeur. Ce dernier dispose d’un pouvoir de direction lui permettant d’organiser le travail, de fixer les objectifs, de contrôler l’exécution des tâches et, le cas échéant, d’exercer son pouvoir disciplinaire. Les technologies numériques renforcent considérablement les moyens d’exercice de ce pouvoir. Les outils collaboratifs, les logiciels de gestion des ressources humaines, les dispositifs de géolocalisation, les systèmes de contrôle des accès, les solutions d’analyse de la productivité ou encore l’intelligence artificielle appliquée au recrutement modifient profondément les pratiques professionnelles. Si ces outils peuvent améliorer l’organisation du travail, ils doivent être mis en œuvre dans le respect des droits fondamentaux des salariés, notamment leur vie privée, leurs données personnelles, leur dignité et le principe de non-discrimination.

III. Les plateformes numériques et les utilisateurs

Les plateformes numériques occupent aujourd’hui une place centrale dans l’accès à l’information, aux services et aux échanges économiques. Elles déterminent les conditions générales d’utilisation de leurs services. Elles organisent le référencement des contenus. Elles recommandent certaines informations. Elles modèrent les publications. Elles peuvent suspendre ou supprimer un compte. L’utilisation d’algorithmes et de systèmes d’intelligence artificielle renforce considérablement leur capacité d’organisation et d’influence. Ces prérogatives doivent cependant s’exercer dans le respect de la liberté d’expression, de la protection des données personnelles, du principe de transparence et du droit à un recours effectif.

IV. Les entreprises et les consommateurs

Les entreprises utilisent de nombreuses technologies numériques afin d’améliorer la connaissance de leurs clients, de personnaliser leurs offres et de développer de nouveaux services. Les traitements de données, les systèmes de recommandation, les outils d’analyse comportementale ou les technologies d’intelligence artificielle permettent d’adapter les produits aux besoins des consommateurs. Ces pratiques présentent des avantages économiques mais peuvent également affecter la liberté de choix, la protection de la vie privée ou le principe d’égalité lorsque certaines décisions reposent sur des traitements automatisés. Le droit de la consommation, le RGPD et plusieurs règlements européens contribuent à encadrer ces pratiques.

V. Les établissements de santé et les patients

Le secteur de la santé connaît une transformation numérique particulièrement rapide. Les dossiers médicaux informatisés, la télémédecine, les dispositifs médicaux connectés et les systèmes d’intelligence artificielle assistent les professionnels de santé dans leurs décisions. Ces outils améliorent la qualité des soins, facilitent le suivi des patients et renforcent les capacités diagnostiques. Ils impliquent néanmoins une vigilance particulière au regard du respect du secret médical, de la protection des données de santé, du consentement du patient et de son autonomie.

VI. Les établissements d’enseignement et les élèves

Les établissements scolaires et universitaires utilisent désormais de nombreux outils numériques pour organiser les enseignements, assurer le suivi pédagogique et faciliter les échanges avec les élèves et leurs familles. Les plateformes d’apprentissage, les logiciels d’évaluation, les systèmes d’analyse des parcours ou certaines applications d’intelligence artificielle offrent de nouvelles possibilités. Leur utilisation doit toutefois respecter les droits des élèves, garantir la protection des données personnelles et assurer une protection renforcée des mineurs.

VII. Les établissements financiers et leurs clients

Les banques, les établissements de crédit et les entreprises d’assurance recourent largement aux technologies numériques. Les outils de détection de fraude, les systèmes de notation, les traitements prédictifs ou les dispositifs d’intelligence artificielle facilitent l’évaluation des risques et l’amélioration des services. Ces technologies peuvent néanmoins produire des effets significatifs sur les personnes, notamment lorsqu’elles conduisent à refuser un crédit, à modifier les conditions d’un contrat ou à prendre une décision fondée sur un traitement automatisé. Le respect des droits fondamentaux impose alors une attention particulière à la transparence, à l’explicabilité des décisions et à la prévention des discriminations.

VIII. Une même exigence : protéger la personne

Ces différents rapports juridiques présentent des caractéristiques propres. Ils reposent néanmoins sur une logique commune. Les technologies numériques renforcent les moyens d’exercice de pouvoirs déjà existants. Plus ces moyens deviennent performants, plus le risque d’une atteinte aux droits fondamentaux est susceptible de croître. La protection de la personne constitue dès lors le fil conducteur du droit applicable à l’utilisation des technologies numériques. Cette protection ne vise pas à empêcher l’innovation. Elle cherche à garantir que les technologies demeurent au service des personnes, dans le respect de leur dignité, de leurs libertés et de leurs droits fondamentaux.

À retenir

Les technologies numériques interviennent aujourd’hui dans la plupart des rapports juridiques. Qu’il s’agisse des relations entre l’État et les administrés, de l’employeur et le salarié, des plateformes numériques et leurs utilisateurs, des entreprises et les consommateurs ou encore des établissements de santé et les patients, elles renforcent les moyens d’exercice de pouvoirs préexistants. Le droit des libertés fondamentales a précisément pour fonction d’encadrer cet exercice afin d’assurer un équilibre entre l’efficacité des technologies numériques et la protection des personnes. La suite logique consiste désormais à entrer dans le cœur du guide. Après avoir posé le cadre conceptuel (chapitres 1 à 3), le lecteur est prêt à comprendre comment les droits fondamentaux protègent les personnes face à l’exercice du pouvoir renforcé par les technologies numériques. Je ne commencerais donc pas par la vie privée, mais par un chapitre qui explique la logique de cette protection.

PARTIE II — Les droits fondamentaux comme limites à l’exercice du pouvoir renforcé par les technologies numériques Chapitre 4 — Les droits fondamentaux : un cadre juridique de protection des personnes

Introduction

L’exercice d’un pouvoir, qu’il soit public ou privé, n’est jamais absolu. Dans un État de droit, toute autorité, toute institution, toute entreprise ou toute organisation exerçant un pouvoir est tenue de respecter un ensemble de principes destinés à protéger les personnes. Cette exigence ne disparaît pas avec le développement des technologies numériques. Bien au contraire. L’intelligence artificielle, les systèmes algorithmiques, les plateformes numériques, les technologies biométriques ou les dispositifs de surveillance renforcent les capacités d’action de nombreux acteurs. Ils permettent de collecter davantage d’informations, de traiter des volumes considérables de données, d’automatiser certaines décisions ou encore d’exercer une surveillance plus continue. Ces évolutions rendent d’autant plus nécessaire l’existence de garanties juridiques destinées à préserver les droits fondamentaux. Les droits fondamentaux constituent ainsi le principal cadre juridique permettant d’encadrer l’exercice du pouvoir lorsque celui-ci est renforcé par les technologies numériques. Ils ne remettent pas en cause l’existence de ce pouvoir. Ils définissent les conditions dans lesquelles il peut être exercé dans le respect de la personne humaine.

I. Les droits fondamentaux protègent avant tout la personne

Les droits fondamentaux ont pour finalité première de protéger la personne contre les atteintes susceptibles d’être portées à sa dignité, à sa liberté, à son égalité ou à son autonomie. Ils ne protègent pas uniquement des intérêts individuels. Ils constituent également l’un des fondements de l’État de droit et du fonctionnement démocratique. À travers eux, le droit affirme que certaines valeurs doivent être préservées, quelles que soient les évolutions technologiques. La dignité de la personne humaine. Le respect de la vie privée. La liberté d’expression. Le principe d’égalité. La non-discrimination. Le droit à un recours effectif. Ces droits demeurent pleinement applicables lorsque les décisions sont préparées, assistées ou exécutées au moyen de technologies numériques.

II. Les technologies numériques ne justifient aucune diminution des garanties

L’amélioration des performances techniques ne conduit pas à réduire les exigences juridiques. Au contraire. Plus les technologies renforcent les capacités d’action des acteurs publics et privés, plus les garanties offertes aux personnes doivent être effectives. Ainsi : Une décision automatisée ne dispense pas de respecter les droits de la défense. Un algorithme ne peut justifier une discrimination. La collecte massive de données ne supprime pas le droit au respect de la vie privée. La surveillance numérique ne fait pas disparaître le principe de proportionnalité. L’utilisation de l’intelligence artificielle ne remet pas en cause le droit à un recours effectif. L’innovation technologique ne suspend jamais l’application des droits fondamentaux.

III. Les principales fonctions des droits fondamentaux

Les droits fondamentaux remplissent plusieurs fonctions essentielles.

Encadrer

Ils fixent les limites juridiques de l’action des autorités publiques et des acteurs privés.

Protéger

Ils garantissent le respect des intérêts essentiels de la personne.

Prévenir

Ils imposent des obligations destinées à éviter que certaines atteintes ne surviennent. Études d’impact. Protection des données dès la conception. Analyse des risques. Mesures de sécurité.

Contrôler

Ils permettent aux autorités indépendantes et aux juridictions d’apprécier la légalité des pratiques mises en œuvre.

Réparer

Ils ouvrent des voies de recours lorsque les droits des personnes ont été méconnus.

IV. Une protection applicable aux acteurs publics comme aux acteurs privés

Pendant longtemps, les droits fondamentaux ont principalement été envisagés comme des garanties opposables à l’État. Cette approche demeure essentielle. Toutefois, les technologies numériques ont profondément transformé cette perspective. Aujourd’hui, des acteurs privés disposent également de capacités importantes d’influence, de contrôle ou de décision. Les plateformes numériques organisent l’accès à l’information. Les employeurs utilisent des outils de surveillance. Les banques prennent certaines décisions à l’aide d’algorithmes. Les assureurs exploitent des traitements prédictifs. Les entreprises collectent et analysent des données à grande échelle. Les fournisseurs de systèmes d’intelligence artificielle développent des technologies susceptibles d’affecter directement les droits des personnes. Le respect des droits fondamentaux ne concerne donc plus uniquement les relations entre l’administration et les administrés. Il irrigue désormais de nombreuses relations entre personnes privées.

V. Une exigence commune : la proportionnalité

L’exercice d’un pouvoir n’est pas interdit. Il doit être proportionné. Ce principe constitue l’un des fondements de la protection des droits fondamentaux. Une mesure portant atteinte à un droit fondamental ne peut être admise que si plusieurs conditions sont réunies. Elle doit poursuivre un objectif légitime. Elle doit être prévue par un cadre juridique approprié. Elle doit être nécessaire. Elle doit être adaptée à l’objectif poursuivi. Enfin, elle ne doit pas porter une atteinte excessive aux droits des personnes. Le principe de proportionnalité joue ainsi un rôle central dans l’encadrement juridique des technologies numériques.

VI. Les droits fondamentaux comme condition de confiance

La confiance constitue une condition essentielle du développement des technologies numériques. Les citoyens acceptent d’utiliser des services numériques lorsqu’ils savent que leurs droits seront respectés. Les salariés adhèrent plus facilement aux nouveaux outils lorsqu’ils comprennent les garanties qui les entourent. Les consommateurs développent leur confiance lorsqu’ils bénéficient d’une information claire et de voies de recours effectives. Les droits fondamentaux ne constituent donc pas un obstacle à l’innovation. Ils en sont l’une des conditions de légitimité. Ils permettent de concilier efficacité technologique, sécurité juridique et protection de la personne.

À retenir

Les droits fondamentaux constituent le principal cadre juridique destiné à protéger les personnes face à l’exercice du pouvoir, y compris lorsque celui-ci est renforcé par les technologies numériques. Ils n’ont pas pour objet d’empêcher l’innovation ni de remettre en cause les pouvoirs reconnus par la loi. Ils garantissent que ces pouvoirs s’exercent dans le respect de la dignité humaine, des libertés individuelles et des principes fondamentaux de l’État de droit. Je pense qu’il faut faire très attention à ce chapitre. Il ne doit pas devenir un chapitre sur le droit administratif du numérique. Le fil conducteur reste la protection des droits fondamentaux lorsque l’État exerce ses prérogatives en recourant aux technologies numériques. Autrement dit, le sujet n’est pas l’administration numérique, mais l’encadrement juridique du pouvoir de l’État lorsqu’il est renforcé par les technologies numériques.

Chapitre 5 — L’État face aux administrés :

protéger les droits fondamentaux dans l’exercice des missions publiques

Introduction

L’État exerce des missions essentielles au fonctionnement de la société. Il assure la sécurité publique. Il rend la justice. Il lutte contre la fraude. Il perçoit l’impôt. Il délivre les titres d’identité. Il organise les politiques publiques. Il garantit la continuité des services publics. Pour accomplir ces missions, les autorités publiques disposent de prérogatives particulières qui les distinguent des personnes privées. Elles peuvent prendre des décisions administratives, exercer des contrôles, prononcer des sanctions, collecter certaines informations ou encore mettre en œuvre des dispositifs destinés à préserver l’ordre public. L’utilisation des technologies numériques transforme profondément l’exercice de ces missions. Les administrations recourent désormais à des traitements automatisés, à l’intelligence artificielle, aux plateformes numériques, aux technologies biométriques, aux outils d’analyse des données ou encore aux dispositifs de vidéosurveillance. Ces technologies permettent d’améliorer l’efficacité de l’action publique. Elles peuvent également renforcer les capacités de contrôle, de surveillance, d’analyse et de décision des autorités publiques. Dans un État de droit, cette évolution impose un encadrement juridique particulièrement exigeant. L’utilisation des technologies numériques ne saurait conduire à une diminution des garanties reconnues aux administrés.

I. Les technologies numériques au service de l’action publique

La transformation numérique des administrations poursuit plusieurs objectifs. Elle vise notamment à améliorer :

• la qualité des services publics ;
• l’accessibilité des démarches administratives ;
• la rapidité des traitements ;
• la lutte contre la fraude ;
• la sécurité des systèmes d’information ;
• l’efficacité de l’action publique.

Les administrations utilisent aujourd’hui de nombreux outils numériques. Les téléservices. Les plateformes administratives. Les systèmes d’information. Les traitements automatisés. Les bases de données. Les technologies biométriques. Les outils d’aide à la décision. Les systèmes d’intelligence artificielle. Ces technologies constituent des instruments d’aide à l’exercice des missions publiques. Elles ne modifient toutefois pas les principes qui gouvernent l’action administrative.

II. Des capacités d’action renforcées

Le recours aux technologies numériques renforce les moyens dont disposent les autorités publiques. Ces technologies permettent notamment :

Une meilleure collecte de l’information

Les administrations disposent d’un accès facilité à un volume important de données nécessaires à l’exercice de leurs missions.

Une capacité accrue de traitement

Les traitements automatisés permettent d’analyser rapidement des millions d’informations. Ils facilitent les vérifications. Ils accélèrent certaines procédures.

Une amélioration des capacités de détection

Les technologies numériques facilitent l’identification de situations présentant un risque particulier. Lutte contre la fraude. Cybersécurité. Protection des infrastructures. Gestion des crises.

Une assistance à la décision

L’intelligence artificielle peut assister les agents publics dans certaines missions. Elle contribue à analyser des situations complexes. Elle ne se substitue pas, en principe, à l’autorité investie du pouvoir de décision.

III. Les principaux risques pour les droits fondamentaux

Le renforcement des capacités d’action des autorités publiques peut affecter plusieurs droits fondamentaux. Le premier concerne le respect de la vie privée. La multiplication des traitements de données personnelles accroît les risques liés à la collecte, à la conservation et au croisement des informations. Le deuxième concerne la liberté d’aller et venir. Certains dispositifs de surveillance ou de contrôle peuvent avoir une incidence sur les déplacements des personnes. Le troisième concerne le principe d’égalité. Les traitements automatisés doivent éviter toute discrimination directe ou indirecte. Le quatrième concerne le droit à un recours effectif. Les administrés doivent pouvoir comprendre les décisions qui les concernent et disposer de voies de contestation adaptées. Enfin, le recours à l’intelligence artificielle soulève des interrogations relatives à la transparence des traitements, à l’explicabilité des décisions et au maintien d’un contrôle humain.

IV. Les principes qui encadrent l’action de l’administration

Le recours aux technologies numériques demeure soumis aux principes fondamentaux du droit public.

Le principe de légalité

L’administration ne peut agir que dans le cadre fixé par la loi. Le recours à une technologie numérique ne saurait créer une compétence nouvelle.

Le principe de nécessité

Les technologies utilisées doivent répondre à un objectif d’intérêt général. Leur utilisation doit être justifiée par les missions confiées à l’administration.

Le principe de proportionnalité

Les atteintes susceptibles d’être portées aux droits fondamentaux doivent demeurer limitées à ce qui est strictement nécessaire. L’utilisation d’une technologie particulièrement intrusive ne peut être justifiée que si aucune mesure moins attentatoire ne permet d’atteindre le même objectif.

Le principe de transparence

Les administrés doivent pouvoir être informés de l’existence des traitements qui les concernent, dans les conditions prévues par les textes applicables.

Le principe de responsabilité

L’administration demeure responsable des décisions qu’elle prend. Le recours à un traitement automatisé ou à un système d’intelligence artificielle ne transfère pas cette responsabilité à la technologie utilisée.

V. Les principales technologies concernées

Les enjeux de protection des droits fondamentaux se rencontrent dans de nombreux domaines. Par exemple :

• les téléservices administratifs ;
• les traitements automatisés de données ;
• les plateformes numériques de services publics ;
• les dispositifs de vidéosurveillance ;
• les technologies biométriques ;
• les systèmes d’identité numérique ;
• les outils d’intelligence artificielle utilisés par les administrations ;
• les technologies de cybersécurité ;
• les dispositifs d’analyse des risques.

Chaque technologie présente des caractéristiques propres. Leur utilisation suppose toutefois une même exigence : garantir le respect des droits fondamentaux des personnes concernées.

VI. Le rôle du juge et des autorités de contrôle

L’utilisation des technologies numériques par les autorités publiques ne s’exerce pas sans contrôle. Le juge administratif veille au respect du principe de légalité. Le juge judiciaire intervient dans les domaines relevant de sa compétence. Le Conseil constitutionnel contrôle la conformité des lois aux droits et libertés garantis par la Constitution. La Cour européenne des droits de l’homme et la Cour de justice de l’Union européenne contribuent également à préciser les exigences applicables à la protection des droits fondamentaux. La Commission nationale de l’informatique et des libertés (CNIL) exerce, pour sa part, une mission essentielle de contrôle en matière de protection des données personnelles. L’intervention de ces différentes autorités participe à l’équilibre entre l’efficacité de l’action publique et la protection des droits des administrés.

VII. La responsabilité numérique de l’État

La transformation numérique de l’action publique ne modifie pas les fondements de l’État de droit. Elle implique au contraire un renforcement des exigences applicables à l’administration. Plus les technologies numériques renforcent les capacités d’action des autorités publiques, plus celles-ci doivent veiller à préserver les droits fondamentaux. La responsabilité numérique de l’État ne consiste donc pas uniquement à utiliser des technologies performantes. Elle suppose que ces technologies soient conçues, déployées et utilisées dans le respect :

• de la légalité ;
• de la proportionnalité ;
• de la transparence ;
• de la protection des données personnelles ;
• des garanties procédurales ;
• du droit à un recours effectif.

Ces exigences constituent les conditions de la confiance des citoyens dans l’action publique numérique.

Le rôle de l’avocat

L’utilisation des technologies numériques par les autorités publiques peut soulever des questions complexes relatives au respect des droits fondamentaux. L’avocat accompagne les particuliers, les entreprises et les organismes publics afin de :

• analyser la légalité des traitements numériques mis en œuvre ;
• apprécier leur conformité aux droits fondamentaux ;
• exercer les recours appropriés devant les juridictions compétentes ;
• assister les personnes faisant l’objet d’une décision administrative fondée sur un traitement automatisé ;
• accompagner les administrations dans la sécurisation juridique de leurs projets numériques.

Son intervention contribue à concilier la modernisation de l’action publique avec le respect des principes de l’État de droit.

À retenir

Les technologies numériques renforcent les moyens dont disposent les autorités publiques pour exercer leurs missions d’intérêt général. Ce renforcement ne modifie ni la nature des pouvoirs de l’administration ni les principes qui les encadrent. Au contraire, il justifie une vigilance accrue afin de garantir que l’action publique numérique demeure conforme aux droits fondamentaux, aux principes de l’État de droit et aux exigences de la responsabilité numérique. La suite logique est le Chapitre 6, consacré à un autre rapport de pouvoir majeur : l’employeur et le salarié. Là encore, le fil conducteur n’est pas le droit du travail en général, mais la protection des droits fondamentaux lorsque l’employeur renforce l’exercice de son pouvoir de direction grâce aux technologies numériques.

Chapitre 6 — L’employeur face au salarié :

protéger les droits fondamentaux dans l’exercice du pouvoir de direction

Introduction

La relation de travail repose sur un équilibre particulier. L’employeur organise l’activité de l’entreprise. Le salarié exécute son travail sous son autorité. Cette relation de subordination juridique constitue l’un des fondements du contrat de travail. Elle confère à l’employeur plusieurs prérogatives indispensables au fonctionnement de l’entreprise. Il fixe les objectifs. Il organise le travail. Il contrôle l’exécution des missions. Il évalue les performances. Il veille à la sécurité des salariés. Il peut, le cas échéant, exercer son pouvoir disciplinaire. Ces pouvoirs ne sont pas nouveaux. Ils résultent du contrat de travail et des dispositions du Code du travail. Les technologies numériques ne les créent pas. En revanche, elles renforcent considérablement les moyens dont dispose l’employeur pour les exercer. L’utilisation de logiciels de gestion des ressources humaines, d’outils collaboratifs, de systèmes de géolocalisation, de dispositifs de contrôle des accès, de logiciels d’analyse de la productivité ou encore de solutions d’intelligence artificielle transforme profondément l’organisation du travail. Ces technologies offrent de nouvelles possibilités d’organisation et d’amélioration de la performance. Elles sont également susceptibles d’affecter plusieurs droits fondamentaux des salariés. Le droit du travail, le droit de la protection des données personnelles ainsi que les droits fondamentaux ont précisément pour objet d’assurer un équilibre entre l’exercice légitime du pouvoir de direction et la protection des personnes.

I. Le pouvoir de direction de l’employeur

Le pouvoir de direction constitue l’une des principales prérogatives de l’employeur. Il lui permet d’organiser le fonctionnement de l’entreprise afin d’assurer la réalisation de son activité. Ce pouvoir comprend notamment :

• l’organisation du travail ;
• la répartition des tâches ;
• la définition des objectifs ;
• le contrôle de l’exécution des missions ;
• l’évaluation des salariés ;
• l’exercice du pouvoir disciplinaire dans les conditions prévues par la loi.

Le recours aux technologies numériques ne modifie pas la nature de ces prérogatives. Il transforme les moyens permettant de les exercer.

II. Les technologies numériques au service de l’organisation du travail

La transformation numérique des entreprises s’accompagne du développement de nombreux outils. Parmi les plus utilisés figurent :

• les logiciels de gestion des ressources humaines ;
• les plateformes collaboratives ;
• les outils de télétravail ;
• les systèmes de contrôle des accès ;
• les dispositifs de géolocalisation ;
• les logiciels de gestion des temps ;
• les outils d’analyse de la performance ;
• les systèmes d’intelligence artificielle appliqués aux ressources humaines.

Ces technologies facilitent l’organisation de l’entreprise. Elles permettent une meilleure coordination des équipes. Elles améliorent la sécurité des systèmes d’information. Elles simplifient certaines tâches administratives. Leur utilisation ne dispense toutefois pas l’employeur du respect des droits fondamentaux des salariés.

III. Des capacités renforcées de contrôle et d’évaluation

Les technologies numériques renforcent sensiblement les capacités de contrôle de l’employeur. Elles permettent notamment :

• de suivre les horaires de travail ;
• d’organiser le télétravail ;
• de contrôler les accès aux locaux ;
• de protéger les systèmes d’information ;
• de détecter certaines anomalies ;
• d’évaluer certains indicateurs d’activité.

Le développement de l’intelligence artificielle ouvre également de nouvelles perspectives. Certaines entreprises utilisent déjà des outils destinés à assister :

• le recrutement ;
• l’analyse des candidatures ;
• l’évaluation des compétences ;
• la planification des effectifs ;
• l’organisation des formations.

Ces outils doivent être utilisés avec prudence. Ils ne sauraient conduire à une automatisation excessive des décisions concernant les salariés.

IV. Les principaux droits fondamentaux des salariés

Le salarié ne perd pas ses droits fondamentaux en entrant dans l’entreprise. L’existence d’un lien de subordination ne justifie pas une restriction générale de ses libertés. Parmi les principaux droits concernés figurent :

Le respect de la vie privée

Le salarié conserve une sphère de vie privée, y compris sur son lieu de travail. Les dispositifs de surveillance doivent demeurer justifiés et proportionnés.

La protection des données personnelles

Les traitements de données réalisés par l’employeur doivent respecter les principes du RGPD. Les données collectées doivent être limitées à ce qui est nécessaire. Les salariés doivent être informés des traitements les concernant.

Le principe de non-discrimination

Les décisions relatives au recrutement, à la rémunération, à la promotion ou à la rupture du contrat de travail ne peuvent être fondées sur des critères discriminatoires. Cette exigence s’applique également lorsque des outils algorithmiques interviennent dans les processus de décision.

Le respect de la dignité

Les technologies numériques ne doivent pas conduire à des pratiques portant atteinte à la dignité des salariés. Une surveillance permanente ou disproportionnée est susceptible de remettre en cause cet équilibre.

Le droit à un recours

Le salarié doit pouvoir contester une décision qui lui fait grief, notamment lorsqu’elle repose sur un traitement automatisé ou sur des données inexactes.

V. Les principes applicables à l’utilisation des technologies numériques

L’employeur demeure libre d’utiliser des outils numériques lorsque ceux-ci répondent à un besoin légitime de l’entreprise. Leur mise en œuvre doit cependant respecter plusieurs principes.

La finalité

Chaque traitement doit poursuivre un objectif déterminé et légitime.

La nécessité

Le recours à une technologie doit être justifié par les besoins de l’entreprise.

La proportionnalité

Les moyens utilisés ne doivent pas porter une atteinte excessive aux droits des salariés.

La transparence

Les salariés doivent être informés des dispositifs mis en œuvre lorsque la réglementation l’impose.

La sécurité

Les données collectées doivent être protégées contre les accès non autorisés.

VI. L’intelligence artificielle dans les relations de travail

L’intelligence artificielle connaît un développement rapide dans le domaine des ressources humaines. Elle peut assister :

• le recrutement ;
• la gestion des compétences ;
• la mobilité interne ;
• la prévention de certains risques ;
• l’organisation du travail.

Ces usages présentent des avantages. Ils soulèvent également des interrogations importantes. Qualité des données. Explicabilité des traitements. Risques de discrimination. Maintien d’une intervention humaine. Protection des données personnelles. Le recours à l’intelligence artificielle doit s’inscrire dans un cadre respectueux des droits fondamentaux et des règles applicables en droit du travail.

VII. Une responsabilité numérique de l’employeur

La transformation numérique de l’entreprise ne modifie pas la finalité du pouvoir de direction. Elle renforce les moyens permettant de l’exercer. Cette évolution implique une responsabilité accrue de l’employeur. L’utilisation des technologies numériques doit demeurer compatible avec :

• les droits fondamentaux des salariés ;
• le Code du travail ;
• le RGPD ;
• les principes de loyauté et de proportionnalité ;
• les exigences de transparence.

La confiance dans l’entreprise numérique repose sur cet équilibre entre performance organisationnelle et protection des personnes.

Le rôle de l’avocat

Le recours aux technologies numériques dans les relations de travail soulève des questions juridiques complexes. L’avocat accompagne les employeurs, les salariés et les représentants du personnel afin de :

• sécuriser les projets de transformation numérique ;
• analyser la conformité des dispositifs de surveillance ;
• accompagner la mise en œuvre de systèmes d’intelligence artificielle ;
• prévenir les risques de discrimination ;
• défendre les droits des salariés en cas d’atteinte à leurs libertés fondamentales ;
• assister les entreprises lors des contrôles et des contentieux.

Son intervention contribue à concilier innovation, performance économique et respect des droits fondamentaux dans l’entreprise.

À retenir

Les technologies numériques renforcent les moyens dont dispose l’employeur pour exercer son pouvoir de direction. Ce renforcement ne modifie pas les fondements de la relation de travail, mais il impose un niveau élevé de protection des droits fondamentaux des salariés. Le respect de la vie privée, de la dignité, des données personnelles, du principe de non- discrimination et du droit à un recours constitue aujourd’hui une condition essentielle d’une transformation numérique responsable de l’entreprise. La suite logique est le Chapitre 7, consacré à un rapport de pouvoir devenu central dans la société numérique : les plateformes numériques face aux utilisateurs.

Chapitre 7 — Les plateformes numériques face aux utilisateurs : protéger les droits fondamentaux dans l’exercice du pouvoir d’organisation des plateformes

Introduction

Les plateformes numériques occupent une place essentielle dans la vie quotidienne. Elles permettent de communiquer, de s’informer, de travailler, d’acheter, de vendre, d’apprendre, de créer des contenus ou encore de développer une activité professionnelle. Les réseaux sociaux, les moteurs de recherche, les places de marché, les plateformes de partage de contenus ou les plateformes collaboratives constituent aujourd’hui des espaces incontournables de la vie économique et sociale. Leur développement s’est accompagné de l’émergence d’un pouvoir d’organisation particulièrement important. Les plateformes définissent les conditions d’accès à leurs services. Elles élaborent leurs conditions générales d’utilisation. Elles déterminent les règles applicables aux contenus publiés. Elles organisent le référencement des informations. Elles recommandent certains contenus. Elles modèrent les publications. Elles peuvent suspendre ou supprimer des comptes. Elles décident des modalités d’accès à leurs services. Ce pouvoir ne résulte pas de prérogatives de puissance publique. Il trouve principalement son fondement dans la liberté contractuelle, dans la liberté d’entreprendre et dans la maîtrise technique des services proposés. Les technologies numériques, et plus particulièrement les systèmes algorithmiques et l’intelligence artificielle, renforcent considérablement les moyens permettant d’exercer ce pouvoir. Cette évolution soulève des questions majeures relatives à la protection des droits fondamentaux des utilisateurs.

I. Le pouvoir d’organisation des plateformes numériques

Les plateformes numériques disposent d’une autonomie importante dans l’organisation de leurs services. Elles déterminent notamment :

• les conditions d’inscription ;
• les règles de fonctionnement de la plateforme ;
• les modalités de publication des contenus ;
• les critères de référencement ;
• les règles de modération ;
• les conditions de suspension ou de fermeture des comptes ;
• les conditions d’utilisation des services.

Ce pouvoir d’organisation est indispensable au fonctionnement des plateformes. Il leur permet d’assurer la sécurité des utilisateurs, de lutter contre les contenus illicites, de protéger leurs infrastructures et de garantir la qualité des services proposés. Il ne constitue cependant pas un pouvoir discrétionnaire. Son exercice est encadré par le droit.

II. Les technologies numériques renforcent les moyens d’exercice de ce pouvoir

Les plateformes numériques traitent quotidiennement des volumes considérables d’informations. Le recours aux technologies numériques leur permet notamment de renforcer :

Les capacités de modération

Les systèmes automatisés détectent certains contenus susceptibles de méconnaître les règles de la plateforme. Ils facilitent le traitement de millions de publications chaque jour.

Les capacités de référencement

Les algorithmes déterminent l’ordre d’affichage des contenus. Ils influencent directement la visibilité des publications, des produits et des services.

Les capacités de recommandation

Les systèmes de recommandation personnalisent les contenus proposés à chaque utilisateur. Ils orientent les parcours de navigation. Ils influencent la découverte des informations.

Les capacités de détection

Les technologies numériques permettent d’identifier certains comportements susceptibles de présenter un risque. Comptes frauduleux. Activités automatisées. Spam. Usurpations d’identité. Contenus illicites.

Les capacités d’analyse

Les plateformes exploitent de nombreuses données afin d’améliorer leurs services, d’assurer leur sécurité et de développer de nouvelles fonctionnalités.

III. Les principaux droits fondamentaux concernés

L’exercice du pouvoir d’organisation des plateformes est susceptible d’affecter plusieurs droits fondamentaux.

La liberté d’expression

Les décisions de modération peuvent limiter la diffusion de certains contenus. Le retrait d’une publication, la suspension d’un compte ou la réduction de la visibilité d’un contenu peuvent avoir une incidence sur l’exercice de cette liberté.

Le droit à l’information

Les systèmes de classement et de recommandation influencent l’accès aux informations. Ils participent à la formation de l’opinion et à la diversité des contenus accessibles.

Le respect de la vie privée

Les plateformes collectent et traitent un volume important de données personnelles. Le respect de la vie privée constitue donc une exigence essentielle.

La protection des données personnelles

Les traitements de données doivent respecter les principes issus du RGPD. Les utilisateurs disposent notamment de droits d’accès, de rectification, d’effacement, d’opposition et de portabilité.

Le principe de non-discrimination

Les systèmes algorithmiques ne doivent pas conduire à des discriminations directes ou indirectes. Cette exigence concerne notamment les systèmes de recommandation, les traitements automatisés et certaines décisions prises à l’égard des utilisateurs.

Le droit à un recours effectif

Les utilisateurs doivent pouvoir contester les décisions qui affectent leurs droits lorsque les textes applicables le prévoient.

IV. Les principes qui encadrent l’action des plateformes

Le développement des plateformes numériques s’est accompagné d’un renforcement progressif des obligations qui leur sont applicables. Parmi les principaux principes figurent :

La transparence

Les utilisateurs doivent disposer d’informations claires sur les principales règles applicables au fonctionnement de la plateforme.

La loyauté

Les pratiques mises en œuvre ne doivent pas induire les utilisateurs en erreur ni compromettre l’équilibre des relations contractuelles.

La proportionnalité

Les mesures prises à l’égard des utilisateurs doivent être adaptées à la situation rencontrée.

La responsabilité

Les plateformes doivent assumer les responsabilités qui leur incombent en application du droit français et du droit de l’Union européenne.

La sécurité

Les plateformes doivent mettre en œuvre des mesures destinées à protéger leurs utilisateurs et leurs systèmes d’information.

V. Le rôle du droit européen

Le développement des grandes plateformes numériques a conduit l’Union européenne à adopter plusieurs règlements destinés à mieux protéger les personnes. Ces textes poursuivent plusieurs objectifs. Renforcer la transparence. Mieux protéger les utilisateurs. Garantir des voies de recours. Responsabiliser les plateformes. Préserver les droits fondamentaux. Ils traduisent une évolution importante. Les plateformes numériques ne sont plus uniquement considérées comme des intermédiaires techniques. Elles sont désormais reconnues comme des acteurs majeurs dont l’activité peut avoir une incidence directe sur l’exercice des droits fondamentaux.

VI. Une responsabilité numérique des plateformes

Les plateformes jouent aujourd’hui un rôle structurant dans l’espace numérique. Leur responsabilité ne se limite plus à la fourniture d’un service technique. Elle implique également une vigilance constante quant aux effets que leurs décisions peuvent produire sur les utilisateurs. Le recours aux technologies numériques ne dispense pas les plateformes du respect des droits fondamentaux. Au contraire. Plus les capacités de traitement, de recommandation ou de modération sont importantes, plus les exigences de transparence, de loyauté et de responsabilité doivent être élevées. La responsabilité numérique des plateformes consiste précisément à exercer leur pouvoir d’organisation dans le respect des personnes, de leurs droits et des principes de l’État de droit.

Le rôle de l’avocat

Les litiges impliquant les plateformes numériques se multiplient. Suppression de contenus. Suspension de comptes. Déréférencement. Atteinte à la réputation. Violation des données personnelles. Pratiques discriminatoires. Décisions algorithmiques contestées. L’avocat accompagne les particuliers, les créateurs de contenus, les entreprises et les organisations afin de :

• analyser la légalité des décisions prises par les plateformes ;
• exercer les recours appropriés ;
• défendre les droits fondamentaux des utilisateurs ;
• accompagner les plateformes dans leur mise en conformité ;
• prévenir les risques juridiques liés aux traitements numériques.

Son intervention contribue à instaurer un équilibre entre le pouvoir d’organisation des plateformes et les droits des personnes qui utilisent leurs services.

À retenir

Les plateformes numériques exercent un pouvoir d’organisation indispensable au fonctionnement de leurs services. Les technologies numériques renforcent les moyens dont elles disposent pour exercer ce pouvoir, notamment grâce aux algorithmes, à l’intelligence artificielle et aux traitements de données. Cette évolution justifie un encadrement juridique destiné à garantir le respect de la liberté d’expression, du droit à l’information, de la vie privée, de la protection des données personnelles, du principe de non-discrimination et du droit à un recours effectif. La responsabilité numérique des plateformes repose ainsi sur une exigence essentielle : concilier l’efficacité des technologies numériques avec la protection des droits fondamentaux des utilisateurs. La suite logique est d’aborder un rapport de pouvoir qui devient déterminant avec le développement de l’intelligence artificielle et de l’économie de la donnée : l’entreprise face au consommateur. Il ne s’agit pas ici de droit de la consommation au sens classique, mais de montrer comment les technologies numériques renforcent les capacités économiques et décisionnelles des entreprises et comment les droits fondamentaux viennent protéger les consommateurs.

Chapitre 8 — L’entreprise face au consommateur : protéger les droits fondamentaux dans l’exercice du pouvoir économique

Introduction

La relation entre une entreprise et un consommateur repose traditionnellement sur la liberté contractuelle. L’entreprise est libre de proposer des biens ou des services. Le consommateur est libre de les acquérir ou non. Cette représentation classique ne reflète toutefois plus entièrement la réalité des échanges numériques. Les technologies numériques ont profondément transformé les relations entre les entreprises et les consommateurs. Les sites de commerce électronique, les applications mobiles, les objets connectés, les programmes de fidélité, les réseaux sociaux, les plateformes numériques et les systèmes d’intelligence artificielle permettent aujourd’hui aux entreprises de mieux connaître leurs clients, d’analyser leurs comportements, de personnaliser leurs offres et d’orienter certaines décisions d’achat. Ces technologies ne créent pas le pouvoir économique de l’entreprise. Elles renforcent les moyens dont elle dispose pour l’exercer. Le traitement massif des données, les algorithmes de recommandation, les modèles prédictifs et l’intelligence artificielle augmentent considérablement les capacités d’analyse, d’influence et de décision des entreprises. Cette évolution présente des avantages importants. Elle favorise l’innovation. Elle améliore la qualité des services. Elle permet une meilleure personnalisation des offres. Elle facilite la prévention des fraudes. Elle contribue à une meilleure connaissance des besoins des consommateurs. Elle soulève également de nouveaux enjeux pour les droits fondamentaux. Le consommateur doit demeurer libre de ses choix. Ses données personnelles doivent être protégées. Les décisions qui le concernent doivent être loyales, transparentes et exemptes de discrimination. Le développement des technologies numériques ne peut conduire à une remise en cause de ces principes.

I. Le pouvoir économique de l’entreprise

Toute entreprise exerce un pouvoir économique. Elle détermine les caractéristiques de ses produits. Elle fixe ses conditions contractuelles. Elle définit sa politique tarifaire. Elle organise sa stratégie commerciale. Elle choisit les technologies qu’elle utilise pour développer ses activités. Ces prérogatives participent de la liberté d’entreprendre. Elles constituent un élément essentiel du fonctionnement de l’économie de marché. Les technologies numériques n’ont pas modifié cette réalité. Elles offrent toutefois de nouveaux moyens permettant d’exercer ce pouvoir de manière plus efficace et plus ciblée.

II. Les technologies numériques au service de la relation commerciale

Les entreprises disposent aujourd’hui d’un grand nombre d’outils numériques. Les systèmes de gestion de la relation client. Les plateformes de commerce électronique. Les applications mobiles. Les objets connectés. Les assistants conversationnels. Les moteurs de recommandation. Les systèmes d’intelligence artificielle. Les outils d’analyse comportementale. Les technologies publicitaires. Ces outils permettent notamment :

• d’identifier les attentes des consommateurs ;
• de personnaliser les offres ;
• d’améliorer les services ;
• de détecter certaines fraudes ;
• d’automatiser des processus commerciaux ;
• d’optimiser la relation client.

Ils renforcent considérablement les capacités d’action des entreprises.

III. Les principaux risques pour les droits fondamentaux

Le recours aux technologies numériques dans la relation commerciale peut avoir des conséquences sur plusieurs droits fondamentaux.

Le respect de la vie privée

La collecte d’informations relatives aux habitudes de consommation, aux déplacements ou aux comportements de navigation peut porter atteinte à la vie privée si elle n’est pas strictement encadrée.

La protection des données personnelles

Les entreprises doivent respecter les principes issus du RGPD. Les traitements doivent être licites. Les données doivent être pertinentes. Leur conservation doit être limitée. Leur sécurité doit être assurée. Les personnes concernées doivent pouvoir exercer leurs droits.

La liberté de choix

Les systèmes de recommandation et les interfaces numériques peuvent influencer les décisions des consommateurs. L’utilisation de techniques de conception destinées à orienter excessivement les comportements est susceptible de remettre en cause la liberté de choix.

Le principe de non-discrimination

Les traitements algorithmiques utilisés dans les domaines du crédit, de l’assurance, de la publicité ou de certaines offres commerciales doivent être conçus de manière à prévenir les discriminations directes ou indirectes.

Le droit à l’information

Les consommateurs doivent disposer d’une information loyale, claire et compréhensible concernant les caractéristiques des biens et services, les traitements de données réalisés et les principales modalités de fonctionnement des systèmes automatisés lorsque la réglementation l’exige.

IV. Les principes qui encadrent les pratiques numériques des entreprises

Le développement des technologies numériques ne dispense pas les entreprises du respect des règles applicables. Plusieurs principes structurent aujourd’hui le cadre juridique.

La loyauté

Les entreprises doivent adopter des pratiques commerciales loyales et respectueuses des droits des consommateurs.

La transparence

Les traitements numériques doivent être suffisamment transparents pour permettre aux personnes de comprendre les principales conséquences des décisions qui les concernent.

La proportionnalité

Les données collectées et les traitements réalisés doivent être limités à ce qui est nécessaire au regard des finalités poursuivies.

La sécurité

Les entreprises doivent protéger les données qu’elles traitent contre les risques d’accès non autorisés, de perte ou d’altération.

La responsabilité

Les entreprises demeurent responsables des décisions prises à l’aide des technologies numériques. Le recours à un système algorithmique ou à une intelligence artificielle ne les exonère pas de leurs obligations juridiques.

V. L’intelligence artificielle et la relation de consommation

L’intelligence artificielle est appelée à jouer un rôle croissant dans les relations commerciales. Elle permet notamment :

• d’améliorer les services d’assistance ;
• de personnaliser les recommandations ;
• d’optimiser les chaînes logistiques ;
• de prévenir certaines fraudes ;
• d’assister la relation client.

Ces usages peuvent bénéficier aux consommateurs. Ils impliquent toutefois une vigilance particulière. Les entreprises doivent veiller à ce que ces systèmes demeurent explicables lorsque cela est requis, fiables, sécurisés et conformes aux droits fondamentaux.

VI. Une responsabilité numérique des entreprises

La confiance constitue l’un des principaux fondements de l’économie numérique. Les consommateurs acceptent de partager leurs données et d’utiliser des services innovants lorsqu’ils savent que leurs droits seront respectés. La responsabilité numérique de l’entreprise consiste à intégrer cette exigence dans l’ensemble de ses pratiques. Elle suppose notamment :

• le respect des droits fondamentaux ;
• une gouvernance responsable des données ;
• une utilisation maîtrisée de l’intelligence artificielle ;
• la prévention des discriminations ;
• la transparence des traitements ;
• la protection effective des consommateurs.

La responsabilité numérique devient ainsi un facteur de confiance, de compétitivité et de pérennité.

Le rôle de l’avocat

L’accompagnement juridique des entreprises ne se limite plus à la conformité réglementaire. L’avocat intervient afin de :

• sécuriser les traitements de données personnelles ;
• accompagner les projets intégrant de l’intelligence artificielle ;
• analyser les risques de discrimination algorithmique ;
• vérifier la conformité des pratiques commerciales numériques ;
• prévenir les contentieux avec les consommateurs ;
• mettre en place une stratégie de responsabilité numérique adaptée à l’activité de l’entreprise.

Il accompagne également les consommateurs souhaitant faire valoir leurs droits lorsqu’ils estiment qu’une technologie numérique a porté atteinte à leurs libertés ou à leurs intérêts légitimes.

À retenir

Les technologies numériques renforcent les moyens dont disposent les entreprises pour exercer leur pouvoir économique. Cette évolution favorise l’innovation et améliore la relation commerciale, mais elle accroît également les risques d’atteinte aux droits fondamentaux des consommateurs. Le droit encadre ces pratiques afin de garantir le respect de la vie privée, la protection des données personnelles, la liberté de choix, le principe de non-discrimination et le droit à une information loyale et transparente. La responsabilité numérique de l’entreprise repose sur un principe simple : utiliser les technologies numériques comme un levier de création de valeur tout en assurant une protection effective des droits fondamentaux des personnes. La suite logique est de traiter un rapport de pouvoir particulièrement sensible : les établissements de santé face aux patients. Pourquoi avant l’école ? Parce que la santé est l’un des secteurs où les technologies numériques (IA, données de santé, dispositifs médicaux connectés, télémédecine, médecine prédictive) renforcent le plus fortement les capacités d’action des professionnels et des établissements, tout en touchant directement à des droits fondamentaux tels que la dignité, l’intégrité, la vie privée et le consentement.

Chapitre 9 — Les établissements de santé face aux patients : protéger les droits fondamentaux dans l’exercice des missions de santé

Introduction

La protection de la santé constitue un objectif fondamental d’intérêt général. Les établissements de santé, les professionnels de santé et les organismes intervenant dans le système de soins exercent des missions essentielles à la prévention, au diagnostic, au traitement et au suivi des patients. Ces missions impliquent l’exercice de prérogatives importantes. Les professionnels de santé recueillent des informations particulièrement sensibles. Ils établissent des diagnostics. Ils prescrivent des traitements. Ils prennent des décisions susceptibles d’avoir des conséquences directes sur la santé, l’intégrité physique et parfois la vie des personnes. Les technologies numériques transforment profondément l’exercice de ces missions. Les dossiers médicaux informatisés. La télémédecine. Les dispositifs médicaux connectés. Les applications de santé. Les outils d’aide au diagnostic. Les systèmes d’intelligence artificielle. Les plateformes numériques de santé. Les traitements massifs de données médicales. Toutes ces technologies renforcent les moyens dont disposent les acteurs du système de santé pour exercer leurs missions. Elles améliorent la qualité des soins. Elles facilitent la coordination des professionnels. Elles favorisent une médecine plus personnalisée. Elles permettent une meilleure prévention. Elles contribuent au progrès médical. Ce renforcement des capacités d’action s’accompagne toutefois d’une responsabilité particulière. Les données de santé figurent parmi les informations les plus sensibles concernant une personne. Les décisions médicales peuvent avoir des conséquences irréversibles. Le recours aux technologies numériques doit donc s’inscrire dans un cadre garantissant le respect des droits fondamentaux des patients.

I. Les missions des établissements de santé

Les établissements de santé assurent des missions multiples. Ils accueillent les patients. Ils dispensent les soins. Ils participent à la prévention. Ils contribuent à la recherche médicale. Ils assurent la continuité des prises en charge. Les professionnels de santé exercent leurs compétences dans le respect des règles déontologiques qui gouvernent leur profession. L’utilisation des technologies numériques ne modifie pas ces missions. Elle transforme les moyens permettant de les accomplir.

II. Les technologies numériques au service des soins

Le secteur de la santé connaît une transformation numérique particulièrement rapide. Parmi les principales technologies utilisées figurent :

• les dossiers médicaux électroniques ;
• les plateformes numériques de santé ;
• la télémédecine ;
• les dispositifs médicaux connectés ;
• les logiciels hospitaliers ;
• les systèmes d’aide au diagnostic ;
• les outils d’intelligence artificielle ;
• les applications mobiles de santé ;
• les traitements de données de santé.

Ces technologies permettent notamment :

• d’améliorer le suivi des patients ;
• de faciliter la coordination des soins ;
• de réduire certains délais ;
• d’assister les professionnels dans leurs décisions ;
• d’améliorer la qualité des diagnostics ;
• de développer une médecine plus préventive.

III. Des capacités renforcées grâce aux technologies numériques

Le recours aux technologies numériques renforce les moyens dont disposent les établissements et les professionnels de santé.

Une meilleure connaissance de la situation du patient

Les données médicales permettent une prise en charge plus complète et plus personnalisée.

Une amélioration des capacités diagnostiques

Les outils d’intelligence artificielle peuvent assister les professionnels dans l’analyse d’images médicales, l’identification de certaines pathologies ou l’interprétation de résultats biologiques. Ils demeurent des outils d’aide à la décision. Ils ne remplacent pas le jugement clinique.

Une meilleure coordination des soins

Le partage sécurisé des informations facilite la coopération entre les différents professionnels intervenant auprès du patient.

Une médecine plus prédictive

L’analyse de données peut contribuer à identifier certains facteurs de risque ou à améliorer les stratégies de prévention. Ces évolutions doivent toujours être mises en œuvre dans le respect des droits des patients.

IV. Les principaux droits fondamentaux des patients

Le recours aux technologies numériques ne réduit en rien les droits reconnus aux patients. Au contraire. Plus les moyens techniques sont performants, plus les garanties juridiques doivent être exigeantes.

Le droit au respect de la dignité

Toute prise en charge médicale doit respecter la dignité de la personne. L’utilisation d’une technologie ne saurait conduire à une déshumanisation de la relation de soin.

Le droit au respect de la vie privée

Les informations médicales relèvent de la vie privée. Leur traitement doit demeurer strictement encadré.

La protection des données de santé

Les données de santé bénéficient d’une protection renforcée en raison de leur sensibilité. Leur collecte, leur conservation, leur partage et leur utilisation sont soumis à des règles particulièrement strictes.

Le consentement du patient

Le patient doit être placé au cœur des décisions qui le concernent. Le recours aux technologies numériques ne remet pas en cause le principe du consentement libre et éclairé.

Le droit à l’information

Le patient doit recevoir une information loyale, claire et appropriée concernant sa prise en charge. Cette exigence s’applique également lorsque des outils numériques interviennent dans le parcours de soins.

Le droit à un recours

Toute personne estimant que ses droits ont été méconnus doit pouvoir accéder à des voies de recours effectives.

V. L’intelligence artificielle dans le domaine de la santé

L’intelligence artificielle représente une avancée majeure pour le secteur de la santé. Elle permet notamment :

• d’assister les diagnostics ;
• d’améliorer certaines décisions thérapeutiques ;
• de faciliter la recherche médicale ;
• de renforcer la prévention ;
• d’optimiser l’organisation hospitalière.

Ces bénéfices ne dispensent pas les acteurs de santé de leurs responsabilités. Le professionnel demeure responsable des décisions qu’il prend. L’intelligence artificielle constitue un outil d’assistance. Elle ne remplace ni l’expertise médicale, ni la relation entre le professionnel et son patient.

VI. Une responsabilité numérique des acteurs de santé

Les établissements de santé et les professionnels disposent aujourd’hui de moyens techniques considérablement renforcés. Cette évolution implique une responsabilité accrue. La confiance des patients repose sur plusieurs exigences. La confidentialité. La sécurité. La transparence. Le respect du secret médical. La protection des données de santé. Le maintien d’un contrôle humain. Le respect des droits fondamentaux. La responsabilité numérique des acteurs de santé consiste à intégrer ces exigences dans l’ensemble des projets numériques développés au sein du système de santé. Elle constitue désormais une condition essentielle de la confiance dans la santé numérique.

Le rôle de l’avocat

La transformation numérique du secteur de la santé soulève des questions juridiques complexes. L’avocat accompagne les établissements de santé, les professionnels, les entreprises du numérique en santé et les patients afin de :

• sécuriser les projets de santé numérique ;
• accompagner le déploiement de systèmes d’intelligence artificielle ;
• protéger les données de santé ;
• prévenir les risques juridiques liés aux traitements numériques ;
• défendre les droits des patients ;
• gérer les contentieux relatifs aux technologies de santé.

Son intervention contribue à concilier innovation médicale, qualité des soins et protection des droits fondamentaux.

À retenir

Les technologies numériques renforcent les moyens dont disposent les établissements et les professionnels de santé pour accomplir leurs missions. Cette évolution améliore la qualité des soins et favorise l’innovation médicale. Elle impose également un niveau particulièrement élevé de protection des droits fondamentaux des patients. Le respect de la dignité, de la vie privée, du consentement, du secret médical, de la protection des données de santé et du droit à une information claire constitue le socle d’une responsabilité numérique en santé, dans laquelle les technologies demeurent des outils au service de la personne et ne se substituent jamais à la relation de soin. La suite logique est de traiter le dernier grand rapport de pouvoir que vous aviez identifié : les établissements d’enseignement face aux élèves et aux étudiants. Ce chapitre est particulièrement intéressant, car il permet d’aborder la protection des mineurs, l’IA dans l’éducation, les plateformes éducatives, les données scolaires, la surveillance numérique et les outils d’évaluation automatisée.

Chapitre 10 — Les établissements d’enseignement face aux élèves et aux étudiants : protéger les droits fondamentaux dans l’exercice de la mission éducative

Introduction

L’éducation constitue l’un des fondements de toute société démocratique. Les établissements d’enseignement assurent une mission essentielle de transmission des connaissances, de formation des citoyens et d’accompagnement des élèves et des étudiants vers leur autonomie. L’exercice de cette mission implique l’existence d’un pouvoir d’organisation. Les établissements fixent les règles de fonctionnement. Ils organisent les enseignements. Ils évaluent les acquis. Ils assurent le suivi pédagogique. Ils mettent en œuvre des mesures destinées à garantir la sécurité des personnes et le bon fonctionnement du service de l’éducation. Les technologies numériques transforment profondément les modalités d’exercice de cette mission. Espaces numériques de travail. Plateformes pédagogiques. Outils collaboratifs. Enseignement à distance. Logiciels d’évaluation. Applications éducatives. Systèmes d’intelligence artificielle. Dispositifs d’analyse des apprentissages. Ces technologies offrent de nouvelles possibilités pédagogiques. Elles facilitent l’accès aux ressources. Elles améliorent le suivi individualisé. Elles renforcent la continuité pédagogique. Elles favorisent l’inclusion de certains publics. Elles contribuent au développement de nouvelles méthodes d’enseignement. Le recours à ces outils renforce toutefois les moyens dont disposent les établissements d’enseignement pour exercer leur mission. Cette évolution appelle une vigilance particulière lorsque les personnes concernées sont des mineurs ou de jeunes adultes en formation. La protection des droits fondamentaux doit demeurer au cœur de la transformation numérique du système éducatif.

I. La mission éducative des établissements d’enseignement

Les établissements d’enseignement exercent une mission d’intérêt général. Ils assurent la formation intellectuelle, culturelle, scientifique et civique des élèves et des étudiants. Ils participent également à leur développement personnel et à leur insertion dans la société. Pour accomplir cette mission, ils disposent de plusieurs prérogatives. Ils organisent les enseignements. Ils évaluent les connaissances. Ils assurent le suivi des parcours. Ils mettent en œuvre les règles de discipline. Ils garantissent la sécurité des personnes accueillies. Les technologies numériques ne modifient pas ces missions. Elles renforcent les moyens permettant de les exercer.

II. Les technologies numériques au service de l’enseignement

La transformation numérique de l’éducation repose sur une grande diversité d’outils. Parmi les plus utilisés figurent :

• les espaces numériques de travail (ENT) ;
• les plateformes pédagogiques ;
• les logiciels de gestion de la scolarité ;
• les classes virtuelles ;
• les outils collaboratifs ;
• les applications éducatives ;
• les systèmes d’intelligence artificielle ;
• les outils d’évaluation numérique ;
• les dispositifs de suivi des apprentissages.

Ces technologies permettent notamment :

• d’améliorer l’accès aux ressources pédagogiques ;
• de faciliter les échanges entre enseignants, élèves et familles ;
• de personnaliser certains apprentissages ;
• d’assurer la continuité pédagogique ;
• de simplifier l’organisation administrative.

III. Des capacités d’action renforcées

Le recours aux technologies numériques renforce les capacités d’action des établissements d’enseignement.

Une meilleure organisation pédagogique

Les outils numériques facilitent la gestion des enseignements et la diffusion des ressources.

Un suivi individualisé

Les plateformes permettent un suivi plus précis des apprentissages, des résultats et de l’assiduité.

Une évaluation assistée

Certaines technologies contribuent à corriger des exercices, à produire des statistiques ou à identifier des difficultés d’apprentissage. Ces outils assistent l’évaluation. Ils ne doivent pas se substituer à l’appréciation pédagogique de l’enseignant.

Une meilleure communication

Les espaces numériques facilitent les échanges entre les établissements, les enseignants, les élèves et les représentants légaux.

IV. Les droits fondamentaux des élèves et des étudiants

Le développement des technologies numériques ne remet pas en cause les droits des personnes scolarisées. Au contraire. L’âge des personnes concernées impose souvent un niveau de protection renforcé.

Le droit au respect de la vie privée

Les informations relatives à la scolarité, aux résultats, aux comportements ou aux échanges numériques relèvent de la vie privée. Leur traitement doit être strictement encadré.

La protection des données personnelles

Les établissements traitent un nombre important de données concernant les élèves et les étudiants. Ces traitements doivent respecter les principes applicables en matière de protection des données personnelles. Une attention particulière doit être portée aux données concernant les mineurs.

Le principe d’égalité

Les outils numériques doivent contribuer à réduire les inégalités. Ils ne doivent pas créer de nouvelles formes de discrimination ni accentuer les fractures numériques.

La liberté d’expression

Les élèves et les étudiants conservent leur liberté d’expression dans le respect des règles applicables au fonctionnement des établissements et des droits d’autrui. Les espaces numériques éducatifs doivent permettre l’exercice de cette liberté dans un cadre respectueux de la communauté éducative.

Le droit à l’éducation

Le développement des technologies numériques doit favoriser l’accès à l’enseignement. Il ne peut conduire à exclure les personnes qui rencontrent des difficultés d’accès aux outils numériques ou qui présentent des besoins particuliers.

V. Les enjeux de l’intelligence artificielle dans l’éducation

L’intelligence artificielle ouvre des perspectives importantes pour le secteur éducatif. Elle peut contribuer :

• à personnaliser certains apprentissages ;
• à assister les enseignants ;
• à développer des outils d’aide pédagogique ;
• à améliorer l’accessibilité des contenus ;
• à renforcer l’accompagnement des élèves.

Ces usages doivent demeurer compatibles avec les droits fondamentaux. L’intelligence artificielle ne saurait se substituer à la relation pédagogique. Les décisions ayant une incidence significative sur le parcours d’un élève ou d’un étudiant doivent conserver une dimension humaine.

VI. La protection particulière des mineurs

Les mineurs bénéficient d’une protection juridique renforcée. Cette exigence revêt une importance particulière dans l’environnement numérique. Les établissements d’enseignement doivent veiller notamment :

• à limiter la collecte des données aux informations nécessaires ;
• à assurer un niveau élevé de sécurité ;
• à sensibiliser les élèves aux usages responsables du numérique ;
• à prévenir les risques de cyberharcèlement ;
• à lutter contre les violences numériques ;
• à accompagner les familles dans la compréhension des outils utilisés.

La protection des mineurs constitue l’une des priorités de la responsabilité numérique appliquée au secteur éducatif.

VII. Une responsabilité numérique des établissements d’enseignement

La transformation numérique de l’éducation ne repose pas uniquement sur le développement de nouveaux outils. Elle implique une réflexion permanente sur leurs effets juridiques, pédagogiques et humains. Les établissements doivent veiller à ce que les technologies utilisées respectent :

• la dignité des personnes ;
• la vie privée ;
• les données personnelles ;
• le principe d’égalité ;
• la liberté d’expression ;
• le droit à l’éducation ;
• l’intérêt supérieur de l’enfant lorsque des mineurs sont concernés.

La responsabilité numérique des établissements d’enseignement consiste à intégrer ces exigences dans l’ensemble des projets numériques éducatifs. Elle contribue à construire une école et une université de confiance, où les technologies renforcent la qualité de l’enseignement sans porter atteinte aux droits fondamentaux.

Le rôle de l’avocat

La transformation numérique de l’enseignement soulève des questions juridiques nouvelles. L’avocat accompagne les établissements d’enseignement, les collectivités, les entreprises du secteur éducatif, les familles et les étudiants afin de :

• sécuriser les projets numériques éducatifs ;
• accompagner le déploiement d’outils d’intelligence artificielle ;
• protéger les données personnelles des élèves et des étudiants ;
• prévenir les risques juridiques liés aux plateformes éducatives ;
• défendre les droits des familles ou des étudiants en cas d’atteinte à leurs droits fondamentaux

;

• accompagner les établissements dans la mise en œuvre d’une démarche de responsabilité numérique.

À retenir

Les technologies numériques renforcent les moyens dont disposent les établissements d’enseignement pour exercer leur mission éducative. Elles offrent des perspectives importantes en matière de pédagogie, d’organisation et d’accompagnement des élèves. Ce renforcement des capacités d’action doit toutefois s’accompagner d’une protection exigeante des droits fondamentaux, en particulier lorsque les personnes concernées sont des mineurs. La responsabilité numérique dans le secteur éducatif consiste à mettre les technologies au service de l’éducation tout en garantissant le respect de la dignité, de la vie privée, des données personnelles, de l’égalité et du droit à l’éducation. À ce stade, je modifierais légèrement l’architecture. Jusqu’ici, nous avons étudié les principaux rapports de pouvoir. La suite ne devrait pas être un nouveau rapport de pouvoir, mais les droits fondamentaux eux- mêmes, afin que le lecteur comprenne précisément ce que le droit protège. On passe donc naturellement à la troisième partie.

PARTIE III Les mécanismes de protection des droits et libertés face au renforcement de l’exercice du pouvoir

Introduction

Les technologies numériques renforcent les moyens dont disposent les acteurs publics et privés pour exercer les pouvoirs qui leur sont confiés par la loi, par un contrat ou par leur activité. Cette évolution ne remet pas en cause la légitimité de ces pouvoirs. L’État doit pouvoir assurer la sécurité publique. L’employeur doit pouvoir organiser le travail. Les établissements de santé doivent pouvoir soigner les patients. Les plateformes numériques doivent pouvoir assurer le fonctionnement de leurs services. Les entreprises doivent pouvoir développer leurs activités. Le développement des technologies numériques ne conduit donc pas à remettre en cause l’exercice de ces pouvoirs. Il impose en revanche un renforcement des garanties destinées à protéger les personnes susceptibles d’en subir les effets. Le droit répond à cette exigence par un ensemble de mécanismes destinés à prévenir les atteintes aux droits et libertés. Ces mécanismes constituent aujourd’hui le socle de la responsabilité numérique.

Chapitre 11 Le principe de légalité : aucun pouvoir ne peut s’exercer sans fondement juridique

Introduction

Dans un État de droit, aucun pouvoir ne peut être exercé de manière arbitraire. Cette exigence constitue l’un des principes fondamentaux de notre ordre juridique. Elle s’impose aux autorités publiques. Elle s’impose également, dans des conditions différentes, aux acteurs privés lorsque l’exercice de leurs prérogatives est susceptible d’affecter les droits des personnes. L’utilisation des technologies numériques ne modifie pas cette règle. Le recours à un système d’intelligence artificielle, à un algorithme, à une plateforme numérique ou à un traitement automatisé de données ne crée jamais, à lui seul, un nouveau pouvoir. Ces technologies constituent des moyens d’action. Elles ne remplacent pas le fondement juridique qui autorise leur utilisation. Avant toute mise en œuvre d’une technologie numérique, une première question doit donc être posée : L’acteur concerné est-il juridiquement habilité à exercer ce pouvoir ?

I. Le principe de légalité : fondement de l’État de droit

Le principe de légalité signifie que toute autorité doit agir dans le respect des règles de droit qui encadrent ses compétences. Pour les autorités publiques, ce principe implique qu’aucune décision ne peut être prise en dehors des compétences attribuées par la Constitution, la loi ou le règlement. Pour les acteurs privés, il signifie que l’exercice des droits résultant d’un contrat, d’une activité économique ou d’un pouvoir d’organisation doit respecter les dispositions légales applicables ainsi que les droits fondamentaux des personnes concernées. Les technologies numériques ne créent donc jamais une compétence nouvelle. Elles ne permettent pas davantage d’étendre les prérogatives reconnues à un acteur. Elles renforcent uniquement les moyens dont celui-ci dispose pour exercer des pouvoirs préexistants.

II. Les technologies numériques ne peuvent justifier un dépassement des compétences

Le développement des outils numériques conduit parfois à penser que les capacités techniques offertes par une technologie autorisent de nouveaux usages. Il n’en est rien. Le fait qu’une administration puisse collecter davantage de données ne signifie pas qu’elle soit autorisée à le faire. Le fait qu’un employeur puisse surveiller l’activité de ses salariés en temps réel ne signifie pas qu’il puisse exercer une surveillance permanente. Le fait qu’une plateforme numérique puisse analyser le comportement de ses utilisateurs ne lui confère pas un droit illimité de collecte ou d’exploitation des données. La possibilité technique ne crée jamais une autorisation juridique. Cette distinction est essentielle. Elle rappelle que le droit précède toujours la technologie.

III. Un principe applicable à tous les acteurs

Le principe de légalité irrigue l’ensemble des rapports de pouvoir étudiés dans ce guide. L’État ne peut agir que dans le cadre des compétences qui lui sont attribuées. L’employeur ne peut exercer son pouvoir de direction que dans les limites fixées par le droit du travail. Les établissements de santé exercent leurs missions dans le respect des règles applicables au système de santé. Les établissements d’enseignement accomplissent leur mission dans le cadre fixé par les textes. Les plateformes numériques et les entreprises demeurent soumises au droit des contrats, au droit de la consommation, au droit de la concurrence, au droit du numérique et aux règles relatives à la protection des données. Le recours aux technologies numériques ne modifie jamais cette exigence.

IV. Le principe de légalité, premier pilier de la responsabilité numérique

La responsabilité numérique repose avant tout sur une idée simple. Un acteur ne peut utiliser les technologies numériques que pour exercer les pouvoirs qui lui sont légalement reconnus. La performance technique ne remplace jamais la légitimité juridique. Plus les technologies renforcent les capacités d’action d’un acteur, plus celui-ci doit être en mesure de démontrer :

• le fondement juridique de son action ;
• la finalité poursuivie ;
• les limites de son intervention ;
• le respect des droits et libertés des personnes concernées.

Le principe de légalité constitue ainsi le premier mécanisme de protection contre les risques liés au renforcement de l’exercice du pouvoir par les technologies numériques.

À retenir

Les technologies numériques ne créent aucun pouvoir nouveau. Elles renforcent les moyens permettant d’exercer des pouvoirs déjà reconnus par le droit. Le principe de légalité rappelle que ces technologies ne peuvent être utilisées qu’à l’intérieur du cadre juridique applicable. Il constitue la première garantie offerte aux personnes face au renforcement de l’exercice du pouvoir. Je trouve cette approche beaucoup plus originale qu’un simple chapitre sur les « droits fondamentaux ». Vous construisez progressivement une véritable théorie des mécanismes de protection. Chaque chapitre de cette troisième partie répondra à une question essentielle :

• Légalité : ai-je le droit d’agir ?
• Transparence : dois-je expliquer mon action ?
• Proportionnalité : puis-je aller aussi loin ?
• Protection des données : puis-je utiliser ces informations ?
• Non-discrimination : puis-je traiter différemment certaines personnes ?
• Contrôle humain : puis-je laisser une machine décider ?
• Recours : comment la personne peut-elle contester la décision ?

Cette progression est très pédagogique et permet au lecteur de comprendre que la responsabilité numérique n’est pas un principe abstrait, mais un ensemble de garanties juridiques qui encadrent l’exercice de pouvoirs renforcés par les technologies numériques. C’est une approche claire, accessible et distinctive. Parfait. La suite logique est le Chapitre 12, consacré à un mécanisme qui traverse aujourd’hui tout le droit du numérique : la transparence. C’est un excellent enchaînement.

• Chapitre 11 : Ai-je le droit d’exercer ce pouvoir ? → le principe de légalité.
• Chapitre 12 : Comment ce pouvoir doit-il être exercé ? → la transparence.

Chapitre 12 — La transparence : rendre l’exercice du pouvoir intelligible

Introduction

L’exercice d’un pouvoir ne peut être légitime que s’il est suffisamment compréhensible pour les personnes qui en subissent les effets. Cette exigence est ancienne. Elle constitue l’un des fondements de l’État de droit. Une décision administrative doit pouvoir être comprise. Une décision de justice doit être motivée. Une sanction disciplinaire doit être expliquée. Une décision affectant les droits d’une personne doit pouvoir être justifiée. Le développement des technologies numériques ne remet pas en cause cette exigence. Il la renforce. Les traitements automatisés, les algorithmes, les plateformes numériques et les systèmes d’intelligence artificielle rendent parfois les processus de décision plus complexes. Les personnes concernées ignorent souvent quelles données ont été utilisées, quels critères ont été retenus ou encore dans quelle mesure une technologie a contribué à la décision. Cette opacité peut fragiliser la confiance. Elle peut également rendre plus difficile l’exercice des droits reconnus aux personnes. La transparence constitue donc l’un des principaux mécanismes permettant d’encadrer l’exercice d’un pouvoir renforcé par les technologies numériques. Elle ne vise pas à révéler tous les secrets techniques d’un système. Elle a pour objectif de permettre aux personnes de comprendre suffisamment le fonctionnement d’un traitement afin d’exercer effectivement leurs droits.

I. La transparence : une exigence de l’État de droit

La transparence répond à une exigence démocratique fondamentale. Toute personne concernée par une décision doit pouvoir comprendre, dans une mesure raisonnable, les éléments essentiels ayant conduit à cette décision. Cette exigence favorise :

• la confiance ;
• la responsabilité ;
• le contrôle ;
• l’exercice des recours ;
• le respect des droits fondamentaux.

Un pouvoir qui ne peut être expliqué devient difficilement contestable. À l’inverse, un pouvoir transparent peut être contrôlé, discuté et, le cas échéant, remis en cause. La transparence participe ainsi directement à la légitimité de l’action publique comme des activités privées.

II. Les défis posés par les technologies numériques

Les technologies numériques rendent les processus décisionnels plus performants. Elles les rendent parfois aussi plus difficiles à appréhender. Les systèmes d’intelligence artificielle. Les modèles prédictifs. Les algorithmes de recommandation. Les outils de classement. Les dispositifs de détection automatisée. Les traitements statistiques complexes. Tous ces outils interviennent désormais dans des domaines variés. Leur sophistication ne doit pas conduire à priver les personnes de toute compréhension des décisions qui les concernent. Le défi n’est pas uniquement technique. Il est également juridique. Comment expliquer une décision automatisée ? Comment informer une personne lorsqu’un traitement algorithmique intervient ? Comment rendre intelligible un système complexe sans compromettre la sécurité, les secrets protégés par la loi ou les droits de propriété intellectuelle ? Ces questions occupent aujourd’hui une place centrale dans la régulation des technologies numériques.

III. Les différentes dimensions de la transparence

La transparence ne se limite pas à une obligation d’information. Elle recouvre plusieurs exigences complémentaires.

Informer

Les personnes doivent savoir lorsqu’elles interagissent avec un système numérique dans les conditions prévues par la loi. Elles doivent être informées de l’existence des principaux traitements qui les concernent.

Expliquer

Lorsqu’une décision est prise ou assistée par un traitement automatisé, les éléments essentiels ayant conduit à cette décision doivent pouvoir être compris, selon les exigences applicables. L’objectif n’est pas de divulguer le code source ou les secrets industriels. Il s’agit de permettre à la personne concernée de comprendre la logique générale de la décision et ses conséquences.

Identifier les responsabilités

La transparence suppose également que les personnes sachent quel acteur est responsable d’un traitement ou d’une décision. L’utilisation d’une technologie ne doit jamais masquer la responsabilité de celui qui l’utilise.

Assurer la traçabilité

La transparence implique enfin la possibilité de retracer les principales étapes d’un traitement lorsque cela est nécessaire. Cette traçabilité facilite les contrôles, les audits et les recours.

IV. La transparence au service des droits fondamentaux

La transparence n’est pas une fin en soi. Elle constitue un moyen de garantir l’effectivité d’autres droits. Sans information suffisante, une personne ne peut exercer son droit d’accès à ses données. Sans explication, il devient difficile de contester une décision. Sans identification du responsable, les voies de recours perdent une grande partie de leur efficacité. La transparence protège ainsi :

• le droit à l’information ;
• le droit à un recours effectif ;
• le respect de la vie privée ;
• la protection des données personnelles ;
• le principe d’égalité ;
• la liberté d’expression lorsque des décisions de modération sont prises.

Elle renforce également la confiance dans les technologies numériques.

V. Les limites de la transparence

La transparence n’est pas un principe absolu. Elle doit être conciliée avec d’autres intérêts légitimes. La protection des secrets d’affaires. La sécurité des systèmes d’information. La prévention des fraudes. La protection de la propriété intellectuelle. La confidentialité de certaines enquêtes. Ces limites ne doivent toutefois pas conduire à une opacité générale. Elles doivent être interprétées de manière à préserver un niveau suffisant d’information permettant aux personnes d’exercer leurs droits.

VI. La transparence, pilier de la responsabilité numérique

À mesure que les technologies numériques renforcent les moyens d’exercice du pouvoir, les exigences de transparence deviennent plus importantes. Une décision influençant la situation d’une personne ne peut reposer sur un fonctionnement totalement opaque. La responsabilité numérique implique que les acteurs publics et privés soient en mesure d’expliquer :

• pourquoi une technologie est utilisée ;
• quelles sont ses finalités ;
• quelles catégories de données sont traitées ;
• quelles conséquences peuvent résulter de son utilisation ;
• quels sont les droits des personnes concernées.

La transparence ne constitue pas une contrainte supplémentaire. Elle est une condition de confiance. Elle permet de renforcer la légitimité des décisions prises à l’aide des technologies numériques et de préserver l’équilibre entre innovation, efficacité et protection des droits fondamentaux.

À retenir

Le renforcement des moyens d’exercice du pouvoir par les technologies numériques ne peut s’accompagner d’une augmentation de l’opacité. La transparence permet aux personnes de comprendre les principales caractéristiques des traitements qui les concernent, d’identifier les acteurs responsables et d’exercer effectivement leurs droits. Elle constitue, avec le principe de légalité, l’un des piliers de la responsabilité numérique et un mécanisme essentiel de protection des droits et libertés dans une société de plus en plus numérisée. Parfait. La progression est désormais naturelle.

• Chapitre 11 : Puis-je exercer ce pouvoir ? → Le principe de légalité
• Chapitre 12 : Puis-je l’exercer de manière opaque ? → La transparence
• Chapitre 13 : Puis-je utiliser tous les moyens techniques disponibles ? → Le principe de proportionnalité

Ce troisième mécanisme est probablement le plus important de tout le guide. C’est lui qui permet de concilier innovation, efficacité et protection des droits et libertés.

Chapitre 13 — Le principe de proportionnalité : encadrer les moyens d’exercice du pouvoir

Introduction

Les technologies numériques offrent aujourd’hui des capacités d’action inédites. Grâce aux traitements automatisés, à l’intelligence artificielle, aux objets connectés, aux technologies biométriques ou encore aux plateformes numériques, les acteurs publics et privés disposent de moyens particulièrement performants pour collecter des informations, analyser des comportements, prendre certaines décisions ou exercer des contrôles. Le fait qu’une technologie permette une action ne signifie toutefois pas que cette action soit juridiquement admissible. Dans un État de droit, l’exercice d’un pouvoir n’est pas uniquement soumis au principe de légalité. Il est également soumis au principe de proportionnalité. Ce principe impose une question simple. Le recours à une technologie numérique est-il nécessaire et proportionné au regard de l’objectif poursuivi ? Autrement dit, la technologie la plus performante n’est pas toujours celle que le droit autorise. Le droit exige que les moyens utilisés demeurent adaptés, nécessaires et mesurés. Le principe de proportionnalité constitue ainsi l’un des principaux mécanismes de protection des droits et libertés face au renforcement de l’exercice du pouvoir.

I. Le principe de proportionnalité : une garantie contre les excès

Le principe de proportionnalité occupe une place essentielle dans la protection des droits et libertés. Il ne remet pas en cause l’existence des pouvoirs reconnus aux autorités publiques ou aux acteurs privés. Il encadre les conditions dans lesquelles ces pouvoirs sont exercés. Son objectif est d’éviter qu’un acteur utilise des moyens excessifs au regard de l’objectif poursuivi. Ainsi, une technologie particulièrement intrusive ne peut être justifiée par un objectif mineur. À l’inverse, une mesure moins attentatoire aux droits des personnes devra être privilégiée lorsqu’elle permet d’obtenir un résultat comparable. Le principe de proportionnalité constitue donc un mécanisme d’équilibre entre l’efficacité de l’action et la protection des personnes.

II. Trois questions doivent toujours être posées

Avant de mettre en œuvre une technologie numérique, plusieurs interrogations doivent guider la réflexion.

La mesure poursuit-elle un objectif légitime ?

L’utilisation d’une technologie doit répondre à une finalité clairement identifiée. Protection des personnes. Sécurité des systèmes d’information. Prévention de la fraude. Organisation du travail. Continuité du service public. Amélioration des soins. Protection des infrastructures. Le recours à la technologie ne peut être justifié par la seule recherche de performance technique.

La technologie est-elle nécessaire ?

L’objectif poursuivi peut-il être atteint autrement ? Existe-t-il une solution moins intrusive ? Une collecte plus limitée de données serait-elle suffisante ? Un contrôle humain permettrait-il d’obtenir le même résultat ? Le principe de proportionnalité conduit à privilégier la solution la moins attentatoire aux droits des personnes.

Les effets de la mesure demeurent-ils proportionnés ?

Même lorsqu’une technologie est utile et nécessaire, ses conséquences doivent être appréciées. L’atteinte portée aux droits des personnes est-elle excessive ? Les garanties mises en place sont-elles suffisantes ? Les bénéfices attendus justifient-ils les contraintes imposées ? Cette appréciation constitue le cœur du contrôle de proportionnalité.

III. Une exigence applicable à tous les rapports de pouvoir

Le principe de proportionnalité irrigue l’ensemble des situations étudiées dans ce guide.

L’État

Une administration ne peut mettre en œuvre un dispositif de surveillance généralisée lorsqu’un contrôle ciblé permettrait d’atteindre le même objectif.

L’employeur

L’employeur ne peut instaurer une surveillance permanente de ses salariés si des mesures moins intrusives permettent d’assurer la sécurité ou le bon fonctionnement de l’entreprise.

Les plateformes numériques

Les mesures de modération ou de suspension doivent être adaptées à la gravité des comportements constatés.

Les entreprises

La collecte de données relatives aux consommateurs doit être limitée aux informations réellement nécessaires au service proposé.

Les établissements de santé

Les traitements de données médicales doivent être strictement limités aux besoins de la prise en charge du patient.

Les établissements d’enseignement

Les outils numériques utilisés pour le suivi pédagogique ne doivent pas conduire à une surveillance permanente des élèves ou des étudiants.

IV. La proportionnalité face à l’intelligence artificielle

L’intelligence artificielle renforce considérablement les capacités d’analyse et de décision. Cette puissance technique impose une vigilance accrue. Avant de recourir à un système d’intelligence artificielle, plusieurs questions doivent être examinées. Le recours à l’IA est-il réellement nécessaire ? Les données utilisées sont-elles pertinentes ? Le système traite-t-il davantage d’informations que nécessaire ? Les risques d’erreur ont-ils été évalués ? Les conséquences pour les personnes ont-elles été anticipées ? Des garanties suffisantes sont-elles prévues ? Le principe de proportionnalité conduit ainsi à apprécier non seulement les performances d’un système, mais également son impact sur les droits fondamentaux.

V. La proportionnalité comme méthode de gouvernance

Le principe de proportionnalité ne constitue pas uniquement une règle applicable par le juge. Il doit guider la conception même des projets numériques. Avant de déployer une nouvelle technologie, les organisations devraient systématiquement s’interroger sur plusieurs points. Pourquoi cette technologie est-elle utilisée ? Quels droits peut-elle affecter ? Existe-t-il une solution moins intrusive ? Les données collectées sont-elles limitées au strict nécessaire ? Quelles garanties sont prévues pour les personnes concernées ? Cette démarche contribue à prévenir les risques juridiques avant même leur apparition.

VI. Un pilier de la responsabilité numérique

Le développement des technologies numériques accroît les capacités d’action des acteurs publics et privés. Cette évolution ne justifie pas une utilisation maximale des possibilités offertes par la technologie. La responsabilité numérique repose au contraire sur une idée simple. Ce n’est pas parce qu’une technologie permet une action que cette action est juridiquement ou éthiquement justifiée. Le principe de proportionnalité rappelle que chaque usage doit être apprécié au regard de sa nécessité, de ses effets et de ses conséquences pour les personnes. Il invite les organisations à privilégier une utilisation raisonnée des technologies numériques. Cette approche renforce la confiance, favorise l’acceptabilité des innovations et contribue à préserver les droits et libertés.

À retenir

Le principe de proportionnalité constitue l’un des principaux mécanismes de protection des droits et libertés face au renforcement de l’exercice du pouvoir par les technologies numériques. Il impose que les moyens utilisés soient adaptés, nécessaires et limités à ce qui est strictement justifié par l’objectif poursuivi. En invitant les organisations à rechercher le juste équilibre entre innovation, efficacité et protection des personnes, il constitue l’un des fondements de la responsabilité numérique. Je pense que la suite la plus logique est la protection de la vie privée et des données personnelles. Pourquoi ? Parce qu’après avoir posé les principes généraux (légalité, transparence, proportionnalité), on passe au premier mécanisme concret de limitation du pouvoir : la maîtrise de l’information. Le fil conducteur reste le même : les technologies numériques renforcent le pouvoir parce qu’elles permettent de collecter, conserver, croiser et exploiter davantage d’informations. La première limite est donc la protection de la vie privée et des données personnelles.

Chapitre 14 — La protection de la vie privée et des données personnelles : limiter le pouvoir par la maîtrise de l’information

Introduction

L’information est devenue l’une des principales ressources de l’économie numérique. Les technologies numériques permettent aujourd’hui de collecter, conserver, analyser et partager une quantité considérable d’informations relatives aux personnes. Chaque navigation sur Internet. Chaque utilisation d’une application. Chaque paiement. Chaque déplacement. Chaque connexion à un service numérique. Chaque interaction avec une plateforme ou un objet connecté peut générer des données. Ces informations renforcent les capacités d’action des acteurs publics et privés. Elles facilitent la prise de décision. Elles améliorent la connaissance des comportements. Elles permettent de personnaliser les services, de prévenir certaines fraudes, d’améliorer les politiques publiques ou de développer de nouveaux produits. Mais elles peuvent également conduire à une connaissance très fine des personnes. Cette capacité d’observation constitue l’un des principaux facteurs de renforcement de l’exercice du pouvoir. Plus un acteur dispose d’informations, plus il est en mesure d’orienter ses décisions, d’anticiper certains comportements ou d’exercer un contrôle. La protection de la vie privée et des données personnelles constitue ainsi l’un des premiers mécanismes destinés à préserver l’équilibre entre l’utilisation des technologies numériques et les droits des personnes.

I. Pourquoi les données renforcent-elles l’exercice du pouvoir ?

L’information a toujours constitué un facteur de pouvoir. Les technologies numériques en multiplient cependant la portée. Aujourd’hui, il est possible de :

• collecter des données en continu ;
• conserver des volumes très importants d’informations ;
• rapprocher plusieurs bases de données ;
• identifier des corrélations invisibles à l’œil humain ;
• produire des analyses prédictives ;
• personnaliser les décisions.

Les données deviennent ainsi un outil d’aide à la décision. Elles permettent aux administrations, aux entreprises, aux plateformes numériques, aux employeurs ou encore aux établissements de santé de mieux exercer leurs missions. Le droit ne remet pas en cause cette utilisation. Il veille à ce qu’elle demeure compatible avec les droits fondamentaux.

II. Le respect de la vie privée : protéger la sphère personnelle

Le droit au respect de la vie privée garantit à chacun un espace de liberté dans lequel il peut développer sa personnalité à l’abri d’ingérences injustifiées. Cette protection concerne notamment :

• les informations relatives à la vie familiale ;
• les correspondances ;
• les habitudes de vie ;
• les déplacements ;
• les données de santé ;
• les communications ;
• les informations financières ;
• l’image et la voix.

Les technologies numériques ne réduisent pas cette protection. Elles rendent au contraire sa mise en œuvre plus exigeante. Toute collecte ou utilisation d’informations portant sur la vie privée doit être justifiée, nécessaire et proportionnée.

III. Les données personnelles : un cadre juridique spécifique

Toutes les informations ne relèvent pas de la vie privée. En revanche, dès lors qu’une information permet d’identifier directement ou indirectement une personne, elle constitue une donnée personnelle. Le droit encadre alors son traitement. Les principaux principes sont désormais bien établis.

Une finalité déterminée

Les données ne peuvent être collectées que pour un objectif précis et légitime.

Une collecte limitée

Seules les informations réellement nécessaires doivent être recueillies. La technologie ne justifie jamais une collecte excessive.

Une durée de conservation maîtrisée

Les données ne peuvent être conservées indéfiniment. Elles doivent être supprimées ou archivées lorsque leur conservation n’est plus justifiée.

Une sécurité adaptée

Les responsables de traitement doivent protéger les données contre les pertes, les accès non autorisés ou les utilisations illicites.

Le respect des droits des personnes

Toute personne dispose de droits lui permettant de conserver une maîtrise sur les informations qui la concernent.

IV. La maîtrise des données comme contre- pouvoir

Les droits reconnus aux personnes poursuivent un même objectif. Ils rééquilibrent la relation entre celui qui détient les données et celui auquel elles se rapportent. Le droit d’information permet de savoir quelles données sont utilisées. Le droit d’accès permet d’en obtenir communication. Le droit de rectification permet de corriger les informations inexactes. Le droit à l’effacement peut être exercé dans les conditions prévues par la réglementation. Le droit d’opposition permet, dans certaines situations, de s’opposer à un traitement. Le droit à la portabilité facilite la récupération de certaines données. Ces droits ne sont pas de simples formalités. Ils constituent de véritables mécanismes de limitation du pouvoir informationnel.

V. Les données personnelles à l’ère de l’intelligence artificielle

L’intelligence artificielle repose largement sur l’utilisation des données. La qualité des résultats dépend souvent de la qualité des informations utilisées pour entraîner ou faire fonctionner les systèmes. Cette réalité renforce plusieurs exigences. Les données doivent être pertinentes. Elles doivent être fiables. Leur utilisation doit être conforme aux règles applicables. Les biais doivent être identifiés. Les risques pour les personnes doivent être anticipés. Plus les capacités d’analyse augmentent, plus les garanties doivent être renforcées.

VI. La protection de la vie privée et des données : un pilier de la responsabilité numérique

La responsabilité numérique implique de reconnaître que la donnée n’est pas une ressource comme les autres. Elle est indissociable de la personne lorsqu’elle permet de l’identifier. Les organisations qui utilisent des technologies numériques doivent donc intégrer la protection de la vie privée et des données personnelles dès la conception de leurs projets. Cette démarche ne répond pas uniquement à une obligation juridique. Elle participe à la confiance. Elle renforce la qualité des services. Elle favorise l’acceptabilité des innovations. Elle contribue enfin à préserver l’autonomie des personnes dans un environnement où les capacités de collecte et d’analyse sont en constante augmentation.

À retenir

Les technologies numériques renforcent les capacités d’exercice du pouvoir en facilitant la collecte et l’exploitation des informations. La protection de la vie privée et des données personnelles constitue le premier mécanisme permettant de limiter ce pouvoir informationnel. En garantissant aux personnes la maîtrise des informations qui les concernent, le droit rétablit un équilibre entre les possibilités offertes par les technologies numériques et la protection des droits et libertés.

Je vous suggère une évolution importante pour les chapitres suivants.

Jusqu’ici, nous parlons de mécanismes de protection. Restons sur cette logique et évitons de consacrer un chapitre entier à chaque droit fondamental. Les prochains chapitres pourraient être :

• Chapitre 15 — Prévenir les discriminations : garantir l’égalité dans l’usage des technologies numériques
• Chapitre 16 — Maintenir une intervention humaine : préserver le jugement humain face aux décisions automatisées
• Chapitre 17 — Garantir un recours effectif : permettre la contestation des décisions prises avec le concours des technologies numériques
• Chapitre 18 — Les autorités de contrôle et le juge : assurer l’effectivité des mécanismes de protection
• Chapitre 19 — La responsabilité numérique : une approche fondée sur la maîtrise du pouvoir renforcé par les technologies numériques

Cette progression reste fidèle à votre idée centrale : chaque chapitre présente un mécanisme qui vient encadrer un pouvoir renforcé, plutôt qu’un catalogue de droits. C’est, selon moi, ce qui donnera à votre guide son identité propre et sa valeur ajoutée. Parfait. Nous poursuivons la logique des mécanismes de protection. Après la légalité, la transparence, la proportionnalité et la protection de la vie privée, le mécanisme suivant est essentiel : l’égalité. Je ne parlerais pas de « discriminations algorithmiques » dans le titre. C’est trop technique et trop réducteur. Le mécanisme de protection est le principe d’égalité. Les discriminations algorithmiques ne sont qu’une des atteintes possibles.

Chapitre 15 — Le principe d’égalité : prévenir les discriminations dans l’exercice du pouvoir renforcé par les technologies numériques

Introduction

Le principe d’égalité constitue l’un des fondements de l’État de droit. Il garantit que les personnes placées dans une situation comparable bénéficient d’un traitement identique, sauf si une différence de traitement est objectivement justifiée. Ce principe s’impose à l’ensemble des acteurs publics. Il irrigue également les relations entre personnes privées dans de nombreux domaines, notamment le travail, la consommation, l’accès aux biens et services, le logement, la santé ou encore l’éducation. Le développement des technologies numériques ne remet pas en cause cette exigence. Il renforce toutefois les risques de traitements différenciés lorsqu’une décision repose, en tout ou partie, sur l’exploitation de données ou sur l’utilisation de systèmes algorithmiques. Les traitements automatisés permettent aujourd’hui d’analyser un nombre considérable d’informations. Ils facilitent le classement des candidatures. Ils assistent l’octroi d’un crédit. Ils contribuent à détecter certaines fraudes. Ils orientent des contrôles. Ils recommandent des contenus. Ils participent à la gestion des ressources humaines. Ils interviennent dans le domaine de la santé, de l’assurance, de l’éducation et de nombreux autres secteurs. Ces technologies renforcent les moyens d’exercice du pouvoir. Elles ne doivent toutefois pas conduire à des différences de traitement injustifiées. Le principe d’égalité constitue ainsi l’un des principaux mécanismes destinés à préserver les personnes contre les risques de discrimination liés à l’utilisation des technologies numériques.

I. L’égalité : une exigence applicable à tous

Le principe d’égalité ne signifie pas que toutes les personnes doivent toujours être traitées de manière identique. Il signifie que les différences de traitement doivent reposer sur des critères objectifs, pertinents et juridiquement admissibles. À l’inverse, toute distinction fondée sur des critères prohibés ou dépourvue de justification constitue une discrimination. Cette exigence s’applique indépendamment des moyens utilisés. Qu’une décision soit prise par une personne ou assistée par une technologie numérique, elle demeure soumise au principe d’égalité. Les outils numériques ne créent donc aucune exception.

II. Pourquoi les technologies numériques peuvent-elles accroître les risques de discrimination ?

Les systèmes numériques reposent sur des données. Ils apprennent à partir d’informations existantes. Ils identifient des corrélations. Ils produisent des classements. Ils établissent des probabilités. Ils assistent certaines décisions. Ces mécanismes peuvent reproduire ou amplifier des déséquilibres déjà présents dans les données utilisées. Ils peuvent également conduire à des effets inattendus. Ainsi, une technologie conçue pour améliorer l’efficacité d’une décision peut produire, sans intention de discriminer, des conséquences défavorables pour certaines personnes ou certains groupes. Le risque ne provient donc pas uniquement de l’algorithme. Il peut résulter :

• des données utilisées ;
• des critères retenus ;
• de la manière dont le système est conçu ;
• de son déploiement ;
• de l’absence de contrôle humain ;
• d’une interprétation inadaptée des résultats.

III. Les principaux domaines concernés

Le principe d’égalité irrigue l’ensemble des rapports de pouvoir étudiés dans ce guide.

Les relations de travail

Les outils numériques utilisés lors du recrutement, de l’évaluation ou de la gestion des carrières ne doivent pas conduire à des différences de traitement injustifiées entre les salariés ou les candidats.

Les services publics

Les traitements automatisés utilisés par les administrations doivent respecter le principe d’égalité devant le service public. Le recours aux technologies numériques ne peut créer de discrimination entre les administrés.

Les services financiers

Les outils d’évaluation des risques doivent être conçus de manière à prévenir les traitements discriminatoires.

Les plateformes numériques

Les systèmes de recommandation, de référencement ou de modération doivent être utilisés dans le respect des principes d’égalité, de transparence et de loyauté.

La santé et l’éducation

Les technologies numériques ne doivent pas conduire à des inégalités d’accès aux soins, à l’enseignement ou aux services essentiels.

IV. Prévenir les discriminations

La prévention constitue le moyen le plus efficace de protéger les droits des personnes. Avant de déployer un système numérique, plusieurs questions devraient être examinées. Les données utilisées sont-elles représentatives ? Les critères retenus sont-ils objectivement justifiés ? Le système risque-t-il de désavantager certaines personnes ? Les résultats sont-ils régulièrement évalués ? Une intervention humaine est-elle prévue lorsque cela est nécessaire ? Des mécanismes de correction existent-ils ? Cette démarche permet d’anticiper les risques avant qu’ils ne produisent leurs effets.

V. Le contrôle humain, une garantie essentielle

Les traitements automatisés peuvent constituer une aide précieuse à la décision. Ils ne doivent toutefois pas conduire à un abandon du jugement humain. Le contrôle humain permet :

• de vérifier la cohérence des résultats ;
• d’identifier les anomalies ;
• de prendre en compte des éléments que le système ne peut apprécier ;
• de corriger d’éventuels effets discriminatoires.

L’intervention humaine contribue ainsi à garantir une décision plus juste et plus respectueuse des droits fondamentaux.

VI. Le principe d’égalité au cœur de la responsabilité numérique

La responsabilité numérique ne consiste pas uniquement à développer des technologies performantes. Elle implique également de s’assurer que ces technologies respectent les principes fondamentaux qui gouvernent notre société. Le principe d’égalité en fait partie. Plus les technologies renforcent les moyens d’exercice du pouvoir, plus les organisations doivent être en mesure de démontrer que les décisions prises à l’aide de ces technologies sont objectives, justifiées et exemptes de discrimination. Cette vigilance constitue une condition essentielle de la confiance dans les technologies numériques. Elle participe également à leur acceptabilité sociale.

À retenir

Le principe d’égalité protège les personnes contre les différences de traitement injustifiées, qu’elles résultent d’une décision humaine ou de l’utilisation de technologies numériques. Les systèmes algorithmiques et l’intelligence artificielle peuvent renforcer les capacités de décision des acteurs publics et privés. Ils ne les autorisent jamais à s’affranchir des exigences d’égalité et de non-discrimination. Prévenir les discriminations, maintenir un contrôle humain et évaluer régulièrement les effets des technologies constituent des composantes essentielles de la responsabilité numérique. Parfait. Ce chapitre est, à mon sens, le mécanisme de protection le plus important de votre démonstration. En effet, les chapitres précédents répondent à la question :

• le pouvoir est-il légal ?
• est-il transparent ?
• est-il proportionné ?
• respecte-t-il la vie privée ?
• respecte-t-il l’égalité ?

Mais une question demeure : Que peut faire la personne lorsqu’elle estime que ses droits ont été méconnus ? C’est précisément la fonction du droit au recours.

Chapitre 16 — Le droit au recours : garantir la contestation de l’exercice du pouvoir renforcé par les technologies numériques

Introduction

Dans un État de droit, aucun pouvoir ne peut s’exercer sans contrôle. Cette exigence vaut pour les autorités publiques comme pour les acteurs privés lorsque leurs décisions sont susceptibles d’affecter les droits et libertés des personnes. Le développement des technologies numériques ne remet pas en cause ce principe. Au contraire. L’utilisation croissante des traitements automatisés, des systèmes d’intelligence artificielle, des plateformes numériques ou des outils d’aide à la décision renforce la nécessité de garantir aux personnes des voies de recours effectives. Les technologies numériques peuvent accélérer les décisions. Elles peuvent améliorer leur cohérence. Elles peuvent faciliter le traitement d’un très grand nombre de situations. Mais elles peuvent également produire des erreurs. Des décisions inexactes. Des traitements discriminatoires. Des atteintes à la vie privée. Des refus injustifiés. Des suppressions de contenus. Des suspensions de comptes. Des refus d’accès à un service. Des décisions administratives ou professionnelles contestables. Face à ces situations, la personne concernée doit pouvoir demander des explications, faire réexaminer la décision et, si nécessaire, saisir une autorité compétente. Le droit au recours constitue ainsi l’une des garanties essentielles de la protection des droits et libertés dans une société numérique.

I. Le droit au recours : une garantie fondamentale

Le droit au recours garantit à toute personne la possibilité de contester une décision qui porte atteinte à ses droits ou à ses intérêts légitimes. Il constitue l’un des fondements de l’État de droit. Ce droit poursuit plusieurs objectifs. Il permet :

• de contrôler l’exercice du pouvoir ;
• de corriger les erreurs ;
• de prévenir les abus ;
• d’assurer le respect des droits fondamentaux ;
• de renforcer la confiance dans les institutions et les organisations.

Le recours ne remet pas en cause l’existence du pouvoir. Il garantit que son exercice demeure conforme au droit.

II. Les technologies numériques ne suppriment pas le droit au recours

Le recours à un traitement automatisé ne modifie pas les droits des personnes. Une décision ne devient pas incontestable parce qu’elle est assistée par un algorithme ou par un système d’intelligence artificielle. L’utilisation d’une technologie ne peut jamais faire obstacle à la possibilité de demander :

• des explications ;
• un réexamen ;
• une rectification ;
• une réparation lorsque cela est justifié.

Cette exigence constitue l’un des principes fondamentaux de la responsabilité numérique. La technologie ne remplace jamais le contrôle juridique.

III. Le droit au recours dans les principaux rapports de pouvoir

Le droit au recours irrigue l’ensemble des situations étudiées dans ce guide.

Face à l’administration

L’administré peut contester une décision administrative lorsqu’il estime qu’elle méconnaît ses droits ou qu’elle repose sur une utilisation irrégulière des technologies numériques.

Face à l’employeur

Le salarié peut demander le contrôle d’une décision prise dans le cadre de la relation de travail lorsqu’il estime qu’elle porte atteinte à ses droits.

Face aux plateformes numériques

Les utilisateurs doivent pouvoir contester certaines décisions, telles que la suppression d’un contenu, la suspension d’un compte ou d’autres mesures affectant l’utilisation du service, selon les règles applicables.

Face aux entreprises

Le consommateur peut exercer les droits que lui reconnaît la loi lorsqu’il estime qu’une décision automatisée ou un traitement de données porte atteinte à ses intérêts.

Face aux établissements de santé

Le patient peut faire valoir ses droits lorsqu’il estime qu’une technologie numérique a été utilisée en méconnaissance des règles applicables.

IV. Le recours suppose une décision compréhensible

Le droit au recours ne peut être pleinement exercé que si la personne comprend la décision qui la concerne. C’est pourquoi les mécanismes étudiés dans les chapitres précédents jouent un rôle essentiel. La légalité. La transparence. La proportionnalité. La protection des données. Le respect du principe d’égalité. Ces garanties permettent aux personnes de disposer des informations nécessaires pour apprécier si leurs droits ont été respectés. Sans compréhension de la décision, le recours risque de devenir purement théorique.

V. Les différentes formes de recours

Le droit offre plusieurs niveaux de protection. Selon les situations, une personne peut :

Demander des explications

Avant toute contestation, il peut être utile de solliciter des informations complémentaires sur les motifs d’une décision.

Demander un réexamen

Certaines situations justifient un nouvel examen de la décision, notamment lorsqu’elle repose sur des informations inexactes ou incomplètes.

Saisir une autorité compétente

Plusieurs autorités administratives indépendantes peuvent intervenir dans leur domaine de compétence pour contrôler certaines pratiques ou accompagner les personnes dans l’exercice de leurs droits.

Saisir le juge

Lorsque cela est nécessaire, les juridictions peuvent être saisies afin d’assurer le respect des droits fondamentaux et de sanctionner les atteintes qui leur sont portées.

VI. Un mécanisme essentiel de la responsabilité numérique

La responsabilité numérique ne consiste pas uniquement à prévenir les risques. Elle implique également de prévoir des mécanismes permettant de corriger les erreurs lorsqu’elles surviennent. Les organisations qui utilisent des technologies numériques devraient veiller à ce que toute personne puisse :

• comprendre une décision qui la concerne ;
• demander des explications ;
• signaler une erreur ;
• solliciter un réexamen ;
• exercer un recours effectif devant l’autorité compétente.

Ces garanties renforcent la confiance dans les technologies numériques. Elles rappellent que les décisions prises à l’aide d’outils numériques demeurent des décisions humaines sur le plan juridique. La responsabilité qui en découle ne peut donc être transférée à la technologie.

À retenir

Le développement des technologies numériques ne réduit jamais le droit des personnes à contester une décision qui affecte leurs droits ou leurs intérêts légitimes. Au contraire, plus les technologies renforcent les moyens d’exercice du pouvoir, plus les mécanismes de recours doivent être accessibles, compréhensibles et effectifs. Le droit au recours constitue ainsi la garantie ultime de la responsabilité numérique. Il assure que l’innovation technologique demeure compatible avec les exigences de l’État de droit, en offrant à chacun la possibilité de faire contrôler l’exercice du pouvoir lorsqu’il estime que ses droits ont été méconnus. Parfait. Nous arrivons maintenant au dernier mécanisme de protection avant la conclusion sur la responsabilité numérique. Je ne consacrerais pas un chapitre aux autorités (CNIL, Défenseur des droits, etc.). Ce serait trop descriptif pour un guide destiné à un large public. Je rédigerais plutôt un chapitre beaucoup plus utile : Qui veille au respect des droits et libertés ? L’idée est de montrer que le droit ne repose pas uniquement sur des principes, mais sur des institutions chargées de les rendre effectifs.

Chapitre 17 — Qui veille au respect des droits et libertés dans l’environnement numérique ?

Introduction

Les principes juridiques n’ont de valeur que s’ils peuvent être effectivement appliqués. Le principe de légalité. La transparence. La proportionnalité. La protection de la vie privée. Le respect de l’égalité. Le droit au recours. Ces garanties seraient largement théoriques si aucune autorité n’était chargée de contrôler leur mise en œuvre. L’encadrement du pouvoir renforcé par les technologies numériques repose ainsi sur un ensemble d’institutions qui veillent au respect des droits et libertés. Leur rôle est multiple. Elles contrôlent. Elles accompagnent. Elles conseillent. Elles sanctionnent lorsque cela est nécessaire. Elles contribuent également à faire évoluer le droit afin de répondre aux défis posés par les nouvelles technologies.

I. Les autorités administratives indépendantes

Certaines autorités disposent de missions spécifiques de contrôle. Elles interviennent dans des domaines où les technologies numériques sont susceptibles d’affecter les droits des personnes. La CNIL veille notamment au respect des règles relatives à la protection des données personnelles. Le Défenseur des droits peut être saisi lorsqu’une personne estime que ses droits ou libertés ont été méconnus, notamment en cas de discrimination ou de dysfonctionnement d’un service public. L’ARCOM exerce des missions de régulation dans le domaine de la communication audiovisuelle et numérique. D’autres autorités interviennent également dans leurs domaines de compétence afin d’assurer la protection des personnes. Ces institutions jouent un rôle préventif autant que répressif. Leur objectif n’est pas seulement de sanctionner. Elles accompagnent également les organisations dans la mise en conformité de leurs pratiques.

II. Le rôle du juge

Le juge demeure le garant ultime des droits et libertés. Il contrôle la légalité des décisions. Il vérifie le respect des principes fondamentaux. Il peut annuler une décision irrégulière. Il peut ordonner la réparation d’un préjudice. Il peut sanctionner certaines atteintes aux droits fondamentaux. Selon la nature du litige, plusieurs juridictions peuvent être compétentes. Le juge administratif contrôle l’action des autorités publiques. Le juge judiciaire connaît des litiges entre personnes privées ainsi que des atteintes relevant de sa compétence. Les juridictions européennes jouent également un rôle essentiel dans l’interprétation et la protection des droits fondamentaux. Le contrôle juridictionnel constitue ainsi l’une des garanties essentielles de l’État de droit.

III. Les organisations ont également une responsabilité

La protection des droits ne repose pas uniquement sur les autorités publiques. Les organisations qui développent ou utilisent des technologies numériques ont elles-mêmes un rôle déterminant. Elles doivent intégrer les exigences juridiques dès la conception de leurs projets. Cette démarche suppose notamment :

• d’identifier les risques pour les personnes ;
• d’évaluer les conséquences des traitements numériques ;
• de mettre en œuvre des mesures de sécurité adaptées ;
• d’assurer la transparence des traitements ;
• de former les équipes ;
• d’organiser une gouvernance du numérique responsable.

La protection des droits fondamentaux ne peut être assurée uniquement par le contrôle a posteriori. Elle suppose une véritable culture de la conformité et de la responsabilité.

IV. Les citoyens, premiers acteurs de la protection de leurs droits

Les personnes concernées jouent également un rôle essentiel. Connaître ses droits. Comprendre le fonctionnement des technologies utilisées. Lire les informations mises à disposition. Exercer ses droits lorsqu’une situation le justifie. Signaler un dysfonctionnement. Demander des explications. Saisir une autorité compétente. Exercer un recours lorsque cela est nécessaire. Toutes ces démarches contribuent au respect effectif des droits et libertés. La protection juridique repose ainsi sur une responsabilité partagée entre les institutions, les organisations et les citoyens.

V. Une protection fondée sur la complémentarité

La protection des droits et libertés ne repose jamais sur un seul mécanisme. Elle résulte de la combinaison de plusieurs garanties. Les organisations doivent agir de manière responsable. Les autorités indépendantes exercent leurs missions de contrôle. Les juridictions assurent le respect du droit. Les personnes concernées disposent de droits et de voies de recours. Cette complémentarité constitue l’une des forces de l’État de droit. Elle permet d’accompagner le développement des technologies numériques tout en préservant les libertés individuelles.

À retenir

La protection des droits et libertés dans l’environnement numérique ne repose pas sur un acteur unique. Elle mobilise les organisations qui utilisent les technologies numériques, les autorités de contrôle, les juridictions et les citoyens eux-mêmes. Cette action collective garantit que le renforcement des moyens d’exercice du pouvoir demeure compatible avec les principes fondamentaux de l’État de droit.

Chapitre 18 — La responsabilité numérique :

vers un exercice responsable du pouvoir à l’ère des technologies numériques

Introduction

Les technologies numériques transforment profondément notre société. Elles facilitent l’accès aux services publics. Elles améliorent l’organisation des entreprises. Elles accompagnent les professionnels de santé. Elles enrichissent les pratiques pédagogiques. Elles favorisent l’innovation. Elles soutiennent le développement économique. Elles renforcent également les moyens dont disposent les acteurs publics et privés pour exercer les pouvoirs qui leur sont confiés. Cette évolution constitue le fil conducteur de ce guide. Les technologies numériques ne créent pas de nouveaux pouvoirs. Elles renforcent les capacités d’exercice des pouvoirs existants. L’État dispose d’outils plus performants pour assurer ses missions. L’employeur bénéficie de nouveaux moyens pour organiser le travail. Les plateformes numériques développent des capacités inédites de diffusion, de classement et de modération des contenus. Les entreprises exploitent les données pour mieux comprendre leurs clients. Les établissements de santé utilisent des outils d’aide au diagnostic. Les établissements d’enseignement développent de nouvelles formes d’accompagnement pédagogique. Cette évolution est porteuse de progrès. Elle implique également une responsabilité nouvelle. Plus les moyens d’exercice du pouvoir sont importants, plus les exigences juridiques, éthiques et organisationnelles doivent être élevées. C’est précisément ce que recouvre la notion de responsabilité numérique.

I. La responsabilité numérique dépasse la seule conformité juridique

La responsabilité numérique ne peut être réduite au respect d’une liste d’obligations réglementaires. Elle ne consiste pas uniquement à appliquer le RGPD, l’AI Act, le Digital Services Act ou les autres textes relatifs au numérique. Ces instruments constituent des fondements essentiels. Ils ne suffisent toutefois pas à eux seuls à garantir un usage responsable des technologies. La responsabilité numérique suppose une réflexion plus globale. Elle conduit les organisations à s’interroger sur les conséquences de leurs choix technologiques avant même la mise en œuvre d’un projet. Elle invite à anticiper les risques. À protéger les personnes. À préserver la confiance. À intégrer les droits fondamentaux dès la conception des outils numériques.

II. Une responsabilité qui concerne tous les acteurs

La responsabilité numérique n’est pas réservée aux grandes entreprises technologiques. Elle concerne l’ensemble des acteurs qui utilisent des technologies numériques dans l’exercice de leurs activités. Les administrations. Les collectivités territoriales. Les entreprises. Les employeurs. Les établissements de santé. Les établissements d’enseignement. Les associations. Les plateformes numériques. Les fournisseurs de technologies. Chacun exerce un pouvoir dans son domaine de compétence. Chacun peut voir ce pouvoir renforcé par les technologies numériques. Chacun doit donc veiller à ce que ce renforcement demeure compatible avec les droits et libertés des personnes.

III. Une méthode avant d’être une obligation

La responsabilité numérique constitue avant tout une méthode de gouvernance. Avant de mettre en œuvre une technologie, plusieurs questions devraient systématiquement être posées. Le projet repose-t-il sur un fondement juridique clair ? Les finalités sont-elles précisément définies ? La technologie utilisée est-elle réellement nécessaire ? Existe-t-il une solution moins intrusive ? Les personnes concernées sont-elles suffisamment informées ? Les données collectées sont-elles limitées au strict nécessaire ? Les risques de discrimination ont-ils été évalués ? Une intervention humaine est-elle prévue lorsque cela est nécessaire ? Les personnes disposent-elles de voies de recours effectives ? Ces interrogations traduisent une démarche de prévention. Elles permettent d’intégrer la protection des droits fondamentaux au cœur des décisions.

IV. La confiance, condition du développement des technologies numériques

Le développement des technologies numériques repose sur un facteur essentiel : la confiance. Les citoyens acceptent plus facilement les services publics numériques lorsqu’ils savent que leurs droits sont protégés. Les salariés adhèrent davantage aux outils numériques lorsqu’ils comprennent leur fonctionnement et leurs garanties. Les patients acceptent le partage de leurs données de santé lorsqu’ils ont l’assurance que celles-ci seront protégées. Les consommateurs utilisent plus volontiers des services innovants lorsqu’ils bénéficient d’une information claire et de garanties effectives. La confiance ne se décrète pas. Elle se construit. Elle repose sur la transparence, la sécurité, le respect des droits fondamentaux et la possibilité de contester les décisions lorsque cela est nécessaire.

V. Une nouvelle culture de l’exercice du pouvoir

La transformation numérique invite à renouveler notre manière d’appréhender l’exercice du pouvoir. Pendant longtemps, la réflexion juridique s’est concentrée sur l’identification des compétences reconnues à chaque acteur. Les technologies numériques conduisent désormais à s’intéresser également aux moyens mobilisés pour exercer ces compétences. Cette évolution marque un changement de perspective. L’enjeu n’est plus uniquement de savoir qui détient un pouvoir. Il consiste également à s’assurer que les technologies utilisées pour exercer ce pouvoir respectent les principes de l’État de droit. La responsabilité numérique traduit cette évolution. Elle ne remet pas en cause l’exercice légitime des pouvoirs. Elle en améliore les conditions d’exercice. Elle favorise une utilisation des technologies compatible avec les exigences démocratiques.

Conclusion générale

Les technologies numériques continueront de transformer nos sociétés. L’intelligence artificielle, les traitements automatisés, les plateformes numériques, les objets connectés ou encore les technologies immersives offriront demain des possibilités encore plus importantes. Ces innovations renforceront les capacités d’action des acteurs publics et privés. Elles créeront également de nouveaux défis pour la protection des personnes. Face à ces évolutions, une conviction demeure. Le progrès technologique n’a de sens que s’il s’accompagne d’un progrès dans la protection des droits et des libertés. La responsabilité numérique repose précisément sur cette ambition. Elle invite à considérer que la performance technologique et la protection des personnes ne sont pas des objectifs opposés. Elles sont complémentaires. Une technologie digne de confiance est une technologie conçue, déployée et utilisée dans le respect de la dignité humaine, des droits fondamentaux et des principes de l’État de droit. À l’heure où les technologies numériques renforcent les moyens d’exercice du pouvoir, la véritable innovation ne consiste pas seulement à développer des outils toujours plus performants. Elle consiste surtout à faire en sorte que ces outils demeurent durablement au service de la personne.