Vers une IA de confiance
L’IA Act (Règlement Européen sur l’intelligence artificielle) a été définitivement adopté en mai 2024. Ce texte prévoit un ensemble de règles que les fournisseurs de produits dotés de SIA (système d’intelligence artificielle) devront respecter pour pouvoir mettre sur le marché de tels produits.
L’IA Act est l’aboutissement de plusieurs années de discussion au sein des institutions de l’Union Européenne. Il s’appuie en grande partie sur les travaux entrepris par un Groupe d’experts de haut niveau sur l’intelligence artificielle, chargé d’éclairer le législateur européen sur les gardes fous à mettre en place pour soutenir l’innovation en matière d’IA, tout en protégeant les individus des risques potentiels.
Dans un guide publié en 2017, ce groupe d’experts a posé les fondements d’une IA éthique en proposant des principes directeurs et les conditions de mise en oeuvre de ces principes. Voici les points clés à retenir :
Les principes directeurs d’une IA éthique
- Respect de l’autonomie humaine
- Prévention de toute atteinte
- Equité
- Explicabilité
Les conditions ou exigences à réunir pour parvenir à une IA éthique
- Action humaine et contrôle humain
- Robustesse technique et sécurité
- Respect de la vie privée et gouvernance des données
- Transparence
- Diversité, non-discrimination et équité
- Bien être social et environnemental
- Responsabilité
Les actions à mettre en oeuvre dans les organisations
- Actions d’ordre technique
- une conception « ethic by design »
- des méthodes d’explication du fonctionnement des systèmes d’IA
- des protocoles d’essais et validation
- des indicateurs d’évaluation
- Actions relevant de la gouvernance
- Mise en place d’un comité éthique avec des compétences pluridisciplinaires
- Elaboration d’une charte éthique et d’un code de conduite
- Mise en place d’un procédure de contrôle et d’évaluation
- Prise en compte de toutes les parties prenantes
sources :
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
