Intelligence artificielle et AI Act

Adoption de l’IA act

17 avril 2024 Aucun commentaire

Le Parlement européen a franchi une étape significative en adoptant à une large majorité (523 pour, 46 contre, 49 abstentions) le règlement sur l’intelligence artificielle (IA), également connu sous le nom d’“IA Act”. Cette législation, qui vise à encadrer le développement de l’IA dans l’Union européenne, est considérée comme une première mondiale. Les mesures clés de l’IA Act : L’UE mettra en place des “bacs à sable” réglementaires pour permettre aux entreprises de tester leurs technologies sans être soumises à l’ensemble de la législation. Cette approche favorisera le développement européen de l’IA face à la concurrence américaine et chinoise. Les obligations des entreprises augmenteront à mesure que la technologie représente une menace pour les droits fondamentaux. Certaines technologies seront interdites, telle que la reconnaissance biométrique en temps réel, la notation sociale ou la reconnaissance des émotions sur le lieu de travail et dans les établissements scolaires. Les systèmes d’IA “à haut risque” devront garantir qu’une intervention humaine est toujours possible pour éviter les dérives permises par l’automatisation. Adoption du règlement européen sur l’intelligence artificielle (IA Act) Actualités Droit du numérique

Lire la suite »

La CNIL publie ses premières recommandations sur l’IA

8 avril 2024 Aucun commentaire

Les recommandations de la CNIL sur l’application du RGPD au développement des systèmes d’IA La Commission nationale de l’informatique et des libertés (CNIL) a publié ses premières recommandations concernant l’application du Règlement général sur la protection des données (RGPD) au développement des systèmes d’intelligence artificielle (IA). Ces recommandations visent à aider les professionnels à concilier innovation et respect des droits des personnes. Parmi les recommandations, la CNIL invite les entreprises à : – Déterminer le régime juridique applicable : il est crucial de comprendre comment le RGPD s’applique aux systèmes d’IA, notamment en ce qui concerne la collecte et le traitement des données personnelles. – Définir une finalité : les concepteurs et développeurs d’IA doivent clairement définir l’objectif de leur système, en tenant compte des droits et libertés des individus. – Qualifier juridiquement les acteurs : il est important d’identifier les responsabilités et les rôles des différents acteurs impliqués dans le développement et l’utilisation des systèmes d’IA. – Définir une base légale : les traitements de données personnelles effectués par les systèmes d’IA doivent reposer sur une base légale spécifique prévue par le RGPD. Ces recommandations s’appliquent à la phase de développement des systèmes d’IA et visent à garantir la conformité avec le RGPD. Document à retrouver sur le site de la CNIL : https://www.cnil.fr/fr/developpement-des-systemes-dia-les-recommandations-de-la- cnil-pour-respecter-le-rgpd

Lire la suite »

La responsabilité numérique des entreprises

17 février 2024 Aucun commentaire

Qu’est ce que la responsabilité numérique des entreprises? La responsabilité numérique des entreprises s’inscrit dans une démarche qui incitent les organisations à intégrer dans leur politique RSE les impacts générés par leurs activités numériques. La responsabilité numérique des entreprises s’articule autour de trois catégories d’ enjeux liés à l’utilisation du numérique dans leurs activités : Enjeux des données : Enjeux environnementaux : Le numérique a un impact environnemental non négligeable. La collecte, le traitement et le stockage de volumes de plus en plus massifs de données génèrent : Les entreprises doivent adopter des pratiques permettant de réduire leur empreinte carbone et promouvoir des technologies plus économes en énergie. Enjeux sociaux : L’organisation du travail est transformée par le numérique. De nouvelles formes de précarité et de pénibilité au travail sont apparues avec le développement des activités numériques. Pour atténuer ces effets systémiques, les entreprises doivent mettre enplace des actions concrètes afin de garantir des conditions de travail équitable, favoriser le dialogue social et protéger les droits des travailleurs. Enjeux spécifiques soulevés par l’intelligence artificielle : les discriminations numériques La discrimination numérique est un phénomène qui se manifeste lorsque des biais discriminatoires sont présents dans les outils numériques, tels que les algorithmes et l’intelligence artificielle (IA). Les biais dans les algorithmes : les algorithmes, même s’ils semblent neutres, peuvent contenir des biais. Ces biais proviennent souvent des données utilisées pour les entraîner. Si ces données sont elles-mêmes discriminatoires, les algorithmes risquent de reproduire ces discriminations. Par exemple, des critères apparemment neutres peuvent, lorsqu’ils sont combinés, entraîner des effets discriminatoires. Invisibilité des biais : les biais dans les algorithmes sont souvent difficiles à détecter individuellement. Même les systèmes d’IA complexes peuvent générer des effets discriminatoires sans que cela soit immédiatement visible. Exemples :

Lire la suite »