Catégorie : Actualités

Vers une IA éthique

Vers une IA de confiance  L’IA Act (Règlement Européen sur l’intelligence artificielle) a été définitivement adopté en mai 2024. Ce texte prévoit un ensemble de règles que les fournisseurs de produits dotés de SIA (système d’intelligence artificielle) devront respecter pour pouvoir mettre sur le marché de tels produits.  L’IA Act est l’aboutissement de plusieurs années de discussion au sein des institutions de l’Union Européenne. Il s’appuie en grande partie sur les travaux entrepris par un Groupe d’experts de haut niveau sur l’intelligence artificielle, chargé d’éclairer le législateur européen sur les gardes fous à mettre en place pour soutenir l’innovation en matière d’IA, tout en protégeant les individus des risques potentiels.  Dans un guide publié en 2017, ce groupe d’experts  a posé les fondements d’une IA éthique en proposant des principes directeurs et les conditions de mise en oeuvre de ces principes. Voici les points clés à retenir : Les principes directeurs d’une IA éthique  Les conditions ou exigences à réunir pour parvenir à une IA éthique  Les actions à mettre en oeuvre dans les organisations  sources : https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai

Lire la suite »

La loi SREN (Sécuriser et Réguler l’Espace Numérique) en France

La loi SREN a été promulguée le 24 mai 2024 en France dans le but de renforcer la protection des citoyens et des entreprises en ligne.  Voici les mesures phares à retenir :  Adaptation au droit européen La loi SREN adapte le droit français à deux règlements de l’Union européenne visant à réguler les acteurs du numérique : Le règlement sur les services numériques (DSA) Le règlement sur les marchés numériques (DMA)  Protection des mineurs Vérification d’âge sur les sites pornographiques : la loi SREN impose la mise en place de systèmes de vérification d’âge sur les sites pornographiques, sous peine de lourdes amendes et de blocage des site Retrait des contenus pédopornographiques : les hébergeurs doivent retirer dans les 24 heures les contenus pédopornographiques signalés par la police et la gendarmerie, sous peine d’un an de prison et 250 000 euros d’amende.   Lutte contre la cybercriminalité et la haine en ligne Filtre de cybersécurité : un filtre de cybersécurité est instauré pour protéger les citoyens contre les tentatives d’accès frauduleux à leurs coordonnées personnelles ou bancaires (les modalités de sa mise en œuvre seront précisées par décret). Sanctions pour diffusion de contenus haineux en ligne : une peine de bannissement des réseaux sociaux de six mois (voire un an en cas de récidive) peut être prononcée par le juge en cas de condamnation pour haine en ligne, cyber-harcèlement ou autres infractions graves.  Lutte contre les deepfakes L’utilisation d’hypertrucages ou “deepfake” pour attenter à la dignité des personnes est maintenant passible de 75 000 euros d’amende et trois ans d’emprisonnement.  Réserve citoyenne du numérique Une réserve citoyenne du numérique sera créée pour permettre aux volontaires de s’engager civiquement dans l’espace numérique. Ajoutez votre titre ici

Lire la suite »

Prospection commerciale : la sociétéHubside.Store sanctionnée par la CNIL

La Commission nationale de l’informatique et des libertés (CNIL) a récemment infligé une amende de 525 000 euros à la société Hubside.Store pour ses pratiques douteuses concernant les données personnelles de ses clients. Contexte :La société Hubside.Store est spécialisée dans la réparation, le reconditionnement et la revente deproduits électroniques tels que les téléphones portables et les ordinateurs. La société est implantée dans plusieurs pays, dont la France. Les manquements : Sanction :

Lire la suite »

Une IA ne peut être inventeur

Une intelligence artificielle ne peut être désignée comme inventeur En 2018, le docteur Stephen Thaler dépose, auprès de l’Office britannique de la propriété intellectuelle, deux demandes de brevet en désignant comme inventeur le système d’intelligence artificielle DABUS « Device for the Autonomous Bootstrapping of Unified Sentience ») qu’il a créé. L’office anglais des brevets rejette les deux demandes au motif qu’une intelligence artificielle ne peut être désignée comme inventeur, cette qualité ne pouvant être attribuée selon le droit des brevets qu’à un humain. En 2020, Stephen Thaler conteste cette décision devant le juge qui donne raison à l’office. En 2021, La cour d’appel suit le même raisonnement et confirme les décisions de l’office et du premier juge. Encouragé par les décisions controversées des l’office des brevets sud africain et de la cour fédérale australienne qui ont admis la possibilité pour une IA d’être désignée comme inventeur, Thaler s’obstine et saisit la cour suprême du Royaume Uni Dans un arrêt du 20 décembre 2023, la Cour suprême juge que « la loi sur les brevets n’autorise qu’une seule interprétation : un inventeur doit être une personne physique.» Qu’en est-il en Europe? Le 21 décembre 2021, la chambre de recours juridique de l’OEB a rendu une décision similaire en précisant « qu’en vertu de la convention sur le brevet européen (CBE), un inventeur désigné dans une demande de brevet doit être un être humain ».  Pour aller plus loin : https://www.epo.org/fr/news-events/news/lintelligence-artificielle-ne-peut-pas-etre-designee-comme-inventeur-dans-une-0#      Ajoutez votre titre ici

Lire la suite »

Brevets (USA) : lignes directrices de l’USPTO sur la qualité d’inventeur pour les inventions assistées par l’intelligence artificielle

Le 12 février 2024, l’Office américain des brevets et des marques (USPTO) a publié des lignes directrices sur la brevetabilité des inventions développées avec l’aide de l’intelligence artificielle (IA). Selon ces lignes directrices, pour qu’une invention assistée par l’IA soit brevetable, un être humain doit avoir apporté une « contribution significative » à l’invention. L’analyse de la qualité d’inventeur se concentre sur les contributions humaines, car les brevets visent à encourager et récompenser l’ingéniosité humaine. Les demandes de brevet doivent désigner la personne physique qui a apporté une contribution significative comme inventeur ou co-inventeur. Par conséquent, les demandes de brevet portant sur des inventions assistées par l’IA doivent désigner la personne physique qui a apporté une contribution significative comme inventeur ou co-inventeur. L’USPTO entérine ainsi sa décision de juillet 2020, par laquelle il a rejeté deux demandes de brevet déposées par Stephen Thaler portant sur deux inventions générées par son système d’IA DABUS.

Lire la suite »

Adoption de l’IA act

Le Parlement européen a franchi une étape significative en adoptant à une large majorité (523 pour, 46 contre, 49 abstentions) le règlement sur l’intelligence artificielle (IA), également connu sous le nom d’“IA Act”. Cette législation, qui vise à encadrer le développement de l’IA dans l’Union européenne, est considérée comme une première mondiale. Les mesures clés de l’IA Act : L’UE mettra en place des “bacs à sable” réglementaires pour permettre aux entreprises de tester leurs technologies sans être soumises à l’ensemble de la législation. Cette approche favorisera le développement européen de l’IA face à la concurrence américaine et chinoise. Les obligations des entreprises augmenteront à mesure que la technologie représente une menace pour les droits fondamentaux. Certaines technologies seront interdites, telle que la reconnaissance biométrique en temps réel, la notation sociale ou la reconnaissance des émotions sur le lieu de travail et dans les établissements scolaires. Les systèmes d’IA “à haut risque” devront garantir qu’une intervention humaine est toujours possible pour éviter les dérives permises par l’automatisation. Adoption du règlement européen sur l’intelligence artificielle (IA Act) Actualités Droit du numérique

Lire la suite »

Les priorités de contrôle de la CNIL pour 2024

Les priorités de contrôle de la CNIL pour 2024 En 2024, la CNIL (Commission Nationale de l’Informatique et des Libertés) a défini des thématiques prioritaires pour ses contrôles. Ces thématiques sont :  Données des mineurs collectées en ligne : Avec l’essor des réseaux sociaux, des sites de rencontres et des plateformes de jeux en ligne, les mineurs sont exposés à une collecte massive d’informations sur leur identité, leurs préférences et leurs habitudes de vie. La CNIL vérifiera si des mécanismes de contrôle d’âge sont mis en place sur les applications et sites fréquentés par les enfants et adolescents, et si le principe de minimisation des données est respecté. Collecte de données dans le cadre des Jeux Olympiques et Paralympiques : En vue de cet événement international majeur, la CNIL examinera les dispositifs de sécurité déployés, tels que les codes QR pour les zones à accès restreint, les habilitations d’accès et l’utilisation de caméras augmentées. Elle s’intéressera également à la collecte de données opérée dans le cadre des services de billetterie, compte tenu du nombre élevé de personnes concernées et des partenaires de l’événement qui pourraient recevoir ces données. Tickets de caisse dématérialisés et programmes de fidélité : La CNIL surveillera la collecte de données liée aux tickets de caisse dématérialisés et aux programmes de fidélité. Elle examinera les informations communiquées, les destinataires des données et les mesures de sécurité mises en place. Droit d’accès des personnes : La CNIL veillera à ce que les droits d’accès des personnes concernées soient respectés par les responsables des traitements. 

Lire la suite »

La CNIL publie ses premières recommandations sur l’IA

Les recommandations de la CNIL sur l’application du RGPD au développement des systèmes d’IA La Commission nationale de l’informatique et des libertés (CNIL) a publié ses premières recommandations concernant l’application du Règlement général sur la protection des données (RGPD) au développement des systèmes d’intelligence artificielle (IA). Ces recommandations visent à aider les professionnels à concilier innovation et respect des droits des personnes. Parmi les recommandations, la CNIL invite les entreprises à : – Déterminer le régime juridique applicable : il est crucial de comprendre comment le RGPD s’applique aux systèmes d’IA, notamment en ce qui concerne la collecte et le traitement des données personnelles. – Définir une finalité : les concepteurs et développeurs d’IA doivent clairement définir l’objectif de leur système, en tenant compte des droits et libertés des individus. – Qualifier juridiquement les acteurs : il est important d’identifier les responsabilités et les rôles des différents acteurs impliqués dans le développement et l’utilisation des systèmes d’IA. – Définir une base légale : les traitements de données personnelles effectués par les systèmes d’IA doivent reposer sur une base légale spécifique prévue par le RGPD. Ces recommandations s’appliquent à la phase de développement des systèmes d’IA et visent à garantir la conformité avec le RGPD. Document à retrouver sur le site de la CNIL : https://www.cnil.fr/fr/developpement-des-systemes-dia-les-recommandations-de-la- cnil-pour-respecter-le-rgpd

Lire la suite »

La directive NIS 2

Publiée au Journal Officiel de l’Union européenne en décembre 2022, la directive NIS 2 (Network and Information Security) vise à accroître la résilience de l’Europe face aux menaces cyber actuelles et futures. Découvrez les principaux apports de cette directive et les obligations pour les entreprises. Les apports de la directive NIS 2 La directive NIS 2 marque un tournant en matière de cybersécurité. Pour faire face à des acteurs malveillants toujours plus performants, elle étend ses objectifs et son champ d’application afin d’offrir une protection accrue. La directive NIS 2 encourage les États membres à renforcer leur collaboration en matière de gestion de crise cyber. Elle officialise notamment le réseau CyCLONe (Cyber Crisis Liaison Organisation Network), qui réunit l’ANSSI et ses homologues européens. La directive NIS 2 introduit de nouvelles exigences dans quatre domaines clés pour les entreprises : gestion de la cybersécurité, la déclaration aux autorités, la gestion des risques et la continuité des activités. Les principales obligations pour les entreprises Les entreprises doivent mettre en place des mesures de sécurité pour protéger leurs systèmes et réseaux contre les cyberattaques. Elles doivent également identifier et évaluer les risques liés à la sécurité de l’information et mettre en œuvre des mesures appropriées pour les atténuer. En cas d’incident de sécurité majeur, les entreprises doivent signaler l’incident aux autorités compétentes dans un délai spécifié. Les entreprises doivent élaborer et mettre en œuvre des politiques de gestion des risques liés à la cybersécurité. Elles doivent surveiller en permanence les menaces et les vulnérabilités et prendre des mesures pour les contrer. Les entreprises doivent garantir la continuité de leurs activités en cas d’incident de sécurité. Elles doivent élaborer des plans de continuité des activités et des plans de reprise après sinistre. Les entreprises doivent coopérer avec les autorités nationales de cybersécurité et d’autres entités concernées pour renforcer la sécurité de l’information à l’échelle de l’UE. Autres changements La directive NIS 2 met fin à la classification des Opérateurs de Services Essentiels (OSE) et des Fournisseurs de Services Numériques (FSN). Elle introduit plutôt des régimes distincts pour les entités essentielles et les entités importantes. La directive NIS 2 s’applique à un plus grand nombre de secteurs, notamment les fournisseurs de services gérés (services externalisés), les plateformes de médias sociaux, les gestionnaires de déchets, les fabricants de dispositifs médicaux, les services postaux, l’industrie alimentaire, le secteur spatial (lanceurs de fusées, pas de stockage), la distribution chimique et les services d’administration publique. La directive NIS 2 instaure une responsabilité des organes de direction des entités concernées. Les dirigeants devront veiller à la mise en œuvre des mesures de cybersécurité et à la gestion des risques. En cas de non-conformité, les amendes peuvent être significatives : Pour les entités essentielles, elles peuvent atteindre 10 millions d’euros ou 2 % du chiffre d’affaires annuel mondial, selon le montant le plus élevé. Pour les entités importantes, les amendes peuvent aller jusqu’à 7 millions d’euros ou 1,4 % du chiffre d’affaires annuel mondial. L’Agence nationale de la sécurité des systèmes d’information (ANSSI) sera le régulateur chargé de mettre en œuvre des contrôles et de prononcer des sanctions.

Lire la suite »

DSA : entrée en vigueur, champ d’application et obligations des plateformes

Entrée en vigueur du Digital Services Act (DSA) Le Digital Services Act (DSA) est un règlement européen visant à réduire la diffusion de contenus illicites et préjudiciables et à instaurer davantage de transparence entre les plateformes en ligne et leurs utilisateurs. Le règlement (UE) 2022/2065 est entré en vigueur le 16 novembre 2022. Il s’applique à l’ensemble des services concernés depuis le 17 février 2024. Les très grandes plateformes et les très grands moteurs de recherche désignés en avril 2023 y étaient soumis plus tôt, à compter du 25 août 2023 (art. 92 et 93 du règlement). Champ d’application Le DSA s’applique à tous les intermédiaires en ligne qui fournissent des services dans l’Union européenne, tels que les hébergeurs, les moteurs de recherche, les réseaux sociaux et les places de marché en ligne. Les obligations varient en fonction de la taille et de l’audience de ces plateformes. Obligations des plateformes Devoir de vigilance renforcé pour les très grandes plateformes Les très grandes plateformes doivent analyser les risques systémiques qu’elles engendrent et mettre en place des mesures pour les atténuer. Ces risques incluent la diffusion de contenus illégaux, les atteintes aux droits fondamentaux et les manipulations de services pouvant altérer les processus démocratiques et la sécurité publique. Contenu vérifié le 8 septembre 2026. Sur le même sujet : Plateformes et places de marché · Comprendre la responsabilité numérique

Lire la suite »