monparlement.fr monparlement.fr

Garantir le développement de systèmes d'intelligence artificielle éthique et sécurisé

Déposé, non adopté à ce jour Ce texte a été déposé le 15 septembre 2026. Il n'a pas été adopté à ce jour : ce n'est pas la loi.

Proposition de loi

Auteur : René PilatoLFI · avec 73 cosignataires

En commission

Renvoyée en commission le 15 septembre 2026, en attente d'examen ou en cours d'examen.

Commission des affaires économiques

Proposition de loi ordinaire

Ce que change ce texte

L'enjeu en clair

Ce résumé décrit ce que le texte propose. Ce n'est pas le droit en vigueur.

La proposition de loi interdit de concevoir ou de déployer un système d'intelligence artificielle ayant pour finalité de faciliter la commission d'infractions, ainsi que tout système visant à simuler une relation affective avec l'utilisateur, à se substituer à ses relations sociales, à exercer sur lui une emprise psychologique ou à entretenir une dépendance affective, et impose aux fournisseurs et déployeurs de prévenir les biais discriminatoires, un manquement étant présumé lorsqu'un résultat discriminatoire paraît procéder d'un défaut des mesures requises. Les systèmes doivent demander des clarifications face à une instruction imprécise, s'abstenir de répondre lorsqu'ils ne disposent pas des informations nécessaires, avertir que leurs résultats peuvent comporter des erreurs, indiquer à l'utilisateur qu'il interagit avec une intelligence artificielle et marquer les contenus qu'ils génèrent, toute personne pouvant obtenir dans un délai de sept jours l'effacement des données personnelles acquises par le système. Le texte prévoit qu'un système d'intelligence artificielle ne peut contracter et qu'aucune décision affectant significativement un salarié ou un candidat ne peut être prise sur le seul fondement de ses résultats, sous peine de nullité, l'employeur restant seul responsable de ses obligations. Il soumet à l'autorisation préalable d'une Autorité nationale de l'intelligence artificielle, autorité administrative indépendante de dix-huit membres, la mise sur le marché à titre commercial des modèles à usage général et des systèmes à haut risque au sens du règlement européen, et dote cette autorité de pouvoirs de contrôle et de sanction allant jusqu'à l'interdiction d'un système et à une amende pouvant atteindre 7 % du chiffre d'affaires annuel mondial. Les fournisseurs et déployeurs doivent enfin lui notifier dans les quarante-huit heures tout dysfonctionnement susceptible de porter atteinte à la sécurité ou à la santé des personnes, la charge pour l'État étant compensée par une taxe additionnelle sur le chiffre d'affaires réalisé en France par les multinationales du secteur et par une taxe additionnelle à l'accise sur les tabacs.

Résumé rédigé hors ligne par un modèle de langage (en local). Il peut contenir des approximations : à recouper avec le texte officiel. Aucun modèle n'est appelé à l'affichage de la page.

Déposée le : 15 septembre 2026
Identifiant : PIONANR5L17B3149
Dossier législatif : DLR5L17N54879

Où en est ce texte ?

Le parcours du texte

  1. 15 septembre 2026 Dépôt du texte Assemblée entrée au Parlement
  2. à venir Adoption définitive
  3. à venir Conseil constitutionnel saisine possible
  4. à venir Promulgation

La chaîne est affichée en entier jusqu'à la promulgation ; les étapes encore incertaines sont marquées possibles.

Le texte en détails

Dispositions du texte

Exposé des motifs (extrait du PDF officiel)

MESDAMES, MESSIEURS, L’intelligence artificielle (IA) n’est plus une promesse de science-fiction ; elle est devenue, en l’espace de quelques mois, une réalité structurante de notre quotidien. Le lancement, en novembre 2022, de ChatGPT par la société OpenAI a marqué un point de bascule historique. Si les modèles de langage (Large Language Models) préexistaient à cette date, leur démocratisation fulgurante a déclenché une « ruée vers l’or » numérique sans précédent. Les chiffres témoignent de cette mutation profonde de notre société : aujourd’hui, près de 88 % des Français déclarent avoir entendu parler de l’intelligence artificielle générative. Plus significatif encore, son usage s’est généralisé : 40 % de la population française y a recours, un taux qui culmine à 75 % chez les moins de 25 ans. Cette expansion technologique porte en elle des promesses réelles. En automatisant des tâches répétitives ou complexes, l’intelligence artificielle offre une opportunité de soulager la « charge mentale » collective et de libérer du temps pour la créativité et l’épanouissement humain. Toutefois, cette fuite en avant des investissements et des capacités de calcul s’accompagne de risques systémiques qu’il appartient au législateur d’appréhender. Face à l’ampleur du défi, les acteurs les plus éminents du secteur appellent eux-mêmes à l’intervention de la puissance publique. Des « pères fondateurs » tels que Yoshua Bengio, Yann LeCun ou Sam Altman, aux signataires de pétitions mondiales comm…

Articles (25 extrait·s du texte)
  • Article 1er Au titre de la présente loi, et conformément au règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, on entend par : 1° Un « système d’intelligence artificielle », un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels ; 2° Un « fournisseur », une personne physique ou morale, une autorité publique, une agence ou tout autre organisme qui développe ou fait développer un système d’intelligence artificielle ou un modèle d’intelligence artificielle à usage général et le met sur le marché ou met le système d’intelligence artificielle en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit ; 3° Un « déployeur », une personne physique ou morale, une autorité publique, une agence ou un autre organisme utilisant sous sa propre autorité un système d’intelligence artificielle sauf lorsque ce système est utilisé dans le cadre d’une activité personnelle à caractère non professionnel.…
  • Article 2 I. Le développement, l’entraînement, la mise à disposition et le déploiement des systèmes d’intelligence artificielle concourent, dans le respect du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, au progrès humain, à la protection de la dignité de la personne, au respect des libertés fondamentales et à l’intérêt général, ainsi qu’à un niveau élevé de protection de la santé, de la sécurité et de l’environnement. Les activités menées à chaque étape du cycle de vie d’un système d’intelligence artificielle sont compatibles avec les droits de l’homme, la démocratie et l’État de droit. II. Tout fournisseur ou déployeur d’un système d’intelligence artificielle garantit que la conception, le paramétrage et le déploiement de ce système préviennent tout risque pour l’ordre public ou à l’intégrité physique ou morale des personnes. III. Le système d’intelligence artificielle est configuré pour exécuter les instructions de la personne physique ou morale qui l’utilise. Par exception, l’exécution d’une instruction est automatiquement suspendue par le système si celle-ci est de nature à porter atteinte à la sécurité publique ou à l’intégrité physique ou morale des personnes.…
  • Article 3 Il est interdit de concevoir ou de déployer un système d’intelligence artificielle ayant pour finalité de faciliter la commission d’infractions ou d’actes contraires à la législation française. Les fournisseurs et déployeurs de systèmes d’intelligence artificielle mettent en œuvre des mesures de sécurité et de contrôle proportionnées afin d’empêcher que lesdits systèmes ne puissent, par aide ou assistance, par menace ou ordre, provoquer ou faciliter la préparation ou la consommation d’une infraction.…
  • Article 4 Sont interdits la conception, le paramétrage, l’entraînement, le déploiement et l’exploitation d’un système d’intelligence artificielle ayant pour objectif de simuler une relation affective avec l’utilisateur, de se substituer à ses relations sociales, d’exercer sur lui une emprise psychologique ou de susciter ou d’entretenir une dépendance affective.
  • Article 5 Toute activité de recherche, de développement, de déploiement ou d’exploitation d’un système d’intelligence artificielle est conduite dans le respect de l’intérêt supérieur de l’enfant. TITRE II PRINCIPES APPLICABLES À LA MISE EN ŒUVRE DES SYSTÈMES D’INTELLIGENCE ARTIFICIELLE
  • Article 6 I. – Sans préjudice des articles 10 et 77 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, les systèmes d’intelligence artificielle sont conçus, développés et entraînés de manière à prévenir tout biais discriminatoire, direct ou indirect, au sens de l’article 225-1 du code pénal, et à éviter la reproduction de biais discriminatoires. II. – Les fournisseurs et les déployeurs prennent les mesures raisonnables et proportionnées permettant de détecter, de corriger et de documenter les biais discriminatoires. III. – Sauf preuve contraire, le fournisseur ou, le cas échéant, le déployeur est présumé avoir manqué aux obligations prévues aux I et II lorsqu’un système d’intelligence artificielle a produit un résultat entaché d’une discrimination et qu’un indice afférent à la conception, à l’entraînement, au déploiement ou au fonctionnement de ce système rend vraisemblable que ce résultat procède d’un défaut de mise en œuvre des mesures requises.…
  • Article 7 I. – Sans préjudice des obligations prévues à l’article 13 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, tout fournisseur ou, le cas échéant, tout déployeur d’un système d’intelligence artificielle garantit l’explicabilité des résultats produits par ledit système à l’égard de l’utilisateur, dans la limite de ce que l’on peut raisonnablement attendre au regard de l’état de l’art. II. – Les informations mentionnées au I sont communiquées sous une forme intelligible et précise.…
  • Article 8 I. – Le fournisseur ou le déployeur d’un système d’intelligence artificielle garantit que ledit système est configuré de telle sorte que, lorsqu’une instruction ne permet pas son exécution en raison de son imprécision, le système sollicite de l’utilisateur les clarifications nécessaires avant toute génération de résultat. II. – Il en garantit également la configuration de telle sorte que, lorsque le système ne dispose pas des données ou informations nécessaires pour traiter une requête de manière fiable, il s’abstient de produire un résultat et informe l’utilisateur de son incapacité à traiter la requête, plutôt que de produire une information erronée ou non vérifiée.…
  • Article 9 Le fournisseur ou le déployeur d’un système d’intelligence artificielle veille à ce que ledit système indique à l’utilisateur, de manière claire et intelligible, que les résultats produits sont générés par inférence automatisée et peuvent comporter des erreurs, approximations ou éléments fabriqués. Cette mention précise que ces résultats ne sauraient être regardés comme des faits établis.…
  • Article 10 Nul ne peut être contraint d’exécuter une instruction émanant exclusivement d’un système d’intelligence artificielle. Toute réponse, recommandation, proposition d’action ou résultat généré par un système d’intelligence artificielle est dépourvu de force contraignante et ne peut constituer, par lui-même, un ordre ou une injonction à l’égard d’une personne physique ou morale.
  • Article 11 1° Après l’article 1145 du code civil, il est inséré un article 1145-1 ainsi rédigé : « Art. 1145-1. – Un système d’intelligence artificielle ne peut contracter. Tout acte juridique, qu’il soit unilatéral ou conventionnel, dont l’une des parties est exclusivement un système d’intelligence artificielle est nul. » 2° Le livre Ier de la première partie du code du travail est complété par un titre VII ainsi rédigé : « TITRE VII « RECOURS AUX SYSTÈMES D’INTELLIGENCE ARTIFICIELLE « Art. L. 1171-1. – I. – Les obligations mises à la charge de l’employeur par le présent code, par les conventions et accords collectifs de travail, par le contrat de travail ou par le règlement intérieur, ainsi que les pouvoirs qu’il tient de ces mêmes sources, ne peuvent être délégués, transférés ou confiés à un système d’intelligence artificielle au sens de l’article 1 de la loi n° du visant à garantir le développement de systèmes d’intelligence artificielle éthique et sécurisé. « II. – L’employeur peut recourir à un tel système pour l’assister dans la préparation ou l’exécution matérielle de ses décisions. Il demeure en toute circonstance seul tenu des obligations mentionnées au I et seul responsable de leur exécution ainsi que des décisions prises. « III. – L’employeur ne peut se prévaloir de la conception, du fonctionnement ou des sorties produites par un système d’intelligence artificielle pour s’exonérer, en tout ou partie, des obligations mentionnées au I ou de la responsabilité qui en découle. Est réputée non écrite toute clause ou stipulation contraire. » « Art. L. 1171-2. – I. – Aucune décision produisant des effets juridiques à l’égard d’un salarié ou d’un candidat à un emploi, à un stage ou à une période de formation en entreprise, ou l’affectant de manière significative, ne peut être prise sur le seul fondement des sorties produites par un système d’intelligence artificielle. « Sont réputées telles, notamment, les décisions relatives au recrutement, à l’affectation, à la rémunération, à la durée et à l’organisation du travail, à l’évaluation professionnelle, à la promotion, au reclassement, à l’accès à la formation, à la santé et à la sécurité, à la discipline et à la rupture du contrat de travail. « II. – Toute décision mentionnée au I est prise par une personne physique disposant de l’autorité, de la compétence, de la formation et des moyens nécessaires, après un examen effectif de la situation individuelle de l’intéressé. L’employeur conserve la trace de cet examen. Le présent II est applicable lorsque le système est mis en œuvre par un tiers agissant pour le compte de l’employeur. « III. – L’intéressé est informé, préalablement à la décision, du recours à un système d’intelligence artificielle et des principaux paramètres pris en compte. « IV. – Est nulle la décision prise en méconnaissance du présent article. « V. – En cas de litige, il incombe à l’employeur d’établir que la décision n’a pas été prise en méconnaissance du I et qu’elle a fait l’objet de l’examen prévu au II. »…
  • Article 12 I. – Conformément à l’article 50 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, les fournisseurs et déployeurs veillent à ce que les systèmes d’intelligence artificielle destinés à interagir directement avec des personnes physiques soient conçus et développés de manière à ce que les personnes physiques concernées soient informées qu’elles interagissent avec un système d’intelligence artificielle. À cette fin, ils indiquent de manière claire, accessible et immédiate que l’utilisateur interagit avec un système d’intelligence artificielle. II. – Sans préjudice des dispositions du I, les fournisseurs et les déployeurs intègrent au système des dispositifs d’information complémentaires lorsque celui-ci est susceptible, par son réalisme ou son comportement, d’induire une confusion sur la nature de l’interaction. Cette information prend la forme d’un rappel explicite affiché périodiquement au cours de l’interaction ainsi qu’à l’ouverture de chaque nouvelle session de l’utilisateur.…
  • Article 13 I. – Sous réserve des obligations légales de conservation et sans préjudice de l’article 17 du règlement (UE) 2016/679 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, toute personne concernée a le droit d’obtenir l’effacement des données à caractère personnel acquises par un système d’intelligence artificielle à l’occasion de son fonctionnement. Ce droit s’exerce sur l’ensemble de ces données, qu’elles aient été fournies par le ou les utilisateurs du système, ou captées par celui-ci, notamment les requêtes, les instructions et les contenus transmis, les images, les sons, les données de localisation et de cartographie, les signaux issus de capteurs, les historiques d’interaction et les données de journalisation associées. II. – Le droit prévu au I ne s’étend pas aux données ayant déjà servi à l’entraînement d’un modèle d’intelligence artificielle et incorporées à celui-ci, lorsque leur effacement est techniquement impossible. En ce cas, le fournisseur ou, le cas échéant, le déployeur s’abstient de réutiliser ces données pour l’entraînement de ses modèles et met en œuvre les mesures raisonnables propres à empêcher leur restitution par le système. III. – Le fournisseur ou, le cas échéant, le déployeur met à disposition de la personne concernée une procédure d’effacement simple, gratuite et aisément accessible. Il en accuse réception sans délai et y fait droit dans un délai maximal de sept jours calendaires à compter de la réception de la demande.…
  • Article 14 Sans préjudice de l’article 50 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, les fournisseurs ou déployeurs de systèmes d’intelligence artificielle qui génèrent des contenus de synthèse de type audio, image, vidéo ou texte, veillent à ce que les sorties des systèmes d’intelligence artificielle soient marquées dans un format lisible par machine et identifiables comme ayant été générées ou manipulées par une intelligence artificielle. Les fournisseurs ou déployeurs veillent à ce que leurs solutions techniques soient aussi efficaces, interopérables, solides et fiables que la technologie le permet, compte tenu des spécificités et des limites des différents types de contenus, des coûts de mise en œuvre et de l’état de la technique généralement reconnu, comme cela peut ressortir des normes techniques pertinentes. TITRE III L’AUTORISATION DE MISE SUR LE MARCHÉ, L’AUTORITÉ NATIONALE DE L’INTELLIGENCE ARTIFICIELLE ET LE RETOUR D’EXPÉRIENCE…
  • Article 15 I. – Avant leur mise sur le marché, sont soumis à l’autorisation préalable de l’Autorité nationale de l’intelligence artificielle, au regard des obligations résultant de la présente loi et sans préjudice des compétences du Bureau de l’intelligence artificielle institué par le règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle, les systèmes et modèles d’intelligence artificielle mis à la disposition du public, à titre onéreux ou gratuit, dans le cadre d’une activité commerciale, qui relèvent de l’une des catégories suivantes : 1° Les modèles à usage général, au sens du même règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle, qu’ils présentent ou non un risque systémique ; 2° Les systèmes à haut risque énumérés à l’annexe III dudit règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle. Les systèmes développés ou utilisés à titre personnel, en dehors de toute activité commerciale, ne sont pas soumis à autorisation. L’exception prévue à l’article 6, paragraphe 3, du même règlement est sans effet sur les obligations du présent article. II. – Toute modification substantielle d’un système autorisé, de nature à affecter sa conformité ou à modifier son profil de risque, est soumise à une nouvelle autorisation préalable, dans les mêmes conditions, avant sa mise sur le marché. III. – Un décret en Conseil d’État détermine les modalités d’application du présent article.…
  • Article 16 I. – L’Autorité nationale de l’intelligence artificielle est une autorité administrative indépendante. Elle est régie par la loi n° 2017-55 du 20 janvier 2017 portant statut général des autorités administratives indépendantes et des autorités publiques indépendantes, sous réserve des dispositions de la présente loi. Elle assure la surveillance du marché des systèmes et modèles d’intelligence artificielle au regard des obligations résultant de la présente loi. Elle exerce cette mission sans préjudice des compétences des autorités désignées comme autorités de surveillance du marché ou autorités compétentes au sens du règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle. II. – Elle veille à ce que les systèmes et modèles d’intelligence artificielle mis sur le marché, mis en service, déployés ou utilisés sur le territoire de la République soient conçus, développés, évalués et exploités de manière sûre, loyale, transparente et respectueuse des droits et libertés. À ce titre : 1° Elle informe les personnes concernées ainsi que les fournisseurs et déployeurs de leurs droits et obligations et peut apporter une information adaptée aux collectivités territoriales, à leurs groupements et aux petites et moyennes entreprises ; 2° Elle établit et publie des lignes directrices, recommandations, référentiels, guides, normes d’essai et méthodologies destinés à faciliter la mise en conformité des systèmes et l’évaluation préalable des risques par les fournisseurs et déployeurs ; elle peut prescrire des mesures techniques et organisationnelles supplémentaires pour les systèmes présentant un risque élevé pour la sécurité, la santé, les droits et libertés, la protection des mineurs, l’ordre public ou la sincérité de l’information ; 3° Elle délivre l’autorisation prévue à l’article 15 et en assure le suivi ; elle peut l’assortir de prescriptions, de limitations d’usage, d’obligations de surveillance postérieure à la mise sur le marché et d’audits périodiques, et la suspendre, la retirer ou la modifier lorsque ses conditions ne sont plus satisfaites ; 4° Elle traite les réclamations, pétitions et plaintes introduites par une personne concernée ou par un organisme, une organisation ou une association, examine ou enquête sur leur objet dans la mesure nécessaire et informe leur auteur de l’état d’avancement et de l’issue de l’instruction dans un délai d’un mois ; 5° Elle répond aux demandes d’avis des pouvoirs publics et, le cas échéant, des juridictions, et conseille les personnes et organismes qui conçoivent, mettent sur le marché ou déploient des systèmes d’intelligence artificielle ; 6° Elle donne avis sans délai au procureur de la République, dans les conditions prévues à l’article 40 du code de procédure pénale, lorsqu’elle acquiert connaissance d’un crime ou d’un délit ; 7° Elle contrôle les systèmes d’intelligence artificielle dans les conditions prévues à l’article 20 de la présente loi et peut prendre les mesures correctrices, les sanctions et les mesures prévues à l’article 22 ; 8° Elle se tient informée de l’évolution des techniques d’intelligence artificielle, conduit une réflexion sur les questions éthiques et de société qu’elles soulèvent et rend publique son appréciation des conséquences qui en résultent pour les droits et libertés ; 9° Elle est consultée sur tout projet de loi ou de décret relatif aux systèmes d’intelligence artificielle, à leur mise sur le marché, à leur mise en service ou à leur usage. Elle peut être consultée par le président de l’Assemblée nationale, par le président du Sénat, par les commissions compétentes ou à la demande d’un président de groupe parlementaire sur toute proposition de loi relative à ces systèmes. Lorsqu’un texte prévoit qu’un décret ou un arrêté est pris après son avis, cet avis est publié avec le décret ou l’arrêté ; 10° Elle est associée, à la demande du Premier ministre, à la définition de la position française dans les négociations internationales et à la représentation de la France au sein des organisations européennes et internationales compétentes en matière d’intelligence artificielle, notamment auprès du Bureau de l’intelligence artificielle institué par le règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle ; 11° Elle peut présenter des observations devant toute juridiction à l’occasion d’un litige relatif à l’application de la présente loi. III. – Pour l’accomplissement de ses missions, l’Autorité peut procéder par voie de recommandation et prendre des décisions individuelles ou réglementaires dans les cas prévus par la présente loi. Elle remet chaque année au Président de la République, au Premier ministre et au Parlement un rapport public rendant compte de l’exécution de ses missions.…
  • Article 17 I. – L’Autorité exerce ses missions sans préjudice des compétences confiées, pour l’application du règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle, au Bureau de l’intelligence artificielle, notamment à l’égard des modèles à usage général, ainsi qu’aux autorités nationales désignées comme autorités de surveillance du marché ou autorités compétentes au sens du même règlement. II. – L’Autorité coopère avec ces autorités et conclut avec elles des conventions précisant les modalités de coordination, d’échange d’informations et de saisine réciproque. Lorsqu’un système relève à la fois de la présente loi et d’un régime de surveillance confié à une autre autorité, l’Autorité se concerte avec celle-ci avant toute mesure et lui transmet les éléments relevant de sa compétence. III. – Elle participe, pour ce qui relève de ses missions, aux travaux du Comité européen de l’intelligence artificielle et coopère avec le Bureau de l’intelligence artificielle.…
  • Article 18 I. – L’Autorité nationale de l’intelligence artificielle est composée de dix-huit membres : 1° Deux députés et deux sénateurs, désignés respectivement par l’Assemblée nationale et par le Sénat de manière à assurer une représentation pluraliste ; 2° Deux membres du Conseil économique, social et environnemental, élus par cette assemblée ; 3° Deux membres ou anciens membres du Conseil d’État, d’un grade au moins égal à celui de conseiller, élus par l’assemblée générale du Conseil d’État ; 4° Deux membres ou anciens membres de la Cour de cassation, d’un grade au moins égal à celui de conseiller, élus par l’assemblée générale de la Cour de cassation ; 5° Deux membres ou anciens membres de la Cour des comptes, d’un grade au moins égal à celui de conseiller maître, élus par l’assemblée générale de la Cour des comptes ; 6° Trois personnalités qualifiées pour leur connaissance de l’intelligence artificielle et des questions touchant aux libertés, nommées par décret ; 7° Deux personnalités qualifiées pour leur connaissance de l’intelligence artificielle et des questions touchant aux libertés, désignées respectivement par le président de l’Assemblée nationale et par le président du Sénat ; 8° Le président de la Commission nationale de l’informatique et des libertés, ou son représentant. Elle comprend en outre, avec voix consultative, le Défenseur des droits ou son représentant. Les deux membres désignés ou élus par une même autorité en application des 1° à 5° sont une femme et un homme. Les trois membres mentionnés au 6° comprennent au moins une femme et un homme. Les deux membres mentionnés au 7° sont une femme et un homme. Pour l’application de cette règle, le membre succédant à une femme est un homme et celui succédant à un homme, une femme. Toutefois, le nouveau membre désigné est de même sexe que celui qu’il remplace, soit en cas de cessation du mandat avant son terme normal, soit en cas de renouvellement du mandat de l’autre membre mentionné au 7°. Selon des modalités fixées par décret en Conseil d’État, le collège est, à l’exception de son président, renouvelé par moitié tous les deux ans et six mois. Le président est élu par les membres. L’Autorité élit en son sein deux vice-présidents, dont un vice-président délégué. Le président et les vice-présidents composent le bureau. Le président exerce ses fonctions à temps plein. Sa fonction est incompatible avec toute détention, directe ou indirecte, d’intérêts dans une entreprise du secteur de l’intelligence artificielle, des communications électroniques ou de l’informatique. La durée du mandat de président est de cinq ans. En cas de besoin, le vice-président délégué exerce les attributions du président. Le secrétaire général est chargé du fonctionnement et de la coordination des services sous l’autorité du président. La formation restreinte de l’Autorité est composée d’un président et de cinq autres membres élus par l’Autorité en son sein. Les membres du bureau ne sont pas éligibles à la formation restreinte. En cas de partage égal des voix, celle du président est prépondérante. II. – Le mandat des membres de l’Autorité est de cinq ans ; il est renouvelable une fois, sous réserve des dispositions du I relatives à la représentation équilibrée des femmes et des hommes. III. – Un règlement intérieur précise les règles relatives aux délibérations, à l’instruction et à la présentation des dossiers, ainsi que les modalités d’application du présent titre.…
  • Article 19 Les autorités publiques, les dirigeants des entreprises publiques ou privées, les fournisseurs, les déployeurs et, plus généralement, les détenteurs ou utilisateurs de systèmes d’intelligence artificielle ne peuvent s’opposer à l’action de l’Autorité ou de ses membres et prennent toutes mesures utiles afin de faciliter sa tâche. Sauf lorsqu’elles sont astreintes à un secret protégé par la loi, les personnes interrogées dans le cadre des vérifications mentionnées à l’article 20 sont tenues de fournir les renseignements et justifications demandés pour l’exercice des missions de l’Autorité.…
  • Article 20 I. – Les membres de l’Autorité et les agents de ses services habilités dans les conditions prévues au présent article ont accès, de six heures à vingt et une heures, pour l’exercice de leurs missions, aux lieux, locaux, enceintes, installations ou établissements servant à la conception, au développement, à l’entraînement, à la mise sur le marché ou à l’exploitation d’un système d’intelligence artificielle, à l’exclusion des parties affectées au domicile privé. Le procureur de la République territorialement compétent en est préalablement informé. Lorsqu’un système d’intelligence artificielle est mis en œuvre, soit dans les parties de ces lieux, locaux, enceintes, installations ou établissements affectées au domicile privé, soit dans de tels lieux, locaux, enceintes, installations ou établissements entièrement affectés au domicile privé, la visite ne peut se dérouler qu’après l’autorisation du juge des libertés et de la détention du tribunal judiciaire dans le ressort duquel sont situés les locaux à visiter, dans les conditions prévues au II du présent article. II. – Le responsable des lieux est informé de son droit d’opposition à la visite. Lorsqu’il exerce ce droit, ou lorsque la visite porte sur des locaux affectés au domicile privé, celle-ci ne peut se dérouler qu’avec l’autorisation du juge des libertés et de la détention du tribunal judiciaire dans le ressort duquel sont situés les locaux. La visite s’effectue sous l’autorité et le contrôle de ce juge. Toutefois, lorsque l’urgence, la gravité des faits ou le risque de destruction ou de dissimulation de documents le justifie, la visite peut avoir lieu sans information préalable du responsable, sur autorisation du juge des libertés et de la détention. III. – Les membres et agents mentionnés au I peuvent demander communication, quel qu’en soit le support, de tous documents, informations, codes sources, modèles, paramètres, journaux d’événements, jeux de données d’entraînement et d’essai, rapports d’audit, contrats et notices nécessaires à l’accomplissement de leur mission, en prendre copie et, le cas échéant, procéder à leur saisie. Ils peuvent accéder, dans des conditions préservant la confidentialité à l’égard des tiers, aux programmes informatiques et aux données, recueillir tout renseignement et toute justification utiles, sur place ou sur convocation, et requérir la réalisation de tests, d’essais, d’évaluations et d’audits, y compris par des tiers qualifiés et agréés. Le secret ne peut leur être opposé, sauf s’agissant des informations couvertes par le secret des relations entre un avocat et son client, par le secret des sources journalistiques ou par le secret médical. Il est dressé procès-verbal des vérifications et des visites. IV. – Pour le contrôle des services accessibles en ligne, les membres et agents habilités peuvent, sans en être pénalement responsables, réaliser sous une identité d’emprunt toute opération nécessaire à leur mission ; à peine de nullité, leurs actes ne peuvent constituer une incitation à commettre une infraction. V. – Le présent article n’est pas applicable aux traitements et systèmes intéressant la sûreté de l’État ou la défense. L’Autorité n’est pas compétente pour contrôler les opérations effectuées, dans l’exercice de leur fonction juridictionnelle, par les juridictions et leur ministère public.…
  • Article 21 Les agents de l’Autorité sont nommés par son président. Ceux qui peuvent être appelés à participer aux missions de contrôle et d’instruction mentionnées à l’article 20 doivent y être habilités par l’Autorité ; cette habilitation ne dispense pas de l’application des dispositions définissant les procédures autorisant l’accès aux secrets protégés par la loi. Les membres et les agents de l’Autorité sont astreints au secret professionnel pour les faits, actes ou renseignements dont ils ont connaissance en raison de leurs fonctions, sous peine des sanctions prévues à l’article 413-10 du code pénal et, sous réserve de ce qui est nécessaire à l’établissement du rapport annuel, à l’article 226-13 du même code.…
  • Article 22 I. – Lorsque le fournisseur ou le déployeur ne respecte pas les obligations de la présente loi, le président de l’Autorité peut le rappeler à ses obligations légales ou, si le manquement est susceptible de régularisation, prononcer à son égard une mise en demeure de s’y conformer dans le délai qu’il fixe. Ce délai peut être ramené à vingt-quatre heures en cas d’urgence. Le président peut rendre la mise en demeure publique. II. – Lorsque le manquement persiste, le président saisit la formation restreinte en vue du prononcé, après une procédure contradictoire, de l’une ou de plusieurs des mesures suivantes : 1° Un rappel à l’ordre ; 2° Une injonction de mettre le système en conformité ou de satisfaire aux demandes des personnes concernées, assortie le cas échéant d’une astreinte dont le montant ne peut excéder 100 000 euros par jour de retard ; 3° La limitation, la suspension ou l’interdiction de la mise sur le marché, de la mise en service ou de l’exploitation du système, ou le retrait de l’autorisation prévue à l’article 15 ; 4° Une amende administrative. III. – Les mesures prévues au II sont prononcées sur la base d’un rapport établi par un membre de l’Autorité désigné par son président parmi les membres n’appartenant pas à la formation restreinte. Le rapport est notifié à la personne mise en cause, qui peut se faire représenter ou assister, présenter des observations écrites et demander à être entendue. Le rapporteur peut présenter des observations orales mais ne prend pas part au délibéré. IV. – Le montant de l’amende administrative est fixé en tenant compte de la nature, de la gravité et de la durée du manquement, du caractère délibéré ou non de celui-ci, des mesures prises pour y remédier ainsi que de la taille et de la part de marché de la personne en cause. Il ne peut excéder 7 % du chiffre d’affaires annuel mondial total de l’exercice précédent. La formation restreinte peut rendre publiques les mesures qu’elle prononce et en ordonner l’insertion, aux frais de la personne sanctionnée, dans les publications qu’elle désigne. V. – Lorsque la formation restreinte a prononcé une amende administrative devenue définitive avant que le juge pénal ait statué définitivement sur les mêmes faits, celui-ci peut ordonner que l’amende administrative s’impute sur l’amende pénale qu’il prononce. Les manquements faisant l’objet d’une amende au titre du présent article ne peuvent donner lieu, pour les mêmes faits, à une autre sanction administrative pécuniaire. VI. – Les astreintes sont liquidées par la formation restreinte, qui en fixe le montant définitif. Les amendes et astreintes sont recouvrées comme les créances de l’État étrangères à l’impôt et au domaine.…
  • Article 23 I. – Tout fournisseur ou déployeur d’un système d’intelligence artificielle est tenu de notifier à l’Autorité tout événement relevant de l’une des catégories suivantes : 1° Tout dysfonctionnement ou comportement imprévu du système susceptible de porter atteinte à la sécurité ou à la santé des personnes ; 2° Toute situation où le système a généré un résultat ou un comportement non conforme aux obligations légales en vigueur. II. – Le signalement prend la forme d’un compte rendu comportant une description de l’événement et des circonstances de sa détection, une analyse de ses causes et les mesures correctives mises en œuvre. III. – La notification est effectuée sans délai et au plus tard quarante-huit heures après que le fournisseur ou le déployeur a eu connaissance de l’événement. IV. – Le signalement effectué en application du présent article ne peut être utilisé, ni par l’Autorité ni par aucune autre autorité administrative ou judiciaire, pour établir la responsabilité de son auteur ou pour fonder à son encontre une sanction administrative, une mesure disciplinaire ou une poursuite pénale, sauf lorsque l’événement signalé procède d’un manquement délibéré, d’une négligence grave ou d’une volonté de dissimulation. V. – L’Autorité tient une base de données nationale recensant les incidents signalés, accessible aux fournisseurs et déployeurs sous une forme anonymisée, afin de favoriser le partage des connaissances techniques et l’amélioration de la sécurité des systèmes.…
  • Article 24 I. – Les fournisseurs et déployeurs mettent en place un dispositif de recueil des signalements volontaires destiné à collecter les retours d’expérience et les incidents mineurs émanant des utilisateurs. II. – Ces informations sont transmises périodiquement à l’Autorité lorsqu’elles concernent des événements ou anomalies n’entrant pas dans le champ de l’article 23, ou toute information relative à la sécurité ou à l’éthique perçue comme représentant un danger potentiel ou une dérive du système. III. – Aucune personne physique ne peut faire l’objet d’un licenciement, d’une sanction disciplinaire ou de toute mesure discriminatoire pour avoir procédé, de bonne foi, à un signalement en application du présent article. Toute stipulation contraire est réputée non écrite. L’Autorité veille à ce que l’identité de l’auteur du signalement ainsi que celle des personnes mentionnées dans le compte rendu soient protégées et ne soient pas divulguées au-delà de ce qui est strictement nécessaire à l’analyse de l’événement et à l’amélioration de la sécurité des systèmes d’intelligence artificielle. IV. – L’Autorité analyse ces données pour mettre à jour ses lignes directrices et recommandations mentionnées à l’article 16.…
  • Article 25 I. – La charge pour l’État est compensée à due concurrence par la création, à la charge des multinationales fournissant ou déployant des systèmes d’intelligence artificielle au sens de la présente loi, d’une taxe additionnelle assise sur le chiffre d’affaires qu’elles réalisent en France. II. – La charge pour l’État résultant de la présente loi est compensée, à due concurrence, par la création d’une taxe additionnelle à l’accise sur les tabacs prévue au chapitre IV du titre I er du livre III du code des impositions sur les biens et services.…

Source : PDF officiel AN ↗ · extraction automatique, peut contenir des artefacts de mise en page.

Pour aller plus loin