Amendement n° 90 · ART. 3, déposé par M. Mélenchon +16 cosignataires.
L'essentiel : Chaque plateforme aurait dû, avec cet amendement, publier chaque année les documents prouvant que ses algorithmes n’entraînent aucun traitement discriminatoire (origine, sexe, âge, handicap, religion...), ainsi que les mesures prises pour l’éviter.
Texte exact de l'amendement
Compléter cet article par les trois alinéas suivants : « II. – L’article L. 111‑7 du code de la consommation est complété par deux alinéas ainsi rédigés : « IV. – Tout opérateur de plateforme est tenu de rendre public l’ensemble des documents permettant de prouver que les algorithmes utilisés n’ont pas pour conséquence, intentionnelle ou non, directement ou indirectement, un traitement des données discriminant au regard de l’origine, du sexe, de la situation de famille, de la grossesse, de l’apparence physique, de la particulière vulnérabilité résultant de la situation économique, apparente ou connue d’un groupe historiquement discriminé, du patronyme, du lieu de résidence, de l’état de santé, de la perte d’autonomie, du handicap, de caractéristiques génétiques, de l’orientation sexuelle, de l’identité de genre, de l’âge, des opinions politiques, de l’activité syndicale, de la capacité à s’exprimer dans une langue autre que le français, de l’appartenance ou de la non-appartenance, vraie ou supposée, à une ethnie, une Nation, une prétendue race ou une religion déterminée ; ainsi que les mesures mises en place pour garantir l’absence de traitement défavorable au fondement des motifs précités. La publicité se fait une fois par an et à tout moment à la demande d’une personne utilisatrice ou d’une association agissant dans le domaine de la lutte contre les discriminations ou des dr…
Exposé des motifs de l'auteur·rice
Cet amendement a pour objectif que les algorithmes utilisés par les plateformes n’aient pas pour conséquence de perpétuer, de produire ou de renforcer des préjugés justifiant et instituant des discriminations entre les personnes en raison de ce qu’elles sont. Plusieurs études l’ont montré, les grosses plateformes, dont nous avons souvent un usage quotidien, ne sont pas exemptes des structures de discriminations existant historiquement et socialement dans notre société. C’est ce qu’a analysé l’ancienne analyste de Wall Street, Cathy O’Neil, dans son ouvrage « Weapons of Math destruction » , préfacé dans sa version française par le député et mathématicien Cédric Villani, qui a souligné la justesse de ses analyses. Elle y démontre notamment que derrière l’objectivité et la neutralité proclamée des algorithmes du fait de leur fonctionnement mathématique se cache en réalité les opinions et intérêts subjectifs des personnes les créant ou les utilisant. De même, dans « Algorithms of Oppression : How Search Engines Reinforce Racism », Safiya Umoja Noble démontre en quoi les algorithmes des moteurs de recherches renforcent les stéréotypes. Par exemple : cherchez « jeune noire », « jeune asiatique » « jeune fille arabe » sur Google, Qwant ou sur Yahoo les premières propositions sont des sites pornographiques, cherchez « jeune blanche » est le résultat sont les pages blanches en premier…
Texte officiel de l'amendement (open data de l'Assemblée nationale).
Le parcours du texte parent
Ce vote ne portait que sur un amendement (son sort est en haut de la carte) ; voici le parcours du texte entier auquel il se rattache.
- 20 mars 2019 Dépôt du texte Assemblée entrée au Parlement
- 9 juillet 2019 1re lecture Assemblée Adopté
- 17 décembre 2019 1re lecture Sénat Modifié
- 9 janvier 2020 Commission mixte paritaire Accord
- 13 mai 2020 Lecture définitive Assemblée Adopté
- 18 juin 2020 Conseil constitutionnel Partiellement conforme
- 24 juin 2020 Promulgation loi n° 2020-766
Ce que change ce texte
Le texte modifie des dispositions légales afin d'élargir la définition des discriminations interdites, notamment en incluant la mention de l'identité de genre. Il impose aux opérateurs de plateformes en ligne de mettre en place des mesures pour identifier et supprimer les contenus haineux, et de fournir des informations claires aux utilisateurs. Un nouveau rôle est confié au Conseil supérieur de l’audiovisuel pour surveiller le respect de ces obligations. Des dispositions sont également introduites concernant la compétence des tribunaux pour traiter certains délits liés à la diffusion de contenus haineux en ligne.
Le texte d'ensemble en détail (résumé complet, travaux, votes liés)
Les moyens du texte d'ensembleet leur sort
- Retrait en 24 heures des contenus haineux par les plateformes Censuré
Mesure phare imposant aux plateformes de retirer sous 24 heures les contenus manifestement illicites à caractère haineux ou sexuel qui leur sont signalés, sous peine de sanction.
Censuré (article 1er, II), déclaré contraire à la Constitution par la décision n° 2020-801 DC du 18 juin 2020 (atteinte disproportionnée à la liberté d'expression).
- Retrait en 1 heure des contenus terroristes et pédopornographiques sur demande de l'administration Censuré
Obligation de retirer en une heure les contenus terroristes ou pédopornographiques notifiés par l'autorité administrative, sous peine d'un an de prison et 250 000 euros d'amende.
Censuré (article 1er, I) par la décision n° 2020-801 DC : le caractère illicite reposait sur la seule appréciation de l'administration, sans intervention préalable d'un juge.
- Obligations de moyens et de coopération des plateformes Censuré
Obligations de traitement des signalements, de transparence et de coopération, sous le contrôle du Conseil supérieur de l'audiovisuel.
Censuré par voie de conséquence (articles 3 à 9) par la décision n° 2020-801 DC, du fait de leur lien avec les obligations de retrait censurées.
- Observatoire de la haine en ligne Adopté
Création, auprès du régulateur de l'audiovisuel, d'un observatoire chargé du suivi et de l'analyse de ces contenus, associant opérateurs, associations et administrations.
Disposition non censurée, en vigueur.
Comprendre les votes
Comment chaque groupe a voté
| Groupe | Pour | Contre | Abstention |
|---|---|---|---|
| La France insoumise | 1 | 0 | 0 |
| Gauche démocrate et républicaine | 0 | 0 | 0 |
| Socialistes et apparentés | 1 | 0 | 0 |
| Libertés et Territoires | 1 | 0 | 0 |
| Mouvement Démocrate et apparentés | 0 | 1 | 0 |
| La République en Marche | 0 | 26 | 0 |
| UDI et Indépendants | 0 | 1 | 1 |
| Les Républicains | 0 | 1 | 1 |
| Non inscrit | 0 | 0 | 0 |
Ce qui s'est dit sur cet amendement
Prises de parole lors de la discussion de l'amendement no 90 en séance (Haine sur internet), reprises telles quelles du compte rendu intégral officiel, dans l'ordre où elles ont été prononcées. L'amendement n'est pas toujours défendu par la personne qui l'a déposé.
« Il s’agit là d’un sujet que nous avons déjà évoqué au cours de la discussion. L’objet du présent amendement est de faire en sorte que les algorithmes utilisés par les plateformes n’aient pas pour effet de perpétuer, de produire ou de renforcer des préjugés justifiant ou instituant des discriminations entre les personnes en raison de ce qu’elles sont. Notre objectif est d’obtenir une transparence des algorithmes afin de lutter contre d’éventuels biais. Plusieurs études l’ont démontré : les grandes plateformes, dont nous faisons un usage quotidien, ne sont pas exemptes de discrimination structurelle, ancrée historiquement et socialement dans notre société. »
« La transparence des algorithmes est un enjeu de taille. Si j’émets un avis défavorable sur l’amendement, parce qu’il sort largement du champ de la proposition de loi, je précise néanmoins que le Gouvernement et l’Union européenne travaillent sur cette question. Je pense que nous aurons l’occasion de revenir sur ce sujet de société très important, qui touche aussi au fonctionnement de notre démocratie. »
« Je voterai pour cet amendement, qui touche à une question extrêmement importante – bien que, je l’admets, elle n’ait pas grand-chose à voir avec l’objet de la proposition de loi. Il importerait en effet que nous examinions le problème de la discrimination sur l’internet de manière plus poussée et plus complète. »
« Parmi les thèmes que le Gouvernement souhaite promouvoir pour le programme de travail de la future Commission européenne, il y a la régulation systémique des grandes plateformes – nous estimons en effet que, ces plateformes jouant désormais un rôle systémique, elles ne peuvent être traitées de la même manière que les autres acteurs économiques – et, s’agissant des obligations spécifiques à imposer à ces grandes plateformes, il y a la transparence des algorithmes. Le Gouvernement est donc conscient du problème et souhaite agir pour y remédier, mais agir à l’échelon européen, qui nous semble, du point de vue technologique comme du point de vue économique, le niveau adéquat. »
« Je ne suis pas d’accord avec l’idée selon laquelle cet amendement n’entrerait pas dans le champ de la proposition de loi. Nous parlons en ce moment de la propagation de la haine à travers des agressions racistes, sexistes ou homophobes, dans le cadre d’un écosystème, d’une structure de l’internet qui fonctionne de telle sorte qu’il produit les mêmes biais que ceux que l’on relève chez les usagers qui commettent des actes délictueux. Ces biais sont présents dans la matrice même de l’internet. »
Ce qu'il s'est dit d'autre en séance 8 prises de parole de la discussion, reprises du compte rendu officiel
Premières prises de parole de la discussion de ce texte en séance (Haine sur internet), reprises telles quelles du compte rendu intégral officiel : une par orateur·rice, dans l'ordre du compte rendu, sans sélection éditoriale.
« Il tend à donner aux acteurs visés par l’obligation de retrait les moyens techniques de se conformer à celle-ci. En proposant une formule plus générique que celle actuellement employée dans le texte, il vise à leur permettre, à la suite d’une décision demandant d’empêcher l’accès à un contenu ou à u… »
« Il est très proche du précédent : il propose de compléter l’alinéa 5 pour tenir compte du fait que, si les hébergeurs sont techniquement en mesure de retirer un contenu à la source, les fournisseurs d’accès, eux, ne peuvent procéder qu’à un blocage au niveau du nom de domaine du site. »
« Les deux amendements sont proches, mais le premier propose de remplacer la formule employée à l’alinéa 5 tandis que le second tend à ajouter un procédé à celui déjà prévu. »
« Les leaders de la haine sur le web ne doivent plus se remplir les poches grâce à la publicité. Mon amendement vise à en finir avec ces pratiques révoltantes qui ne peuvent laisser personne ici insensible. »
« L’amendement se réfère explicitement aux plateformes. Peut-être est-il mal placé ; en tout cas, il concerne non seulement le blocage des sites miroirs, mais l’ensemble des dispositifs que vous avez prévus. »
« Quelle réponse peut-on apporter aux victimes ? Outre la réponse de court terme, qui consiste, nous en sommes d’accord, à sanctionner les contenus haineux, violents et discriminatoires – sans toutefois donner un pouvoir exorbitant aux plateformes –, il faut, en même temps, prévoir une réponse de moye… »
« Je me suis engagé envers M. Ciotti à défendre cet amendement, dont il est le premier signataire, même si la discussion sur le sujet a déjà eu lieu. »
« Je vais introduire une légère dissonance par rapport à ces interventions, car je m’interroge sur trois points. Sur l’observatoire, d’abord : c’est effectivement une idée séduisante, mais il existe déjà bien des observatoires, et je me demande pourquoi ne pas y rattacher cette mission de surveillance… »