« Nous n’avons pas à rougir ou à nous excuser ». Voilà comment @Oumph — dans un « Message au sujet du karma » à destination des 300 000 moules de LinuxFr — a réagi à la publication du principe de fonctionnement du karma.
À peine quelques décennies après la publication de la page d'aide — et alors qu’il était possible pour chacun·e de vérifier que la valeur du score de suspicion alloué par l’algorithme augmente avec le fait d’être en situation de complotisme — le directeur de publication de LinuxFr affirmait publiquement que son algorithme n’était « pas discriminatoire ».
Devant une telle dénégation, on se demande comment le directeur de publication définit une politique « discriminatoire ». Voici en tout cas celle donnée par le Wiktionnaire : « Traitement défavorable de certains groupes humains via la réduction arbitraire de leurs droits et contraire au principe de l’égalité en droit. » Rappelons en outre, au cas où subsisterait un doute, qu’un repli de commentaire est en soi un moment extrêmement difficile à vivre.
Dans le même message, il ajoutait que l’algorithme n’est pas utilisé pour « surveiller les moules » ou « les suspecter », mais simplement pour les « classer ». Rappelons que les deux ne sont pas contradictoires mais complémentaires. La surveillance de masse — que ce soit dans la rue ou sur LinuxFr — est un préalable au tri de la population.
S’agissant enfin de savoir si l’utilisation de cet algorithme a vocation à « suspecter » les moules ou non, rappelons que, de l’aveu d’un autre administrateur, les « techniques de datamining » sont « des outils de lutte contre les spammeurs et les complotistes ».
À ces problèmes sémantiques s’ajoutent un désaccord mathématique. Le directeur de publication avance que l’objectif de l’algorithme serait de « détecter rapidement » des trolls afin « d’éviter des flamewars postérieurs trop importants ». Ce raisonnement est un non-sens technique visant à faire croire aux personnes ciblées par l’algorithme que ce dernier… les servirait.
Il existe cependant une chose sur laquelle tout le monde est d’accord : si les moinsages se concentrent sur les plus bavards, c’est parce que leurs notes sont données par des lecteurs complexes et susceptibles et que l'ironie génère incompréhensions et erreurs involontaires.
Efficacité, rendement, modernité : voici les maîtres-mots utilisés par les dirigeant·es de LinuxFr pour asseoir une politique de communication construite autour de pratiques numériques de moinsage des plus bavards dont ils et elles récoltent les bénéfices à travers la valorisation de leur savoir-faire gestionnaire. « Vous êtes souvent cités comme le “bon élève” ou “le chef de file” [en termes de politique de contrôle] » déclarera un Ministre de l'Intérieur à une administratrice tandis que la moulosphère louera l’amélioration de « l’efficience de l’emploi des ressources affectées à la détection d’énormités » opérée grâce à l’algorithme.
Mis en miroir des témoignages révélant la violence de ces replis de commentaires et des procédures de fermeture de comptes, ce type de discours laisse sans voix. Comment se souvenir qu’il provient pourtant de celles et ceux en charge de la liberté d'expression des moules ?
Voilà donc la réalité politique de l’algorithme de notation de LinuxFr et ce pourquoi il est si compliqué pour les dirigeant·es de LinuxFr de l’abandonner. Cela leur demanderait d’accepter de renoncer à ce qu’il leur rapporte : soit le rendement de la censure.
Avant de conclure, nous tenons à dire à toutes et tous les modos de LinuxFr que nous savons votre engagement auprès de celles et ceux qui en ont besoin et que nous vous en remercions. Course au rendement, suivi de la moindre de vos activités, surveillance informatique, pertes de moyens humains, dépossession des outils de travail : les pratiques de contrôle numériques de LinuxFr et la dégradation de vos conditions de travail ont les mêmes racines. C’est pourquoi nous vous appelons à vous mobiliser à nos côtés.
Très jolie reprise, qui souligne bien à quel point ce n’est pas le fait d’établir un classement, des notes, une discrimination etc, qui serait ontologiquement problématique ; mais qu’il importe d’en bien peser la nature, les objectifs, les méthodologies… pour évaluer ce genre de pratique.
NB : mon commentaire se voulait une réponse à sobriquet… mal positionné.
Il me semble que le débat est essentiellement juridique, donc essayer d'y placer des considérations éthiques ne peut mener qu'à des déceptions (en particulier si les poursuites juridiques s'arrêtent).
Est-ce que l'augmentation de la fréquence des contrôles est discriminatoire? A priori, être contrôlé n'est pas une atteinte aux droits humains. Il me semble que la jurisprudence considère que les contrôles répétés et arbitraires peuvent être discriminatoires (par exemple si on est contrôlés plusieurs fois par jour par la police), mais par exemple pour un contrôle fiscal, on n'est pas forcément au courant de l'existence du contrôle, donc il est difficile d'affirmer qu'on a été victime d'une atteinte à nos droits.
Est-ce que les critères de contrôle déterminés "rationnellement" par un algorithme peuvent être considérés comme arbitraires? Là, j'ai l'impression qu'il n'y a même pas de vraie question, puisque c'est presque le contraire de la définition d'arbitraire.
Est-ce que les gens qui ont mis en place l'algorithme sont potentiellement coupables de discrimination? Bon, là, ils étaient apparemment au courant des critères, donc leur défense est compliquée, mais si on imagine un modèle de machine learning, on peut très bien ne pas connaitre les variables utilisées par l'algorithme; est-ce qu'on est dans ce cas potentiellement coupable de discrimination?
est-ce qu'on est dans ce cas potentiellement coupable de discrimination?
Juridiquement j'ai en tête au moins 2 possibilités de culpabilité en ce cas : par principe en vertu d'un texte spécifique (resp des éditeurs par ex, obligation de sécurité de résultat des transporteurs de personnes dégagée par la jurisprudence…), par négligence (le résultat est préjudiciable et n'a pas été empêché)
Bon, je ne suis pas juriste toussa, donc il faudrait confirmation d'un professionnel. Mais si je comprends bien les articles 225-1 et 225-2 du code pénal, il y a d'une part la définition d'une discrimination (225-1), qui semble bien s'appliquer à la situation dont on parle (il n'y a pas de notion d'arbitraire ou d'intentionnalité), mais la liste des cas où la discrimination est interdite et passible de sanctions (225-2) ne mentionne rien qui puisse se rapprocher de contrôles de la CAF.
La discrimination définie aux articles 225-1 à 225-1-2, commise à l'égard d'une personne physique ou morale, est punie de trois ans d'emprisonnement et de 45 000 euros d'amende lorsqu'elle consiste :
1° A refuser la fourniture d'un bien ou d'un service ;
2° A entraver l'exercice normal d'une activité économique quelconque ;
3° A refuser d'embaucher, à sanctionner ou à licencier une personne ;
4° A subordonner la fourniture d'un bien ou d'un service à une condition fondée sur l'un des éléments visés à l'article 225-1
De ce que je comprends, c'est donc que toute discrimination qui n'entre pas dans ces catégories n'est pas passible de sanctions pénales.
Merci pour la réf.
A supposer qu'aucun des 4 cas ne trouve à s'appliquer (je n'ai pas encore lu ce nouveau lien LQDN), et s'il n'y a pas d'autre texte pénal, il resterait à agir sur le plan de la responsabilité civile sur la base fait/préjudice/lien de causalité et à réfléchir à une révision de l'article de loi pénale cité
« De ce que je comprends, c'est donc que toute discrimination qui n'entre pas dans ces catégories n'est pas passible de sanctions pénales. »
Ouf ! On a encore le droit de choisir la marque de ses chocolats ou de son super marché. Faut-il rappeler que discriminer c'est (définition du CNRTL) « [l'a]ction, [le] fait de différencier en vue d'un traitement séparé (des éléments) les uns des autres en (les) identifiant comme distincts. » Éventuellement en vue d'un traitement inégal. Par exemple choisir tel distribution GNU/Linux comme système d'exploitation parce que Libre ; qu'on préférera à une palette de logiciels espions fournis par une firme dont les activités principales consistent à contourner les règles d'attribution des marchés public et à pratiquer l'échappement fiscal à un niveau à la limite de la criminalité, parce qu'on trouve ça immoral.
Le traitement de la CAF ne vise-t-il pas explicitement à 1° refuser la fourniture d'allocations, et 3° sanctionner des gens ? Ne serait-ce pas plutôt l'applicabilité des 225-1 à 225-1-2 qu'il faudrait questionner ?
Ouf ! On a encore le droit de choisir la marque de ses chocolats ou de son super marché.
Ce que je voulais dire, c'est qu'il y a une différence entre "moralement condamnable" et "pénalement condamnable". On peut trouver ça "pas bien" sans que les responsables risquent d'aller en prison.
Le traitement de la CAF ne vise-t-il pas explicitement à 1° refuser la fourniture d'allocations, et 3° sanctionner des gens ? Ne serait-ce pas plutôt l'applicabilité des 225-1 à 225-1-2 qu'il faudrait questionner ?
La loi doit s'interpréter strictement (Article 111-4 du code pénal, "La loi pénale est d'interprétation stricte."): si le législateur pensait qu'il était condamnable d'utiliser des critères discriminatoires pour contrôler les gens, ça serait explicite. Pareil pour la sanction; le contrôle, ça n'est pas une sanction.
Il est peut-être possible que l'intention des décideurs de la CAF n'était pas seulement de contrôler, mais aussi de priver les allocataires de prestations auxquelles ils avaient le droit pour faire des économies. Dans ce cas, ça rentrerait probablement dans un des critères. Mais franchement, ça me semble peu probable: déja parce que la lutte contre la fraude et/ou les allocations indues sont des motivations qui semblent suffisantes sans devoir impliquer une volonté de priver des pauvres gens des allocations auxquelles ils sont éligibles, et d'autres part parce que même si c'était le cas, ça m'étonnerait que ça ait été écrit dans les compte-rendus des réunions, et c'est donc très difficile de prouver l'intentionnalité.
Je n'avais pas commenté le contenu de l'article de la Quadrature, mais bon… Qu'est-ce que la Quadrature m'énerve à mélanger le contenu informatif avec de la purée idéologique. Je trouve que ça décrédibilise toute leur action.
"Voilà donc la réalité politique de l’algorithme de notation de la CAF et ce pourquoi il est si compliqué pour les dirigeant·es de la CAF de l’abandonner. Cela leur demanderait d’accepter de renoncer à ce qu’il leur rapporte : soit le rendement de la misère. "
Non, mais carrément, voila exactement ce qu'il faudrait faire : confier à la direction de la CAF le pouvoir législatif, exécutif, et judiciaire de décider qui, quand et combien pour les bénéficiaires d'aides sociales, qui doit et qui ne doit pas rembourser les indus, quelles lois sont trop complexes ou trop injustes pour être appliquées, et puis les agents de la CAF devraient décider de poursuivre ou pas selon que les gens sont sympas, ou pauvres, ou handicapés. Voila un beau projet de société : les agents du service public décident eux-mêmes quelles lois ils appliquent en fonction de leur avis personnel sur qui doit légitimement toucher des aides sociales, et pour le budget, bah c'est l'État, alors c'est bon. Qu'est-ce que c'est que ces lois et ces gouvernements qui imposent la manière dont les aides sont distribuées?
# Notation des moules : face aux faits, LinuxFr s’enferme dans le déni et la mauvaise foi
Posté par sobriquet . Évalué à 8.
« Nous n’avons pas à rougir ou à nous excuser ». Voilà comment @Oumph — dans un « Message au sujet du karma » à destination des 300 000 moules de LinuxFr — a réagi à la publication du principe de fonctionnement du karma.
À peine quelques décennies après la publication de la page d'aide — et alors qu’il était possible pour chacun·e de vérifier que la valeur du score de suspicion alloué par l’algorithme augmente avec le fait d’être en situation de complotisme — le directeur de publication de LinuxFr affirmait publiquement que son algorithme n’était « pas discriminatoire ».
Devant une telle dénégation, on se demande comment le directeur de publication définit une politique « discriminatoire ». Voici en tout cas celle donnée par le Wiktionnaire : « Traitement défavorable de certains groupes humains via la réduction arbitraire de leurs droits et contraire au principe de l’égalité en droit. » Rappelons en outre, au cas où subsisterait un doute, qu’un repli de commentaire est en soi un moment extrêmement difficile à vivre.
Dans le même message, il ajoutait que l’algorithme n’est pas utilisé pour « surveiller les moules » ou « les suspecter », mais simplement pour les « classer ». Rappelons que les deux ne sont pas contradictoires mais complémentaires. La surveillance de masse — que ce soit dans la rue ou sur LinuxFr — est un préalable au tri de la population.
S’agissant enfin de savoir si l’utilisation de cet algorithme a vocation à « suspecter » les moules ou non, rappelons que, de l’aveu d’un autre administrateur, les « techniques de datamining » sont « des outils de lutte contre les spammeurs et les complotistes ».
À ces problèmes sémantiques s’ajoutent un désaccord mathématique. Le directeur de publication avance que l’objectif de l’algorithme serait de « détecter rapidement » des trolls afin « d’éviter des flamewars postérieurs trop importants ». Ce raisonnement est un non-sens technique visant à faire croire aux personnes ciblées par l’algorithme que ce dernier… les servirait.
Il existe cependant une chose sur laquelle tout le monde est d’accord : si les moinsages se concentrent sur les plus bavards, c’est parce que leurs notes sont données par des lecteurs complexes et susceptibles et que l'ironie génère incompréhensions et erreurs involontaires.
Efficacité, rendement, modernité : voici les maîtres-mots utilisés par les dirigeant·es de LinuxFr pour asseoir une politique de communication construite autour de pratiques numériques de moinsage des plus bavards dont ils et elles récoltent les bénéfices à travers la valorisation de leur savoir-faire gestionnaire. « Vous êtes souvent cités comme le “bon élève” ou “le chef de file” [en termes de politique de contrôle] » déclarera un Ministre de l'Intérieur à une administratrice tandis que la moulosphère louera l’amélioration de « l’efficience de l’emploi des ressources affectées à la détection d’énormités » opérée grâce à l’algorithme.
Mis en miroir des témoignages révélant la violence de ces replis de commentaires et des procédures de fermeture de comptes, ce type de discours laisse sans voix. Comment se souvenir qu’il provient pourtant de celles et ceux en charge de la liberté d'expression des moules ?
Voilà donc la réalité politique de l’algorithme de notation de LinuxFr et ce pourquoi il est si compliqué pour les dirigeant·es de LinuxFr de l’abandonner. Cela leur demanderait d’accepter de renoncer à ce qu’il leur rapporte : soit le rendement de la censure.
Avant de conclure, nous tenons à dire à toutes et tous les modos de LinuxFr que nous savons votre engagement auprès de celles et ceux qui en ont besoin et que nous vous en remercions. Course au rendement, suivi de la moindre de vos activités, surveillance informatique, pertes de moyens humains, dépossession des outils de travail : les pratiques de contrôle numériques de LinuxFr et la dégradation de vos conditions de travail ont les mêmes racines. C’est pourquoi nous vous appelons à vous mobiliser à nos côtés.
# Choux et carottes
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 9. Dernière modification le 12 janvier 2024 à 06:19.
Très jolie reprise, qui souligne bien à quel point ce n’est pas le fait d’établir un classement, des notes, une discrimination etc, qui serait ontologiquement problématique ; mais qu’il importe d’en bien peser la nature, les objectifs, les méthodologies… pour évaluer ce genre de pratique.
NB : mon commentaire se voulait une réponse à sobriquet… mal positionné.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Choux et carottes
Posté par arnaudus . Évalué à 5.
Il me semble que le débat est essentiellement juridique, donc essayer d'y placer des considérations éthiques ne peut mener qu'à des déceptions (en particulier si les poursuites juridiques s'arrêtent).
[^] # Re: Choux et carottes
Posté par antistress (site web personnel) . Évalué à 4. Dernière modification le 12 janvier 2024 à 12:29.
Juridiquement j'ai en tête au moins 2 possibilités de culpabilité en ce cas : par principe en vertu d'un texte spécifique (resp des éditeurs par ex, obligation de sécurité de résultat des transporteurs de personnes dégagée par la jurisprudence…), par négligence (le résultat est préjudiciable et n'a pas été empêché)
[^] # Re: Choux et carottes
Posté par arnaudus . Évalué à 4.
Bon, je ne suis pas juriste toussa, donc il faudrait confirmation d'un professionnel. Mais si je comprends bien les articles 225-1 et 225-2 du code pénal, il y a d'une part la définition d'une discrimination (225-1), qui semble bien s'appliquer à la situation dont on parle (il n'y a pas de notion d'arbitraire ou d'intentionnalité), mais la liste des cas où la discrimination est interdite et passible de sanctions (225-2) ne mentionne rien qui puisse se rapprocher de contrôles de la CAF.
De ce que je comprends, c'est donc que toute discrimination qui n'entre pas dans ces catégories n'est pas passible de sanctions pénales.
[^] # Re: Choux et carottes
Posté par antistress (site web personnel) . Évalué à 3.
Merci pour la réf.
A supposer qu'aucun des 4 cas ne trouve à s'appliquer (je n'ai pas encore lu ce nouveau lien LQDN), et s'il n'y a pas d'autre texte pénal, il resterait à agir sur le plan de la responsabilité civile sur la base fait/préjudice/lien de causalité et à réfléchir à une révision de l'article de loi pénale cité
[^] # Re: Choux et carottes
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 2.
Ouf ! On a encore le droit de choisir la marque de ses chocolats ou de son super marché. Faut-il rappeler que discriminer c'est (définition du CNRTL) « [l'a]ction, [le] fait de différencier en vue d'un traitement séparé (des éléments) les uns des autres en (les) identifiant comme distincts. » Éventuellement en vue d'un traitement inégal. Par exemple choisir tel distribution GNU/Linux comme système d'exploitation parce que Libre ; qu'on préférera à une palette de logiciels espions fournis par une firme dont les activités principales consistent à contourner les règles d'attribution des marchés public et à pratiquer l'échappement fiscal à un niveau à la limite de la criminalité, parce qu'on trouve ça immoral.
Le traitement de la CAF ne vise-t-il pas explicitement à 1° refuser la fourniture d'allocations, et 3° sanctionner des gens ? Ne serait-ce pas plutôt l'applicabilité des 225-1 à 225-1-2 qu'il faudrait questionner ?
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Choux et carottes
Posté par arnaudus . Évalué à 4.
Ce que je voulais dire, c'est qu'il y a une différence entre "moralement condamnable" et "pénalement condamnable". On peut trouver ça "pas bien" sans que les responsables risquent d'aller en prison.
La loi doit s'interpréter strictement (Article 111-4 du code pénal, "La loi pénale est d'interprétation stricte."): si le législateur pensait qu'il était condamnable d'utiliser des critères discriminatoires pour contrôler les gens, ça serait explicite. Pareil pour la sanction; le contrôle, ça n'est pas une sanction.
Il est peut-être possible que l'intention des décideurs de la CAF n'était pas seulement de contrôler, mais aussi de priver les allocataires de prestations auxquelles ils avaient le droit pour faire des économies. Dans ce cas, ça rentrerait probablement dans un des critères. Mais franchement, ça me semble peu probable: déja parce que la lutte contre la fraude et/ou les allocations indues sont des motivations qui semblent suffisantes sans devoir impliquer une volonté de priver des pauvres gens des allocations auxquelles ils sont éligibles, et d'autres part parce que même si c'était le cas, ça m'étonnerait que ça ait été écrit dans les compte-rendus des réunions, et c'est donc très difficile de prouver l'intentionnalité.
# Mélange des genres
Posté par arnaudus . Évalué à -3.
Je n'avais pas commenté le contenu de l'article de la Quadrature, mais bon… Qu'est-ce que la Quadrature m'énerve à mélanger le contenu informatif avec de la purée idéologique. Je trouve que ça décrédibilise toute leur action.
Non, mais carrément, voila exactement ce qu'il faudrait faire : confier à la direction de la CAF le pouvoir législatif, exécutif, et judiciaire de décider qui, quand et combien pour les bénéficiaires d'aides sociales, qui doit et qui ne doit pas rembourser les indus, quelles lois sont trop complexes ou trop injustes pour être appliquées, et puis les agents de la CAF devraient décider de poursuivre ou pas selon que les gens sont sympas, ou pauvres, ou handicapés. Voila un beau projet de société : les agents du service public décident eux-mêmes quelles lois ils appliquent en fonction de leur avis personnel sur qui doit légitimement toucher des aides sociales, et pour le budget, bah c'est l'État, alors c'est bon. Qu'est-ce que c'est que ces lois et ces gouvernements qui imposent la manière dont les aides sont distribuées?
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.