Posté par aiolos .
Évalué à 5.
Dernière modification le 15 octobre 2023 à 20:12.
Je ne tiens pas particulièrement à défendre Idemia, mais je trouve un peu dur de leur reprocher les faux positifs, un éceuil bien connu des systèmes biométriques (dont les performances de mesurent en FRR/FAR1 ), quand tout le monde fait n'importe quoi à côté :
"Ils ont ignoré toutes les preuves qui pouvaient l’innocenter, déplore Daniel Sexton, l’avocat de Nijeer Parks. Ils avaient des empreintes digitales, des traces d’ADN, des images de vidéo-surveillance… Mais comme ils ont eu ce résultat de reconnaissance faciale, ils ont juste ignoré le reste".
[…]
Selon l’avocat, le procureur avait connaissance de ces manquements de la police. Il requerra pourtant une peine de 20 ans à l’encontre de Nijeer Parks […]
Bien sûr qu'ils sont reprochable, par le simple fait de vendre de tels systèmes pour ce type d'usage. S'ils voulaient être honnêtes, ils ne seraient simplement pas dans ce business.
Le truc, c'est que nous, on le sait que ces machines non seulement ne sont pas parfaites, mais en plus ne le seront probablement jamais. Il suffit de voir d'ailleurs que même des trucs beaucoup plus simples, comme de la simple catégorisation de courriels est loin d'être parfaite encore, après des dizaines d'années à travailler dessus (même les plus gros fournisseurs de mail font constamment des faux positifs et des faux négatifs dans la classification des courriels et du spam). D'ailleurs parfois même pour les humains, c'est déjà dur de faire la différence (que ce soit de la reconnaissance de visage comme de spams)! Combien de fois j'ai eu des gens me montrant un email et me demandant "c'est un vrai email, tu crois?"! Même moi, il m'arrive quelques fois de douter parfois d'ailleurs.
Mais le non-technicien, lui il connaît encore moins et ces entreprises essaient de lui vendre du "rêve" (totalitaire) avec du discours marketing totalement bidon.
Tiens regardons ce que cette entreprise répond après avoir fait presque envoyer un innocent en prison (et lui ayant probablement fait une année de merde et de stress à se défendre et à désespérer, sans compter 2 semaines derrière les barreaux… de quoi gâcher une vie dans certains cas):
Elle a néanmoins précisé que ses équipes travaillaient activement pour "améliorer l’équité des algorithmes d’intelligence artificielle" et rappelle que ses technologies sont "à la première place au test d’équité pour la détection de fausses correspondances", réalisé par l’Institut national américain des normes et de la technologie, le NIST.
Pas même un "oups", encore moins un "pardon", juste "non mais en vrai, on est super fort, regardez ce test bidon le dit".
Donc non, ce type d'entreprises ne méritent absolument aucune pitié. Elles se nourrissent des peurs et désirs autoritaires de ceux au pouvoir qui veulent tout contrôler, notamment la possibilité de suivre leur population à la trace grâce à la "biométrie" vendue comme miraculeuse. Et cela gâche littéralement des vies. Mais cette entreprise s'en balance. Au passage, elle se fait des fortunes et elle passe juste au contrat suivant.
Cet article est d'ailleurs assez édifiant, entre les erreurs et problèmes d'incompétence, les affaires de corruptions connues, les plaintes (annulées, probablement à coup de millions par-ci par-là)… et pourtant cette entreprise semble juste continuer son petit bonhomme de chemin, comme si de rien n'était.
Donc comment? Il ne faudrait pas leur reprocher leurs faux positifs? Bien sûr que si. La seule façon de ne pas le leur reprocher aurait été pour elles de ne pas vendre ces technologies du tout, donc simplement de ne pas faire le business dans lequel elle semble faire son activité principale. Toute entreprise qui vend ce genre de technologies absolument dystopique est reprochable, pour absolument l'entièreté de leur business de surveillance.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
Posté par Glandos .
Évalué à 8.
Dernière modification le 16 octobre 2023 à 10:05.
Dans le cas cité, c'est une affaire de police. Une enquête policière ne peut aboutir sur la base d'un seul indice, mais sur un faisceau d'indices convergents.
La biométrie n'est pas fiable, au même titre qu'un témoin oculaire. La fiabilité de ces deux indices se mesurent complètement différemment, mais ça doit se vérifier.
La reconnaissance faciale n'est pas plus fiable que le relevés d'empreintes digitales qu'on pratique pourtant depuis des décennies, donc son utilisation en tant que preuves suit la même logique.
Pour conclure, ce qui est critiquable, c'est à la fois le discours du vendeur qui en fait un outil clé-en-main solution-à-tout, et le corps de police qui l'utilise sans se poser de question.
Le souci, c'est que la reconnaissance faciale, les empreintes ou les témoins ne prouvent pas la culpabilité, mais prouvent que tu était la à un endroit, ou prouve ton passage à un moment.
Donc certes, ce n'est pas fiable à 100% (et rien n'est jamais fiable à 100%), mais ça n'a pas forcément besoin de ça.
C'est bien l'appareil policier et judiciaire qui est responsable, car c'est eux qui passe de constations factuelles (plus ou moins vraies) à une condamnation.
Et comme ça parle de FRR/FAR, il faut aussi rappeler que choisir un système (au sens large, je parle pas de biométrie uniquement) qui va faire plus de faux positifs ou plus de faux négatifs est un choix (et dans le cas de la justice, un choix politique).
On peut viser "ne jamais mettre des innocents en prison", mais ça va forcément aussi dire "avoir des coupables libres", et l'inverse. Et vu qu'on ne peut sans doute pas avoir de 100%, il faut aussi qu'on se pose ce genre de questions.
On peut aussi se poser la question de la question raciale, car on parle d'un cas aux états unis en 2019 avec un afro américain (donc avant que les USA prennent collectivement conscience qu'il y a un problème, vu que le meurtre de Georges Floyd et les manifs qui ont suivis, c'est 1 an plus tard).
Le souci, c'est que la reconnaissance faciale, les empreintes ou les témoins ne prouvent pas la culpabilité, mais prouvent que tu était la à un endroit, ou prouve ton passage à un moment.
Chef on a trouvé un cadavre !
Bien prenez ses empreintes digitales, faites une identification dentaire, une comparaison de son ADN avec…
Chef, il est mort chez lui, il avait sa carte d'identité dans sa poche et il y a une photo de lui sur le mur avec son nom.
Le post ci-dessus est une grosse connerie, ne le lisez pas sérieusement.
suite à un vol, un pote pas con a pu retrouver (par chance) sa voiture : il avait noté le numéro de la plaque de la voiture dans lequel le voleur s'est enfui _o/
Je ne comprends pas l'intérêt d'écrire "C'est juste mon avis là."
Qu'est-ce que ça signifie ? Sérieusement ? Est-ce que ça veut dire qu'on ne peut pas critiquer ce texte parce que ce n'est qu'un avis ?
Mais qu'est-ce qu'un commentaire sur LinuxFr sinon un avis ? L'intérêt des avis et opinions, c'est qu'on puisse les discuter, comprendre d'où ils proviennent et voir si on peut les améliorer. Ces avis et opinions sont forcément construits, d'une manière ou d'une autre, et ont une histoire et des raisonnements.
Je réagis ainsi car, j'entends maintenant assez souvent des personnes affirmer : "c'est mon opinion" ou "c'est mon avis" comme si ça justifiait qu'on ne les critique pas, et je dois avouer que ça m'énerve un peu. Mais c'est juste un commentaire, hein ;)
C'est juste mon avis, pas celui de l'auteur (ou autrice… sait on jamais): je ne pense pas que le but soit d'empêcher la critique, mais au contraire de montrer que contrairement à celui qui prend un célèbre youtubeur en tant que source, son avis est faillible car jusque là non soumis à l'élévation communautaire via TwitX.
Posté par sebas .
Évalué à 4.
Dernière modification le 16 octobre 2023 à 18:01.
Qu'est-ce que ça signifie ? Sérieusement ? Est-ce que ça veut dire qu'on ne peut pas critiquer ce texte parce que ce n'est qu'un avis ?
Où as-tu vu qui qui que ce soit prétende qu'un avis personnel n'est pas critiquable ?
Où as-tu vu que Misc affirme que son post n'est pas critiquable ?
Je réagis ainsi car, j'entends maintenant assez souvent des personnes affirmer : "c'est mon opinion" ou "c'est mon avis" comme si ça justifiait qu'on ne les critique pas, et je dois avouer que ça m'énerve un peu. Mais c'est juste un commentaire, hein ;)
Eh bien tu vois, on est de l'opinion exactement inverse, parce que justement, le fait de dire "C'est mon opinion" s'oppose au fait de dire "Il est prouvé que" ou "Il est de notoriété publique que", et donc, dit autrement, "vous pouvez la critiquer" s'oppose à "c'est inattaquable [1] ".
Le fait de dire "C'est mon avis" sous-entend que l'interlocuteur peut être d'un avis différent, ce qui, contrairement à ce que tu déduis de cette phrase, dénote une ouverture d'esprit et l'acceptation implicite d'une critique. C'est le contraire d'une affirmation péremptoire. C'est en tout cas mon opinion.
[1] … mais ça n'est inattaquable que dans l'opinion de la personne qui l'affirme ;-)
Où as-tu vu que Misc affirme que son post n'est pas critiquable ?
c'était pas une réponse à mon commentaire, donc en effet.
Mais sinon, la raison qui fait que mon commentaire n'est pas critiquable, c'est que comme d'hab, il est parfait.
La seule critique recevable, c'est qu'il est trop court et que la populace voudrait sans doute que j'abreuve encore plus linuxfr du nectar de mes mots, mais n'ose pas le dire, car c'est toujours intimidant de parler à une star.
C'est pas plutôt un truc pur insister sur le fait que ce n'est pas supposé être un avis d'expert qui connait pas mal d'aspect de la question et donc qui pourrait prétendre à avoir plus que l'avis d'un quidam ? Ou encore de dire un truc comme "mais bon c'est pas moi qui décide" ?
# Faux positifs
Posté par aiolos . Évalué à 5. Dernière modification le 15 octobre 2023 à 20:12.
Je ne tiens pas particulièrement à défendre Idemia, mais je trouve un peu dur de leur reprocher les faux positifs, un éceuil bien connu des systèmes biométriques (dont les performances de mesurent en FRR/FAR1 ), quand tout le monde fait n'importe quoi à côté :
1 : FRR/FAR = False Rejection Rate/False Acceptance Rate
[^] # Re: Faux positifs
Posté par Jehan (site web personnel, Mastodon) . Évalué à 10.
Bien sûr qu'ils sont reprochable, par le simple fait de vendre de tels systèmes pour ce type d'usage. S'ils voulaient être honnêtes, ils ne seraient simplement pas dans ce business.
Le truc, c'est que nous, on le sait que ces machines non seulement ne sont pas parfaites, mais en plus ne le seront probablement jamais. Il suffit de voir d'ailleurs que même des trucs beaucoup plus simples, comme de la simple catégorisation de courriels est loin d'être parfaite encore, après des dizaines d'années à travailler dessus (même les plus gros fournisseurs de mail font constamment des faux positifs et des faux négatifs dans la classification des courriels et du spam). D'ailleurs parfois même pour les humains, c'est déjà dur de faire la différence (que ce soit de la reconnaissance de visage comme de spams)! Combien de fois j'ai eu des gens me montrant un email et me demandant "c'est un vrai email, tu crois?"! Même moi, il m'arrive quelques fois de douter parfois d'ailleurs.
Mais le non-technicien, lui il connaît encore moins et ces entreprises essaient de lui vendre du "rêve" (totalitaire) avec du discours marketing totalement bidon.
Tiens regardons ce que cette entreprise répond après avoir fait presque envoyer un innocent en prison (et lui ayant probablement fait une année de merde et de stress à se défendre et à désespérer, sans compter 2 semaines derrière les barreaux… de quoi gâcher une vie dans certains cas):
Pas même un "oups", encore moins un "pardon", juste "non mais en vrai, on est super fort, regardez ce test bidon le dit".
Donc non, ce type d'entreprises ne méritent absolument aucune pitié. Elles se nourrissent des peurs et désirs autoritaires de ceux au pouvoir qui veulent tout contrôler, notamment la possibilité de suivre leur population à la trace grâce à la "biométrie" vendue comme miraculeuse. Et cela gâche littéralement des vies. Mais cette entreprise s'en balance. Au passage, elle se fait des fortunes et elle passe juste au contrat suivant.
Cet article est d'ailleurs assez édifiant, entre les erreurs et problèmes d'incompétence, les affaires de corruptions connues, les plaintes (annulées, probablement à coup de millions par-ci par-là)… et pourtant cette entreprise semble juste continuer son petit bonhomme de chemin, comme si de rien n'était.
Donc comment? Il ne faudrait pas leur reprocher leurs faux positifs? Bien sûr que si. La seule façon de ne pas le leur reprocher aurait été pour elles de ne pas vendre ces technologies du tout, donc simplement de ne pas faire le business dans lequel elle semble faire son activité principale. Toute entreprise qui vend ce genre de technologies absolument dystopique est reprochable, pour absolument l'entièreté de leur business de surveillance.
Film d'animation libre en CC by-sa/Art Libre, fait avec GIMP et autre logiciels libres: ZeMarmot [ http://film.zemarmot.net ]
[^] # Re: Faux positifs
Posté par Glandos . Évalué à 8. Dernière modification le 16 octobre 2023 à 10:05.
Dans le cas cité, c'est une affaire de police. Une enquête policière ne peut aboutir sur la base d'un seul indice, mais sur un faisceau d'indices convergents.
La biométrie n'est pas fiable, au même titre qu'un témoin oculaire. La fiabilité de ces deux indices se mesurent complètement différemment, mais ça doit se vérifier.
La reconnaissance faciale n'est pas plus fiable que le relevés d'empreintes digitales qu'on pratique pourtant depuis des décennies, donc son utilisation en tant que preuves suit la même logique.
Pour conclure, ce qui est critiquable, c'est à la fois le discours du vendeur qui en fait un outil clé-en-main solution-à-tout, et le corps de police qui l'utilise sans se poser de question.
C'est juste mon avis là.
[^] # Re: Faux positifs
Posté par Misc (site web personnel) . Évalué à 5.
Le souci, c'est que la reconnaissance faciale, les empreintes ou les témoins ne prouvent pas la culpabilité, mais prouvent que tu était la à un endroit, ou prouve ton passage à un moment.
Donc certes, ce n'est pas fiable à 100% (et rien n'est jamais fiable à 100%), mais ça n'a pas forcément besoin de ça.
C'est bien l'appareil policier et judiciaire qui est responsable, car c'est eux qui passe de constations factuelles (plus ou moins vraies) à une condamnation.
Et comme ça parle de FRR/FAR, il faut aussi rappeler que choisir un système (au sens large, je parle pas de biométrie uniquement) qui va faire plus de faux positifs ou plus de faux négatifs est un choix (et dans le cas de la justice, un choix politique).
On peut viser "ne jamais mettre des innocents en prison", mais ça va forcément aussi dire "avoir des coupables libres", et l'inverse. Et vu qu'on ne peut sans doute pas avoir de 100%, il faut aussi qu'on se pose ce genre de questions.
On peut aussi se poser la question de la question raciale, car on parle d'un cas aux états unis en 2019 avec un afro américain (donc avant que les USA prennent collectivement conscience qu'il y a un problème, vu que le meurtre de Georges Floyd et les manifs qui ont suivis, c'est 1 an plus tard).
[^] # Re: Faux positifs
Posté par devnewton 🍺 (site web personnel) . Évalué à 4.
Le post ci-dessus est une grosse connerie, ne le lisez pas sérieusement.
[^] # Re: Faux positifs
Posté par Pol' uX (site web personnel) . Évalué à 4.
Pas de doute, c'est un suicide. On se demande quand même encore comment il a pu fermer le sac de l'intérieur. C'est que c'était un malin, ce dédé !
Adhérer à l'April, ça vous tente ?
[^] # Re: Faux positifs
Posté par BAud (site web personnel) . Évalué à 4.
suite à un vol, un pote pas con a pu retrouver (par chance) sa voiture : il avait noté le numéro de la plaque de la voiture dans lequel le voleur s'est enfui _o/
[^] # Re: Faux positifs
Posté par Glandos . Évalué à 3.
Ça marche bien SAUF quand on vient de te voler ta voiture.
[^] # Re: Faux positifs
Posté par BAud (site web personnel) . Évalué à 3. Dernière modification le 17 octobre 2023 à 12:05.
bin, euh, comment dire :/ c'est la blague… c'était la sienne de voiture.
sérieux, tu ne connais pas les classiques de Coluche ? /o\ (je vais avoir du mal à trouver la même dans Kaamelott :/)
[^] # Re: Faux positifs
Posté par lejocelyn (site web personnel) . Évalué à 6. Dernière modification le 16 octobre 2023 à 13:45.
Je ne comprends pas l'intérêt d'écrire "C'est juste mon avis là."
Qu'est-ce que ça signifie ? Sérieusement ? Est-ce que ça veut dire qu'on ne peut pas critiquer ce texte parce que ce n'est qu'un avis ?
Mais qu'est-ce qu'un commentaire sur LinuxFr sinon un avis ? L'intérêt des avis et opinions, c'est qu'on puisse les discuter, comprendre d'où ils proviennent et voir si on peut les améliorer. Ces avis et opinions sont forcément construits, d'une manière ou d'une autre, et ont une histoire et des raisonnements.
Je réagis ainsi car, j'entends maintenant assez souvent des personnes affirmer : "c'est mon opinion" ou "c'est mon avis" comme si ça justifiait qu'on ne les critique pas, et je dois avouer que ça m'énerve un peu. Mais c'est juste un commentaire, hein ;)
[^] # Re: Faux positifs
Posté par Elfir3 . Évalué à 6.
C'est juste mon avis, pas celui de l'auteur (ou autrice… sait on jamais): je ne pense pas que le but soit d'empêcher la critique, mais au contraire de montrer que contrairement à celui qui prend un célèbre youtubeur en tant que source, son avis est faillible car jusque là non soumis à l'élévation communautaire via TwitX.
[^] # Re: Faux positifs
Posté par sebas . Évalué à 4. Dernière modification le 16 octobre 2023 à 18:01.
Où as-tu vu qui qui que ce soit prétende qu'un avis personnel n'est pas critiquable ?
Où as-tu vu que Misc affirme que son post n'est pas critiquable ?
Eh bien tu vois, on est de l'opinion exactement inverse, parce que justement, le fait de dire "C'est mon opinion" s'oppose au fait de dire "Il est prouvé que" ou "Il est de notoriété publique que", et donc, dit autrement, "vous pouvez la critiquer" s'oppose à "c'est inattaquable [1] ".
Le fait de dire "C'est mon avis" sous-entend que l'interlocuteur peut être d'un avis différent, ce qui, contrairement à ce que tu déduis de cette phrase, dénote une ouverture d'esprit et l'acceptation implicite d'une critique. C'est le contraire d'une affirmation péremptoire. C'est en tout cas mon opinion.
[1] … mais ça n'est inattaquable que dans l'opinion de la personne qui l'affirme ;-)
[^] # Re: Faux positifs
Posté par Misc (site web personnel) . Évalué à 3.
c'était pas une réponse à mon commentaire, donc en effet.
Mais sinon, la raison qui fait que mon commentaire n'est pas critiquable, c'est que comme d'hab, il est parfait.
La seule critique recevable, c'est qu'il est trop court et que la populace voudrait sans doute que j'abreuve encore plus linuxfr du nectar de mes mots, mais n'ose pas le dire, car c'est toujours intimidant de parler à une star.
Ou un truc comme ça, en toute modestie :p
[^] # Re: Faux positifs
Posté par Thomas Douillard . Évalué à 8.
C'est pas plutôt un truc pur insister sur le fait que ce n'est pas supposé être un avis d'expert qui connait pas mal d'aspect de la question et donc qui pourrait prétendre à avoir plus que l'avis d'un quidam ? Ou encore de dire un truc comme "mais bon c'est pas moi qui décide" ?
# Podcast sur le même sujet
Posté par Colargol (site web personnel) . Évalué à 6.
L'enquête faisait aussi l'objet de l'émission "Secrets d'info" sur France Inter samedi dernier :
https://www.radiofrance.fr/franceinter/podcasts/secrets-d-info/secrets-d-info-du-samedi-14-octobre-2023-7618438
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.