Journal les logiciels fournis avec HP sont racistes

Posté par .
Tags : aucun
2
22
déc.
2009
La reconnaissance faciale est quelque chose d'assez au point maintenant. C'est quelque chose d'assez simple à faire vu qu'un bête appareil à moins de 200 euros est capable de le faire. Je parle ici de la reconnaissance d'un visage pas son identification.

Seulement ça marche très bien mais pas pour tout le monde.

J'ai travaillé à présenter des appareils photo, qui avait la fonction un peu plus poussé de reconnaissance du sourire. C'est plus amusant qu'autre chose. L'appareil ne se déclenche que quand la personne que vous photographiez souris. Je faisais donc la démonstration à des clients:
* j'appuie sur le déclencheur et relève le doigt.
--> rien ne se passe
* Maintenant souriez
--> ça prend la photo.

Ça marchait à tout les coups, sauf pour les personnes à peau noire. J'étais un peu emmerdé : "Je suis désolé mais on dirait que l'appareil est raciste...."

Sans doute un problème de contraste moins fort avec la couleur des yeux ou du moins pas le même et aussi au niveau de la bouche. Enfin surtout que le logiciel n'as pas été prévu pour ça.

Et le rapport avec HP

Un homme de couleur noir à fait le même constat pour un logiciel de tracking vidéo qui marche impeccablement bien sur une femme de couleur blanche mais qui ne marche pas du tout sur lui.
Ça fait tellement de bruit qu'HP a l'air embarrassé.

pour voir la vidéo (oui flash...) : http://www.youtube.com/watch?v=t4DT3tQqgRM&feature=player_em(...)

et l'article : http://www.clubic.com/actualite-317256-hp-webcam-voulait-sui(...)


ps: désolé pour les fotes.
  • # en parlant de racisme...

    Posté par . Évalué à 3.

    ...et avant de te moquer de hp, as-tu pensé à vérifier que les fonctions de reconnaissance faciale utilisées par digikam ou f-spot fait bien la différence entre 2 personnes noires différentes.

    Je dis ça sans avoir essayé moi-même je te l'avoue. Juste que ça serait con de se moquer de hp si nous ne faisons pas mieux.
    • [^] # Re: en parlant de racisme...

      Posté par . Évalué à 2.

      Je pense que le début de mon article, notament le passage qui explique que des appareils photo (c'était un Casio si tu veux savoir) font pareil est une preuve suffisante pour montrer que mon but n'est pas de cracher spécifiquement sur HP.
      En fait je veux cracher sur personne, juste faire remarquer que ces logiciels n'ont pas été fait pour les noirs.

      Après la question est : es-ce que tout les logiciels de reconnaissance facial ne recconnaissent pas les noirs ?

      J'ai aucune réponse à cette question
      • [^] # Re: en parlant de racisme...

        Posté par . Évalué à 2.

        Après la question est : es-ce que tout les logiciels de reconnaissance facial ne recconnaissent pas les noirs ?

        Sur picasaweb et je pense picasa aussi, la reconnaissance faciale fonctionne très bien pour les personnes de couleur noir.
        • [^] # Re: en parlant de racisme...

          Posté par . Évalué à -3.

          Y a rien à faire, pour ce qui est du respect des droits, Google aura toujours une longueur d'avance.
          • [^] # Re: en parlant de racisme...

            Posté par . Évalué à 4.

            Oui parce que bien évidemment, c'est totalement volontaire de la part de HP, Casio & co.

            Ça ne te viendrait pas à l'idée que le logiciel a été développé dans un centre où aucune personne de couleur noire n'était disponible et qu'ils n'ont simplement pas pensé à faire tester ça par des noirs?

            À quel point a-t-on dévié dans notre manière de voir les choses pour que tout ce qui implique des gens de couleur soit systématiquement suivi de "racisme", "non respect des droits", etc?

            Si HP prépare un correctif et explique que "non, effectivement, on n'a pas testé avant, désolé" ça veut dire que c'est une boite sectaire, raciste et tout le tralala? J'attends avec impatience la prochaine campagne d'indignation politique sur le sujet, ça faisait longtemps qu'ils n'avaient pas eu leur dose d'indignation publique...
            • [^] # Re: en parlant de racisme...

              Posté par . Évalué à 7.

              Au contraire ils ne sont tellement pas racistes qu'ils n'ont même pas pensé qu'il pourrait y avoir une différence entre un blanc et un noir :D
            • [^] # Re: en parlant de racisme...

              Posté par . Évalué à 6.

              > J'attends avec impatience la prochaine campagne d'indignation politique sur le sujet [...]

              En parlant de politique, ça me fait penser : Est-ce que la reconnaissance faciale marche toujours si on porte la Burqa ?

              Ok... Je ---> []

              Knowing the syntax of Java does not make someone a software engineer.

        • [^] # Re: en parlant de racisme...

          Posté par . Évalué à 2.

          Les logiciels des caméras de la police j'espère que oui, sinon ils ne serviraient à rien la plupart du temps.
          • [^] # Re: en parlant de racisme...

            Posté par . Évalué à 2.

            Pourquoi « la plupart du temps» ? Pour toi, la plupart du temps, les infractions sont commises par des noirs ?

            → [ ]

            Article Quarante-Deux : Toute personne dépassant un kilomètre de haut doit quitter le Tribunal. -- Le Roi de Cœur

  • # un oubli du mode d'emploi

    Posté par . Évalué à 7.

    Pour photographier des personnes de couleur noire, n'oubliez pas de leur préciser de bien montrer leurs dents, ou alors de mettre du rouge à lèvres

    C'est tarte à dire, mais les lèvres d'un noir forment moins de contraste avec son visage que pour la plupart des autres genre ethniques.
    • [^] # Re: un oubli du mode d'emploi

      Posté par (page perso) . Évalué à 8.

      Couleurs de peau, pas genre ethnique. Les noirs, ce n'est pas une ethnie, ça. :-)
      • [^] # Re: un oubli du mode d'emploi

        Posté par . Évalué à -1.

        La couleur de peau noire indique généralement une personne d'origine ethnique africaine.
        • [^] # Re: un oubli du mode d'emploi

          Posté par . Évalué à 3.

          Pourtant, il y a des tas et des tas d'Indiens et Pakistanais noirs. Aussi quelques Papous (papas ou pas, avec ou sans pous). Ça m'étonnerait pas qu'il ait moins de noirs en Afrique que dans le reste du monde. Enfin, ça dépend de la définition de «noir»...
    • [^] # Re: un oubli du mode d'emploi

      Posté par (page perso) . Évalué à 3.

      D'autre part le dire ne fait pas de toi un raciste et cela parait, une foi écrit une remarque de bon sens.
      Ensuite cela devient plus compliqué: faut-il un logiciel réservé aux personnes de couleur, un réglage spécifique?
      Est-ce discriminatoire?
      Il doit quand même être possible de prendre en compte les besoins de chacun sans faire de discrimination.
  • # un logiciel raciste ?

    Posté par (page perso) . Évalué à 4.

    Je ne pensais pas qu'un logiciel pouvait avoir des pensées
    • [^] # Re: un logiciel raciste ?

      Posté par (page perso) . Évalué à 3.

      Des pensées non, un comportement oui.

      D'ailleurs le problème souvent c'est le comportement, pas la pensée. Même une personne qui a des pensées racistes et qui les garde totalement pour elle sans que ça se traduise en comportements (y compris discours), par définition elle gêne pas, vu que personne s'en rend compte. Inversement, un comportement raciste, même non appuyé par un discours raciste, donc du racisme inconscient/intériorisé (à la zut on avait oublié qu'il y a aussi des noirs, pourtant j'ai un très bon ami noir...), c'est toujours pénible.
      • [^] # Re: un logiciel raciste ?

        Posté par . Évalué à 1.

        Oui, comme je le disais plus haut, c'est certainement dû à un racisme refoulé.
        On peut tous être certain qu'il y avait bien un noir dans le centre où le soft a été développé, et si les dévs n'y ont pas pensé, c'est bien une preuve irréfutable que quelque part, ils aiment pas les noirs.

        D'ailleurs, en parlant de contraste lèvre-reste du visage, vous avez tous également pensé aux Inuits, aux Asiatiques, aux Amérindiens, aux Indiens, et à toutes les races qui pourraient avoir des caractéristiques physiques spécifiques telles que le critère qui marche sur les blancs ne marche pas sur eux.

        Je propose qu'on s'indigne collectivement, c'est à la pointe de la mode, et en plus ça lève le doute sur le fait qu'on soit "bien-pensants" ou pas.
        • [^] # Re: un logiciel raciste ?

          Posté par . Évalué à 0.

          On peut tous être certain qu'il y avait bien un noir dans le centre où le soft a été développé, et si les dévs n'y ont pas pensé, c'est bien une preuve irréfutable que quelque part, ils aiment pas les noirs.
          Ou alors ils n'ont tout simplement pas pensé que ça pouvait poser des problèmes.
          Faut arreter de voir le mal partout.
      • [^] # Re: un logiciel raciste ?

        Posté par (page perso) . Évalué à 3.

        >> Des pensées non, un comportement oui.

        Connards de réseaux de neurones !
        Si l'intelligence artificielle commence à s'y mettre elle aussi !
      • [^] # Re: un logiciel raciste ?

        Posté par (page perso) . Évalué à 2.

        J'étais juste en réaction au titre qui traite de raciste des logiciels, ce qui revient à doter les logiciels d'une capacité de réflexion propre. Corollaire, à quand un logiciel mis en prison ?
  • # Bug ?

    Posté par (page perso) . Évalué à 4.

    C'est plus un bug que du racisme. On pourrait parler de racisme si c'était une volonté de HP.
    • [^] # Re: Bug ?

      Posté par . Évalué à -1.

      Je crois qu'il y en a qui ne comprenne pas que le titre est plus de l'humour qu'une argumentation avancé.

      Cependant, même si la volonté d'HP n'a rien avoir avec ce 'bug'; on peut tout de même constaté que ce programme à été fait par des blancs pour des blancs et n'a
      - soit pas été testé sur des noirs
      - soit pire encore testé et vu que ça marchait pas, et qu'ils avait pas envie de se faire chier, on laissé le programme en état.
      - soit le fait d'être noir n'as pas du tout été pensé pendant la programmation du programme.

      Je penche plutôt pour la dernière hypothèse

      De là a dire que les noirs ne représente pas une part de marché suffisamment intéressante pour passer du temps à développer un programme qui fonctionnent avec eux...
      Et à dire qu'informaticien est un boulot de riche et de blanc...

      C'est du gros troll poilu que d'affirmer ça. Mais on est en droit de se poser certaines questions.
      • [^] # Re: Bug ?

        Posté par . Évalué à 2.

        Ou peut-être que le soft a été testé dans des conditions dites idéales;

        Après, faut voir aussi que sur la vidéo, lorsque sa femme teste le tracking, le logiciel met un peu de temps quand même à la détecter.
      • [^] # Re: Bug ?

        Posté par . Évalué à 3.

        Ca a surement ete teste, les ingenieurs savaient surement que ca ne marcherait pas si le contraste yeux/sourcil/joues/nez est trop faible, et que forcement sur un black avec des yeux marrons, des sourcils noirs, des joues noires et un nez noir, ca allait pas marcher.

        Vu les conditions, je serais curieux de savoir si ca marche sur un blond qui a une couleur de peau proche de sa blonditude avec des yeux tres clairs.

        Mais un mec du management a probablement dit: "pas grave, sortez le quand meme, c'est un gadget qui nous demarquera de la concurrence".

        Ce qui me fait surtout marrer dans cette histoire, c'est les pincettes que doit prendre HP pour s'expliquer publiquement.
    • [^] # Re: Bug ?

      Posté par . Évalué à 8.

      pourtant certains oublis ou bug de HP sont douteux, je pense aussi que mon imprimante HP est raciste : lorsque j'ai ma cartouche d'encre noire qui est pleine, et que je veux imprimer en monochrome, mais qu'une des cartouches de couleurs est vide, cette stupide imprimante fasciste refuse d'imprimer quoi que ce soit...

      Only wimps use tape backup: real men just upload their important stuff on megaupload, and let the rest of the world ~~mirror~~ link to it

    • [^] # Re: Bug ?

      Posté par . Évalué à 1.

      It's not a bug, it's a feature !

      Je suis désolé, j'ai vu la vidéo et je suis contre ce que vous dites : la caméra réagit juste différemment aux couleurs : visage blanc (follow), visage noir (unzoom). Et si c'est les 2 visage c'est le unzoom qui gagne c'est dire si c'est pas raciste ! :D

      Blague à part, il parait que c'est pas facile en traitement du signal de gérer les différences de couleurs de peau.

      Ça me fait penser à un épisode de la série ¿américaine? better off ted où les personnes de couleurs ne se font plus détecter par toutes les machines (distributeurs d'eau, détecteurs de mouvement, portes, ...) => obligé d'engager des blancs pour suivre les personnes noires, et obligé d'engager des personnes noires pour ne pas discriminer le nombre d'employées de couleur blanche. (et ainsi de suite :)

      Voila, c'était mes 50 cents. => []
  • # erf

    Posté par . Évalué à 9.

    Je suis désolé mais on dirait que l'appareil est raciste....

    c'est surtout cette remarque qui n'est pas terrible

    Que la technique n'ait pas envisagé tous les cas de figure c'est pas une nouveauté.
    • [^] # Re: erf

      Posté par . Évalué à 6.

      Vous avez vraiment pas d'humour ou quoi ?
      à moins qu'on ait pas le droit de faire de blague sur la race ?

      pour moi être raciste c'est traiter les gens différement selon leur race. Il me semble que ce soit le cas de l'appareil photo, bien que ce ne soit surrement effectivement pas fait volontairement mais du à une lacune technique.

      - Pourquoi ça marche pas ?
      probablement car les contraste sont plus dur à détécter chez les noir et/ou que ce ne sont pas les même contrastes

      Cependant cette lacune technique sur ce point préci me semble révélateur de certaines choses. Croiyez moi que si le systeme dont il font la pub ne marchait que sur les blancs et pas les asiatiques ou l'inverse, ils auraient fait quelques choses.

      Pourquoi ils ont laissé passer ce problème solvable ?


      Probablement parce que, du à un ensemble raisons, les noirs achettent moins d'appareils photos que les blancs et les asiatiques.
      Je pense que le racisme eventuel s'arrete là.
      Mais n'es-ce pas déja du racisme ?

      N'est-ce pas une bonne question ?
      • [^] # Re: erf

        Posté par . Évalué à -2.

        Vous pensez que les races existent?
        C'est quoi une race pour vous?

        Faire de l'humour sur la race c'est réutiliser un concept qui a été crée uniquement pour justifier le fait d'écraser son prochain. Je dis pas que c'est mal de constater que son voisin est différent. Mais de mettre ça dans la race c'est pas terrible.

        Croiyez moi que si le systeme dont il font la pub ne marchait que sur les blancs et pas les asiatiques ou l'inverse, ils auraient fait quelques choses.


        Les asiatiques, ils viennent faire quoi la dedans?

        Pourquoi ils ont laissé passer ce problème solvable ?

        pas vu pas pris. et si t'es pris tu fais un patch avec plein d'excuse sourire.

        Probablement parce que, du à un ensemble raisons, les noirs achettent moins d'appareils photos que les blancs et les asiatiques.

        La vous dites : si les 'noirs' achetaient plus les appareils fonctionneraient aussi pour eux. C'est pas terrible. Le premier sceptique venu va vous demander des chiffres pour justifier cette affirmation. Après on pourra vous demander la part de la population 'noire' aux USA par exemple (13%).

        Dans le magasin d'informatique près de chez moi, ils ne vendent pas de souris pour gaucher. j'en déduis que la magasin est anti-gaucher?

        si les gauchers achetaient 90% des souris dans le monde que feraient les fabricants à votre avis?

        Je pense que le racisme eventuel s'arrete là.

        c'est du réalisme économique.

        N'est-ce pas une bonne question ?

        C'est un mauvais débat
      • [^] # Re: erf

        Posté par . Évalué à 5.

        selon leur race

        Je croyais que la définition française du mot faisait qu'on ne pouvait pas délimiter de "races" à proprement parler chez l'humain. Apparemment sous prétexte d'éradiquer le politiquement correct certains groupe ont réussi à faire rerentrer le terme dans le vocabulaire.

        Probablement parce que, du à un ensemble raisons, les noirs achettent moins d'appareils photos que les blancs et les asiatiques.

        Autrement dit les "blancs" sont plus riches. Pour les asiatiques tu vas au Japon par exemple et les statistiques vont être bien infirmée, le marché doit être énorme. Ce truc a été vendu au Japon ?

        Sinon, je pense à une bourde énorme et comique dans la conception du produit dûe à un protocole de test probablement incomplêt et pas complêtement représentatif de la population, et a une techno jeune et pas toujours très fiable par ailleurs, pour des raisons qu'on comprends bien. Tu reviens dans quelques années, après une pub pareille tu peux être sûr que les appareils ne feront plus ce genre d'erreurs.

        PS: j'ai ri à la blague.
  • # Le bon côté des choses est que...

    Posté par . Évalué à 10.

    ....les noirs et autres personnes de couleur seront les moins embêtés par ces systèmes de surveillance automatisés qui vont fleurir dans nos rue pour nous protéger des méchants terroristes, des pédophiles violeurs d'enfants et des faucheurs d'OGM. Et nous, les blancs, nous nous ferons contrôler et identifier à chaque coin de rue parce qu'on a la peau plus facile à repérer par un logiciel.

    Si ça ce n'est pas du délit de faciès, qu'est-ce donc ?

    PS: sarcasme, toussa...

    The capacity of the human mind for swallowing nonsense and spewing it forth in violent and repressive action has never yet been plumbed. -- Robert A. Heinlein

  • # Euh

    Posté par (page perso) . Évalué à 1.

    >> Ça marchait à tout les coups, sauf pour les personnes à peau noire. J'étais un peu emmerdé : "Je suis désolé mais on dirait que l'appareil est raciste...."

    T'as quand même pas osé dire ça ?


    Quand à la vidéo à contre-jour, c'est super rigoureux, j'avoue…
    On en reparlera quand tu auras codé des logiciels de reconnaissance de forme ou des processus décisionnels…

Suivre le flux des commentaires

Note : les commentaires appartiennent à ceux qui les ont postés. Nous n'en sommes pas responsables.