Journal les visages générés par IA

Posté par  . Licence CC By‑SA.
Étiquettes :
12
11
juil.
2026

Plutôt qu'un lien, autant expliquer quelques points saillants de l'article de la BBC sur le système de détection d'IA dévoilé par des chercheuses australiennes :

Ce sont des psychologues. Elles se sont d'abord rendu compte qu'elles étaient capables de distinguer rapidement les portraits photos réels de ceux générés par IA.

Après analyse de leurs critères, très simples, elles se sont mises à entraîner des gens. Et ça fonctionne ! Une heure d'entraînement suffit à faire de gros progrès.

La BBC propose quelques exemples pour vous tester.

Vous voulez les critères ? Je vous les fait dans le désordre :

  • la mémorisation
  • la symétrie
  • les proportions
  • l'attractivité
  • la distinction (ou la banalité)
  • l'expressivité
  • personne blanche de 30-40 ans

Ces critères sont expliqués bien sùr.
Bonne lecture!

  • # Le surentraînement des IA sur des profils types peut nuire à ces profils types

    Posté par  (site web personnel, Mastodon) . Évalué à 7 (+6/-2).

    Vous voulez les critères ? Je vous les fait dans le désordre :
    …
    - personne blanche de 30-40 ans

    Ce qui est intéressant ici c’est comment ce qui a pu être dénoncé comme l’effet d’un possible racisme systémique peut nourrir un autre racisme systémique.

    Par exemple il avait été dénoncé il y a quelques années les « filtres d’influenceurs (Instagram et autres) conçus et entraînés sur des visages occidentaux (biais d’intention et biais de sélection). Par exemple les articles Miroir, mon beau miroir, qui est la plus blanche de toutes ? Les biais raciaux dans les filtres de beauté des réseaux sociaux (en), TikTok : aviez-vous remarqué que ce filtre fonctionne seulement sur peau blanche ? (attention acceptation de cookie requis). Mais il n’y a pas que le filtre de vénus européenne, il y a aussi le filtre asiatique d’inspiration jeu vidéo à la Final Fantasy ou certains manga…

    Ici il y a le biais que certains phénotypes soient sur-représentés dans la génération de visages, avec le risque que les personnes réelles qui portent aussi ces traits soient alors inconsciemment associées à de la fabrication (faible crédibilité, risque de fraude, voire charlatan). Pour le coup cela pourrait nourrir une nouvelle forme de préjugé au faciès.

    C’est un peu comme les gens qui suspectent immédiatement d’IA les gens qui utilisent des tirets quadratins, parce que précisément les IA utilisent des tirets cadratins car elles sont entraînés sur les textes de leurs pairs : des textes à haut niveau de rédaction, de relecture, et de typographie. Et pour le coup si on veut entraîner une IA sur de la connaissance à fort taux de relecture et de vérification, il est peut-être impossible d’éviter ce problème.

    Il y a quelques années j’avais fait une expérience avec MidJourney et j’avais trouvé un moyen de faire un prompt entièrement neutre (c’est à dire, sémantiquement vide) et dans ce cas il générait systématiquement un visage de femme, et la même femme. Je rappelle que le prompt était neutre, il ne mentionnait donc ni visage ni femme ni même l’idée d’une personne, l’IA était tout aussi bien libre de produire un tournesol, une construction brutaliste où une scène de la surface de la lune.

    De fait, je te remercie, tu me donnes envie d’écrire ce journal, j’ai maintenant trois axes principaux (j’aime bien avoir trois axes avant de traiter d’un sujet) : « La femme de MidJourney », « L’instagrameuse Final fantasy », et « La recruteuse Linkedin ».

    ce commentaire est sous licence cc by 4 et précédentes

    • [^] # Re: Le surentraînement des IA sur des profils types peut nuire à ces profils types

      Posté par  . Évalué à 6 (+5/-1).

      Ce qui est intéressant ici c’est comment ce qui a pu être dénoncé comme l’effet d’un possible racisme systémique peut nourrir un autre racisme systémique.
      Pour le coup cela pourrait nourrir une nouvelle forme de préjugé au faciès.

      Est-ce que tu essayes de dire que les visages blancs pourraient être discriminés parce que trop souvent associés à l'IAGen ? Franchement je doute très fort qu'on en arrive là. Contrairement aux tirets cadratins, les personnes blanches se rencontrent absolument partout ça n'a rien de suspect d'en croiser un. Ensuite la couleur du visage n'est que l'un des indices qui pourraient aider à détecter l'IA mais il ne faut pas faire l'impasse sur tout le reste, notamment la symétrie, l'attractivité, l'expressivité… Enfin, si on parle d'emploi ou même de recherche de logement, rencontrer la personne IRL suffira à lever l'ambiguïté. Je trouve vraiment capilotracté et exagéré d'y voir la naissance d'un racisme, encore moins systémique.

      • [^] # Re: Le surentraînement des IA sur des profils types peut nuire à ces profils types

        Posté par  (site web personnel, Mastodon) . Évalué à 2 (+2/-3).

        1. L’IA est un système par nature.
        2. Les solutions IA sont utilisée mondialement, et son développement n’est pas près de s’arrêter.
        3. Les personnes blanches sont minoritaires à l’échelle de la planète.

        Pour ce dernier point c’est difficile de trouver des statistiques car c’est un sujet sensible, mais par exemple cette page indique environ 15%. C’est à double tranchant, cette minorité est une des raisons pour laquelle le biais « blanchissant » des filtres est problématique au détriment des personnes non-blanches, et cette minorité est une des raisons que la sur-représentation de cette minorité dans l’entraînement des IA en fait une population plus à même d’en subir les effets néfastes de mauvaise représentation (au détriment des personnes blanches, donc). Rien que le cas du filtre « blanchissant » est déjà à double tranchant puisque cela signifie que cette population est plus à même de souffrir de défaut de représentation fondé sur des représentations faussées de soi (la problématique basique du top-model, mais surmultiplié).

        Je ne pense pas que les gens doutent du caractère systémique dans le cas du filtre « blanchissant », pourtant c’est exactement la même cause, avec le même biais d’entraînement. Entre le filtre blanchissant et les faux visages de sites générés par IA, la différence est dans le prompt, mais la donnée de base est la même. Avec la même donnée de base biaisée à l’entraînement, un prompt va tenter d’appliquer des canons de beauté occidentaux à des personnes non-blanches, et un autre prompt va de manière statistique produire plus de faux visages ressemblant à des blancs, entraînant les véritables humains eux à associer blanc et faux profil par exposition répétée.

        De manière tout à fait indépendante de la question ethnique, on a d’ailleurs probablement là un cas de boucle rétroactive par humain interposée, car cet entraînement d’IA peut entraîner des humains qui peuvent entraîner des IA.

        Quand tu dis :

        les personnes blanches se rencontrent absolument partout

        C’est là un fort biais de sélection.

        ce commentaire est sous licence cc by 4 et précédentes

        • [^] # Re: Le surentraînement des IA sur des profils types peut nuire à ces profils types

          Posté par  (Mastodon) . Évalué à 10 (+10/-2). Dernière modification le 11 juillet 2026 à 22:21.

          C'est compliqué parce qu'il y a la pigmentation de la peau, il y a comment la période s'identifie et il y a comment les autres l'identifient.

          Par exemple la plupart des espagnols se considèrent comme blancs mais certains ont le teint plus foncé que des personnes s'identifiant comme non-blanc. Ce n'est pas rare de rencontrer par exemple des berbères ou latinos pales comme un linge.

          Certaines personnes n'ayant pas une forte pigmentation s'identifient aussi comme noirs pour avoir un ancêtre identifié comme noir. Mais paradoxalement je n'ai jamais entendu parler d'une personne à la peau dite noire s'identifier comme blanche parce qu'elle avait un ancêtre blanc. Et ça c'est sans parler des personnes considérés comme non-blancs parce qu'ils ont des caractéristiques asiatiques. Et toutes ces caractéristiques peuvent se retrouver dans une même famille du coup ça n'a pas vraiment de sens.

          Du coup l'humanité est tellement diverse que le blanc ou le noir je ne sais pas vraiment le définir. Je crois que seuls les racistes le peuvent avec leur critères arbitraires à la noix.

          • [^] # Re: Le surentraînement des IA sur des profils types peut nuire à ces profils types

            Posté par  (site web personnel) . Évalué à 6 (+6/-1).

            C'est compliqué parce qu'il y a la pigmentation de la peau, il y a comment la période s'identifie et il y a comment les autres l'identifient.

            Oui. Cela me rappelle l’histoire de Rachel Dolezal, dont les deux parents sont blancs et qui n’a pas d’ancêtres noirs connus, qui a été perçue comme noire pendant des années parce qu’elle s’identifiait et se présentait comme telle. Elle en parle dans un livre (que je n’ai pas lu)

            Mais paradoxalement je n'ai jamais entendu parler d'une personne à la peau dite noire s'identifier comme blanche parce qu'elle avait un ancêtre blanc.

            Peut-être est-ce lié au fait que les sociétés à fond raciste considèrent qu’une seule goutte de sang noire empêche de pouvoir se revendiquer blanc ?

        • [^] # Re: Le surentraînement des IA sur des profils types peut nuire à ces profils types

          Posté par  . Évalué à 1 (+1/-2).

          L’IA est un système par nature.

          Si mon logiciel est gratuit c'est un free software ? Dans violence systémique le système c'est à dire les normes sociales et les institutions. Ça peut devenir quelque chose de systémique parce que le système voudra s'appuyer dessus mais ça n'est pas le fait qu'un logiciel soit un système qui en fera une violence systémique.

          Ce n'est pas une inversion du racisme. Comme le fait que le sexisme est aussi une violence pour un paquet d'hommes. Le sexisme ne profite qu'à certaines catégories d'hommes qui rentrent dans l'archétype de la masculinité.

          Mais plus globalement ne t'inquiète pas trop. Tant que les puissants seront blancs les violences systémiques envers les blancs seront limité. On ne va tout de même pas laisser un visage de chef d'Etat occidental se faire discriminer.

          https://linuxfr.org/users/barmic/journaux/y-en-a-marre-de-ce-gros-troll

          • [^] # Chef d'État occidental

            Posté par  . Évalué à 1 (+1/-2).

            On ne va tout de même pas laisser un visage de chef d'Etat occidental se faire discriminer.

            Note que la photo pixellisée du commentaire de fork_bomb en dessous, ça pourrait être Barack Obama jeune (plus probablement que le type trouvé par l'IA).

            OK, c'était une exception. Les États-Uniens se sont bien rattrapés depuis en élisant un blanc raciste.

            « Le fascisme c’est la gangrène, à Washington comme en Russie. » — adapté de Renaud, Hexagone

    • [^] # En parlant de personne blanche de 30-40 ans

      Posté par  . Évalué à 7 (+6/-0).

      • [^] # Re: En parlant de personne blanche de 30-40 ans

        Posté par  . Évalué à 3 (+3/-0).

        L'IA ne nous montre pas la réalité ! Elle nous montre la réalité quand on plisse les yeux ! Essayez, vous verrez que c'est la même image une fois les yeux mi-clos.

        Donc, avec l'IA, soyez suspicieux, vous la comprendrez plus facilement.

    • [^] # Re: Le surentraînement des IA sur des profils types peut nuire à ces profils types

      Posté par  (site web personnel) . Évalué à 2 (+0/-0).

      Sauf que c'est vraiment pas un bon critère parce que dans leurs exemples, il y a justement une majorité des visages de "personnes non-blanches" qui sont générées par IA (et aussi une majorité des visages générés par IA qui sont de "personnes non-blanches")

  • # Face Control

    Posté par  (site web personnel) . Évalué à 10 (+14/-1). Dernière modification le 11 juillet 2026 à 20:43.

    À la demande de LinuxFr, l'Union européenne a décidé de mettre en place Face Control, qui oblige chaque internaute à tapoter face caméra afin que l'on sache si c'est un bot à visage IA ou un.e Sapiens Sapiens à visage accablé par la chaleur qui écrit chaque commentaire et chaque contenu. Selon une étude améri^W australienne, il est facile de distinguer rapidement les portraits photos réels de ceux générés par IA. Le futur Défenseur des droits français a déclaré « c'est certes un peu discriminant pour les IA et je m'en excuse, mais il faut bien que l'on protège les nazis et que l'on lutte contre les enfants, pour préserver la liberté d'expression. » Interrogé, l'IA aurait brièvement commenté : « 42 ». Un meneur de jeu rôliste aurait par ailleurs ajouté « ta gueule c'est magique ». Avec l'arrivée de la norme Advanced Driver Distraction Warning (ADDW) sur la sécurité routière, Face Control sera aussi utilisé pour voir ta face derrière le volant, et savoir si l'entité conduisant un véhicule est un humain plus ou moins assoupi ou bien un LLM avide d'interactions.

  • # Réalité diminuée

    Posté par  (site web personnel) . Évalué à 7 (+12/-8).

    Profitant de mes vacances pour observer scientifiquement les femelles humaines sur la plage, je constate une uniformisation des visages : sont-elles générées par LLM ou juste influencées par les mêmes zinfluenceuses ?

    Ce post est offensant ? Prévenez moi sur https://linuxfr.org/board

  • # Je suis hyper mauvais

    Posté par  . Évalué à 9 (+7/-0).

    Sur les douze images, j'ai trouvé la bonne réponse à une seule, je suis probablement un bon candidat à l'arnaque !

  • # Pas très rigoureux

    Posté par  . Évalué à 5 (+4/-2).

    Bon, alors comme souvent, une étude peut être un peu buzz, des communiqués de presse repris par des journalistes, et paf, ça fait des chocapics.

    Déja, l'"IA" dans ce genre de cas, n'existe pas. Il existe de nombreux modèles génératifs capables de produire des images, chaque modèle a ses spécificités, ses paramètres par défaut, sa complexité algorithmique, et les ressources informatiques qui vont derrière. On peut repérer les "tics" d'un certain modèle, mais il faudra de ré-entrainer pour les autres modèles, et pour les versions successives, parce qu'on ne détecte pas l'image générée directement, on détecte des petits signes plus ou moins consciemment. Par exemple, l'algo utilisé ici place les yeux à la même hauteur (probablement parce que les données ont été normalisées comme ça avant d'entrainer le modèle), mais il n'y a aucune raison que ça soit le cas pour tous les modèles.

    Ensuite, la plupart des critères listés correspondent à des biais liés aux paramètres par défaut des modèles. Autrement dit, quand le prompt c'est "fabrique un visage", le modèle va souvent sortir un blanc de 35 ans avec un visage symétrique et une sorte de banalité. Mais si on s'entraine à détecter ces biais, alors on sera totalement démuni face à des faux visages générés par un prompt, par exemple "femmes asiatiques chauves" ou "hommes laids".

    Enfin, les progrès des modèles sont tels qu'il semble vain de passer du temps à détecter des faux visages par des méthodes qui seront peut-être obsolètes dans 6 mois. Il y a d'ailleurs un algo très simple sur le principe qui permet de rendre ça indétectable: tu entraines à la fois un modèle génératif, et en parallèle un modèle de détection, avec des récompenses opposées (le modèle de détection a un score positif quand il détecte bien, et le modèle génératif a un score positif quand le faux n'est pas détecté). Si l'entrainement se passe bien, il y a fort à parier que les visages générés deviendront très rapidement indétectables par un humain; et probablement également par le modèle de détection (en tout cas, c'est le cas pour le texte; le texte généré par les LLM est très difficile à détecter).

Envoyer un commentaire

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.