Plutôt qu'un lien, autant expliquer quelques points saillants de l'article de la BBC sur le système de détection d'IA dévoilé par des chercheuses australiennes :
Ce sont des psychologues. Elles se sont d'abord rendu compte qu'elles étaient capables de distinguer rapidement les portraits photos réels de ceux générés par IA.
Après analyse de leurs critères, très simples, elles se sont mises à entraîner des gens. Et ça fonctionne ! Une heure d'entraînement suffit à faire de gros progrès.
La BBC propose quelques exemples pour vous tester.
Vous voulez les critères ? Je vous les fait dans le désordre :
- la mémorisation
- la symétrie
- les proportions
- l'attractivité
- la distinction (ou la banalité)
- l'expressivité
- personne blanche de 30-40 ans
Ces critères sont expliqués bien sùr.
Bonne lecture!
# Le surentraînement des IA sur des profils types peut nuire à ces profils types
Posté par Thomas Debesse (site web personnel, Mastodon) . Évalué à 3 (+1/-1).
Ce qui est intéressant ici c’est comment ce qui a pu être dénoncé comme l’effet d’un possible racisme systémique peut nourrir un autre racisme systémique.
Par exemple il avait été dénoncé il y a quelques années les « filtres d’influenceurs (Instagram et autres) conçus et entraînés sur des visages occidentaux (biais d’intention et biais de sélection). Par exemple les articles Miroir, mon beau miroir, qui est la plus blanche de toutes ? Les biais raciaux dans les filtres de beauté des réseaux sociaux (en), TikTok : aviez-vous remarqué que ce filtre fonctionne seulement sur peau blanche ? (attention acceptation de cookie requis). Mais il n’y a pas que le filtre de vénus européenne, il y a aussi le filtre asiatique d’inspiration jeu vidéo à la Final Fantasy ou certains manga…
Ici il y a le biais que certains phénotypes soient sur-représentés dans la génération de visages, avec le risque que les personnes réelles qui portent aussi ces traits soient alors inconsciemment associées à de la fabrication (faible crédibilité, risque de fraude, voire charlatan). Pour le coup cela pourrait nourrir une nouvelle forme de préjugé au faciès.
C’est un peu comme les gens qui suspectent immédiatement d’IA les gens qui utilisent des tirets quadratins, parce que précisément les IA utilisent des tirets cadratins car elles sont entraînés sur les textes de leurs pairs : des textes à haut niveau de rédaction, de relecture, et de typographie. Et pour le coup si on veut entraîner une IA sur de la connaissance à fort taux de relecture et de vérification, il est peut-être impossible d’éviter ce problème.
Il y a quelques années j’avais fait une expérience avec MidJourney et j’avais trouvé un moyen de faire un prompt entièrement neutre (c’est à dire, sémantiquement vide) et dans ce cas il générait systématiquement un visage de femme, et la même femme. Je rappelle que le prompt était neutre, il ne mentionnait donc ni visage ni femme ni même l’idée d’une personne, l’IA était tout aussi bien libre de produire un tournesol, une construction brutaliste où une scène de la surface de la lune.
De fait, je te remercie, tu me donnes envie d’écrire ce journal, j’ai maintenant trois axes principaux (j’aime bien avoir trois axes avant de traiter d’un sujet) : « La femme de MidJourney », « L’instagrameuse Final fantasy », et « La recruteuse Linkedin ».
ce commentaire est sous licence cc by 4 et précédentes
[^] # Re: Le surentraînement des IA sur des profils types peut nuire à ces profils types
Posté par Faya . Évalué à 3 (+1/-0).
Est-ce que tu essayes de dire que les visages blancs pourraient être discriminés parce que trop souvent associés à l'IAGen ? Franchement je doute très fort qu'on en arrive là. Contrairement aux tirets cadratins, les personnes blanches se rencontrent absolument partout ça n'a rien de suspect d'en croiser un. Ensuite la couleur du visage n'est que l'un des indices qui pourraient aider à détecter l'IA mais il ne faut pas faire l'impasse sur tout le reste, notamment la symétrie, l'attractivité, l'expressivité… Enfin, si on parle d'emploi ou même de recherche de logement, rencontrer la personne IRL suffira à lever l'ambiguïté. Je trouve vraiment capilotracté et exagéré d'y voir la naissance d'un racisme, encore moins systémique.
# Face Control
Posté par Benoît Sibaud (site web personnel) . Évalué à 3 (+0/-0). Dernière modification le 11 juillet 2026 à 18:40.
À la demande de LinuxFr, l'Union européenne a décidé de mettre en place Face Control, qui oblige chaque internaute à tapoter face caméra avant que l'on sache si c'est un bot à visage IA ou un.e Sapiens Sapiens à visage accablé par la chaleur qui écrit chaque commentaire et chaque contenu. Selon une étude améri
^Waustralienne, il est facile de distinguer rapidement les portraits photos réels de ceux générés par IA. Le futur Défenseur des droits français a déclaré « c'est certes un peu discriminant pour les IA et je m'en excuse, mais il faut bien que l'on protège les nazis et que l'on lutte contre les enfants, pour préserver la liberté d'expression. » Interrogé, l'IA aurait brièvement commenté : « 42 ». Un meneur de jeu rôliste aurait par ailleurs ajouté « ta gueule c'est magique ». Avec l'arrivée de la norme Advanced Driver Distraction Warning (ADDW) sur la sécurité routière, Face Control sera aussi utilisé pour voir ta face derrière le volant, et savoir si l'entité conduisant un véhicule est un humain plus ou moins assoupi ou bien un LLM avide d'interactions.Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.