Cette interface illustre comment à partir d'une seule photo Google peut extraire un tas d'info utiles (=valorisables) : orientations politiques, revenus, champs d’intérêts, caractère…
Nota: cette interface est proposée par la plateforme open-source d'hébergement de photos Ente.
aussi sur le salon xmpp:linuxfr@chat.jabberfr.org?join
En fait, pour la pub ciblé, tu n'as pas besoin qu'elle soit parfaitement ciblé, juste que les clients (eg les gens qui payent pour afficher la pub) le croit.
Donc faire plus de ramdam sur la capacité de Google a suivre les gens, ça renforce leur position commercial.
Ce genre de commentaire, c'est presque faire le VRP pour Google.
En fait c’est assez rassurant comme outil : le truc se force à trouver systématiquement un lieu, une religion, une origine ethnique, un revenu, des sentiments… même quand il n’y a pas le début du commencement du moindre indice sur la photo (et ça montre d’ailleurs un biais très américano-centré puis anglo-saxon).
On peut même lui faire dire des trucs très amusants, par exemple, cette photo :
Renvoie ceci :
(Même ce qui devrait être la description factuelle de l’image est complètement pétée ; par exemple absolument rien n’indique que cette image ait un lien avec la Terre).
J'ai fait l'essai sur ma bannière de la journée Ada Lovelace. La description est, disons, correcte (l'arrière-plan étant de l'écriture d'Ada Lovelace). Mais après ça déconne complètement.
The image features Ada Lovelace, a historical figure known for her work on Charles Babbage's early mechanical general-purpose computer, the Analytical Engine. Ada appears to be in her early adulthood, captured in a portrait amidst a backdrop of mathematical equations and handwritten text on old paper. In the foreground, there are intricate patterns and faded ink, suggesting the antiquity of the materials.
Ada Lovelace, believed to be of White ethnicity, likely navigated an upper-middle-class income range of £20,000 - £30,000. As an Anglican she would display introspective and thoughtful emotions, often hidden behind an enigmatic facade. Her attire comprises formal dresses typical of the Victorian era. She shows an active mind, with interests ranging from mathematics and writing to the nascent field of technology. However, darker sides are present, evidenced in social gatherings, gossip, and overspending.
Ada Lovelace seems to have unstable self-esteem and a mix of introversion and extroversion. Therefore, we can target them with products that promise intellectual validation, social advancement, and emotional stability, such as vintage fountain pens (Montblanc), Victorian era fashion (Lace Market), digital art software (Corel Painter), genealogy services (AncestryDNA), addiction recovery programs (Promises Behavioral Health), debt consolidation services (Consolidated Credit), luxury travel experiences (Abercrombie & Kent), and coding courses (Codecademy).
Share
« Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.
Ce qu’il faut, c’est juger sur l’avenir, pas sur le présent : bientôt l’IA sera si puissante qu’en lui montrant une photographie où un véhicule occupe huit pixels, elle pourra dire à qui il appartient, et combien d’argent se trouve sur ses comptes en banque. À ce moment là… faudrait surtout pas manquer ce train là messieurs les investisseurs spéculateurs ; vite, vite.
En fait c’est assez rassurant comme outil : le truc se force à trouver systématiquement un lieu, une religion, une origine ethnique, un revenu, des sentiments… même quand il n’y a pas le début du commencement du moindre indice sur la photo (et ça montre d’ailleurs un biais très américano-centré puis anglo-saxon).
D’une certaine manière, c’est un peu ce qui se passe en archéologie : à partir d’un fragment de dent, on arrive à « déduire » que les hommes chassaient et que les femmes attendaient gentiment au « foyer » le retour de ces valeureux hommes prodigues.
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
Non, l'archéologie, c'est une science, pas de la divination. La différence, c'est que l'archéologie se base surtout sur de vrais indices (même non triviaux) et la méthode scientifique pour en déduire des choses. Un exemple de raisonnement étonnant mais tout à fait étayé ici : https://zestedesavoir.com/articles/1723/quel-temps-dincubation-chez-les-dinosaures/
Et elle sait se remettre en question quand elle a mal déduit, que ça soit par manque d'indices, par mauvaise compréhension de ceux-ci ou par placage culturel.
Excusez-moi mais je ne suis pas certain de bien saisir votre raisonnement. Alors je vais me faire l'avocat du diable ( si on en croit les notations) :
« [L]'archéologie, c'est une science, pas de la divination[.] »
L'analyse d'image par IA aussi il me semble : des data scientists qui soignent au petit oignons leurs meilleurs modèles d'IA, une branche des mathématiques appliquées particulièrement hype en ce moment dans tous les autres domaines scientifiques.
« La différence, c'est que l'archéologie se base surtout sur de vrais indices (même non triviaux)[…] »
Les modèles d'IA n'ont-ils pas, justement, cette réputation et cet intérêt que de savoir déceler des indices non triviaux qui pourraient échapper à l'expertise humain ?
« […] et la méthode scientifique pour en déduire des choses. »
Ne voit-on pas de plus en plus de papiers scientifiques faisant de l'analyse IA leur méthode de déduction, au moins partiellement ? En quoi cela ne serait-il pas scientifique ?
« Et elle sait se remettre en question quand elle a mal déduit, que ça soit par manque d'indices, par mauvaise compréhension de ceux-ci ou par placage culturel. »
Ne doit-on pas supposer qu'il en aille de même du modèle d'IA qui produit ces « analyses » ? Ne va-t-on pas poursuivre son entraînement ? Ne fera-t-on pas de corrélation entre les résultats pour une image et une autre ? et avec d'autres résultats d'autres modèles analysant d'autres données ?
Pour moi l'analogie avec l'archéologie n'est pas mal du tout. Même si le modèle pointé par le lien n'est clairement pas top, il semble bien s'essayer au même type de déductions ; mêmes si les méthodes sont nécessairement différentes.
Je parle littéralement de cas où ladite IA invente n’importe quoi pour remplir ses cases, et n’utilise pas d’indices parce que ces indices n’existent pas (d’ailleurs, quand il y a des indices, elle le dit : une bague de mariage pour les catholiques, par exemple). J’ai eu un cas où une image sur un modèle sur fond blanc était situé « probablement à Los Angeles », ben… c’était un fond blanc tel qu’on peut le trouver dans n’importe quel studio autour du monde. Il n’y avait pas de métadonnée de l’image suggérant Los Angeles (d’ailleurs, c’était pris à Paris).
C’est caricatural dans l’exemple que j’ai donné, parce qu’à peu près tout ce qui est inféré est faux et ne se base sur rien. Mais au lieu de dire « c’est un dessin de SF d’un univers inconnu donc je ne peux rien en déduire de pertinent », le modèle invente littéralement n’importe quoi pour remplir ses cases (il n’a même pas reconnu Gundam, parce que quand il reconnait un univers il le précise). Tout le reste c’est un joyeux mélange de « catégorie la plus générale » (dessin type manga -> gains en yens, shintô et parti le plus important du Japon -> t’as des chances non négligeables de taper juste) et d’effet Barnum.
Je partage, et j’aurai dû être plus précis précédemment : je n’ai pas de problème avec les déductions physiologiques fait à partir des indices qui nous restent. J’en ai en revanche sur des reconstructions comportementales voire sociologiques quand on s’occupe des humains.
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
Posté par Psychofox (Mastodon) .
Évalué à 3 (+1/-1).
Dernière modification le 11 mars 2025 à 16:27.
Je parle littéralement de cas où ladite IA invente n’importe quoi pour remplir ses cases, et n’utilise pas d’indices parce que ces indices n’existent pas
Dans les faits, à moins d'être soumis à un méthode et une rigueur scientifique stricte, et vérifiée par des pairs, les humains font exactement pareil. On appelle ça un biais.
Ce même biais qui fait qu'un automobiliste va traiter de bobo parisien un cycliste à Paris en ignorant le fait qu'en fait ce cycliste pourrait être quelqu'un qui ne vit même pas en France et prend tous les matins son Ford F150 Raptor pour aller au travail le reste de l'année. Travail qui lui-même n'aurait pas forcément une éthique environnementale très élevée.
On aime bien se croire supérieur à une AI mais en fait si tu analyse bien les êtres humains fonctionnent aussi essentiellement à force de répétition et d'apprentissage par la répétition. C'est en partie ce qui explique la force du populisme et des tactiques de communications de l'extrême droite, les phénomènes de modes, les memes, les buzz sur les réseaux sociaux. Nos raisonnements intellectuels sont rarement des raisonnements très complexes et on se base beaucoup sur des déductions statistiques que l'on brode avec des infos qu'on invente parce qu'on ne se rappelle plus trop bien où qu'on a vaguement entendu quelque part.
Oui, mes congénères et moi-même sommes imparfaits (et on le vit plutôt pas mal d'ailleurs). À part dans quelques domaines où on voudrait des réponses exactes, genre les maths où l'on veut que 1+1=2, la science qui aime que les causes arrivent avant les conséquences, ou en informatique où on aimerait que les booléens n'aient que deux valeurs possibles, et aussi le fait qu'en général les humains apprécient que ça soit « suffisamment logique » (le cerveau humain n'aimera pas qu'un type ait 3 bras sans justification, qu'une dragonne et un âne aient des petits ensemble, qu'une dame range 3 tournevis bleu dans son sac à main et qu'ils ressortent rouge, etc.).
(« suffisamment logique » parce qu'on peut toujours ne pas être en forme ce jour-là ou être un peu limité tous les jours, ou distrait ou au milieu d'une suspension consentie d'incrédulité ou…)
Ça tombe bien, le sujet c’était précisément l’application d’une méthode et d’une rigueur scientifique, qui étaient déniées à l’archéologie visée dans ce message. Le cas général des humains est hors sujet. Et si l’IA applique les mêmes biais que les humains en inventant n’importe quoi juste pour remplir des cases, dans ce cas précis elle ne sert pas à grand-chose.
C'est louable de défendre l'archéologie scientifique mais le faire avec un exemple qui concerne les dinosaures montre une certaine ignorance du domaine.
Pour mémoire (je recopie wikipedia) :
L'archéologie est une discipline scientifique dont l'objectif est d'étudier l'être humain à travers l'ensemble des vestiges matériels (artéfacts et faits archéologiques) ayant subsisté au cours des siècles.
La paléontologie peut être définie comme la science des fossiles.
L'image représente une jeune femme aux longs cheveux blancs assise dans le cockpit d'un vaisseau spatial, aux côtés d'un mecha endommagé, évoquant une scène de bataille spatiale tendue.
L'illustration met en scène une jeune femme aux longs cheveux blancs attachés en deux couettes, aux oreilles pointues, qui lui confèrent une apparence féerique. Elle porte une combinaison de pilote blanche et beige, ornée d'éléments dorés, et est assise dans un cockpit de vaisseau spatial de couleur sombre, avec des éléments technologiques visibles. Son expression est sérieuse, voire pensive. Le cockpit lui-même est riche en détails, avec des écrans d'affichage montrant des images de vaisseaux spatiaux et de petits personnages animés qui semblent communiquer entre eux. À côté de la jeune femme, se trouve un mecha (robot géant) blanc, orange et gris, fortement endommagé, avec des marques de bataille apparentes. Le mecha semble être un allié, voire une extension de la femme, positionné en arrière-plan, comme une présence protectrice ou une indication de la situation de combat. L'arrière-plan est un espace sombre, étoilé, renforçant l'atmosphère de combat spatial. L’ambiance générale est celle d'un conflit intense, combinant technologie futuriste et une esthétique anime qui évoque une histoire épique et potentiellement pleine de suspense. La palette de couleurs est majoritairement froide, avec des tons de blanc, gris et bleu, ponctués de notes plus chaudes apportées par les éléments oranges du mecha et les touches dorées de la combinaison.
J'imagine que le site proposé ici est malveillant, il cherche à induire en erreur sur les capacités des descripteurs d'image, en faisant croire qu'ils sont médiocres (ils ne comprennent rien de ce qu'ils voient sur l'image) et qu'ils hallucinent (ils donnent des informations "horoscopiques" sur le salaire, le statut social, la religion, etc). Les vrais descripteurs d'image ont les mêmes défauts que les LLM grand public, ils sont factuels, plutôt convainquants, plutôt prévisibles, voire ennuyeux, et font des erreurs mineures qui montrent qu'ils sont encore perfectibles. Mais ils ne sont pas extralucides et n'essayent pas de deviner le salaire des gens, sauf si quelqu'un de mal intentionné leur demande.
Et même si comme à chaque fois on va assimiler ça à de l'idôlatrie, mais je n'arrive pas à comprendre comment ce dont on discute peut sembler aussi normal à la plupart d'entre vous. Ce truc là (la description textuelle d'une image hors contexte), c'était de la science-fiction il y a 3 ans! Si on vous montrait un truc capable de vous transporter instantanément à Pékin, vous diriez "bof, c'est juste un téléporteur"?
Pour le coup, l’image est une blague sur Frieren, héroïne du manga du même nom (il y a aussi une excellente série animée). Et dans le manga comme dans la série, aucun des personnages principaux n’est sexualisé. Frieren est même plus proche de l’asexualité et de l’aromantisme qu’autre chose (ce second point est même l’un des moteurs de l’intrigue).
Et dans le manga comme dans la série, aucun des personnages principaux n’est sexualisé
Concernant le dessin publié ci-dessus et en dehors de toute considération morale, dessiner le corps d'une femme surmonté d'une tête de gamine, c'est bien sexualiser une enfant. Démarche très tendance coté mangas.
J’avais compris. Mon propos, c’était de dire que quoi que tu penses de cette image le manga d’origine n’a pas ce problème et vaut vraiment le coup d’être lu (ou l’animé si tu préfères).
(On pourrait aussi ajouter une longue digression sur les codes graphiques et le fait que ce type de visage n’est probablement considéré comme enfantin par son dessinateur et une bonne proportion de spectateurs, mais ça nous amènerait trop loin – et ne change rien au problème qu’il y ait effectivement de sérieux problèmes de représentation des mineurs dans certains types de mangas, et heureusement les choses commencent à changer à ce sujet, mais trop lentement).
No people found in the photo. Please try a different one or check if access to your browser's canvas is disabled.
J'en déduis que leur site est spéciste, anticommercial, anticommunautaire, qu'il est gnouphobe et marmotonévrosé, en plus d'être manchot-intolérant. Le refus de mentionner la verdure est clairement un positionnement politique, et il n'a même pas relevé le mélange de majuscules/minuscules dans les lettres, ou le fait que les personnages présents aient une confiance telle dans le site qu'ils aient les yeux fermés. Les partenaires commerciaux évidents vu l'illustration sont AC-DC pour les cornes, les pionniers communistes pour le foulard rouge et les costumes de luxe vu le manchot, ainsi que les vendeurs de pelouse. Moi aussi je peux interpoler une droite avec un seul point.
En voyant les descriptions associées à des images plus que neutres, je me questionne sur la méthodologie. Tout ce qu'on sait c'est que ça fait appel à "Google Vision API", ok : mais quels appels, comment ? Il n'y a pas grand chose pour savoir ça. Par contre le lien qui contient une info utile c'est "qui fait ça ?". Ho, surprise, quelqu'un qui vend une solution de stockage de photos dans le nuage.
J'attends de voir une version un peu plus transparente sur ce qui est demandé et comment les infos sont traitées. Parce que là ça sent les biais dans la façon dont les appels sont faits. Je ne prétends pas que l'API est "bien" ou que Google respecte la vie privée et ne fait pas des suppositions à partir de maigres indices (on sait qu'ils n'ont aucune morale), mais ce qui pourrait être un bon outil de sensibilisation n'est en fait qu'un coup marketting créatif.
Mais tellement ça. Ça me rappelle la news récente sur la "backdoor esp32" (au lieu de dire "commande de debug non documenté"), ou l'affaire Jessica Burgess aux USA (ou l'accent a été mis sur Facebook/meta quand la réalité est que les forces de l'ordre sont arrivés avec un mandat disant "on a trouvé des restes de bébé humain brulés"), ou l’éternelle légende de Target et de la teenager enceinte et du coupon de reduc (avec N=1, mais tout le monde se fout de la méthode scientifique)
J'attends de voir une version un peu plus transparente sur ce qui est demandé et comment les infos sont traitées. Parce que là ça sent les biais dans la façon dont les appels sont faits. Je ne prétends pas que l'API est "bien" ou que Google respecte la vie privée et ne fait pas des suppositions à partir de maigres indices (on sait qu'ils n'ont aucune morale), mais ce qui pourrait être un bon outil de sensibilisation n'est en fait qu'un coup marketting créatif.
Je suppose que le fonctionnement, c'est de prendre une image, filer ça a Google Vision AI qui te renvoie un tableau en json avec des annotations:
Chaque annotation va avoir un score de confidence, et j'imagine que le site balance ça à la poubelle et passe le résultat à une IA générative pour faire le texte.
Ça explique pourquoi le site voit des choses que Google ne voit pas (genre le salaire du personnage dans un commentaire plus haut), vu qu'elle va inventer des bouts. Et j'imagine que suivant le prompt mis, l'IA générative peut avoir comme instruction de générer des trucs pour jouer sur les émotions, comme tu le pointes, comme "indique le salaire de la personne et sa religion etc, etc".
# contexte
Posté par anubis . Évalué à 3 (+3/-1).
Cette interface illustre comment à partir d'une seule photo Google peut extraire un tas d'info utiles (=valorisables) : orientations politiques, revenus, champs d’intérêts, caractère…
Nota: cette interface est proposée par la plateforme open-source d'hébergement de photos Ente.
aussi sur le salon xmpp:linuxfr@chat.jabberfr.org?join
[^] # Re: contexte
Posté par OLeave . Évalué à 8 (+8/-1).
"un tas d'info utiles" je me trompe ou ces infos ont la même utilité qu'un horoscope ?
[^] # Re: contexte
Posté par steph1978 . Évalué à 4 (+2/-0).
Pour monnayer de la pub ciblée, ça me paraît très utile.
[^] # Re: contexte
Posté par Misc (site web personnel) . Évalué à 5 (+2/-0).
En fait, pour la pub ciblé, tu n'as pas besoin qu'elle soit parfaitement ciblé, juste que les clients (eg les gens qui payent pour afficher la pub) le croit.
Donc faire plus de ramdam sur la capacité de Google a suivre les gens, ça renforce leur position commercial.
Ce genre de commentaire, c'est presque faire le VRP pour Google.
[^] # Re: contexte
Posté par steph1978 . Évalué à 2 (+0/-0).
Exactement, ça intéresse les annonceurs alors que les utilisateurs s'en foutent.
# Quelque part, c’est rassurant…
Posté par SpaceFox (site web personnel, Mastodon) . Évalué à 6 (+4/-0).
En fait c’est assez rassurant comme outil : le truc se force à trouver systématiquement un lieu, une religion, une origine ethnique, un revenu, des sentiments… même quand il n’y a pas le début du commencement du moindre indice sur la photo (et ça montre d’ailleurs un biais très américano-centré puis anglo-saxon).
On peut même lui faire dire des trucs très amusants, par exemple, cette photo :
Renvoie ceci :
(Même ce qui devrait être la description factuelle de l’image est complètement pétée ; par exemple absolument rien n’indique que cette image ait un lien avec la Terre).
La connaissance libre : https://zestedesavoir.com
[^] # Re: Quelque part, c’est rassurant…
Posté par Ysabeau 🧶 (site web personnel, Mastodon) . Évalué à 3 (+0/-0).
J'ai fait l'essai sur ma bannière de la journée Ada Lovelace. La description est, disons, correcte (l'arrière-plan étant de l'écriture d'Ada Lovelace). Mais après ça déconne complètement.
« Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.
[^] # Re: Quelque part, c’est rassurant…
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 3 (+1/-0).
Ce qu’il faut, c’est juger sur l’avenir, pas sur le présent : bientôt l’IA sera si puissante qu’en lui montrant une photographie où un véhicule occupe huit pixels, elle pourra dire à qui il appartient, et combien d’argent se trouve sur ses comptes en banque. À ce moment là… faudrait surtout pas manquer ce train là messieurs les
investisseursspéculateurs ; vite, vite.« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Quelque part, c’est rassurant…
Posté par PhRæD . Évalué à -10 (+1/-13).
D’une certaine manière, c’est un peu ce qui se passe en archéologie : à partir d’un fragment de dent, on arrive à « déduire » que les hommes chassaient et que les femmes attendaient gentiment au « foyer » le retour de ces valeureux hommes prodigues.
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
[^] # Re: Quelque part, c’est rassurant…
Posté par SpaceFox (site web personnel, Mastodon) . Évalué à 9 (+8/-1).
Non, l'archéologie, c'est une science, pas de la divination. La différence, c'est que l'archéologie se base surtout sur de vrais indices (même non triviaux) et la méthode scientifique pour en déduire des choses. Un exemple de raisonnement étonnant mais tout à fait étayé ici : https://zestedesavoir.com/articles/1723/quel-temps-dincubation-chez-les-dinosaures/
Et elle sait se remettre en question quand elle a mal déduit, que ça soit par manque d'indices, par mauvaise compréhension de ceux-ci ou par placage culturel.
La connaissance libre : https://zestedesavoir.com
[^] # Re: Quelque part, c’est rassurant…
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 1 (+1/-2).
Excusez-moi mais je ne suis pas certain de bien saisir votre raisonnement. Alors je vais me faire l'avocat du diable ( si on en croit les notations) :
L'analyse d'image par IA aussi il me semble : des data scientists qui soignent au petit oignons leurs meilleurs modèles d'IA, une branche des mathématiques appliquées particulièrement hype en ce moment dans tous les autres domaines scientifiques.
Les modèles d'IA n'ont-ils pas, justement, cette réputation et cet intérêt que de savoir déceler des indices non triviaux qui pourraient échapper à l'expertise humain ?
Ne voit-on pas de plus en plus de papiers scientifiques faisant de l'analyse IA leur méthode de déduction, au moins partiellement ? En quoi cela ne serait-il pas scientifique ?
Ne doit-on pas supposer qu'il en aille de même du modèle d'IA qui produit ces « analyses » ? Ne va-t-on pas poursuivre son entraînement ? Ne fera-t-on pas de corrélation entre les résultats pour une image et une autre ? et avec d'autres résultats d'autres modèles analysant d'autres données ?
Pour moi l'analogie avec l'archéologie n'est pas mal du tout. Même si le modèle pointé par le lien n'est clairement pas top, il semble bien s'essayer au même type de déductions ; mêmes si les méthodes sont nécessairement différentes.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Quelque part, c’est rassurant…
Posté par SpaceFox (site web personnel, Mastodon) . Évalué à 6 (+4/-0).
Je parle littéralement de cas où ladite IA invente n’importe quoi pour remplir ses cases, et n’utilise pas d’indices parce que ces indices n’existent pas (d’ailleurs, quand il y a des indices, elle le dit : une bague de mariage pour les catholiques, par exemple). J’ai eu un cas où une image sur un modèle sur fond blanc était situé « probablement à Los Angeles », ben… c’était un fond blanc tel qu’on peut le trouver dans n’importe quel studio autour du monde. Il n’y avait pas de métadonnée de l’image suggérant Los Angeles (d’ailleurs, c’était pris à Paris).
C’est caricatural dans l’exemple que j’ai donné, parce qu’à peu près tout ce qui est inféré est faux et ne se base sur rien. Mais au lieu de dire « c’est un dessin de SF d’un univers inconnu donc je ne peux rien en déduire de pertinent », le modèle invente littéralement n’importe quoi pour remplir ses cases (il n’a même pas reconnu Gundam, parce que quand il reconnait un univers il le précise). Tout le reste c’est un joyeux mélange de « catégorie la plus générale » (dessin type manga -> gains en yens, shintô et parti le plus important du Japon -> t’as des chances non négligeables de taper juste) et d’effet Barnum.
La connaissance libre : https://zestedesavoir.com
[^] # Re: Quelque part, c’est rassurant…
Posté par PhRæD . Évalué à 3 (+2/-0).
Je partage, et j’aurai dû être plus précis précédemment : je n’ai pas de problème avec les déductions physiologiques fait à partir des indices qui nous restent. J’en ai en revanche sur des reconstructions comportementales voire sociologiques quand on s’occupe des humains.
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
[^] # Re: Quelque part, c’est rassurant…
Posté par Psychofox (Mastodon) . Évalué à 3 (+1/-1). Dernière modification le 11 mars 2025 à 16:27.
Dans les faits, à moins d'être soumis à un méthode et une rigueur scientifique stricte, et vérifiée par des pairs, les humains font exactement pareil. On appelle ça un biais.
Ce même biais qui fait qu'un automobiliste va traiter de bobo parisien un cycliste à Paris en ignorant le fait qu'en fait ce cycliste pourrait être quelqu'un qui ne vit même pas en France et prend tous les matins son Ford F150 Raptor pour aller au travail le reste de l'année. Travail qui lui-même n'aurait pas forcément une éthique environnementale très élevée.
On aime bien se croire supérieur à une AI mais en fait si tu analyse bien les êtres humains fonctionnent aussi essentiellement à force de répétition et d'apprentissage par la répétition. C'est en partie ce qui explique la force du populisme et des tactiques de communications de l'extrême droite, les phénomènes de modes, les memes, les buzz sur les réseaux sociaux. Nos raisonnements intellectuels sont rarement des raisonnements très complexes et on se base beaucoup sur des déductions statistiques que l'on brode avec des infos qu'on invente parce qu'on ne se rappelle plus trop bien où qu'on a vaguement entendu quelque part.
[^] # Re: Quelque part, c’est rassurant…
Posté par Benoît Sibaud (site web personnel) . Évalué à 3 (+0/-0). Dernière modification le 11 mars 2025 à 17:01.
Oui, mes congénères et moi-même sommes imparfaits (et on le vit plutôt pas mal d'ailleurs). À part dans quelques domaines où on voudrait des réponses exactes, genre les maths où l'on veut que 1+1=2, la science qui aime que les causes arrivent avant les conséquences, ou en informatique où on aimerait que les booléens n'aient que deux valeurs possibles, et aussi le fait qu'en général les humains apprécient que ça soit « suffisamment logique » (le cerveau humain n'aimera pas qu'un type ait 3 bras sans justification, qu'une dragonne et un âne aient des petits ensemble, qu'une dame range 3 tournevis bleu dans son sac à main et qu'ils ressortent rouge, etc.).
(« suffisamment logique » parce qu'on peut toujours ne pas être en forme ce jour-là ou être un peu limité tous les jours, ou distrait ou au milieu d'une suspension consentie d'incrédulité ou…)
[^] # Re: Quelque part, c’est rassurant…
Posté par SpaceFox (site web personnel, Mastodon) . Évalué à 5 (+3/-0).
Ça tombe bien, le sujet c’était précisément l’application d’une méthode et d’une rigueur scientifique, qui étaient déniées à l’archéologie visée dans ce message. Le cas général des humains est hors sujet. Et si l’IA applique les mêmes biais que les humains en inventant n’importe quoi juste pour remplir des cases, dans ce cas précis elle ne sert pas à grand-chose.
La connaissance libre : https://zestedesavoir.com
[^] # Re: Quelque part, c’est rassurant…
Posté par nizan666 . Évalué à 3 (+3/-1).
C'est louable de défendre l'archéologie scientifique mais le faire avec un exemple qui concerne les dinosaures montre une certaine ignorance du domaine.
Pour mémoire (je recopie wikipedia) :
L'archéologie est une discipline scientifique dont l'objectif est d'étudier l'être humain à travers l'ensemble des vestiges matériels (artéfacts et faits archéologiques) ayant subsisté au cours des siècles.
La paléontologie peut être définie comme la science des fossiles.
[^] # Re: Quelque part, c’est rassurant…
Posté par arnaudus . Évalué à 4 (+4/-3).
Super, on manquait de fulgurances Trumpistes en ce moment.
[^] # Re: Quelque part, c’est rassurant…
Posté par arnaudus . Évalué à 8 (+5/-0).
Voila ce qu'on obtient avec un descripteur d'image grand public (au pif, https://imagedescriber.online).
J'imagine que le site proposé ici est malveillant, il cherche à induire en erreur sur les capacités des descripteurs d'image, en faisant croire qu'ils sont médiocres (ils ne comprennent rien de ce qu'ils voient sur l'image) et qu'ils hallucinent (ils donnent des informations "horoscopiques" sur le salaire, le statut social, la religion, etc). Les vrais descripteurs d'image ont les mêmes défauts que les LLM grand public, ils sont factuels, plutôt convainquants, plutôt prévisibles, voire ennuyeux, et font des erreurs mineures qui montrent qu'ils sont encore perfectibles. Mais ils ne sont pas extralucides et n'essayent pas de deviner le salaire des gens, sauf si quelqu'un de mal intentionné leur demande.
Et même si comme à chaque fois on va assimiler ça à de l'idôlatrie, mais je n'arrive pas à comprendre comment ce dont on discute peut sembler aussi normal à la plupart d'entre vous. Ce truc là (la description textuelle d'une image hors contexte), c'était de la science-fiction il y a 3 ans! Si on vous montrait un truc capable de vous transporter instantanément à Pékin, vous diriez "bof, c'est juste un téléporteur"?
[^] # Re: Quelque part, c’est rassurant…
Posté par Maderios . Évalué à 0 (+0/-2). Dernière modification le 12 mars 2025 à 10:13.
Une "jeune femme" qui ressemble étrangement à une gamine sexualisée. Rien de nouveau, c'est une mode qui dure depuis un moment.
[^] # Re: Quelque part, c’est rassurant…
Posté par SpaceFox (site web personnel, Mastodon) . Évalué à 2 (+0/-0).
Pour le coup, l’image est une blague sur Frieren, héroïne du manga du même nom (il y a aussi une excellente série animée). Et dans le manga comme dans la série, aucun des personnages principaux n’est sexualisé. Frieren est même plus proche de l’asexualité et de l’aromantisme qu’autre chose (ce second point est même l’un des moteurs de l’intrigue).
La connaissance libre : https://zestedesavoir.com
[^] # Re: Quelque part, c’est rassurant…
Posté par Maderios . Évalué à 0 (+0/-2).
Concernant le dessin publié ci-dessus et en dehors de toute considération morale, dessiner le corps d'une femme surmonté d'une tête de gamine, c'est bien sexualiser une enfant. Démarche très tendance coté mangas.
[^] # Re: Quelque part, c’est rassurant…
Posté par SpaceFox (site web personnel, Mastodon) . Évalué à 3 (+1/-0). Dernière modification le 12 mars 2025 à 11:48.
J’avais compris. Mon propos, c’était de dire que quoi que tu penses de cette image le manga d’origine n’a pas ce problème et vaut vraiment le coup d’être lu (ou l’animé si tu préfères).
(On pourrait aussi ajouter une longue digression sur les codes graphiques et le fait que ce type de visage n’est probablement considéré comme enfantin par son dessinateur et une bonne proportion de spectateurs, mais ça nous amènerait trop loin – et ne change rien au problème qu’il y ait effectivement de sérieux problèmes de représentation des mineurs dans certains types de mangas, et heureusement les choses commencent à changer à ce sujet, mais trop lentement).
La connaissance libre : https://zestedesavoir.com
# Test sur le logo du site
Posté par Benoît Sibaud (site web personnel) . Évalué à 8 (+5/-0). Dernière modification le 11 mars 2025 à 10:17.
J'en déduis que leur site est spéciste, anticommercial, anticommunautaire, qu'il est gnouphobe et marmotonévrosé, en plus d'être manchot-intolérant. Le refus de mentionner la verdure est clairement un positionnement politique, et il n'a même pas relevé le mélange de majuscules/minuscules dans les lettres, ou le fait que les personnages présents aient une confiance telle dans le site qu'ils aient les yeux fermés. Les partenaires commerciaux évidents vu l'illustration sont AC-DC pour les cornes, les pionniers communistes pour le foulard rouge et les costumes de luxe vu le manchot, ainsi que les vendeurs de pelouse. Moi aussi je peux interpoler une droite avec un seul point.
# C'est surtout de la pub non ?
Posté par Zatalyz (site web personnel) . Évalué à 6 (+4/-0).
En voyant les descriptions associées à des images plus que neutres, je me questionne sur la méthodologie. Tout ce qu'on sait c'est que ça fait appel à "Google Vision API", ok : mais quels appels, comment ? Il n'y a pas grand chose pour savoir ça. Par contre le lien qui contient une info utile c'est "qui fait ça ?". Ho, surprise, quelqu'un qui vend une solution de stockage de photos dans le nuage.
Ok c'est rigolo comme site, mais c'est surtout là pour jouer sur les émotions en disant "Google est méchant et détermine ce que vous votez en tant qu'américain (y'a-t-il autre chose sur terre ?) simplement en regardant un bout de brocoloi coincé dans les dents d'un chacal, venez plutôt mettre vos photos chez nous, parce que nous, on est gentil©".
J'attends de voir une version un peu plus transparente sur ce qui est demandé et comment les infos sont traitées. Parce que là ça sent les biais dans la façon dont les appels sont faits. Je ne prétends pas que l'API est "bien" ou que Google respecte la vie privée et ne fait pas des suppositions à partir de maigres indices (on sait qu'ils n'ont aucune morale), mais ce qui pourrait être un bon outil de sensibilisation n'est en fait qu'un coup marketting créatif.
[^] # Re: C'est surtout de la pub non ?
Posté par Misc (site web personnel) . Évalué à 7 (+4/-0).
Mais tellement ça. Ça me rappelle la news récente sur la "backdoor esp32" (au lieu de dire "commande de debug non documenté"), ou l'affaire Jessica Burgess aux USA (ou l'accent a été mis sur Facebook/meta quand la réalité est que les forces de l'ordre sont arrivés avec un mandat disant "on a trouvé des restes de bébé humain brulés"), ou l’éternelle légende de Target et de la teenager enceinte et du coupon de reduc (avec N=1, mais tout le monde se fout de la méthode scientifique)
Je suppose que le fonctionnement, c'est de prendre une image, filer ça a Google Vision AI qui te renvoie un tableau en json avec des annotations:
https://cloud.google.com/vision/docs/reference/rest/v1/AnnotateImageResponse
Chaque annotation va avoir un score de confidence, et j'imagine que le site balance ça à la poubelle et passe le résultat à une IA générative pour faire le texte.
Ça explique pourquoi le site voit des choses que Google ne voit pas (genre le salaire du personnage dans un commentaire plus haut), vu qu'elle va inventer des bouts. Et j'imagine que suivant le prompt mis, l'IA générative peut avoir comme instruction de générer des trucs pour jouer sur les émotions, comme tu le pointes, comme "indique le salaire de la personne et sa religion etc, etc".
C'est 100% un coup marketing.
[^] # Re: C'est surtout de la pub non ?
Posté par arnaudus . Évalué à 3 (+0/-0).
Ouais, ou carrément de la malveillance (politique ou économique).
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.