Journal Cette personne n'existe pas

Posté par (page perso) . Licence CC by-sa.
41
17
fév.
2019

Tero Karras, Samuli Laine et Timo Aila travaillent chez nVidia, particulièrement sur les réseaux antagonistes génératifs (en Anglais, Generative adversarial networks, GANs).

Un GAN est un modèle génératif où deux réseaux sont placés en compétition dans un scénario de théorie des jeux. Le premier réseau est le générateur, il génère un échantillon (ex. une image), tandis que son adversaire, le discriminateur essaie de détecter si un échantillon est réel ou bien s'il est le résultat du générateur. (Wikipedia)

Une des applications, des "avatars" à la demande: L'intelligence artificielle utilisée pour générer des visages de personnes qui n'existent pas.

Le site générateur de visages: https://thispersondoesnotexist.com/

La vidéo, an Anglais: https://www.youtube.com/watch?v=kSLJriaOumA

  • # Vallée de l'étrange

    Posté par . Évalué à 4 (+4/-0). Dernière modification le 17/02/19 à 20:35.

    J'ai fait défiler pas mal de visages et le résultat est vraiment dérangeant.
    Certains visages ont beaucoup d'artefacts mais d'autres sont beaucoup plus réalistes.
    Mais, c'est justement ceux qui sont le plus réalistes qui sont dérangeant.
    On est en pleine vallée de l'étrange.

    • [^] # Re: Vallée de l'étrange

      Posté par (page perso) . Évalué à 8 (+6/-0).

      Le générateur donné en lien me donne au contraire l’impression qu’on est en train de sortir de cette vallée.

      J’ai même imaginé un instant que l’info donnée sur le journal est bidon et que j’avais affaire à de vrais visages ;)

      • [^] # Re: Vallée de l'étrange

        Posté par . Évalué à 3 (+1/-0). Dernière modification le 18/02/19 à 09:25.

        Exactement pareil, j'imagine que quand on ne sait pas que c'est un générateur, on ne peut pas le deviner. Étrangement, les artefacts semblent se trouver plutôt dans les "décorations" (lunettes, boucles d'oreilles…). Par contre, je trouve qu'il y a une sorte de surreprésentation de "drôles de tronches", des visages qui, sans être anormaux, sont plutôt rares dans la population. Je me serais attendu, au contraire, à avoir que des tronches normales qui ne sortent pas de l'ordinaire.

        Le mieux serait d'afficher deux images, une d'un vrai visage et une d'un visage généré, et de demander de cliquer sur le vrai. On verrait ainsi à quel point l'algorithme peut tromber le client.

        • [^] # Re: Vallée de l'étrange

          Posté par . Évalué à 10 (+10/-1).

          Par contre, je trouve qu'il y a une sorte de surreprésentation de "drôles de tronches", des visages qui, sans être anormaux, sont plutôt rares dans la population. Je me serais attendu, au contraire, à avoir que des tronches normales qui ne sortent pas de l'ordinaire.

          Je pense que tu dois vivre et travailler à des endroits où les tronches sont davantages normées que dans la moyenne de la population.

          Si les visages de ce générateur sont beaucoup plus disparates que ceux utilisés dans la pub ou dans les médias de l'état/des multinationales, ils sont plus proches des tronches qu'on voit en arrivant sur un chantier, en croisant les gens qui font le ménage, en entrant dans un bar, en faisant les courses dans un magasin discount… bref les tronches que je vois tous les jours dans un milieu populaire.

          Au contraire, j'ai même lu quelqu'un reprocher au générateur d'être trop "normé", en termes de tranche d'âges, de handicaps, de cicatrices.. par rapport à un échantillon d'humanité qui serait tiré au hasard.

          THIS IS JUST A PLACEHOLDER. YOU SHOULD NEVER SEE THIS STRING.

          • [^] # Re: Vallée de l'étrange

            Posté par . Évalué à 4 (+2/-0).

            En même temps, je crois que je n'ai jamais eu de noirs, par exemple. Donc le truc est clairement biaisé, mais en même temps, je ne suis pas sûr du tout que l'objectif était de donner des portraits avec une probabilité proportionnelle à ce qu'on trouve dans la population.

            J'ai fait défilé une vingtaine d'images et en effet, j'ai eu peu de "drôles de tronches". C"était probablement un effet d'échantillonnage lors de ma première série.

      • [^] # Re: Vallée de l'étrange

        Posté par . Évalué à 3 (+3/-0).

        Pour les infos bidons il y a des softs qui à partir d'images d'une personne permettent de lui faire dire n'importe quoi y compris expressions du visage.

        Ca date un peu, j'avais vu des démos avec Bush. J'imagine que la technique s'est grandement améliorée depuis.

        Je me rapelle qu'ils avaient du mal avec Poutine car ils avaient peu d'images de lui avec des expressions faciales différentes (pokerface).

    • [^] # Re: Vallée de l'étrange

      Posté par (page perso) . Évalué à 5 (+5/-1).

      Si on les fait des defiler un peu rapidement, on a vraiment l'impression de voir de vraies personnes. Si on prend bien le temps de les examiner, effectivement, on remarque les petits details qui ne trompent pas.
      Neanmmoins, c'est surprenant d'avoir une telle qualite. J'imagine les debouches pour nos complotistes de la fake news et autres manipulateurs (politiciens).

      Je ne veux pas sombrer dans le pessimisme mais mon petit doigt me dit que cette technologie ne risque pas d'etre utilisee a bon escient…

  • # Comment "démasquer" un faux visage

    Posté par . Évalué à 10 (+13/-0). Dernière modification le 17/02/19 à 22:51.

    Pour ceux que ça intéresse, il existe quelques méthodes qui marchent bien pour détecter que ce n'est pas une vraie photo. Certains détails ne "fonctionnent pas" :

    • Les oreilles : souvent non symétriques, et avec des boucles d'oreilles absurdes ou fantomatiques
    • Les dents : souvent décalées étrangement, ou à la séparation trop marquée (à noter que sur le générateur du journal, ce défaut est très peu visible)
    • L'arrière plan qui n'est pas du flou de profondeur de champ de photo, et qui souvent n'a aucun sens
    • Reflets ou symétrie étrange des yeux
    • Limites entre mèches de cheveux volantes et arrière plan qui font des artefacts
    • Les vêtements (chapeaux, t-shirts, chemise) sont manifestement à côté de la plaque

    C'est vraiment impressionnant de voir l'évolution de ces technologies d'année en année.

    • [^] # Re: Comment "démasquer" un faux visage

      Posté par (page perso) . Évalué à 5 (+3/-0).

      C'est surtout effrayant compte tenu du risque d'utilisation de ces technologies pour faire de la désinformation de masse. Si tu n'es plus capable de garantir que ce que tu vois est la réalité, comment les gens peuvent faire confiance à une information plutôt qu'à une autre. On a déjà vu des images avec une IA qui modifie une scène pour changer la saison durant laquelle elle est filmée. Si on arrive à plaquer le visage d'une personne fictive sur celui sur un individu réel, ça va devenir difficile de se la jouer Saint Thomas…

      • [^] # Re: Comment "démasquer" un faux visage

        Posté par (page perso) . Évalué à 10 (+8/-0).

        Si tu n'es plus capable de garantir que ce que tu vois est la réalité, comment les gens peuvent faire confiance à une information plutôt qu'à une autre

        C'est entre autres à ça que servent les journalistes. C'est un milieu en grande difficulté, et il y a des choses à reprocher à nombre de médias, mais ça reste un métier essentiel, et un de leur rôle principal est de vérifier les informations (ce qui est peu compatible avec l'actuelle culture de l'urgence).

        • [^] # Re: Comment "démasquer" un faux visage

          Posté par (page perso) . Évalué à 9 (+8/-1). Dernière modification le 18/02/19 à 11:24.

          Le journaliste se fie aux sources. Quand les sources ne sont pas falsifiées, c'est déjà difficile d'avoir du journalisme de qualité. Si les sources sont falsifiées, je te laisse imaginer…

          • [^] # Re: Comment "démasquer" un faux visage

            Posté par (page perso) . Évalué à 8 (+6/-0).

            Un vrai bon journaliste, ça recoupe les informations, ça va sur le terrain, et ça a une base de contacts fiables.
            Un des problèmes principaux, c'est que les difficultés financières entraînent une augmentation des cadences, et les journalistes font de plus en plus de choses dans l'urgence, et en multipliant les rôles (papier + photo + correction par exemple, là où avant il y avait 3 personnes différentes), ça laisse moins de temps pour faire correctement la vérification.
            En plus de ça il y a l'expérience qui devrait aider à démêler le vrai du faux.

        • [^] # Re: Comment "démasquer" un faux visage

          Posté par (page perso) . Évalué à 6 (+5/-1).

          Le problème, c'est que les gens ne se fient plus aux journalistes…

          La plupart des informations sont maintenant véhiculées par les réseaux sociaux, seule la première ligne de l'article est lue, l'émotion est le seul angle d'analyse de ce qui est dit. Si en plus l'information va dans le sens du poil du lecteur, il y a encore moins d'analyse qui est faite.

          Saloperie de société de moutons !!!

          • [^] # Re: Comment "démasquer" un faux visage

            Posté par . Évalué à 10 (+11/-2).

            Saloperie de société de moutons !!!

            parce que nos media officiels nous abreuvent de vrais nouvelle?
            Si les gens cherchent ailleurs, c'est peut être du a ces derniers qui depuis quelques temps ne font que de la propagande; ils font exactement ce que l'on reproche a rt.

            l'émotion est le seul angle d'analyse de ce qui est dit

            tu veux qu'on parle des chaines d'info en continu?

            Il ne faut pas décorner les boeufs avant d'avoir semé le vent

            • [^] # Re: Comment "démasquer" un faux visage

              Posté par . Évalué à 3 (+7/-6). Dernière modification le 19/02/19 à 16:48.

              parce que nos media officiels nous abreuvent de vrais nouvelle?

              On peut éventuellement reprocher aux médias "officiels" d'avoir une ligne éditoriale biaisée (parler de telle chose plutôt que telle autre), ou éventuellement d'avoir du retard à l'allumage sur certains sujets (parce que leur intérêt a été sous-estimé), voire d'être assez nombriliste (les sujets qui touchent les journalistes sont plus souvent évoqués), mais de là à dire qu'ils nous abreuvent de fausses nouvelles, il ne faut pas déconner. Quel est le taux d'erreur dans ce qui est raconté au JT des grandes chaînes? 1%? peut-être moins, même.

              c'est peut être du a ces derniers qui depuis quelques temps ne font que de la propagande

              Ce qui est avancé sans preuve peut être nié sans preuve, d'une part. Typiquement, le mouvement des gilets jaunes a été monté en mayonnaise de manière quasiment frénétique par les chaines d'info continue avant même les premières manifestations, et la place que prennent ces manifs réunissant quelques dizaines de milliers de personnes toutes les semaines est assez disproportionnée (en particulier, les grandes manifs syndicales regroupent souvent à Paris plus de gens que de gilets jaunes sur toute la France, et elles ont droit à 15 secondes dans les JT). Et d'autre part, il ne faut pas confondre la propagande avec ce que tu n'as pas envie d'entendre. Je suis complètement d'accord que ce qui est dit à la télé, d'une manière générale, est compatible avec l'idéologie politique dominante en Europe (une vision plutôt libérale économiquement et socialement). Mais c'est aussi (encore?) l'idéologie majoritaire dans la population, ça n'a rien d'illégitime.

              l'émotion est le seul angle d'analyse de ce qui est dit

              tu veux qu'on parle des chaines d'info en continu?

              Je crois qu'il veut juste dire que les mouvements populaires ne sont basés sur aucune analyse politique rationnelle et ne sont basés que sur des émotions: la peur (du déclassement, de la pauvreté), la souffrance, l'envie aussi (je ne vois pas pour quelle autre raison on prendrait du plaisir à cramer des voitures de luxe), la frustration… Ces émotions et les réactions qu'elles suscitent sont peut-être légitimes, mais ça reste très primaire en terme d'analyse, et les revendications des gilets jaunes, quand ils arrivent à se mettre d'accord, sont hétéroclites, souvent paradoxales, ou bien curieusement très convenues. Quand une partie substantielle des gens qui manifestent pensent que leurs problèmes viennent de l'immigration, ou que l'attentat de Strasbourg a été commandité par l'État, bah ça ne donne pas très envie de creuser un peu plus leur analyse politique et économique…

              • [^] # Re: Comment "démasquer" un faux visage

                Posté par . Évalué à 6 (+7/-3). Dernière modification le 19/02/19 à 18:33.

                Ce qui est avancé sans preuve peut être nié sans preuve

                • lorsque les JT diffusent le discours d'un politique sur le nombre de blessé, notamment sur les éborgnés complètement faux, et pas une mention de cela, on rentre dans les fausses nouvelles.
                • lorsque les chiffres de la préfecture sur le nombre de manifestant est largement en deçà du réel, aucune remarques.

                plus loin une double page dans un journal (Le monde)
                https://www.nouvelobs.com/rue89/rue89-medias/20080822.RUE5450/bhl-n-a-pas-vu-toutes-ses-choses-vues-en-georgie.html

                plus globalement la reprise quasi systématique de la propagande gouvernementale, nous servant leur discours comme si c'était la bonne parole; pas de recul, pas de critique. Alors oui y a des exceptions, lorsque c'est trop gros (pseudo augmentation de smic)

                et les revendications des gilets jaunes, quand ils arrivent à se mettre d'accord, sont hétéroclites,

                comme le RIC?

                Il ne faut pas décorner les boeufs avant d'avoir semé le vent

              • [^] # Re: Comment "démasquer" un faux visage

                Posté par (page perso) . Évalué à 10 (+11/-2).

                Quel est le taux d'erreur dans ce qui est raconté au JT des grandes chaînes? 1%? peut-être moins, même.

                Je dirais 90 %.
                Dès qu'ils parlent d'un sujet que je connais, c'est totalement n'importe quoi. Aucune raison que ce soit différent pour le reste.

                • [^] # Re: Comment "démasquer" un faux visage

                  Posté par . Évalué à 10 (+10/-0).

                  Je dirais 90 %.
                  Dès qu'ils parlent d'un sujet que je connais, c'est totalement n'importe quoi. Aucune raison que ce soit différent pour le reste.

                  D'après Bourdieu c'est la même chose quand ils parlent d'un sujet un peu sociologique. Et même quand ils interviewent des experts, si le gars n'est pas aguerris à la télévision il aura du mal à expliquer quelque chose tellement les questions sont à côté de la plaque.

                  Quant aux experts qui s'expriment tous les jours sur les sujets d'actualité, ce sont des guignols.

                  Bourdieu sur la télévision

      • [^] # Re: Comment "démasquer" un faux visage

        Posté par . Évalué à 9 (+6/-0).

        Comme disait l'autre, la plus part des fake news sont des faux grossiers, et un nombre très important de personnes tombent de dans, pas besoin de deep fake pour ça.

        "La première sécurité est la liberté"

      • [^] # Re: Comment "démasquer" un faux visage

        Posté par (page perso) . Évalué à 6 (+4/-0).

        Si on arrive à plaquer le visage d'une personne fictive sur celui sur un individu réel, ça va devenir difficile de se la jouer Saint Thomas…

        Une journaliste indienne a eut son visage collé sur une video porno pour faire penser à une sextape

    • [^] # Re: Comment "démasquer" un faux visage

      Posté par . Évalué à 4 (+2/-0).

      Les oreilles : souvent non symétriques, et avec des boucles d'oreilles absurdes ou fantomatiques

      J'avoue que les oreilles sont régulièrement ratées. Je ne m'en était pas rendu compte avant que tu ne mette le doigt dessus.

    • [^] # Re: Comment "démasquer" un faux visage

      Posté par . Évalué à 3 (+1/-0).

      J’ai l’impression qu’il y a des problèmes d’ages aussi, genre un visage de bébé avec une bouche d’adulte ou un enfant avec une peau trop ridée, par ex.

      • [^] # Re: Comment "démasquer" un faux visage

        Posté par . Évalué à 4 (+2/-0).

        Oui parfois ça fonctionne pas du tout mais après des jeunes avec des rides d'expression et des adultes avec un visage enfantin ça existe.
        Peut-être aussi que le fait de savoir d'avance que c'est un portrait artificiel pousse inconsciemment à davantage chercher l'erreur. En art figuratif, il y a un biais assez commun de penser qu'une pose, une morphologie ou un éclairage inhabituel est une représentation fantaisiste ou une reproduction maladroite de la réalité, alors qu'en photo on remet moins facilement en cause la véracité de certaines choses inhabituelles (même si c'est de moins en moins le cas depuis l'arrivée massive de la retouche numérique).

  • # Comment être sûr qu'un visage n'existe pas ?

    Posté par . Évalué à -10 (+0/-11).

    S'il n'existe pas, il y a problème dans l'algo, si aucun problème dans l'algo, alors elle existe, a existé ou existera au vu du nombre d'humain ayant existé/existent/existeront sur Terre

    Dis autrement, comment savent ils que cette personne n'existent effectivement pas ?

    • [^] # Re: Comment être sûr qu'un visage n'existe pas ?

      Posté par (page perso) . Évalué à 5 (+3/-0).

      C'est une manière de dire que le visage est généré par ordinateur.

    • [^] # Re: Comment être sûr qu'un visage n'existe pas ?

      Posté par . Évalué à 8 (+6/-0). Dernière modification le 19/02/19 à 09:21.

      C'est avec ce genre de gloubiboulga sémantique qu'on arrive à défendre l'argument ontologique…

      Quand bien même une image générée ressemblerait à quelqu'un d'existant, ça ne changerait pas le fait que les images ont bien été crées indépendamment de l'existence de cette personne.

      • [^] # Re: Comment être sûr qu'un visage n'existe pas ?

        Posté par . Évalué à -2 (+0/-3).

        Bonjour,

        Donc "visage synthétique" seraient plus à même d'être vrai, AMHA.

        Le titre est assez effrayant quand même

        • [^] # Re: Comment être sûr qu'un visage n'existe pas ?

          Posté par . Évalué à 4 (+2/-0).

          Je ne comprends toujours pas le problème avec le titre. Ces visages n'existent pas plus que les visages imaginés par un dessinateur de BD, ou générés par des graphistes en images de synthèse. Ils n'existent pas de la même manière que les personnages de fiction n'existent pas. La différence, c'est que jusqu'à présent, le visage des personnages de fiction étaient issus de l'imagination d'un dessinateur, alors que ces visages-là, en quelque sorte, sont issus de l'«imagination» d'un ordinateur. En plus, la qualité des images sont telles qu'elles peuvent faire illusion.

          Après, on peut prendre l'angle qu'on souhaite pour se faire peur ou non. Si on veut se rassurer, on ne parle que d'un algorithme qui donne des visages réalistes à partir de consignes (abstraites et multivariées, mais on s'en fout). Si on disposait d'un programme qui générait un visage à partir d'instructions telles que «un homme d'une cinquantaine d'années avec des lunettes et un nez court», ça ne fait pas tellement peur, c'est juste une version réaliste d'un «Monsieur patate». Si on veut se faire peur, on parle d'intelligence artificielle, et du fait que l'algorithme a appris ce qu'était un visage à partir d'échantillons de photos et est capable d'en recréer à volonté. Mais bon, dans toutes les prédictions catastrophistes qu'on peut lire, aucune d'entre elles n'est dûe à l'intelligence artificielle, on ne parle que de l'utilisation que des êtres humains mal intentionnés pourraient en faire. Honnêtement, j'ai quand même plus peur de ce que quelqu'un pourrait faire d'une bombe à neutrons que d'un algorithme qui génère des visages…

      • [^] # Re: Comment être sûr qu'un visage n'existe pas ?

        Posté par . Évalué à 4 (+4/-0).

        Ça n'est pas parce qu'Indiana Jones ressemble comme deux gouttes d'eau à Harrison Ford qu'on peut dire qu'il existe.

    • [^] # Re: Comment être sûr qu'un visage n'existe pas ?

      Posté par . Évalué à 10 (+9/-0).

      Plus prosaïquement, comment être sûr qu'il n'y a pas de phénomène d'overfitting ? Où l'algorithme renverrait essentiellement une vraie personne tirée au hasard dans son corpus, légèrement altérée ?

Envoyer un commentaire

Suivre le flux des commentaires

Note : les commentaires appartiennent à ceux qui les ont postés. Nous n'en sommes pas responsables.