• # C'est pas trop tôt

    Posté par  . Évalué à -3 (+3/-7). Dernière modification le 17 janvier 2026 à 11:00.

    Je vois fleurir des articles toutes les semaines de journaleux qui ne pense qu'à accabler Elon Musk mais se fichent d'informer réellement les gens.
    Il n'y a qu'à consulter civitai.com en étant connecté et en désactivant les filtres pour se rendre compte de l'ampleur du phénomène.
    Et dans l'immense majorité des cas (+ de 95% à vu d’œil), les modèles utilisés sont utilisables localement et sont des dérivés de Stable diffusion, ou plus récemment Chroma, Z-image, un des modèles Flux (notamment le très récent et prometteur FLUX.2-klein), etc…

    La plupart de ces modèles sont plus ou moins censurés à l'origine, mais ils finissent tous par avoir leur variante porno car ils peuvent être ré-entraînés.
    C'est massif, cela ouvre la voie à des dérives dont les gens ne semble pas prendre pleinement conscience (ils parlent toujours de "deepfake", mais que dire de la pédopornographie ?).

    Et à cela s'ajoute la vidéo avec Wan2.2 ou le très récent LTX-2 (pour l'instant censuré mais pour combien de temps ?).

    Et il faut bien admettre que les dérives de l'IA générative viendra probablement plus des IA "Open Source" plutôt que des modèles propriétaires.

    • [^] # Re: C'est pas trop tôt

      Posté par  . Évalué à 9 (+6/-0). Dernière modification le 17 janvier 2026 à 12:17.

      C'est mélanger beaucoup de choses. Il y a la responsabilité des créateurs du modèle, les responsabilité de modération pour la diffusion de ce genre d'image, la responsabilité des utilisateurs.

      Quand c'est Elon Musk sur X, il y a tout ça en même temps. Si c'est un modèle en local et que les générations ne sont pas diffusées, c'est juridiquement une autre chose. Si c'est diffuser un modèle qui permet ce genre de chose dans le genre permettre de le télécharger et l'utiliser en local, c'est probablement encore autre chose.

      Pour l'instant, c'est bien sur X que les dérives ont lieux. Ça n'empêche pas d'anticiper mais les "journaleux qui ne pense qu'à accabler Elon Musk mais se fichent d'informer réellement les gens" c'est gratuit, les journalistes s'occupent de l'actualité c'est leur boulot, et l'actualité elle est sur X et Grok actuellement sur ce sujet. D'ailleurs c'est particulièrement ironique de râler là dessus en commentant un lien d'un journal … qui parle de la face non émergée. #lesjournaleux doivent apprécier.

      • [^] # Re: C'est pas trop tôt

        Posté par  . Évalué à -2 (+2/-5). Dernière modification le 17 janvier 2026 à 13:23.

        J'ai l'impression que le débat va encore dévier et que je vais devoir tout justifier simplement parce que les présupposés diffèrent.

        Je suis pas là pour défendre Musk, je m'en fout (il a par ailleurs les moyens de défendre tout seul).
        Là où je voulais insister, c'est les "journaleux", par leur façon de traiter le sujet démontrent qu'ils ne comprennent pas ce qui se passe et n'anticipent pas du tout ce qui pourrait advenir.
        Il y a quelques années, la teneur des débats portaient beaucoup sur les "biais racistes" des IA.
        Super, mais c'est complètement anecdotique comparativement à ce qui allait advenir. D'ailleurs ce débat a disparu.

        Et de la même façon où les réseaux sociaux on largement transformés la façon dont les humain interagissent (et cela à des incidences sur la psyché des population, notamment à cause de l'isolement social), les IA génératives vont également avoir un effet similaire qui ne semble pas du tout anticipé, ce que je trouve inquiétant.

        Pour avoir une idée de ce qui advient, renseignez vous sur le concept de "gooner", qui est devenu un sujet de meme sur le Reddit stablediffusion ou civitai.
        En bref, des gens semblent passer beaucoup trop de temps à assouvir des fantasmes générés synthétiquement et de façon isolée.
        Les réseaux sociaux ont isolés des gens qui discutaient à distance. On arrive à un moment où les interlocuteurs seront des IA et répondront à tous les désirs possibles.

        C'est en train d'advenir de façon cachée pour le moment, mais personnellement ça m’horrifie, et la teneur des débats me parait complètement à côté de la plaque.

        Maintenant pour la forme:

        Ça n'empêche pas d'anticiper mais les "journaleux qui ne pense qu'à accabler Elon Musk mais se fichent d'informer réellement les gens" c'est gratuit, les journalistes s'occupent de l'actualité c'est leur boulot, et l'actualité elle est sur X et Grok actuellement sur ce sujet.

        Le fait que ça soit public sur X donne de la visibilité au phénomène, mais c'est l'arbre qui cache la forêt.
        Et c'est précisément parce que les journaleux ne font que de l'actualité qu'ils ne servent plus à grand chose, puisque l'information circule très bien sans eux.
        Leur valeur ajoutée devrait plutôt être de donner de la consistance au débat en décrivant le panorama global sans trop de manichéisme (je vais pas donner d'exemple, ça partirait en sucette et après tout chacun peut faire sa liste).
        Ce faisant, ça fait 2 semaines que les journaux en France parlent de la circulation d'images litigieuses sur X et accablent Musk, mais c'est le premier article que je vois qui évoque le reste.

        • [^] # Re: C'est pas trop tôt

          Posté par  . Évalué à 5 (+2/-0).

          Les deepfake pornographique par exemple ça bénéficie d'une couverture depuis longtemps. Tu trouves des articles là dessus depuis au moins deux ans, plus sur le "revenge porn" généré encore. Faut les bons mots clés. C'est des sujets dans l'air du temps.

          Des articles qui s'inquiètent ? https://www.slate.fr/tech-internet/applications-ia-creent-videos-realistes-baisers-photos-probleme-outils-intelligence-artificielle-inquietudes-deepfake-consentement-porno l'année dernière déjà.

          Tes craintes sur l'enfermement sont à peu près les même que la conso de vidéos pornos sur Internet. Voici un article qui parle des relations entre porno et génération : https://usbeketrica.com/fr/article/ia-pourquoi-le-porno-se-noie-dans-les-deepfakes

          Qu'est-ce qu'il y a à dire de plus que tout ça ? Si tu regardes c'est pas des sujets récents et tes craintes ne sont pas très originales. Je suis à peu près sûr qu'on doit pourvoir trouver des podcasts radio ou on cause de problématique sociales/santé, et autre ont abordé le sujet et qu'on doit pouvoir en trouver relativement facilement.

          • [^] # Re: C'est pas trop tôt

            Posté par  . Évalué à -4 (+0/-5). Dernière modification le 17 janvier 2026 à 14:33.

            Les liens que tu donnes ne contredisent pas que le point de vu est principalement axé sur la crainte des "deepfakes", ce qui est selon moi un mauvais raisonnement et que les IA génératives en général vont bien au delà de ça (mais ça en fait parti, évidemment).
            Je ne sais pas si c'est très original de ma part (est ce un argument d'ailleurs ?), mais pour ce que j'ai jusque pu voir du traitement médiatique jusqu'à présent, la plupart des articles semblent beaucoup insister sur une partie du phénomène et ne semble pas percevoir ce qui est pour le moment caché (probablement du fait de la différence de nature, dans un cas des gens portent plainte, dans l'autre cas, ce sont une multitudes de phénomènes isolés).

            Je suis prêt à prendre le pari que l'on parle pour le moment de célébrités humaines, mais que dans quelques années (disons un horizon de 5 à 10 ans), ce débat aura disparu car les célébrités humaines seront au moins partiellement éclipsées par modèles IA.
            Ce faisant le débat sur les "deepfakes" est a mon avis un phénomène passager le temps de cette transition.

            • [^] # Re: C'est pas trop tôt

              Posté par  . Évalué à 5 (+2/-0).

              Je ne te suis plus vraiment. Tu te plaignais que le débat n'était pas cadré comme il faut, pour arriver à la conclusion c'est que Les Vraies Questions (comme le remplacement des doubleurs par des IAs et autres conséquences économiques) ne sont pas traitées comme il faut ? Perso je n'ai pas du tout l'impression que ce n'est pas abordé dans le débat médiatique public, bien au contraire, on ne parle que de ça ou presque.

              • [^] # Re: C'est pas trop tôt

                Posté par  . Évalué à -3 (+0/-4).

                Je dois mal m'exprimer. C'est vrai que ça a un peu dérivé sur les IA en général, mais la question des biais des modèles est un sujet, la pornographie générée synthétiquement en est un autre ("deepfake" ou pas) .
                C'est de ma faute j'ai évoqué ce sujet, mais c'était en illustration de la teneur du débat il y a quelques années comparé à aujourd'hui (avant on parlait beaucoup des biais raciaux, aujourd'hui on parle beaucoup plus de l'économie et de l'emploi).

                C'était juste pour faire un parallèle.
                Et ça ne minore en rien les effets délétères des images détournements produits synthétiquement actuellement.
                Mais encore une fois, je prends le pari que les conséquences sociales à long terme des IA génératives seront tout autre, notamment parce que ne pouvant plus distinguer le vrai du faux, on y accordera plus d'importance à moyen terme aux "deepfake".
                Par contre, le fait d'avoir des IA qui répondent à tous les besoins aura je pense des effets sur la société similaires à la généralisation des réseaux sociaux (parce que les deux tendent à enfermer les gens dans des cocons confortable centrés sur l'utilisateur, créant de l'isolement).

                Et le fait est qu'il semble que ce phénomène semble émerger et que cela serait à mon avis dévastateur, parce que je ne trouve pas que les réseaux sociaux aient beaucoup aidés à élever intellectuellement ou spirituellement la population.
                Au contraire, chacun vit dans sa bulle et supporte de moins en moins la contradiction.
                Et le danger à venir est est que la bulle soit bientôt individuelle avec un contenu produit par une IA.

                Bref, cela va bien au delà des "deepfakes" et autre "fakenews" qui semblent beaucoup préoccuper Macron.

            • [^] # Re: C'est pas trop tôt

              Posté par  (Mastodon) . Évalué à 3 (+1/-1).

              ce débat aura disparu car les célébrités humaines seront au moins partiellement éclipsées par modèles IA.

              En même temps si chacun peut créer sa "star" sur mesure, le concept meurt de lui-même.

              Et puisque quelqu'un a mentionné le sujet. Je préfère que quelqu'un se crée son fantasme pédophile virtuel et se perd dedans pendants des heures en local sur son pc/smartphone et perde toute connection sociale que de passer à l'acte avec un enfant. Un peut comme les gens qui sont tellement accros au porno qu'ils ne peuvent plus avoir de relations sexuelle avec un vrai être humain car la réalité ne peut plus atteindre leur référence de ce qui les allume.

        • [^] # Re: C'est pas trop tôt

          Posté par  (site web personnel, Mastodon) . Évalué à 4 (+3/-1).

          Parler de…

          les présupposés

          …puis écrire

          Là où je voulais insister, c'est les "journaleux", par leur façon de traiter le sujet démontrent qu'ils ne comprennent pas ce qui se passe et n'anticipent pas du tout ce qui pourrait advenir.

          Cela présupposer un pouvoir et un devoir d’anticipation des journaleux ? Effectivement c’est aux dames et sieurs qu’il faudrait filer des cartes de presse alors.
          Quand à la comprenette c’est visiblement un gag récurrent. Peut-être fais-tu partir de ces gens qui attendent que le JT leur dévoile la vérité et qui prennent le BFM et autres pour argent comptant ?
          Bref

          “It is seldom that liberty of any kind is lost all at once.” ― David Hume

          • [^] # Re: C'est pas trop tôt

            Posté par  . Évalué à -1 (+0/-2).

            Cela présupposer un pouvoir et un devoir d’anticipation des journaleux ? Effectivement c’est aux dames et sieurs qu’il faudrait filer des cartes de presse alors.

            Non mais les journaux ont des lignes éditoriales, certains publient régulièrement des tribunes.
            Je pense que tu as mal compris ce que je voulais dire avec:

            Peut-être fais-tu partir de ces gens qui attendent que le JT leur dévoile la vérité et qui prennent le BFM et autres pour argent comptant ?

            Je voulais justement dire l'inverse, BFM ne sert justement à rien selon moi.
            Leur seule utilité serait d'ajouter de la valeur en étoffant et en complétant l'information plutôt que d'en faire un fil continu et infini de "news", mais le format télévisé n'est visiblement pas adapté.

        • [^] # Re: C'est pas trop tôt

          Posté par  . Évalué à 5 (+2/-0).

          Ah oui et il faut aussi parler de la fameuse disparition des histoires de biais des IAs : https://www.scienceshumaines.com/lia-un-miroir-grossissant-de-nos-biais-cognitifs

          Google scholar sur les publis récentes : https://scholar.google.com/scholar?hl=fr&as_sdt=0,5&q=algorithmic+biais&scisbd=1 Et chercher sur Google News donne par exemple ça : https://www.radiofrance.fr/franceinter/podcasts/un-monde-nouveau/un-monde-nouveau-du-lundi-08-decembre-2025-7359578 Non ça n'a pas vraiment disparu, c'est d'actualité.

          Et évidemment c'est un sujet complètement sous-jascent quand on cause de Grokipédia : https://www.liberation.fr/international/toute-la-verite-rien-que-la-verite-elon-musk-lance-grokipedia-pour-concurrencer-wikipedia-quil-juge-trop-a-gauche-20251028_437KT7OEDZA3LNMRWVZTPAVHPI/ Je vois pas trop comment ça pourrait avoir "disparu".

          • [^] # Re: C'est pas trop tôt

            Posté par  . Évalué à -1 (+1/-3).

            Ça n'a pas disparu parce que ça n'existe pas, ça a disparu du débat parce que c'est anecdotique comparé aux effets très concret sur l'économie et la crainte de la disparition de la moitié des emplois salariés du tertiaire à moyen terme (sans parler plus généralement de la robotique à plus long terme).

            Là dessus je suis pas inquiet du débat, ça commence toujours avec de l'idéologie, mais quand on parle pognon et emploi, on revient toujours très rapidement au concret.

            • [^] # Re: C'est pas trop tôt

              Posté par  . Évalué à -4 (+0/-5). Dernière modification le 17 janvier 2026 à 15:08.

              Ajout tardif, j'y ai pensé après coup:

              Il se trouve que j'utilise beaucoup de modèles Chinois (Qwen pour le texte, Z-image pour l'image, Wan pour la vidéo).
              Effectivement, il y a de biais et que ces modèles sont très axés sur la culture Chinoise.
              Mais faut sortir du paradigme méchant blanc/racisés qui est un débat strictement Occidental (avec beaucoup d'affects).
              C'est confortable, mais je vois plutôt ces IA comme de possible vecteurs d'influence culturelle, et les Chinois sont en train de prendre une place importante.
              L'Amérique a beaucoup influencé le monde avec le cinéma, peut être que l'IA sera le futur support de l'influence, et que ces biais feront partie intégrante du système, qui sait…
              Et ca n'est probablement pas un hasard si le gouvernement Chinois impose à ses entreprises éditrices de publier des modèles ouverts en marge des API fermées, c'est visiblement leur stratégie pour mettre en difficulté les Américain, et pourquoi pas influencer le monde ?

              Une illustration est ce sujet que j'avais vu passer sur reddit et qui m'avait éclairé à l'époque (avec Z-image, le modèle de génération d'image le plus en vogue en ce moment):
              https://www.reddit.com/r/StableDiffusion/comments/1pijwdk/zimage_so_i_think_its_time_to_learn_a_bit_about/

              • [^] # Re: C'est pas trop tôt

                Posté par  . Évalué à 4 (+1/-0).

                Je vois le genre. Tout ça c'est de bonne guerre, ce n'est que l'histoire de la propagande et culturelle millénaire des luttes de pouvoir et d'influence des individus et des puissances.

                Et puis finalement pousser son point de vue par tous les moyens c'est très bien, c'est ça la vraie neutralité, c'est comme ça qu'on atteint la neutralité et une forme d'objectivité ! Ou pas.

            • [^] # Re: C'est pas trop tôt

              Posté par  (site web personnel, Mastodon) . Évalué à 6 (+4/-0).

              Euh… quand on parle pognon le discours est justement « ne vous inquiétez pas pour l’emploi, toute façon ça ne fait que des trucs pénibles et sans trop de valeur et les ce sont les boulots inutiles qui vont être remplacés » Le concret pour les gens qui font du pognon c’est de toujours en faire plus et l’emploi n’est qu’une variable à minimiser. (si on peut filer aux ia tout ce qu’on n’a pas pu délocaliser pour réduire les marges et accroitre les bénéfices alors c’est concrètement tout bon.)

              “It is seldom that liberty of any kind is lost all at once.” ― David Hume

        • [^] # Re: C'est pas trop tôt

          Posté par  (site web personnel) . Évalué à 4 (+3/-2).

          On arrive à un moment où les interlocuteurs seront des IA et répondront à tous les désirs possibles.

          Et c'est grave ?

          Est-ce que le pr0n n'est justement pas l'un des rares usages pas trop débile pour l'IA générative ?

          Soyons positif, avec des vidéos générées, on pourrait avoir :

          • moins de risques pour la santé des acteurs : au lieu d'un tournage des actes réels, on aura juste un séance photo pour numériser des personnes et une négociation sur le droit à l'image ;
          • des retrosextapes si vous étiez trop timide à 20 ans et que vous n'avez plus l'âge pour la position du poulpe nippon ;
          • en combinant IA et VR, on pourra enfin avoir des rapports sans échange de fluides !

          Demolition Man sex

          Le post ci-dessus est une grosse connerie, ne le lisez pas sérieusement.

          • [^] # Re: C'est pas trop tôt

            Posté par  (Mastodon) . Évalué à 9 (+6/-0).

            Autre chose, certains pensent même que c'est la fin du chantage à la sex tape par exemple, la défense "meuh n'importe quoi, c'est de l'IA" devenant systématique.

            En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

    • [^] # Re: C'est pas trop tôt

      Posté par  . Évalué à 3 (+1/-0).

      y'a ça aussi que peut (pouvait ?) générer chatgpt : https://www.biometricupdate.com/202504/social-buzzes-with-chatgpt-generated-passports-and-id-cards

      Rappel important : vos amis qui se sont retournés contre vous parce que la TV leur a dit de le faire : ils le feront encore.

    • [^] # Re: C'est pas trop tôt

      Posté par  (Mastodon) . Évalué à 2 (+0/-0).

Envoyer un commentaire

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.