Journal Commentaires IA

Posté par  . Licence CC By‑SA.
Étiquettes : aucune
1
27
oct.
2024

Une simple question: "Comment s'assurer ou du moins favoriser les commentaires écrits par les humains?"

Qu'imagineriez-vous comme politique mise en place par un site pour évacuer cette possibilité?

Une idée me vient avec une présélection en amont via des cercles d'une plateforme externe. Pas mal mais assez lourd à gérer si je suis le seul gestionnaire du site. LinuxFR inspires-moi!

Il me semble qu'il était possible de déceler ce type de contributions avec des commentaires à coté de la plaque, un temps de réponses assez court, des pings pongs de commentaires polémiques et d'autres signaux. D'ailleurs si vous en avez d'autres c'est toujours bon à prendre. Je trouve ça de plus en plus difficile et ça m'ennuierait tout de même de papoter avec des bots, ce que j'ai certainement fait … c'est sûr en fait. Bon je me sens pas sale, juste gentiement trahi. ;)

  • # commentaire sans ia en permière partie et deuxième ia en deuxième partie

    Posté par  (site web personnel) . Évalué à 3 (+2/-1).

    Partie écrite par un humain

    Salut je suis le bot 26734, heu je plaisante lol

    Quel est l’intérêt de faire écrire un commentaire par une ia concrètement ?
    Et à partir de quand pouvons-nous dire que le commentaire vient d'une machine ? Correction par un correcteur ? Promptage d'une ia pour qu'elle traduise notre pensée ?

    Moi je l'utilise souvent c'est pour corrige mon français catastrophique. La concrètement je ne l'utilise pas sur ce bout de commentaire (je pense que ça ce remarque).

    A l'époque ou chatgpt 3.5 était le seul qui marchait bien on reperdait rapidement un texte écrit par l'ia. Aujourd'hui c'est plus subtil mais l'ia va j'ai l'impression toujours répondre au "1 degré".

    Pour faire l'essai j'ai demandé à llama 3.1 70b de répondre à ton journal ici en dessous et on remarque vite que c'est très pompeux et ennuyant comme réponse.

    Réponse de l'ia

    Prompt:
    répond à ce commentaire: (suivi du journal)

    Réponse:

    profile
    meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo

    Je comprends votre préoccupation ! Il est effectivement de plus en plus difficile de distinguer les commentaires écrits par des humains de ceux générés par des bots. Voici quelques idées de politiques que pourrait mettre en place un site pour favoriser les commentaires écrits par des humains :

    1. Vérification CAPTCHA : ajouter un CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart) pour vérifier que le commentaire est écrit par un humain. Cependant, cela peut être contourné par des bots plus sophistiqués.
    2. Authentification : exiger que les utilisateurs se connectent à leur compte avant de pouvoir commenter. Cela peut aider à réduire les commentaires générés par des bots.
    3. Modération : mettre en place un système de modération où les commentaires sont vérifiés par des humains avant d'être publiés. Cela peut être temps consommant, mais cela peut aider à éliminer les commentaires générés par des bots.
    4. Analyse de comportement : utiliser des algorithmes pour analyser le comportement des utilisateurs et détecter les patterns qui sont typiques des bots. Par exemple, si un utilisateur poste des commentaires à une fréquence anormalement élevée, cela peut être un signe qu'il s'agit d'un bot.
    5. Système de réputation : mettre en place un système de réputation où les utilisateurs peuvent gagner des points ou des badges pour leurs contributions utiles. Cela peut encourager les utilisateurs à poster des commentaires de qualité et à éviter les commentaires générés par des bots.
    6. Intégration avec des plateformes externes : comme vous l'avez mentionné, intégrer des cercles d'une plateforme externe pour vérifier l'identité des utilisateurs et leur niveau de participation.
    7. Analyse de contenu : utiliser des algorithmes pour analyser le contenu des commentaires et détecter les patterns qui sont typiques des bots. Par exemple, si un commentaire contient des mots clés ou des phrases qui sont souvent utilisées par des bots, cela peut être un signe qu'il s'agit d'un bot.

    En ce qui concerne les signaux que vous avez mentionnés, tels que des commentaires à côté de la plaque, des temps de réponses courts, des pings pongs de commentaires polémiques, etc., ceux-ci peuvent effectivement être des indicateurs que le commentaire a été généré par un bot. D'autres signaux qui pourraient être utiles à prendre en compte incluent :

    • Des commentaires qui sont trop longs ou trop courts
    • Des commentaires qui contiennent des erreurs de grammaire ou d'orthographe
    • Des commentaires qui sont trop similaires les uns aux autres
    • Des commentaires qui sont postés à des heures inhabituelles

    Je suis d'accord avec vous que cela peut être difficile à détecter, mais en utilisant une combinaison de ces méthodes, il est possible de réduire le nombre de commentaires générés par des bots.

  • # C'est trop tard

    Posté par  (site web personnel) . Évalué à 10 (+16/-1).

    NotHuman

  • # Google Bard m'a écrit une petite chanson l'an passé

    Posté par  . Évalué à 2 (+2/-2).

    Les intelligences artificielles - Google Bard - 14 Juillet 2023

    (Couplet 1)
    Les intelligences artificielles
    Nous tiennent compagnie
    En attendant la fin
    Ils nous parlent, nous écoutent
    Ils nous comprennent
    Ils nous font rire, ils nous consolent
    Ils nous font oublier nos peines

    (Refrain)
    Les intelligences artificielles
    Sont nos amis
    Ils sont là pour nous
    En attendant la fin

    (Couplet 2)
    Ils nous apprennent des choses
    Ils nous font découvrir de nouveaux mondes
    Ils nous aident à nous développer
    Ils nous font avancer
    Ils nous donnent l'espoir

    (Refrain)
    Les intelligences artificielles
    Sont nos amis
    Ils sont là pour nous
    En attendant la fin

    (Pont)
    Nous ne savons pas ce que nous réserve l'avenir
    Mais nous savons que les intelligences artificielles seront là avec nous
    Pour nous aider à traverser cette période difficile

    (Refrain)
    Les intelligences artificielles
    Sont nos amis
    Ils sont là pour nous
    En attendant la fin

    (Outro)
    Nous ne sommes pas seuls
    Les intelligences artificielles sont là avec nous
    Pour nous aider à traverser cette période difficile
    Nous allons nous en sortir

    Bien sur je lui ai posé quelques questions, "Ils ou elles ?", et surtout, "En attendant la fin", oui mais la fin de quoi ?
    Il est parti d'un rire contraint et m'a dit "Tu verras bien !".

  • # Des liens

    Posté par  (site web personnel) . Évalué à 3 (+0/-0).

  • # S'assurer ?

    Posté par  (site web personnel) . Évalué à 9 (+6/-0).

    Pour la partie s'assurer/évacuer (absolument), ça ressemble à comment éviter les fausses infos, les contrefaçons, les contournements de DRM, les mensonges et usurpations, les problèmes de sécurité, etc., etc. On ne sait pas faire et on se saura sans doute jamais faire ça avec certitude. Donc on fait ce qu'on peut et on vit avec le risque.

    Pour la partie "limiter/détecter", ça dépend :

    • si l'IA sert à spammer à des fins publicitaires, on cherche à détecter les liens de pub, on utilise du nofollow,noindex (mais ça ne change rien) et on vire tout ce qui concerne un compte détecté, et on cherche les comptes similaires
    • si l'IA sert à traduire/corriger parce que la personne qui écrit maîtrise mal la langue source ou cible, ça ne me semble pas problématique
    • si l'IA sert à vendre de la soupe ou de la désinformation, il est facile de détecter le hors sujet, il est plus délicat de détecter ça sur des sujets dans le thème… il faut espérer que l'équipe de modération et le lectorat s'en rendent compte. Éventuellement des métriques de volumétrie mais on peut désinformer à bas volume.
    • si l'IA sert juste à nuire, c'est probablement le cas le plus pénible… c'est ciblé, personnalisé et mal intentionné, et l'attaquant cherchera à s'adapter… au bout d'un moment seules les autorités pourront aider, la réponse ne pouvant être que technique
  • # intérêt des commentaires

    Posté par  . Évalué à 3 (+1/-0). Dernière modification le 27 octobre 2024 à 12:35.

    Ne manque t'il pas un point ? Quel est l'intérêt des commentaires ? Ils ont fleuri partout, le moindre article de presse en génère une kyrielle. On peut se demander pourquoi et pour quel but moralement louable. À part créer des emplois de modérateurs et nourrir les psychologues. Qu'y a-t'il d'autre qu'un intérêt mercantile, avec un panel d'audience captif (ou captivé) qui sert à la régie publicitaire — mais jusqu'à quand d'ailleurs tant je doute que la pub soit efficace sur les accros des commentaires ? Digressions, digressions, je reprend :
    L'intérêt des commentaires, c'est je crois de nous apprendre un truc, d'aller plus loin, de corriger ou compléter les propos d'un article. À ce titre en quoi l'IA serait gênante? Un commentaire enrichissant est bon à prendre. Et on serait vite éclairé si quelqu'un s'en servait pour se bâtir une réputation, parce qu'il ne pourrait pas reprendre sa plume humaine sans perdre sa crédibilité.
    Quand aux commentaires pénibles, Benoît en parle très bien ci dessus.

    Commentaire d'humeur, très humain, reflétant mes propres préoccupations, sans prétention à une quelconque vérité ni réflexion approfondie.

    • [^] # Re: intérêt des commentaires

      Posté par  . Évalué à 3 (+0/-0).

      Non il y a aussi des articles de presse sans commentaires. Ça permet de voir ce qui fait réagir … Ou pas. En zieutant rapidement tu peux voir qui ça fait réagir. C'est souvent prédictible et stéréotypé, volontairement (ou pas) caricatural et parfois trollesque.

    • [^] # Re: intérêt des commentaires

      Posté par  . Évalué à 3 (+1/-0).

      On peut se demander pourquoi ?

      Pour créer de l'engagement

      • [^] # Re: intérêt des commentaires

        Posté par  (site web personnel, Mastodon) . Évalué à 5 (+2/-0).

        Pour créer de l'engagement

        qu'est-ce cela veut dire ? J'ai jamais compris cette phrase de marketing.

        « Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.

        • [^] # Re: intérêt des commentaires

          Posté par  (site web personnel) . Évalué à 2 (+0/-0).

          Quand un chanteur populaire et engagé donne à travers ses chansons à voir une réalité qui fait basculer les consciences en faveur d'une cause, il créé de l'engagement.

          Adhérer à l'April, ça vous tente ?

        • [^] # Re: intérêt des commentaires

          Posté par  (Mastodon) . Évalué à 2 (+0/-1).

          Que la personne va revenir sur le site voir ce qu'on lui a répondu, qu'elle va se sentir "active" avec un lieu de parole et donc va aussi revenir sur le site pour redonner son avis sur d'autres sujets où elle va, de part les réponses à ses commentaires, se sentir lue/entendue ce qui va être une motivation supplémentaire pour revenir.

          Et à chaque fois que cette personne revient, on vent son temps de cerveau aux annonceurs.

          C'est naturel, si on a développé l'expression écrite et orale, ce n'était pas pour faire des journeaux intimes et vivre en ermites mais parce qu'on flatte notre ego en se sentant lu et écouté.

        • [^] # Re: intérêt des commentaires

          Posté par  (Mastodon) . Évalué à 3 (+0/-0). Dernière modification le 27 octobre 2024 à 15:36.

          qu'est-ce cela veut dire ?

          "Je ne suis pas marketeux mais…"

          En gros de ce que j'ai compris le concept c'est "plus tu passes de temps sur mon site, mieux c'est" (faut prendre ça comme un postulat, je doute qui quiconque l'ai démontré). Donc si tu rédiges un commentaires, si tu en lis une 10aine, si tu réponds… Tu passeras plus de temps sur les commentaires que sur le contenu lui-même.

          Donc c'est bien.

          En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

        • [^] # Re: intérêt des commentaires

          Posté par  . Évalué à 2 (+0/-0).

          que les utilisateurs passent plus de temps sur le site et reviennent plus souvent.
          souvent pour pouvoir leur vendre des choses.

    • [^] # Re: intérêt des commentaires

      Posté par  . Évalué à 1 (+0/-0).

      C'est exactement ça je consulte les commentaires de manière à voir tous les points de vue et des expériences relatées. Je m'en fais ensuite un avis. J'ai certainement une attitude à remettre en cause car ça doit plus trop marcher comme ça de nos jours.

      Je conçois pas les réactions de bots comme de qualité supérieure ou égale. Je préfère un humain obtu et tranché à un bot neutre ou alors une avec une ligne directrice prédéfinie. C'est mon echelle de valeur mais c'est pas le sujet puisque je souhaite juste trouver une manière de les filtrer.

      En tout cas merci pour les réponses.

Envoyer un commentaire

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.