Journal Questionnement sur l'effet des IA sur la diffusion de la connaissance.

Posté par  . Licence CC By‑SA.
Étiquettes : aucune
9
31
mai
2024

En lisant cet article de next à propos d'une question que se posait Samia Kabir, chercheuse de l'université de Purdue aux États-Unis.

Je n'ai pas lu la toalité de l'article (payant) mais je me suis intéressé aux commentaires, et en lisant je me suis un peu interrogé sur l'utilisation des IA et l'interrogation directe de celles-ci, et de l'effet de ce mode de fonctionnement sur les progrès individuels et collectifs par rapport à un forum de discussion classique.

Décrivons un peu comment les choses se passent avec une IA telle que chatGPT : j'ai un besoin, une question à poser. Je saisis la question au clavier (ou je la dicte à haute voix) … L'IA va tenter de comprendre ce que je lui demande et nous répondre en fonction de ce qu'elle a compris, Sa compréhension et l'exactitude de sa réponse dépendra de plusieurs éléments, entre autres la façon de poser la question, plus ou moins claire ou précise, la façon dont a été entrainée l'IA, et la façon dont elle a été programmée pour répondre à la question. Cependant, que se passe-t-il quand on a la réponse ? Soit on connait un peu le sujet et on arrive à évaluer la pertinence de la réponse ( et on peut réitérer les questions pour préciser ce qu'on attend de l'IA), soit on est pas en mesure d'évaluer la pertinence de la réponse. Et là que fait-on ?

A l'inverse dans un forum, on pose sa question, et lorsqu'on a une réponse, celle-ci est vue par d'autres contributeurs, qui peuvent évaluer la pertinence de la réponse, la contredire, la préciser, ou poser des questions complémentaires … En gros il y aura de l'interaction. De plus, les réponses étant accessibles par un plus grand nombre, ces forums se trouvent être de formidables puits de connaissance et participent au progrès général. Quiconque veut apprendre sur un sujet n'a qu'à lire les archives de ces forums. De plus, un intervenant sur un forum pourra parfois ne pas répondre dans l'immédiat mais pousser le posteur initial à réfléchir en lui posant des questions.
C'est quelque chose qui n'est pas possible avec une IA : elle ne partage rien. Elle donne une réponse, plus ou moins juste, et ne pose aucune question poussant à la réflexion. ….

Du coup je m'interroge sur les conséquences de ce genre d'outils : ne seraient-ils pas à terme, même si elles n'ont pas été pensées dans ce but, un moyen pour les acteurs du domaine de s'approprier le savoir et la connaissance et de le distiller au compte-gouttes pour en tirer un maximum de profit ? Est-ce donc une bonne chose que de les utiliser, ou n'est-on pas en train de se tirer une balle dans le pied ?

  • # Oups ... coquille (pour la modération)

    Posté par  . Évalué à 2.

    En lisant cet article de nextinpact à propos d'une question que posait la question que s'est posée Samia Kabir, chercheuse de l'université de Purdue aux États-Unis.

    Pouvez-vous SVP, remplacer par :

    En lisant cet article de next à propos d'une question que se posait Samia Kabir, chercheuse de l'université de Purdue aux États-Unis.

    Merci d'avance

  • # Humanité et captcha inversé

    Posté par  (site web personnel) . Évalué à 4.

    Je me poserais encore plus de questions sur les biais de perception : entre paréidolie et empathie (cf
    https://mastodon.xyz/@Julie@social.coop/112502678136437511 ), il est facile pour une personne d'assimiler un objet à un être vivant. Ce qui entraîne des espérances (je peux interagir avec, il n'est probablement pas totalement hostile par défaut, on partage un référentiel commun dont on peut parler, etc.) et un comportement différent (confiance par exemple). Tout est fait pour cacher l'inhumanité de l'IA, pour tromper l'humain sur le fait que ce n'est pas son alter-ego en face. Ça pourrait être neutre dans l'échange si l'IA était capable de se mettre dans les chaussures d'une homme ou d'une femme, d'un jeune ou d'un vieux, d'un ado surchargé d'hormones ou d'un dyslexique, d'une personne effrayée ou perdue, etc. Mais actuellement ce n'est pas le cas, et le dissimuler n'est pas du tout neutre.

    Quand j'interagis avec un système vocal interactif "taper 1 taper 2", je ne m'illusionne pas sur l'humanité ou l'empathie du truc. Quand je clique sur une IHM, je ne pense pas que l'ordinateur va répondre plus ou moins vite pour me faire plaisir, ou parce qu'on a sympathisé. Il n'y a pas cet aspect trompeur de l'IA version chabot en langage naturel (ou du robot humanoïde par exemple).

    Apprendre d'un livre ou apprendre d'un alter-ego (supposé ou non) change ce que l'on apprend : entre un système d'exploitation est ensemble de programmes qui dirige l'utilisation des ressources d'un ordinateur par des logiciels applicatifs lu sur Wikipedia, et un barbu adminsys qui me dit dans ma carrière j'ai utilisé des tas de systèmes d'exploitation différents. Laisse moi t'expliquer ce qu'est un SE et leurs différences, mon attente, ma perception, ma mémorisation, etc. seront différentes. Et si le barbu est une IA qui affabule ?

  • # Comme toute technologie

    Posté par  (site web personnel) . Évalué à 3.

    Comme toute technologie l'important ce n'est pas ce qu'elle peut faire mais son utilisation réelle.

    L'exemple des forums/fils de commentaires est d'ailleurs intéressant. Sur le papier c'est génial, tout le monde peut apporter son point de vue, ses corrections ou des informations supplémentaires. Les pouces en haut/en bas devraient permettre de faire remonter le bon grain et de rendre invisible l'ivraie ("et l'ivraie, c'est la Schtroumpfette " … Euh pardon je m'égare).

    En pratique, dans la majeure partie des cas, c'est de la merde en barre (linuxfr est une exception et il y en a d'autres, mais en gros plus c'est populaire, pire c'est) et les pouces en haut/en bas servent à récompenser les opinions, peu importe la qualité du contenu.

    Si on regarde l'histoire, l'utilisation faite de l'IA ne devrait pas être catastrophique (on peut toujours imaginer pire) mais sera au mieux décevante, au pire une contribution importante à la merdification générale.

  • # quelques réflexions liées

    Posté par  (Mastodon) . Évalué à 3.

    Je crois que ces réflexions pourraient t'intéresser
    https://gregoirelits.eu/fr/2024-04-16-Apprendre-a-coder.html

    Pas vraiment ton questionnement mais un peu lié de loin
    https://theconversation.com/face-a-chatgpt-apprendre-a-apprendre-avec-la-methode-du-maitre-ignorant-225810

    Et

    https://theconversation.com/utiliser-lia-en-classe-pour-recommander-des-exercices-aux-eleves-quel-interet-quels-biais-227256

    Surtout, ne pas tout prendre au sérieux !

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.