Lien IA : pourquoi les intellectuels paniquent-ils ? Posté par Ysabeau 🧶 🧦 (site web personnel, Mastodon) le 02 avril 2024 à 12:28. Étiquettes : intelligence_artificielle panique_morale 3 2avr.2024 https://www.radiofrance.fr/franceculture/podcasts/le-biais-d-aurelie-jean/le-biais-d-aurelie-jean-chronique-du-mardi-26-mars-2024-5747798
# tintamarre médiatique
Posté par orfenor . Évalué à  7 (+6/-1).
La plupart des intellos médiatiques n'ayant pas vraiment d'idées à eux (sauf celles mêlant gloriole, argent et proximité du pouvoir), ça n'est pas étonnant. Ce sont les mêmes qui critiquent internet où l'on trouve tout et n'importe quoi, c'est à dire comme dans la presse où ils écrivent ou parlent. Les intellectuels chercheurs tels Michel Serres, Wladimir Jankélévitch, Pierre Bourdieu, Teilhard de Chardin, … (je cite les premiers qui me viennent sans préférence il y en a bien d'autres) n'ont jamais craint d'être confrontés à la pensée d'autrui, autrui fut-elle une machine capable d'appréhender infiniment plus de données que la cervelle humaine.
D'autre part, si vraiment des intellos ont peur c'est qu'ils n'écoutent que le tintamarre médiatique, Plusieurs chercheurs en IA ont expliqué sur Thinker View et le site du CNRS que la situation n'a pas tant changé depuis 20 ans. C'est la «puissance de calcul» qui nous impressionne, plus la possibilité d'avoir l'IA pour ainsi dire «chez soi», mais les progrès ne sont pas là , ça reste des algorithme et «IA» est un terme commode pour obtenir des financements.
[^] # Re: tintamarre médiatique
Posté par Thomas Douillard . Évalué à  8 (+6/-1).
Il n'y a pas que la puissance de calcul, la quantité de données a explosé aussi (on pouvait pas mettre tout github, tout wikipedia ou tout flicker dans un algo d'apprentissage il y a 20 ans). Il y a quand même eu quelques innovations comme les transformers au niveau architecture des réseaux de neurones. Les techniques convolutionnelles existaient déjà mais pas à la même échelle. Après oui on a clairement changé d'échelle et ça a changé des choses, ça permet des transitions de phases dans la qualité des sorties qui étaient inaccessibles avant : https://arxiv.org/pdf/2402.16991.pdf par exemple, en tout cas à cette échelle et pour cette quantité de problèmes.
Dire que les choses n'ont pas tant changées que ça depuis 20 ans est rien que de ce point de vue très très exagéré pour le moins. On a pas fini d'explorer ce que ça permet et les diverses combinaisons que ça permet, genre la génération de vidéos de cette qualité à partir de prompt textuels c'était clairement de la SF à l'époque, et c'est tout nouveau. Ça ouvre des combinaisons qu'on a pas encore fini d'explorer, comment on va faire cohabiter / travailler ensemble les réseaux de neurones avec les systèmes à raisonnement symbolique par exemple ? On sait que les réseaux de neurones peuvent être assez bon pour jouer aux échecs ou à des jeux combinatoires, qu'est-ce que ce sera quand on va leur apprendre à démontrer des théorèmes en essayant des trucs avec un prouveur qui leur dira "ça passe" ou "ça passe pas" ? Comment ça va se passer quand on va leur permettre d'évoluer dans un monde, cf. le dossier de ce numéro de PLS : https://www.pourlascience.fr/sd/informatique/pour-la-science-n557-26128.php , avec les intuitions un peu hors sol qu'elles auront pu tirer de leur apprentissage pour leur donner des buts un peu plus haut niveau ? On sait pas encore forcément mais c'était pas envisageable comme travaux il y a 20 ans. Maintenant, on peux envisager sérieusement.
[^] # Re: tintamarre médiatique
Posté par Thomas Douillard . Évalué à  5 (+3/-1).
(pour être tout à fait clair, je suis pas en train de dire que les intellectuels devraient paniquer mais ça semble être tomber complètement dans l'excès inverse que de dire qu'il ne s'est pas passé grand chose depuis 20 ans. Wait and see donc, et pour partie on peut déjà voir, la traduction en pratique a fait des bonds fabuleux)
[^] # Re: tintamarre médiatique
Posté par Ysabeau 🧶 🧦 (site web personnel, Mastodon) . Évalué à  10 (+8/-0).
D'ailleurs, la qualité de certaines traductions automatiques met en péril le métier de bien des traductaires en les remplaçant. Il y aussi des entreprises de la Tech qui ont licencié du personnel en développement informatique pour les remplacer par de l'IA.On a vu déjà une présentatrice de TV générée par l'intelligence artificielle.
En fait ce qu'on risque de voir au niveau des professions intellectuelles c'est ce qu'on a vu par exemple avec le métier Jacquard : une diminution importante du nombre de personnes au profit de l'IA pour certaines tâches.
Pour la première fois dans l'histoire, à notre connaissance, les professions intellectuelles risquent (et font dans certains cas) les frais du progrès, ce qui n'est encore jamais arrivé pour autant qu'on sache :
Et c'est d'ailleurs pour ça que tout ce beau monde a la trouille.
« Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.
[^] # Re: tintamarre médiatique
Posté par Krunch (site web personnel) . Évalué à  7 (+5/-0).
Et de l'article :
Genre l'imprimerie, l'ordinateur et l'internet c'était du poulet ?
La branlette intellectuelle sur le risque existentiel masque surtout le problème du contrôle et de l'intention derrière ces machines.
Précédemment : https://linuxfr.org/users/krunch/journaux/les-ai-des-gafam-sont-elles-nefastes
pertinent adj. Approprié : qui se rapporte exactement à ce dont il est question.
[^] # Re: tintamarre médiatique
Posté par antistress (site web personnel) . Évalué à  3 (+0/-0).
Perturber dans le sens mettre en danger, oui, ça me paraît nouveau à moi aussi
[^] # Re: tintamarre médiatique
Posté par Krunch (site web personnel) . Évalué à  2 (+2/-2).
L'imprimerie a mis en danger les moines copistes et tout un écosystème de contrôle de l'information.
L'ordinateur a mis en danger tout un tas de métiers administratifs ainsi que certains aspects du métier d'ingénieur.
L'internet a mis en danger le métier de journaliste.
Qu'est-ce tu trouves de nouveau exactement ?
pertinent adj. Approprié : qui se rapporte exactement à ce dont il est question.
[^] # Re: tintamarre médiatique
Posté par Ysabeau 🧶 🧦 (site web personnel, Mastodon) . Évalué à  4 (+1/-0).
Les copistes étaient des OS du livre. Pas spécialement des professions "intellectuelles". Les ingénieurs n'ont pas été remplacés, leur métier a changé, idem pour des métiers administratifs, alors oui, moins de secrétaires et plus du tout de dactylos, mais, justement, ce ne sont pas les types de professions très valorisées.
Ce qui est nouveau c'est que l'IA est susceptible de s'attaquer à des professions très (sur) valorisées. En prime, dans la plupart des cas, elles pourraient très bien (voire mieux) faire le boulot de la palanquée d'experts médiatiques ou de consultants en tous genre (du genre débit de tartines de creux à très haut prix). Et là , ces gens qui se sentent supérieurs à la masse, commencent à se sentir très mal à l'aise.
« Tak ne veut pas quʼon pense à lui, il veut quʼon pense », Terry Pratchett, Déraillé.
[^] # Re: tintamarre médiatique
Posté par lolop (site web personnel) . Évalué à  3 (+1/-0).
Pour les générateurs de blabla peut-être, mais faut vraiment que le blabla n'ait pas de conséquence. Car quand un avocat fait générer sa prose par un GPT X, qui invente des jurisprudences…
Python 3 - Apprendre à programmer dans l'écosystème Python → https://www.dunod.com/EAN/9782100809141
[^] # Re: tintamarre médiatique
Posté par Krunch (site web personnel) . Évalué à  2 (+0/-0). Dernière modification le 03 avril 2024 à 18:03.
Bah tu prends pas la même définition du terme que celle de l'article alors.
Dans le deuxième paragraphe de ton commentaire je pense qu'on peut remplacer "IA" par une des technologies que j'ai mentionnées et, dans le contexte de l'époque, ça revient au même. Rien de très spécial je pense.
La différence que je vois surtout c'est que l'accès aux technologies sus-mentionnées s'est démocratisé assez rapidement. Alors que pour l'IA, avec le modèle actuel, il faut des resources informatiques que seul des grandes organisations peuvent se payer.
pertinent adj. Approprié : qui se rapporte exactement à ce dont il est question.
[^] # Re: tintamarre médiatique
Posté par antistress (site web personnel) . Évalué à  3 (+0/-0).
D'accord
[^] # Re: tintamarre médiatique
Posté par Thomas Debesse (site web personnel) . Évalué à  7 (+4/-0).
Il y a probablement trois ou quatre anachronismes dans cette phrase.
L’imprimerie a rendu obsolète le métier de copiste, c’est différent.
La rareté des livres n’était pas le produit d’un contrôle de l‘information, mais de la difficulté de les produire. Que les institutions qui produisaient ces livres à leur frais contrôle leur production est normal. Que la rareté de la ressource leur donnait de fait un pouvoir de sélection est inévitable. C’est de la gestion de ressources. Quand tu dois nourrir à vie des copiste, tu choisis ce que tu édites et tu priorise les ouvrages que tu juges essentiels. Que ce contrôle de fait entraîne des choix discutables, probablement, là où il y a de l’homme il y a de l’hommerie.
La notion même de droit d’auteur était d’ailleurs complètement étrangère aux moines copistes. Même l’idée de domaine-public est faible à côté de la conception chrétienne médiévale de la parole. Dans le christianisme tout homme est dépositaire (peut faire hériter intégralement ce dont il a hérité) de la parole, et la parole est Dieu (évangile de Jean, chapitre 1). Il n’y a pas de hiérarchie entre les hommes vis à vis de la parole (tout homme est égal devant Dieu), et la parole n’est pas qu’un domaine public, ce n’est pas qu’une chose commune, la parole est littéralement Dieu et la cause de toute création. La parole c’est littéralement le code source de toute chose créée : « Au commencement était le Verbe, et le Verbe était auprès de Dieu, et le Verbe était Dieu. Il était au commencement auprès de Dieu. C’est par lui que tout est venu à l’existence, et rien de ce qui s’est fait ne s’est fait sans lui. ». Le premier chapitre de l’Évangile de Jean écrit littéralement, « C’est par la parole que tout est venu à l’existence ». Et cet ouvrage, appartenant au corpus biblique, était donc parmi les ouvrages prioritaires des copistes médiévaux.
Le christianisme actuel est très imprégné des lumières et a donc perdu de vue une bonne partie de cette conception médiévale des choses, mais cette idée ressurgit parfois, comme par exemple sous la plume de Thérèse de Lisieux (19e siècle) quand elle écrit que si une première personne qui partage à une seconde personne une pensée reçue pendant l’oraison s’offusque que cette seconde personne partage à son tour cette même pensée comme si elle était la sienne, cette première personne serait comme un âne portant des reliques qui croit que les hommages que les hommes expriment autour de lui s’adressent à lui. C’est exactement la pensée chrétienne : ce que tu sais vient de Dieu et prétendre en être l’auteur c’est être autant stupide que prétentieux, et vouloir contrôler cette pensée, c’est vouloir contrôler Dieu.
Le droit d’auteur est une conséquence de l’imprimerie. Le besoin de contrôle de l’information, de contrôler ce que les autres éditent, c’est une conséquence de l’imprimerie. Par exemple l’Index (la liste historique d’ouvrages interdits par l’Église) est postérieure à l’imprimerie, elle est instauré au 16e siècle à l’occasion du concile de Trente. Gutenberg et l’imprimerie c’est le 15e siècle. Il a fallu que l’imprimerie rende obsolète les moines copistes chrétiens pour que des chrétiens qui n’étaient plus des moines copistes puissent commencer à établir un contrôle de l‘information.
La possibilité de ne plus être limité dans l’édition par la ressource a rendu possible de limiter l’édition par la loi, loi qui sera plus tard soumise au contrat social. Cela a permis de passer peu à peu de l’idée médiévale chrétienne où chaque personne est dépositaire de la parole, au concept de lumières où la relation intellectuelle devient asymétrique entre les « lumières » qui éclairent d’autres personnes qui sont donc « éclairés ». C’est d’ailleurs Beaumarchais, éditeur de Voltaire, qui est à l’origine en France de la première loi de droit d’auteur et qui est le fondateur de la Société des auteurs (aujourd’hui la SACD).
Il aura fallu attendre qu’un moyen de copie devienne encore plus économique (l’informatique) et surtout l’émergence de nouveaux besoin (exécution de code de manière répétée et reproductible, assemblage et réutilisation de parties de code) pour que le mouvement du logiciel libre éclose et que des personnalités comme Richard Stallman se servent du système légal du droit d’auteur tel que portées par les Lumières et de la notion de contrat social portées par les lumières pour rendre à nouveau possible la création d’un commun intellectuel, en se servant des armes de l’adversaire pour rendre la brèche inattaquable. La GPL comme les autres licences sont écrites avec les armes d’un système social et légal où le contrôle intellectuel est total et la conformité sociale fondamentale. C’est parce que le droit d’auteur donne à l’homme un contrôle de l’information total et inaliénable sur sa parole qu’il peut partager des parties de ce contrôle, et il reste le seul à pouvoir contrôler le partage des parties de ce contrôle, par le principe même du contrôle de l’information. Et c’est parce que la conformité sociale est fondamentale que les personnes qui ne sont pas l’auteur se soumettent au contrôle intellectuel total qui est utilisé par l’auteur pour leur partager des parties ce contrôle.
L’idée de moine copiste faisant partie d’un écosystème de contrôle de l’information est une somme d’anachronismes. La sélection des ouvrages était organique et la conséquence directe de la rareté, elle était nécessairement le reflet des priorités de ses acteurs. Ils copiaient ce qui leur paraissaient essentiel : livres religieux, traités de philosophie, de science, d’histoire… Ce n’est rien de plus que le travail d’un éditeur de sélectionner les ouvrages qu’il reproduit et publie. La rareté et le coût très élevé implique une très forte proximité entre fourniture et demande. Il faut remplacer la rareté par l’abondance pour commencer à penser le contrôle.
Par contre oui l’idée générale de ton commentaire est juste : l’imprimerie a mis en danger des métiers de copie et d’édition, l’informatique a mis en danger des métiers de secrétariat, de dessin, de calcul et d’autres choses, etc. L’IA ne fait pas différence dans certains domaines (par exemple la traduction).
ce commentaire est sous licence cc by 4 et précédentes
[^] # Re: tintamarre médiatique
Posté par orfenor . Évalué à  3 (+1/-0).
Pour être tout à fait clair, je ne parlais pas des travailleurs de la connaissance ou des professions intellectuelles mais des
et qui ouvrent l'article.
[^] # Re: tintamarre médiatique
Posté par Maderios . Évalué à  2 (+0/-0). Dernière modification le 03 avril 2024 à 11:01.
Cette condition d'expertise (sous-entendue technique) n'a guère de sens quand le sujet nous concerne de près, quand nos intérêts sont en danger. Ex, point besoin d'être expert.e en hydrologie pour craindre et anticiper une crue qui risque d'inonder ta maison. Autre exemple d'intérêts de personnes non expertes mis en danger par une "perturbation" nommée "IA":
Plus de 200 artistes alertent sur « une utilisation prédatrice » de l’intelligence artificielle dans la musique. (précision: de l'industrie musicale)
Pour résumer, ils craignent des imitations et des atteintes au droit d'auteur.
Ils veulent "mieux protéger la création et les droits des auteurs face à une menace qui peut « détruire l’écosystème de la musique » en répliquant notamment des voix célèbres"
# C'est pas un peu paradoxal ?
Posté par Tanouky . Évalué à  1 (+1/-1).
Normalement, l'IA devrait permettre aux gens intelligents (≠intellectuels, mais bon) de se poser toujours plus de questions, non ?
Plus de données traitées, filtrées, synthétisées = plus de données sur lesquels réfléchir et questionner ensuite…non ?
[^] # Re: C'est pas un peu paradoxal ?
Posté par Thomas Douillard . Évalué à  4 (+2/-1).
A l’instar de la prise de note au crayon versus la prise de note tapée, ou il semblerait que la prise de note écrite soit potentiellement meilleure pour l'apprentissage parce que comme on écris plus lentement on est obligé de tenter de synthétiser au lieux d'écrire bêtement ce qu'on entend, on peut se poser la question.
Ne lire que des synthèses pré-machées par des IAs et ne rien retenir c'est pas forcément se poser des question par l'appropriation des connaissances qu'on lit de manière plus détaillées. C'est intéressant si la synthèse est une porte d'entrée pour rentrer dans les détails, et c'est peut-être ce travail qui amène plus à se poser des questions intéressantes, il faut digérer le matériau plutôt que d'accepter la synthèse. Le risque avec les IAs c'est aussi que les synthèses sont produites en quantité industrielles et de passer d'un sujet à l'autre sans creuser. En ayant l'impression d'avoir appris un truc alors qu'on a pas compris en profondeur et qu'on en retiendra pas grand chose. C'est pas spécifique aux IAs, Wikipédia c'est déjà une ressource ou on peut se perdre en largeur …
Donc "Plus de données traitées, filtrées, synthétisées = plus de données sur lesquels réfléchir " n'est pas forcément une équation gagnante en pratique, parfois plus de données même synthétisées = stack overflow, et se questionner peut nécessiter une meilleure compréhension que de simplement lire une synthèse.
[^] # Re: C'est pas un peu paradoxal ?
Posté par Tanouky . Évalué à  1 (+0/-0).
Pour moi, tu démontres un peu mon point mais c'est parce que j'envisage une utilisation…euh…"intelligente" des IA. En gros, si je demande quelque chose à une IA, je peux aussi lui demander les sources, de résumer ses sources pour voir si je comprends la même chose qu'elle, de me présenter des résultats pour que je puisse conclure quelque chose…
Je me sers des prompts générationnels comme des moteurs de recherche "plus sympas et moins publicitaires" que ceux qu'on a actuellement…Avec une possibilité d'éclairer "facilement" des passages qui me semblent un peu flous/complexes/mal expliqués.
Je ne demanderai jamais à une IA de conclure quoi que ce soit je pense…
[^] # Re: C'est pas un peu paradoxal ?
Posté par Thomas Douillard . Évalué à  2 (+0/-1).
J'ai rarement "demandé les sources", mais des échos que j'ai pu en avoir dans ce sens là c'est pas forcément la joie et les trucs donnaient des "sources" qui ne corroboraient pas forcément ou ne disaient pas la même chose que ce que synthétisait le réseau.
[^] # Re: C'est pas un peu paradoxal ?
Posté par Tanouky . Évalué à  1 (+0/-0).
Et j'approuve le constat, d'où l'intérêt de les questionner sous toutes les coutures.
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.