Cher journal,
Quelques années après la création d’un compte sur ce site, je trouve l’envie et le courage de t’écrire pour la première fois, et de publier quelques idées désordonnées sur les ordinateurs, les êtres humains, les ias, et d’autres sujets.
*
Qu’attendons-nous de nos outils et de nos machines ? Nous en attendons quelques résultats précis, des modifications de la matière déterminées, des effets que l’on désire les plus prévisibles possibles, les mieux contrôlés possible. On attend du seau qu’il garde le liquide qu’on y verse, et du hachoir à viande qu’il hache la viande. Du seau qui fuit et du hachoir qui ne hache pas on dira : ils sont défaillants, ils ne permettent plus de réaliser ce pour quoi ils étaient conçus, ils ne permettent pas de modifier la matière de la façon prévue et souhaitée, il faut les réparer ou les jeter.
*
Les ordinateurs ressemblent aux autres outils. D’abord calculateurs, nous attendons d’eux qu’y circule l’électricité de façon déterminée pour que soient réalisés les calculs que nous souhaitons faire. Nous leur donnons des instructions, du code, et attendons d’eux qu’ils n’exécutent rien d’autre que les instructions que nous leur avons données. Puisque l’ordinateur doit être prévisible (il est conçu pour être prévisible), nous attendons de lui que les mêmes instructions donnent chaque fois les mêmes résultats, peu importe qui les exécute, quand on les exécute, avec quel ordinateur on les exécute.
*
Il me semble que nous attendons tout autre chose des êtres humains, en tout cas de ceux que nous aimons. Les rencontres les plus importantes de ma vie ont été celles qui m’ont amené à être ce que je ne m’attendais pas à être, à vivre ce que je ne m’attendais pas à vivre. Rencontrer pleinement quelqu’un, c’est se laisser entraîner dans des endroits où on n’aurait pas pensé allé, et même souvent dans des endroits dont on ne connaissait préalablement pas même l’existence. Rencontrer quelqu’un implique de prendre le risque de se laisser transformer dans des formes non-préméditées, à laisser de la place à l’inconnu.
*
L’art, à cet égard, a quelque chose de pleinement humain. L’œuvre d’art porte la trace de celui qui l’a conçue. Elle témoigne de la vision du monde particulière de son auteur, de la singularité de sa vie et de ses expériences. C’est pourquoi la rencontre avec une œuvre d’art peu emmener très loin de soi, et peut transformer celui qui la rencontre : elle rapproche de quelqu’un d’autre pourtant infiniment distant (je ne serai jamais cet autre). Comme pour les personnes, les œuvres d’art les plus marquantes sont peut-être celles qui nous emmènent le plus loin vers de l’inconnu.
*
La parole, même la plus quotidienne, partage de nombreux traits avec les œuvres d’art. Les paroles, pourtant toutes faites de la même matière (un même langage, une même langue commune à tout un groupe), portent la marque de la personne qui les prononcent, et l’identifient peut-être aussi sûrement que son adn ou que les empreintes de ses doigts. Elles distinguent un être unique qui ne peut être remplacé par aucun autre. Parler, écouter parler, n’a de l’intérêt que parce que nous ne savons pas d’avance ce que vont dire les personnes à qui nous parlons. Écouter parler entraîne vers l’inconnu.
*
Il existe désormais des machines qui essayent d’imiter la parole humaine (ia génératives). Ce sont pleinement des machines dans le sens où elles ont été créées par des humains, et sont utilisées par des humains, pour obtenir certains résultats. Les concepteurs de modèles de langages en attendent des résultats particuliers, et supervisent humainement l’entraînement de ces modèles pour obtenir ces résultats (cohérence, pertinence, notamment, mais sans doute aussi : visions du monde particulières). L’utilisateur des ia génératives, lui aussi attend certains résultats précis : il formule sa demande et attend une réponse adéquate. Il ne supporterait sans doute pas bien que l’ia parle la première, lui parle de sujets qui ne lui importent pas, ou réponde à des questions qu’il n’a pas posées.
*
Machines, pleinement machines, pourtant les ia sont conçues pour présenter certaines ressemblances humaines. Comme les êtres humains, l’ia est apparemment capable de produire une infinité de variations : chaque question peut produire une infinité de réponses différentes. Comme pour les êtres humains et pour les œuvres d’art, on attend des ia qu’elles soient capables de nous étonner (si nous connaissions toutes leurs réponses d’avance, il serait inutile de leur poser des questions). Nous étonner, mais seulement dans une certaine mesure : il faut que la réponse soit suffisamment proche de la demande pour que l’utilisateur ait le sentiment d’avoir été compris et exaucé.
*
Paradoxes d’une machine dont on attend à la fois qu’elle soit prévisible et pas entièrement prévisible.
*
Machines à répondre, il manque aux ia génératives l’initiative humaine qui permet de parler sans y avoir été invité, de parler sans demandes préalables.
*
Conglomérat, synthèse, et recomposition de milliards de paroles réellement prononcées par des êtres humains singuliers, ce que produisent les ia ne correspond à la parole de personne en particulier. Sorte de moyenne de paroles humaines, les ia ne gardent que ce qu’il y a de plus commun entre toutes ces paroles.
*
Écouter (lire) ce que produit l’ia, c’est écouter la part la plus commune de la parole humaine. Contrairement aux œuvres d’art, cette part commune ne mène à aucune expérience réellement singulière, ne mène pas à l’inconnu que représente une autre personne. Écouter les ia ne mène jamais très loin de soi. Il n’y a personne à y rencontrer.
# no body
Posté par vmagnin (site web personnel, Mastodon) . Évalué à 6 (+4/-0). Dernière modification le 06 novembre 2025 à 18:29.
Merci pour ce journal, je réfléchissais justement aujourd'hui au complémentaire : à la façon dont il faut s'adresser à ChatGPT & Co. On peut être poli : "Peux-tu faire ceci cela ?" (demande), "Je voudrais" (conditionnel), "Merci" (formule de politesse), etc. Ou on peut-être plus rude, lui donner des ordres : "Cherche ceci cela, fais ceci cela". Mais utiliser l'impératif est déjà problématique puisqu'on est toujours en train d'oublier qu'on a affaire à une machine.
Exit donc la deuxième personne du singulier, puisqu'il n'y a personne. S'il faut faire des phrases parce que l'outil a besoin de phrases comme point de départ, alors il faut simplement poser des questions : "Quel est le meilleur site en français consacré à Linux et aux logiciels libres ?" Il ne faut s'adresser à personne (au sens d'être vivant, oui je parle à mon chat et je continuerai de le faire).
A enseigner aux étudiants pour qu'ils prennent soin de leur santé mentale dans le monde qui vient.
[^] # Re: no body
Posté par syj . Évalué à 4 (+3/-0).
Vu que les IA sont entrainés avec des corpus de texte trouvé sur internet. Issue parfois de forum de discussion ou de twitter.
Je crois que:
Si tu es polie, tu auras plus de chance d'avoir la bonne reponse
Car c'est la reponse probable que tu aurais obtenu
A l'inverse,si tu es impolie. Tu risques d'avoir une reponse hasardeuse ou l 'equivalent RTFM.
[^] # Re: no body
Posté par Colin Pitrat (site web personnel) . Évalué à 6 (+4/-0).
Peut-être ou peut-être pas. L'explication paraît logique mais il n'est pas encore clair que l'effet soit vraiment là, ou en tout cas pas systématiquement et pas toujours dans le même sens.
J'encouragerais donc à la prudence épistémique…
[^] # Re: no body
Posté par vmagnin (site web personnel, Mastodon) . Évalué à 5 (+3/-0). Dernière modification le 07 novembre 2025 à 14:18.
Dans tous les cas, il ne faut pas être impoli avec les algorithmes. Être impoli, c'est pareil qu'être poli, ça présuppose qu'il y a quelqu'un dedans.
Je pense qu'il faut s'exprimer d'une façon neutre. Par exemple, poser la question (comme on la poserait sur le papier) sans s'adresser à quelqu'un (qui n'existe pas). Ou utiliser des verbes à l'infinitif : "Chercher ceci cela" comme on le ferait en pseudo-code. Ca fonctionne avec ChatGPT.
Ca demande un effort puisque les développeurs essaient de nous embarquer dans leur imitation game : ChatGPT tantôt me vouvoie, tantôt me tutoie, ce qui a tendance à m'entraîner à faire de même. Mais en fait personne ne me tutoie ou vouvoie et il n'y a personne que je puisse tutoyer ou vouvoyer, ni même insulter. Personne dans la coquille.
On a encore le choix d'utiliser ou non l'outil, probablement de moins en moins car il va s'infiltrer progressivement dans de plus en plus d'interfaces. Mais on peut refuser d'entrer dans le jeu des développeurs, qui en terme de santé mentale me semble discutable. Quitte éventuellement à obtenir des résultats un peu moins bon.
[^] # Re: no body
Posté par Big Pete . Évalué à 6 (+4/-0).
On peut voir ces chatbots comme une sorte de miroir magique et leur parler comme si on parlait à nous-même, sauf que l'image (et le discours) que renvoi le miroir en question n'est pas le notre, mais un reflet algorithmique et statistique du discours de tout le monde, plus ou moins trafiqué.
Dans tout les cas, le miroir, magique ou pas, n'a pas de plus de personnalité qu'un bout de ferraille ou qu'un morceau de verre.
ChatGPT, mon beau ChatGPT, dis-moi, qui est la plus belle ? ;-)
Faut pas gonfler Gérard Lambert quand il répare sa mobylette.
[^] # Re: no body
Posté par gUI (Mastodon) . Évalué à 4 (+1/-0).
J'ai cru voir passer un truc comme quoi Altman (ou Musk ? je sais plus…) demande à arrêter les politesses : ça prends du temps CPU pour rien (ça n'ajoute pas de contexte par exemple).
Mais perso je lui parle comme à un humain : c'est pour moi la meilleure façon d'expliquer mon pb puisque c'est celle que je pratique depuis toujours.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
[^] # Re: no body
Posté par Gil Cot ✔ (site web personnel, Mastodon) . Évalué à 2 (+0/-0).
Pour exposer tes problèmes, tu peux lui parler aussi comme un canard… ou ton psy…
“It is seldom that liberty of any kind is lost all at once.” ― David Hume
[^] # Re: no body
Posté par mrlem (site web personnel, Mastodon) . Évalué à 5 (+4/-0).
Sinon ils peuvent juste hardcoder comme réponse à "merci" => "de rien" ou "avec plaisir" (comme les humains en somme : on cherche rarement à répondre un truc intelligent à un merci). Et hop, on économise plein de puissance de calcul bien simplement qu'en cherchant à optimiser de la puissance de calcul .
En fait, plus généralement, je pense qu'il faut qu'on apprenne la flemme à ces moteurs :-)
[^] # Re: no body
Posté par thoasm . Évalué à 7 (+4/-0).
[^] # Re: no body
Posté par vmagnin (site web personnel, Mastodon) . Évalué à 5 (+3/-0).
Si Claude est flemmard, ça donnera un bel appel récursif. Ou comment exploser les IA.
[^] # Re: no body
Posté par thoasm . Évalué à 4 (+1/-0).
Plot twist : Humain est sous-payé par Elon Musk pour faire de l'apprentissage par renforcement à partir de rétroaction humaine et répond à un conseiller Mk Kinsey ou autre cabinet de conseil qui doit faire un dossier !
[^] # Re: no body
Posté par vmagnin (site web personnel, Mastodon) . Évalué à 3 (+1/-0).
Dossier commandé par Elon…
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.