L'auteur nous dit que comprendre les erreurs d'un Llm ne serait pas intéressant,en tout cas moins que de comprendre celles d'un humain. J'aurais la position contraire : dans la mesure où les Llm doivent s'avérer des outils d'avenir, comprendre et partant pouvoir prévenir, leurs erreurs pourrait bien faire la différence entre pratiquer les sciences du langage en mode artisanal, et le faire à l'échelle industrielle.
Le soucis, c'est que par nature, la réponse de l'IA n'a pas de sens, qu'elle semble juste ou fausse.
Les LLM ne produisent pas du sens, ils essaient très fort de produire un contenu qui ressemble à ce que le requérant attend.
Les réponses n'ont pas de sens, qu'elles ressemblent à la «bonne réponse», ou qu'elles en soient très éloignées, donc tenter de comprendre les erreurs est vain.
Ou alors, on peut considérer que "le sens" est non pas une propriété essentielle d'une chose, mais une propriété émergente. Alors de la même manière qu'il serait vain de chercher du "sens" dans l'activation de tel ou tel neurone biologique, de telle ou telle euristique apprise durant notre apprentissage (aka la vie), ça l'est autant de le faire avec des LLM.
Rien n'a de sens par essence. On en donne, du sens.
C'est un peu l'idée que j'avais intuitivement avant les LLM, idée qui se voit renforcée ces dernières années, du coup…
N'est-ce pas justement ce non sens ontologique qui en fait l'intérêt : comment d'un objet manifestement dénué de raison, est-on capable de faire un assistant de travail performant plutôt qu'une machine à déblatérer des inepties ?
Ma petite vie : Pour mon travail, j'ai commencé récemment à utiliser un modèle de langage comme assistant. Faire confiance au LLM est manifestement dramatique. Mais en me familiarisant avec l'outil, j'ai réussi à l'employer pour produire quelques énoncés. Là où avec GNU/Linux + LaTeX il me fallait de l'ordre d'une semaine, avec cet outil, il me faut environ deux jours (désormais). Le gain est assez substantiel. D'autant que la machine détecte assez efficacement pas mal d'étourderies. Je suppute qu'en améliorant ma méthode de travail, il soit possible de devenir plus efficace… Et probablement que des spécialistes du langage seraient particulièrement à même de développer une méthodologie rationnelle d'emploi des LLM. Pour le moment, c'est apprentissage sur le tas (Hype en anglais :-).
# Pas tout à fait d'accord
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 4 (+1/-0).
L'auteur nous dit que comprendre les erreurs d'un Llm ne serait pas intéressant,en tout cas moins que de comprendre celles d'un humain. J'aurais la position contraire : dans la mesure où les Llm doivent s'avérer des outils d'avenir, comprendre et partant pouvoir prévenir, leurs erreurs pourrait bien faire la différence entre pratiquer les sciences du langage en mode artisanal, et le faire à l'échelle industrielle.
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: Pas tout à fait d'accord
Posté par Barnabé . Évalué à 5 (+5/-1).
Le soucis, c'est que par nature, la réponse de l'IA n'a pas de sens, qu'elle semble juste ou fausse.
Les LLM ne produisent pas du sens, ils essaient très fort de produire un contenu qui ressemble à ce que le requérant attend.
Les réponses n'ont pas de sens, qu'elles ressemblent à la «bonne réponse», ou qu'elles en soient très éloignées, donc tenter de comprendre les erreurs est vain.
[^] # Re: Pas tout à fait d'accord
Posté par François Chaix (Mastodon) . Évalué à 7 (+6/-1).
Ou alors, on peut considérer que "le sens" est non pas une propriété essentielle d'une chose, mais une propriété émergente. Alors de la même manière qu'il serait vain de chercher du "sens" dans l'activation de tel ou tel neurone biologique, de telle ou telle euristique apprise durant notre apprentissage (aka la vie), ça l'est autant de le faire avec des LLM.
Rien n'a de sens par essence. On en donne, du sens.
C'est un peu l'idée que j'avais intuitivement avant les LLM, idée qui se voit renforcée ces dernières années, du coup…
[^] # Re: Pas tout à fait d'accord
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 2 (+0/-1).
N'est-ce pas justement ce non sens ontologique qui en fait l'intérêt : comment d'un objet manifestement dénué de raison, est-on capable de faire un assistant de travail performant plutôt qu'une machine à déblatérer des inepties ?
Ma petite vie : Pour mon travail, j'ai commencé récemment à utiliser un modèle de langage comme assistant. Faire confiance au LLM est manifestement dramatique. Mais en me familiarisant avec l'outil, j'ai réussi à l'employer pour produire quelques énoncés. Là où avec GNU/Linux + LaTeX il me fallait de l'ordre d'une semaine, avec cet outil, il me faut environ deux jours (désormais). Le gain est assez substantiel. D'autant que la machine détecte assez efficacement pas mal d'étourderies. Je suppute qu'en améliorant ma méthode de travail, il soit possible de devenir plus efficace… Et probablement que des spécialistes du langage seraient particulièrement à même de développer une méthodologie rationnelle d'emploi des LLM. Pour le moment, c'est apprentissage sur le tas (Hype en anglais :-).
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.