Thomas a écrit 139 commentaires

Merci !
Question connexe : sais-tu si les LLM ont mené à des avancées intéressantes dans la recherche académique ? Ils servent à créer de superbes outils bavard et des sortes d'interfaces en langage naturel, mais sont-ils utiles théoriquement ?

Mouais.
Vite fait, la panique morale.

On verra bien comment feront les gens vraiment riches : mettront-ils leurs rejetons devant des profs semi-bots semi-chatgptés, ou devant des humains compétents ? La question ne fait pas l'ombre d'un doute.

oui
c'est nul
…

cf https://clement-martin.fr/2025/06/05/et-lia-alors/

Elle ne fonctionne pas encore.

Elle fonctionnera quand elle comprendra ce qu'elle raconte.
… et c'est pas demain la veille.

Je pense que l'auteur a édité les textes, pour harmoniser le style. Le fond est à charge et glaçant.

Indiqué plus haut dans les commentaires. Billet intéressant. J'aime l'idée de "remplir les trous de compréhension avec nos croyances" : l'IA est un sujet quasi-religieux.

Ca en parle.
… et agents IA aussi.
Hâte de voir les réponses.

Ca va commencer à se voir que toute cette histoire se ramène principalement à du FOMO. Hâte que cette bulle cesse … laissez-nous bosser avec vos données et nos maths et nos algos, et arrêtez de faire croire aux dissaïdeurs que de vieux bots semi-claqués sauveront le monde.

Marre.
Grrr.

J'ai à peu près ce setup depuis 15 ans, voire plus. Sauf le bluetooth. MPD + NCMPC + MALP avec la musique sur le NAS de la maison, ça fonctionne sans aucun souci. Actuellement, c'est un pi2 de base qui gère le tout. Il galère à decoder rapidement les flac, mais sinon mp3/ogg/opus c'est parfait.

Avec une carte son externe en USB, ça envoie du lourd dans les enceintes.

Ca serait une automobile qui, quand on appuie sur le frein, freinerait la majeure partie du temps.

Voilà.
Bien envoyé \o/

Je plussois des deux mains.

Oui.
Avec un sens certain de la formule.

Bon article cependant.
Plein de punchlines.

J'espère que nous sommes beaucoup à aimer développer, cependant.

… et le plaisir de coder ?
… et le plaisir de concevoir ses programmes ?
… et le plaisir de l'artisanat ?

Dans ces débats, je trouve qu'on occulte beaucoup l'activité de création, que ce soit au sujet des programmes ou plus généralement du texte. Il y a un parallèle. Je me moque de lire de dépêches AFP au style lisse et purement informatif, mais j'aime lire un papier ou un roman avec du style : est-ce la meme chose pour la programmation ? Un code que j'écris et que je dois maintenir, j'essaie de le concevoir et de le tourner d'une façon qui facilite son évolution et sa maintenance. Il faudra me convaincre que la génération est le bon outil pour ce faire.

Quant au vibe coding qui pullule maintenant sur les LinkedIN, comment dire ?

Un article qui fait le taf. Merci

Je ne suis pas prof, mec.
Et je ne cherche pas à convaincre qui que ce soit.
Je parle de mon expérience, ca fait 10 ans que je bosse avec ces algos.
Possible que je me trompe.

Je travaille suffisamment avec les algorithmes de ML pour savoir que c'est trop opaque et très sensibles aux données d'entrées. Quand un programme fournit une prédiction ou un résultat, que l'utilisateur ou le client me demande "pourquoi telle prédiction" ou "pourquoi tel résultat" et que tu lui réponds "aucune idée, ca doit être dans les données" … bah j'ai l'air d'un con. Idem sur les sorties des LLM, bien entendu. Tout ca, c'est marrant, on rigole bien, ca fait des conférences rigolotes et des interventions devant des gens sérieux, mais au final, je trouve que le ML est à double tranchant - et hors de question que j'en fasse l'alpha et l'omega de l'informatique.

il y a forcément un moment où changer un seul pixel va te faire changer de catégorie.

Oui.
Mais ce n'est pas le sujet.
Il y a foule d'attaques où changer des pixels de manière imperceptible à l'oeil (=le chat reste un chat) fait changer la catégorie predite. La classification par NN marche super bien mais reste totalement incompréhensible.

(random forest, MCMC, simulated annealing, k-means)

On fixe une graine (seed), on fixe l'ordre des données et le programme devient deterministe C'est un pré-requis nécessaire quand on veut comparer les perfs d'un algorithme d'apprentissage. Sinon on est en aveugle.

LLM etc

Je ne demande rien aux LLM. Ces programmes sont impressionnants, parfois utiles et souvent rigolos. Je ne vois pas le lien avec l'intelligence humaine, je ne suis pas compétent sur le sujet.

Beaucoup de choses sont plus stables qu'un humain.
Une chaise à trois pieds, par exemple.

Par contre, une sortie de LLM n'est pas stable. La sortie d'un réseau de neurones n'est pas stable, un pixel suffit à changer une classification. Les exemples pullulent. En informatique, on aime bien la stabilité et la reproductibilité, non ?

Ça marche pas mal, oui.
Mais pas tout le temps … et c'est pas forcément stable.

C'est vieux.
Vous l'avez probablement déjà lu 17x, dont 18x ici.

Voici un texte écrit par l'auteur de TAOCP sur ChatGPT version 2023

Preface: Since one of today's popular recreations is to play with chatGPT, I decided on 07 April 2023 to try my own little experiment, as part of a correspondence with Stephen Wolfram. The results were sufficiently interesting that I passed them on to a few friends the next day, and I've also been mentioning them in conversation when the topic comes up. So I was asked to post the story online, and here it is (lightly edited)!

Le texte entier est ici

Conclusion du pape.
Je vous laisse traduire.

Well this has been interesting indeed. Studying the task of how to fake it certainly leads to insightful subproblems galore. As well as fun conversations during meals.

I find it fascinating that novelists galore have written for decades about scenarios that might occur after a "singularity" in which superintelligent machines exist. But as far as I know, not a single novelist has realized that such a singularity would almost surely be preceded by a world in which machines are 0.01% intelligent (say), and in which millions of real people would be able to interact with them freely at essentially no cost.

I myself shall certainly continue to leave such research to others, and to devote my time to developing concepts that are authentic and trustworthy. And I hope you do the same.

J'ai lu un avis de Linus du meme ordre, moins littéraire et plus direct : "90% de l'IA c'est du marketing, attendons 5 ans histoire de voir ce que ca donne".

Alors vas-y, juste pour vérifier : donne-nous un exemple, une tâche intellectuelle qui est à la portée de tout être humain pris au hasard dans la rue mais pas d'un LLM.

Ils n'ont aucun humour.
Ils ne comprennent pas les règles des dames.
Ils ne savent pas reagir en dehors de leur contexte d'apprentissage.

Rappelons qu'il n'existe pas de définition de l'intelligence.

En fait, la discussion est un peu stérile car même les chercheurs ne comprennent pas bien ce qu'il se passe dans un LLM ou un NN. Exemple intéressant ici. La situation est tres confuse, et il y a une grosse part de psychologie dans cette histoire.

Oui, il faut tout le process pour reproduire. Et bien sur, les recettes magiques et trucs tordus qu'on fait subir aux données brutes.

Ok

En fait, je n'ai pas les idées claires sur la liberté d'un programme de ML. A priori, je dirais qu'on doit pouvoir tout reproduire localement, car l'intérêt (l'essence) du programme ML entraîné réside dans son … entraînement. S'il n'est pas reproductible, il n'est pas libre. Donc il faut tout le processus + les données.

Dans le cas du renforcement, je dirai pareil : il faut le processus total pour régénérer P, =P1. Mais ça se discute ? Disons que dans les deux cas, P1 + D (si ≠{}) sont nécessaires.

Donc il y a deux choses différentes :
- le programme entraîné, ~binaire
- le processus d'entraînement
On sera peut-être d'accord. Il faudrait repenser cette notion de logiciel libre dans le cas du ML, ça n'est probablement pas comparable.

Maintenant, on se heurte au problème de la boite noire : faire de la retro-ingénierie sur un NN c'est complexe, voire impossible. C'est peut-être aussi une limite - ou hors-sujet :)