Journal L'impact du LLM sur l'Open-Source

8
19
sept.
2025

Sommaire

Les LLM, c'est bien connu, se sont en partie instruit en pompant largement le code open-source. Mais en retour, je me fais la réflexion que les LLM et tout spécialement la génération de code pourraient avoir un impact important sur l'ensemble du code open-source.

Mon constat

Il n'est plus à démontrer que les LLM impactent énormément le travail des informaticiens et tout spécialement le développement de logiciel. En effet, en quelques instruction, un LLM génère de petits programmes fonctionnels, parfois au prix de quelques aller-retours. Mais l'on peut faire bien plus mieux avec les agents et toucher aussi aux grosses bases de codes. J'ai très récemment découvert Manus et avec lui je lui donne mon repo Github, il le clone, trouve tout seul une configuration de test et me résout 1 à 1 tous mes problèmes, il ajoute toutes les fonctionnalités voulu. Bon ok, il faut encore qu'à la main j'ajuste quelques détails mais c'est sans doute en partie car j'ai la version gratuite. Il y a toujours besoin d'avoir une compréhension du codage et technique, mais clairement, pour le soft sur lequel je travail, je suis novice sur le framework et il me trouve des plugins avancés que je n'aurais jamais été cherché seul. Résultat, le rendu final est meilleur, plus rigoureux et plus sécurisé mais aussi plus complexe et lourd (En gros, moi j'aurais fait un select, il utilise un ORM, je n'aurais pas checké aussi bien tous les champs… ).

Conséquences

Cela a un impact sur le code que je produit, globalement plutôt en bien même si aussi, il peut s'y glisser du code impropre (malware? plus surement du code mort ou inefficace). Et ce code va se retrouver dans mon dépôt, puisque c'est un soft open-source.

On va donc voir sans doute de moins en moins de code simple à l'arrache car clairement, si certains développeurs l'utilisent avec parcimonie, ce n'est pas le cas des néophites. D'ailleurs quel intérêt y aurait-il à rendre open-source votre utilitaire qui tiens en 1000 lignes de code dans un seul fichier quand avec une simple description, n'importe qui peut le refaire?

Et retour à l'envoyeur, on va pour autant, sans doute voir de plus en plus de logiciels open-sources. Ils seront de bonne qualités mais aussi relativement mal conçu. J'entends par là, que comme c'est facile à faire, plus de monde va sortir son logiciel pour son besoin mais ne va pas chercher à en faire une bonne brique simple, configurable et adaptable. Dis autrement, faire un serveur web, c'est assez facile. Mais faire un serveur web comme Apache capable de faire tourner PHP, Java ou d'autres, capable de faire proxy ou reverse-proxy d'une simple configuration et même capable d'en faire plusieurs en même temps, c'est autrement plus complexe à concevoir. Et d'un autre côté, pourquoi faire un outils qui sert à tout quand on trouve tous les outils séparément? Cela ne saute pas aux yeux, mais l'intérêt est immense d'avoir un Linux qui boot sur tous les PC et serveurs et même sur l'embarqué. C'est plus simple a retenir et plus simple à trouver.

Ironie de l'histoire, dans cette profusion, ce sera difficile de s'y retrouver alors on sera sans doute dépendant des suggestion d'un LLM pour trouver le logiciel qui fait ce que l'on veut faire. Et on le saura d'autant plus que l'on aura sans doute perdu en partie les compétences pour comprendre l'ensemble du problème et des solutions possible. Moi même, pour créer mon logiciel, j'ai voulu partir d'un logiciel open-source et j'ai demandé à un LLM.

Cette complexification croissante, me fait penser, qu'avant internet, la doc qu'on disposait pour coder tenait dans le man pour C, et dans la Javadoc que l'on avait téléchargé pour Java. Forcément, on utilisait pas 36 dépendances dont on avait pas autant connaissance. Les soft était simple et pourtant l'assembleur était déjà devenu trop compliqué (CISC remplaçait RISC avec des jeux d'instruction allongés et paramètres à rallonge).

Et au delà

Pour aller plus loin, j'aimerais reprendre la discution que j'ai lancé ici. Clairement le langage de programmation ne disparaitra pas car c'est le seul moyen de définir un logiciel de manière précise. Cependant il est évident que l'on ne rentrera plus autant dans le code un peu comme les mécaniciens ne rentrent plus dans les détails du moteur, ils changent toute la pièce défaillante. D'ailleurs les informaticiens eux même ne rentrent plus dans l'Assembleur (sauf très rare exceptions). Par contre je ne crois pas que l'on va continuer à s'ammuser à multiplier les langages de programmations sans un intérêt technique clair. J'entends par là, que certes Rust par exemple apporte une vrai sécurité en plus, surtout si c'est un LLM qui programme. Mais bon nombre de langages ne sont là que car ils sont "sympa" : un paradygme différent pour exprimer plus simplement les choses, une syntaxe plus explicite, tout ce dont on se fiche pour un LLM. Un peu comme on a arrêter de sélectionner les cheveaux de traits (on les garde pour le patrimoine et de très rare usages).
Bien sûr cela ne veut pas dire qu'il n'y aura pas des gens à s'amuser à en creer comme certains crée des ordinateur dans des jeux mais cela n'a aucun intérêt pratique.

Conclusion

Je me restreint, car le sujet est vaste et je suis tenté de détailler plus au risque de décourager le lecteur. Je ne doute pas que les commentaires seront passionnés, mais on en a besoin ;) . L'IA va changer le monde et sans doute affecté notre monde open-source. J'espère seulement qu'elle ne se fera pas au détriment de notre idéal.

  • # Bis Repetita

    Posté par  (site web personnel) . Évalué à 8 (+6/-0).

    Outre les "Les LLM, c'est bien connu" … "Il n'est plus à démontrer" … il y a une contradiction entre ta propre expérience et ce qu'il est connu que font les LLM.

    Lorsque tu dis :

    et il me trouve des plugins avancés que je n'aurais jamais été cherché seul

    plugin : il remplace du code à générer par des dépendances (ça peut être très bien), donc en théorie, il t'ÉVITE de coder.

    Maintenant, quelques questions :

    1. Tu n'aurais pas pu trouver ces plugins via un classique moteur de recherche, sans les LLM ?

    2. Le LLM t'es t-il toujours aussi utile après t'avoir montrer ses bouts de ficelle ? Son inspiration t'apporte t-elle toujours autant maintenant que tu es moins béotien ?

    3. Le LLM site t-il ses sources ? Donc il te permet de t'inspirer de bonnes sources, et aussi de vérifier que le code qu'il répète (plus ou moins) est bien compatible avec ton choix de licence ?

    De ce que j'observe, les LLM aident les débutants, ou dans certains cas rébarbatif, mais la profitabilité se réduit grandement lorsque tu connais un peu le cadre.

    I use Arch BTW

    • [^] # Re: Bis Repetita

      Posté par  . Évalué à 7 (+8/-2).

      De mon expérience (développeur et responsable d'une dizaine d'autres développeurs, qui utilisent tous l'IA à des niveaux différents), c'est plutôt le contraire.

      En gros, l'IA me remplace presque totalement le moteur de recherche (et poser une question sur stackoverflow), et ça me fait gagner un temps assez conséquent. Là où avant je devais adapter ma recherche par rapport à l'outil, ici, je simplifie le problème au maximum et je pose ma question en contextualisant à l'IA. Le plus souvent, j'ai ma réponse ou une première piste de réflexion et quand ça n'est pas le cas, je réexplique les choses d'une autre manière.
      Ça n'est qu'un outil (puissant) parmi d'autres de ma panoplie, mais ça ne remplace pas une documentation ou un article détaillé sur un sujet bien précis, quand j'ai besoin qu'on m'explique comment les choses fonctionnent.

      Par contre, pour les débutants (ou les "mercenaires" du code qui font ça sans passion, ce qui n'en fait pas des gens inintéressants), ils vont avoir quelque chose qui fonctionne au départ, puis les problèmes vont s'accumuler au fur et à mesure et ils ne vont pas comprendre ce qu'ils font (la plupart ne font qu'exécuter). Mais est-ce que ça change vraiment par rapport à avant ? La finalité reste la même, seul les outils changent.

      De ce que je vois de l'IA, c'est comme internet à son époque. Pour schématiser vraiment très grossièrement, ça va rendre les gens intelligents plus intelligents et les gens bêtes plus bêtes. C'est un peu triste mais c'est le constat de fond que je pose pour le moment.

    • [^] # Re: Bis Repetita

      Posté par  (site web personnel, Mastodon) . Évalué à 3 (+2/-0).

      1. Si j'aurais pu trouver, mais je n'aurais pas bien cherché car je sais faire sans. Je sais faire un select/update, je sais mettre des balises . En fait, je l'avais déjà constaté dans VSCode avec le "peu" que fait Copilote en version gratis. Il me suggère du code et souvent il fait des check que j'aurais laissé à plus tard si j'y pensais.

      2. Le LLM ne me fait pas que montrer des bouts de ficelles. Il fait tout. Alors je retouche de temps en temps car je peaufine un détail et comme je n'ai pas beaucoup de crédit, j'avance seul entre 2 retouche.

      3. Le LLM ne site pas ses sources, mais clairement j'apprends grâce à lui et je progresse bien plus vite. J'apprends des plugins et j'apprends des best-practices ou devrais je dire le code standard. Concrêtement je fais du Svelte en Node, je ne sais pas si en Node on met du snake_case ou du CamelCase.

      Quand tu connais le cadre, c'est tout autant utile car cela évite les cas rébarbatifs. Typiquement pour faire un formulaire et reprendre tous les champs, le LLM ezst imbatable. Ensuite, CoPilote est génial pour quelqu'un qui sait programmer. C'est une super auto-completion. Il te permet de rajouter du debug en un instant, il te permet de mettre des comentaires digne de ce nom, de faire des bout de code, et même de faire des correction plus rapide (tu commence a corrigé un code, qu'il faut corriger sur 10 occurences, et lui il comprends ce qu'il faut faire et te fais les suggestions…)

      Sous licence Creative common. Lisez, copiez, modifiez faites en ce que vous voulez.

      • [^] # Re: Bis Repetita

        Posté par  (site web personnel) . Évalué à 7 (+6/-1).

        Perso j'ai totalement désactivé la complétion de code par l'IA (je garde les templates et la complétion classique). Certes, pour les traces de debug c'est l'un des intérêt, pour les commentaires, sans doute (les templates me suffise), mais je perds plus de temps à corriger un truc qui à l'air bon mais qui ne l'es pas (80 % du temps) que de le faire directement…

        Puis je pollue déjà énormément en codant, je ne souhaite pas en rajouter.

        I use Arch BTW

        • [^] # Re: Bis Repetita

          Posté par  . Évalué à 7 (+5/-0).

          Ça devrait être la première raison de ne pas utiliser de LLM, même juste pour s'amuser.

          • [^] # Re: Bis Repetita

            Posté par  (site web personnel, Mastodon) . Évalué à 0 (+0/-1). Dernière modification le 19 septembre 2025 à 22:21.

            Ok, mais on s'en fiche un peu que vous utilisiez ou non les LLM. Il est fort probable, que dans un avenir relativement proche, il sera utilisé, même si ce n'est pas par vous, par la génération de codeur suivante. Et il aura forcément un impact sur la base de donnée de logiciel open-source.

            Sous licence Creative common. Lisez, copiez, modifiez faites en ce que vous voulez.

            • [^] # Re: Bis Repetita

              Posté par  . Évalué à 6 (+4/-1). Dernière modification le 19 septembre 2025 à 23:01.

              Et il aura forcément un impact sur la base de donnée de logiciel open-source.

              Au delà du code source, à long terme, quels impacts aura la croissance continue de contenus générés par IA ?

              C’est ce contenu qui alimentera les futures LLM et autres modèles IA ?

              Que vous évoque l’image d’un serpent qui ingurgite sa propre queue ? (Vous avez quatre heures, et l’interdiction de demander à Chatmini, Gruïk ou GemPT)

              En question subsidiaire pour les plus ingénus : comment imaginez-vous l’avènement de la metaIA ?

  • # Quelques typos

    Posté par  (site web personnel) . Évalué à 3 (+2/-1).

    En effet, en quelques instruction*S*
    toutes les fonctionnalités voulu*ES*
    néophYtes
    Ils seront de bonne qualité~s~ mais aussi relativement mal conçu*S*
    Di*t* autrement
    discution -> discussion
    paradygme -> paradigme
    Un peu comme on a arrêt*é*
    comme certains créeNT des ordinateurS
    je me restrein*s*
    L'IA va changer le monde et sans doute affecte*R*

    Mais l'on peut faire bien ~plus~ mieux
    J'ai un doute sur celle là, volontaire ou pas?

  • # La loi de Kernighan

    Posté par  (site web personnel, Mastodon) . Évalué à 10 (+15/-0).

    La loi de Kernighan:

    Debugging is twice as hard as writing the code in the first place. Therefore, if you write the code as cleverly as possible, you are, by definition, not smart enough to debug it.

    Débugger du code est deux fois plus difficile que d'écrire ce même code. Donc, si vous écrivez du code aussi astucieux que possible, par définition, vous ne serez pas assez malin pour le débugger.

    Bon courage avec du code généré que vous n'avez même pas écrit et qui reprend toute l'intelligence collective d'Internet sans discernement, donc.

    En fait dans mon travail je dirai même que c'est complètement à côté de la plaque. Écrire du code c'est peut-être 1 à 10% du travail. Ce qui prend du temps, c'est d'écrire une spécification, de se mettre d'accord avec les clients sur ce qu'on doit faire, de vérifier que le code fait bien ce qu'on a dit, etc. Dans ce travail, la rédaction sous forme de code est un exercice pour s'assurer que on a pas oublié un cas tordu, que tout est bien formalisé. La structure des langages de programmation est là pour ça. Ça me semble donc incompréhensible de passer par un LLM pour se dispenser de cette formalisation et rester dans le flou du langage naturel. Je ne vois pas comment on peut aller au-delà d'un code qui marche "à peu près" ou "presque comme il faut". Et quand on en est là, il reste encore 90% du travail à faire.

    • [^] # Re: La loi de Kernighan

      Posté par  (site web personnel, Mastodon) . Évalué à 1 (+4/-4). Dernière modification le 19 septembre 2025 à 09:11.

      Dans ton cas peut-être, sauf que si le soft est bien spécifié le LLM sera encore plus efficace et cela sera facile de le relire. En outre, le LLM peut t'aider a rédiger et justement à ne rien oublié dans les spécifications (il le fait dans le code, et le langage il maitrise mieux) mais ce n'est pas mon propos. Je parle ici des bases de code open-source, je ne pense pas que ce soit le cas du tiens mais je pense que tes commanditaires, sont les premier à s'intéresser à l'IA pour te remplacer ;) .
      Mais ce que tu décris c'est exactement ce que je dénonce : un soft propre, efficace mais mal conçu. Effectivement, si en amont tu ne le conçoit pas bien, il va faire ce que tu veux mais juste ce que tu veux…

      Je pense que l'IA est un excellent assistant, mais qu'il faut comprendre derrière ce que l'on fait.

      Sous licence Creative common. Lisez, copiez, modifiez faites en ce que vous voulez.

      • [^] # Re: La loi de Kernighan

        Posté par  . Évalué à 3 (+0/-0). Dernière modification le 19 septembre 2025 à 23:13.

        un soft propre, efficace mais mal conçu.

        T’as un exemple en tête ?

        Je pense que l'IA est un excellent assistant, mais qu'il faut comprendre derrière ce que l'on fait.

        Dans le cas où l’IA te fournit un code de prime abord plus efficace, meilleur, mais que tu ne le comprends pas, que fais-tu (et pourquoi) ?

        • [^] # Re: La loi de Kernighan

          Posté par  . Évalué à 2 (+1/-0).

          Lui demander d'expliquer le code ?

        • [^] # Re: La loi de Kernighan

          Posté par  . Évalué à 4 (+1/-0).

          T’as un exemple en tête ?

          Moi oui, je lui avais demandé de me faire un logiciel qui écoutait le presse papier pour lires des données tabulaires, puis lui ait fait ajouter des filtres sur les données (bon je passe les quelques aller/retours avec les échange sur ce qui marche pas)

          1) elle m'a fait un scan périodique du presse papier plutôt qu'implémenter un listener
          2) elle m'a mis dans un seul fichier le tableau, son modèle et les filtres, laissant un mélange infâme de plats de spaghetti que les pastafariens n'auraient pas renier, et même élevé l'IA au niveau de prophète devant une telle chose.
          3) elle a été incapable de séparer modèle/filtre/représentation, proposant au mieux des squelettes a la démerde toi ou des fichiers incapable de compiler.

          Dans le cas où l’IA te fournit un code de prime abord plus efficace, meilleur, mais que tu ne le comprends pas, que fais-tu (et pourquoi) ?

          Deuxième exemple, sur un tri de dépendance, une classe à un set d'objet devant s'exécuter avant lui elle me propose en première solution un bête sort( (a,b) if( a dépend de b ) -> 1, si (b dépend de a) -> -1 sinon 0.

          ça ne marche pas car l'ordre n'est pas total. Je luis fait remarquer et elle me sort l'artillerie lourde : un tri topologique. Pour un truc qui ne dépassera pas 10 dépendances on est dans l'overkill, et comme y'a pas de bibliothèque pour gérer ce cas, (ou en tout cas pas proposé), on se retrouve avec beaucoup de code pour un truc qui se fait en 15 lignes. (mise de toutes les classes sans dépendance, puis on itère sur les classe dépendante, si leur dépendance sont présente on les ajoute (et on retire du tas à ajouter), si on a fait une boucle sans rien ajouter -> exception (dépendance cyclique))

          Ici la simplicité du code prime.

          Il ne faut pas décorner les boeufs avant d'avoir semé le vent

    • [^] # Re: La loi de Kernighan

      Posté par  . Évalué à 1 (+1/-1). Dernière modification le 19 septembre 2025 à 09:25.

      Je ne vois pas comment on peut aller au-delà d'un code qui marche "à peu près" ou "presque comme il faut"

      C'est en soit pertinent, sauf que tu pars d'un pré-supposé qui, à mon avis, ne tiens pas : la majorité des personnes qui décident de la qualité du code aurait à cœur de fournir un travail sérieux.

      À mon avis ce n'est pas le cas. J'irai même jusqu'à dire que c'est anti-capitaliste. Vu que les 80~90% sont plus facile à fournir et procure du rendement, il vaut mieux accumuler ces 80-90% sur plusieurs produits que d'essayer d'en fournir un à 100%.

      Dans un monde capitaliste bien sûr.

      • [^] # Re: La loi de Kernighan

        Posté par  (site web personnel, Mastodon) . Évalué à 4 (+1/-0).

        Je n'ai pas précisé que je travaille sur des systèmes embarqués peu connectés, et donc un bug ça peut vouloir dire envoyer des gens dans des endroits à des centaines de kilomètres de la ville la plus proche, sur plusieurs continents, parfois à plusieurs heures ou jours de marche ou en hélicoptère parce qu'il n'y a pas d'autre accès possible, pour aller remettre le truc en route.

        (Quand ce n'est pas du code embarqué dans un satellite, ou là, le satellite pourrait tout simplement devenir inutilisable).

        J'imagine que tout le monde ne travaille pas avec de telles contraintes. Mais dans mon cas, le code qui marche à peu près, ça n'est pas suffisant. Et on laisse déjà passer suffisament de bugs comre ça sans avoir à passer par des LLM. En général on les intercepte avant que les versions ne soient trop deployées…

        • [^] # Re: La loi de Kernighan

          Posté par  . Évalué à 3 (+0/-0). Dernière modification le 20 septembre 2025 à 00:43.

          systèmes embarqués peu connectés

          En dehors de l’exemple du satellite que tu cites, de quoi s’agit-il ?

          • [^] # Re: La loi de Kernighan

            Posté par  (site web personnel, Mastodon) . Évalué à 3 (+1/-0).

            de quoi s’agit-il ?

            Une station météo ancrée au milieu d'un océan ?

          • [^] # Re: La loi de Kernighan

            Posté par  (site web personnel, Mastodon) . Évalué à 10 (+8/-0).

            Plusieurs différents hrojets, j'ai par exemple travaillé sur des réseaux de talkie walkie avec des antennes relais qui sont déployées en fonction des endroits où il y a une bonne réception radio et pas en fonction de l'accessibilité routière; ça peut être également des projets déployés sur des sites industriels, où il y a plein de monde autour, mais qui ne sont pas des personnes à qui on veut donner accès à l'équipement en question (je rentre pas dans les détails, j'ai signé un NDA).

            En fait, même si c'était une bête machine à laver, une fois que tu l'as vendue à un client, c'est difficile d'envoyer quelqu'un chez lui pour installer une mise à jour de firmware. Surtout si tu en as vendu plusieurs millions.

            Dans mon cas,si on a pas trop foiré les choses, on peut faire des mises à jour à distance. Mais tout le code et la configuration permettant de se connecter à Internet et recevoir des mises à jour est assez critique.

            Et de façon générale dans les systèmes embarqués, si tu fais un contrôleur de moteur (de voiture, d'avion, de train, de process industriel, peu importe) et qu'il fonctionne bien 99% du temps, si tu utilises la voiture (avion, train, etc) tous les jours, statistiquement, au bout de 3 mois (100 jours) tu as une panne. Si tu as vendu 100 voitures (avions, trains, bref t'as compris) tu en a une en panne par jour. Si tu en as vendu 100000 ou plus, je te laisse faire le calcul.

            Et les LLM,actuellement, ils ne sont pas bons dans 99% des cas, loin de là.

  • # concernant les chevaux

    Posté par  . Évalué à 2 (+2/-1).

    on a aussi garder les chevaux de trait, simplement car il y a plus de viande dessus, et c'est pour les manger :)

  • # Mon experience avec les LLM est toute autre....

    Posté par  . Évalué à 6 (+4/-0).

    La plupart du temps je finis avec une tension arterielle à 19 parce que cette saleté passe son temps à :
    - inventer des besoins que je n'ai pas
    - changer et modifier des trucs que je ne lui ai pas demandé lorsque je lui demande des corrections de code
    - me supprimer des fonctionnalités qui ne marchent pas, plutôt que de corriger le problème
    - spécialiste du "bottage en touche" : quand un truc ne va pas elle va chercher des contournements débiles plutôt que de proposer de l'analyse approfondie et de régler le problème.

    Alors oui, je l'utilise : bien souvent pour me generer des snippets de code lorsque j'ai un besoin et que je ne sais pas trop par ou commencer, mais au final, le code généré certes marche, mais c'est souvent du code dégueux, code bateau, et peu élégant.

    Une fois, j'ai laissé le LLM prendre le contrôle de la génération de code terraform parce qu' "il fallait aller vite" pour ajouter des fonctionnalités : au final, non seulement les fonctionnalités ajoutées ne fonctionnaient pas comme attendu, mais en plus de ça, mon code avait été modifié et ne marchait plus …

    Perso, quand je vois ça, quand je vois aussi certains passer leur temps à faire du copier/coller de code dégueux issu des LLM, j'ai peur. Attention, je ne dis pas que l'IA est inutile, mais je remarque juste qu'elle est survendue, que bien peu de gens ne savent l'utiliser et se reposent dessus sans réfléchir.

    • [^] # Re: Mon experience avec les LLM est toute autre....

      Posté par  (site web personnel, Mastodon) . Évalué à 2 (+1/-0).

      Ouais mais ca évolue vite. Et Manus test ce qu'il génère (Il y en a sûrement d'autres) , et retourne à la tâche pour avoir quelques chose qui marche…

      Sous licence Creative common. Lisez, copiez, modifiez faites en ce que vous voulez.

      • [^] # Re: Mon experience avec les LLM est toute autre....

        Posté par  . Évalué à 2 (+1/-1).

        Ouais mais ca évolue vite

        Non … En fait plus ça passe et pire c'est.

        Et Manus test ce qu'il génère (Il y en a sûrement d'autres) , et retourne à la tâche pour avoir quelques chose qui marche…

        Rien compris.

        • [^] # Re: Mon experience avec les LLM est toute autre....

          Posté par  (site web personnel, Mastodon) . Évalué à 1 (+0/-0).

          Rien compris.

          Si tu demande à Manus de corriger un bug sur un programme. Il le lit, et lance dans un environnement et regarde ce qu'il se passe. Il corrige, le relance et au besoin re-corrige et relance plusieurs fois. Pour mon programme il a été capable de se créer un env avec Postgresql, de configuré l'app pour s'y connecter…

          Après je ne veux pas faire la pub pour Manus, mais je veux dire que c'est évident, qu'avant 10 ans (on s'en fiche de savoir si aujourd'hui ou demain on va l'adopter, les autres vont le faire, c'est une évidence).

          Sous licence Creative common. Lisez, copiez, modifiez faites en ce que vous voulez.

    • [^] # Re: Mon experience avec les LLM est toute autre....

      Posté par  . Évalué à 3 (+1/-0).

      cette saleté passe son temps à :
      - inventer des besoins que je n'ai pas
      - changer et modifier des trucs que je ne lui ai pas demandé lorsque je lui demande des corrections de code
      - me supprimer des fonctionnalités qui ne marchent pas, plutôt que de corriger le problème
      - spécialiste du "bottage en touche" : quand un truc ne va pas elle va chercher des contournements débiles plutôt que de proposer de l'analyse approfondie et de régler le problème.

      J'ai connu ça. Mais plus maintenant. Le fichier (CLAUDE|GEMINI|AGENTS).md est essentiel pour garder le bouzin dans les rails. Au final c'est plutôt logique, quand on code on a des spécifications. Si le LLM ne les a pas, il fait n'importe quoi.

      je remarque juste qu'elle est survendue, que bien peu de gens ne savent l'utiliser et se reposent dessus sans réfléchir.

      Clairement. La quantité de gens qui utilisent les LLM comme un oracle et suivent leurs indications ou croient ce qu'ils racontent est proprement effrayante. On va au-devant de sérieux soucis. Mon hygiène perso pour l'instant :

      • Si le code est critique, il faut un humain.
      • Les tests doivent toujours être écrits par un humain.
      • Commiter avant de lui permettre de modifier quoique ce soit.
      • Si tu aimes ce que tu codes, fais-le toi-même car les LLM font disparaître le plaisir de coder.
      • Si tu lui poses une question, toujours demander de fournir les sources (et vérifier qu'il n'a pas balancé de faux liens). Juste demander ça explicitement fait drastiquement diminuer les hallucinations.
      • Si une recherche de moteur de recherche suffit, éviter le LLM (par contre il m'arrive de l'utiliser quand je veux comparer plusieurs choses qui nécessiteraient de multiples recherches puis rassembler les résultats pour comparer).

      Ces trucs sont nouveaux, souvent peu fiables, mais avec une bonne hygiène on peut en tirer des résultats intéressants et même gagner du temps.

  • # Looping

    Posté par  . Évalué à 4 (+1/-0).

    comme c'est facile à faire, plus de monde va sortir son logiciel pour son besoin mais ne va pas chercher à en faire une bonne brique simple, configurable et adaptable

    Phénomène connu sous le nom de « Access syndrome ».

Envoyer un commentaire

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.