pasBill pasGates a écrit 16345 commentaires

Oh mais on ne parle pas de compliqué ici, mais d'échelle

Tu es sur le site d'Amazon, tu es visible à des dizaines/centaines de millions de gens selon les marchés.

Si tu n'y es pas, à moins d'être Coca-Cola ou Kraft, atteindre les consommateurs à cette échelle coûte très cher et prend beaucoup de temps.

Quand tu paies la marketplace, tu paies pour l'accès et la visibilité à des gens qui veulent acheter. Tu ne paies pas pour du soft ou des services web (ou pas trop)

En même temps, le business model du marketplace est juste un peu trop facile. Rien a faire, juste a prendre sa commission et voila.

Un marketplace te donne une visibilité devant les clients, des gens qui sont sur le site car ils veulent acheter. C'est cela que tu recois en retour de la commission.

Amazon a construit une plateforme qui attire énormément de gens qui veulent acheter des produits. En tant que vendeur tu peux soit vendre tes produits à travers Amazon (tu les paies pour le stockage dans les dépots, la livraison, les retours, …) soit juste être visible dans leur marketplace et que ces clients en quete de produits puissent facilement te trouver. Le système de recommendation, de recherche, … montrera tes produits quand cela aura un sens selon les recherches des clients soit tout faire toi-même sans Amazon.

Alors évidemment personne ne t'oblige à l'utiliser, mais alors tu dois toi-même faire le travail d'amener tes produits devant les yeux des clients potentiels. C'est un boulot qui n'est pas forcèment facile, et certainement pas gratuit, cela te coutera en pub, etc…

C'est à cela que servent les 'steering document' des systèmes de génération de code d'IA, bref des 'prefixes de prompt' en pratique qui lui donnent les règles à suivre à chaque fois.

C'est ce que je j'utilises pour lui dire de toujours génerer un plan et me le montrer avant d'implémenter, de toujours écrire des tests qui couvrent les different aspects, de ne jamais choisir un hack comme solution mais une approche architecturalement propre, etc…

C'est pas 100% suffisant, mais cela aide beaucoup à éviter de revoir les mêmes problèmes à chaque fois.

Et ensuite, avec les améliorations de la qualité des LLMs à chaque version, il y de moins en moins besoin de se taper la tête contre les murs.

J'ai du mal à comprendre…

La peur du Cloud Act c'est que le gouvernement US pourrait forcer Google à leur donner … le code source open source de Jema OS ?

Je te dirais que non, si tu implémentes un soft qui au niveau interface fait la même chose mais est implémenté diffèrement, je ne vois pas quel délit ou crime il y aurait.

Que le modèle ait 'vu' le code du soft copié n'est en soi pas une preuve de quoi que ce soit, la violation doit être liée au code géneré, il faut prouvé qu'il y a une inspiration claire entre le code géneré et l'original, pas à ce que l'auteur du code aurait vu par le passé.

Pas compris, c'est quoi un meurtre en chambre close ?

Il y a Wine déjà, et ils n'ont pas de problème.

Au final, un juge va demander quelles parties du code ont été copiées. Le fait d'avoir vu le code à un moment ou un autre c'est très faible comme accusation si le code ne se ressemble pas.

Claude a forcément eu accès à des parties du code source, test cases, documentation etc. et ça c'est en laissant le bénéfice du doute sur l'accès qu'il aurait eu au code source en runtime. Mais on ne peut pas affirmer que Claude n'a pas eu accès au code original lors de l'entraînement. C'est un problème commun à tous les projets IA et tant qu'on a pas de transparence complète sur les sources utilisées pour entraîner les modèles, on peut difficilement affirmer que ça ne brèche aucune licence.

A mon avis ce n'est pas important. La question est: en regardant le code géneré, peut-on voir un lien avéré entre les 2 ?

Si la réponse est non, perso je me fiches de savoir si Claude a eu accès à quoi que ce soit.

Ou si cela se trouve ils ont mieux à faire que se la jouer éxtremistes du libre et préfèrent se concentrer sur l'essentiel qui est d'avoir un effort collaboratif, ou se mettre sur une plateforme adoptée par plein de développeurs élimine beaucoup des frictions concernant les contributions

J'ai qwerty et qwertz installés et je passe de l'un à l'autre probablement dix fois par jour.

qwerty pour écrire en anglais et coder, qwertz pour communiquer avec le monde francophone.

Moi j'ai résolu il y a longtemps les problèmes de duplication mentionnés pour l'assembleur en n'écrivant tout simplement aucun commentaire, en plus cela rend les fichiers plus légers !

Bah oui il y a des boules noires. On a eu une boule assez grise il y a 4 ans avec le Covid par exemple, le nucleaire n'est pas une boule noire, mais l-arme atomique par contre pourrait bien devenir une boule noire un jour effectivement.

Les LLMs, au final, c'est une technologie de base, c'est ce que tu en fais qui peut devenir une boule noire.

Si on va assigner des effets terribles aux elements fondationels, alors le charbon est une boule noire, le petrole est une boule noire, etc… mais cela n'a que peu de sens, c'est ce que l'humanité en a fait qui est une boule noire: les bruler sans fin.

Oui, mais n'oublions pas que c'est…une théorie :)

Je suis dans la sécurité, analyser des risques c'est ce que je fais toute la journée.

Ce que la personne du dessus fait revient à trouver une petite taille sans conséquence et aller crier partout qu'il faut tout débrancher et éteindre d'urgence.

C'est tout simplement ridicule. Les risques c'est un spectre et selon ce que c'est on met des mitigations en place et on continue à vivre.

Je veux dire, sortir dans la rue aussi est tirer une boule à chaque fois hein

Je me contente de bien rire en lisant les aneries que tu écris, qui n'ont ni queue ni tête.

Oui oui on est tous des supremacistes blancs !

Ah merde, même ceux d'entre nous qui ne sommes pas blancs… ah c'est con.

"Une industrie qui repose sur des millions de travailleurs kényans ou philippins payés une misère pour apprendre à un logiciel, extrêmement énergivore et requérant des métaux et terres rares qu'on ne peut extraire à bas coût sans piller les pays africains, à reproduire en masse ces biais racistes qu'on galère déjà à désapprendre, quand ce n'est pas pour entraîner avec elle toute l'économie des États-Unis, justifier des licenciements massifs ou simplement produire du code et du texte médiocres, c'est manifestement de la suprématie blanche."

est je pense une des phrases les plus stupides que j'ai lues sur ce site depuis que j'y suis, et pourtant je suis là depuis un quart de siècle. C'est du tirage de cheveux niveau olympique, des affirmations qui sont tout simplement fausses (ces gens sont plutôt bien payés en comparaison de leurs voisins, la reproduction en masse de biais racistes, etc…)

Je veux dire, tu ne réflechis visiblement même pas à ce que tu dis, tu régurgites sans même chercher à comprendre pourquoi tout le monde te dis que tu racontes n'importe quoi, en étant sûr que tu es le seul chevalier qui a tout compris face aux hordes supremacistes blanches, c'est triste et drôle à la fois.

Tu utilises le réseau social d'une boite américaine, tu les aides à faire de l'argent, tu les aides à créer leurs modeles, et à payer pour cette infrastructure hardware d'IA dont tu parles tant.

Tu es en fait le premier coupable ici.

Le biais positionnel (et pas que positionel) est certainement une réalité architecturale, mais elle n'a rien à voir avec un biais lié au contenu.

Sur un sujet tel que la couleur de peau ou le sexe des gens par exemple, c'est textuel, par contextuel, c'est basé sur le positionnement dans le texte (début ou fin), pas sur le fait d'être noir ou blanc, ou "white" ou "black", etc…

Le fait d'avoir plus de connotations négatives sur le mot noir/black/… joue un rôle par contre, et c'est là ou il faut faire très attention aux données ingèrées, et comment essayer de rectifier ce biais.

Une industrie qui repose sur des millions de travailleurs kényans ou philippins payés une misère pour apprendre à un logiciel, extrêmement énergivore et requérant des métaux et terres rares qu'on ne peut extraire à bas coût sans piller les pays africains, à reproduire en masse ces biais racistes qu'on galère déjà à désapprendre, quand ce n'est pas pour entraîner avec elle toute l'économie des États-Unis, justifier des licenciements massifs ou simplement produire du code et du texte médiocres, c'est manifestement de la suprématie blanche

Question: Quelle est la source de tes champignons hallucinogènes ?

Petit exemple de oû tu te fourres complètement: ces phillipins-kenyans qui labellent des données (tu sais, "apprendre" à un LLM), ils sont typiquement bien mieux payés que les kenyans-phillipins autour d'eux, ils font un travail qui est somme tout technique, et qui gentiment aide à amener leur pays hors de la situation dans laquelle il est.

Deuxième exemple: les biais racistes. Ils n'ont absolument rien à voir avec la technologie derrière les LLMs, cela est complètement dû aux données ingérées, et diffèrents modèles se comporteront diffèrement.

Tu racontes n'importe quoi, tu divagues, tu sonnes vraiment comme le petit ado boutonneux convaincu que Micro$oft c'est le Mal(TM) , et bon, à part faire rire tout le monde, tes idées farfelues sans aucune reflexion vraie derrière ne vont convaincre personne.

Je t'invite à mettre un petit peu d'eau dans ton vin.

Au bon dieu, parait qu'il est omniscient donc certainement mieux qu'un LLM !

Je te suggere de passer à MultiDeskOS, il lave plus blanc que blanc.

Sinon, quand tu auras décidé de revenir sur terre et d'utiliser un peu de logique, fais nous signe.

Ce lien donne sur un texte d'une stupidité assez affligeante je te dirais

Les annonces comme quoi "X est horrible, cela va détruire la planète, l'emploi, mon chat,…" on l'a entendu 3455 fois, cela n'a jamais tenu, et surtout ce torchon n'a pas passé une seconde à essayer de comprendre la valeur de la chose

Pour moi le vrai problème de l'IA c'est surtout cela :

Tu communiques en langage naturel (anglais, francais, …) donc instinctivement tu crois que tu parles à une personne, et tu omets plein de contexte qu'un humain connaitrait ou trouverait logique.

Cela amène des prompts bien plus courts qu'ils ne devraient l'être.

Il y a toute une éducation sur comment écrire des prompts pour avoir le meilleur résultat possible selon les modèles qui est nécessaire.

OpenAI fait des folies, cela ne veut pas dire que tout le monde fait de même.

De ce que je vois, il y a vraiment OpenAI qui fait des contrats complètement déments, et il y a plein de startups stupides qui mettent le mot AI partout.

Ces startups vont exploser en vol, OpenAI, je ne peux pas prédire mais à mon avis les gens clairement hallucinent sur ce que cela vaut vraiment.

Pour le reste par contre, cela me semble assez solide. Claude Code par exemple, cela a vraiment l'air bien. Niveau prix, cela va suivre les courbes HW assez vite, cela ne m'inquiète pas beaucoup.

Parce que je veux que les résultats de mon analyse soient correct.

Je me fiches que le code soit maintenable pendant 15 ans, qu'ils soit super bien documenté, soit le plus performant possible.

Mais il est éxtremement important qu'il retourne un résultat correct.

Il faut surtout te souvenir qu'il y a un spectre entier de code produit, allant du prototype au code critique en production.

Moi étant dans la sécurité, la plupart du code que j'écris ou génere est typiquement du coté prototype, au final sa maintenance, performance, … n'est pas super importante. Si tu es un dev produit qui développe le service S3, évidemment tes critères sont très diffèrents, et tu utiliseras ces agents de manière diffèrente.

Tout dépend en fait de ce que tu es en train de faire.

Dans mon cas précis, je construis un prototype pour de l'analyse de code basé sur joern histoire de faire des mesures sur certains paquets de code et en tirer des conclusions.

Je n'ai jamais utilise joern de ma vie bien que j'ai pas mal de connaissances théoriques en ce qui concerne taint tracking et analyse de code. Si j'avais du écrire ce truc à la main, j'aurais du lire comment faire cela avec joern, me familiariser avec sont langage, etc…

J'ai demandé à l'agent de me génerer le code, et surtout de me génerer des tests pour vérifier que l'analyse de code est faite correctement, et je me suis concentré sur la revue des tests plutôt que du code de l'outil, pour m'assurer que les tests couvrent les situations qui importent et que j'aie des résultats corrects. Parce qu'au final, comment le code est écrit je m'en fous un peu tant que les tests couvrent tous les cas qui m'importent et que eux sont corrects.

C'était vraiment bluffant.

Quand à OpenAI, on s'en fout un peu en fait, on a nos propres modèles, on a Anthropic, il y a les Llama de Meta, DeepSeek, … et vu qu'on est AWS ben ils tournent en interne, chez nous. Moi j'utilises principalement Claude Sonnet 4.5