pulkomandy a écrit 2470 commentaires

Il y a maintenant un défi avec votre poids 2000 dollars en bitcoin à la clé si vous êtes capables d'exploiter cette faille.

Cela ne démontre pas que l'exploitation est impossible, mais, soit qu'elle coûte plus de 2000 dollars de token de LLM, soit que c'est suffisament compliqué pour être hors de portée du premier script kiddie venu, et qu'une attaque éventuelle reste entre les mains de gens qui préfèrent garder leurs attaques sous la main pour des cibles plus intéressantes

Un LLM est peut-être négessaire, mais pas suffisant.

L'article de Sansec qui prévoyait la fin du monde une exploitation massive dans les 15 minutes suivant la publication a été mis à jour avec un bandeau expliquant que finalement, l'attaque nécessite de très bien connaître l'intérieur du serveur cible, et que l'exploit publié ne fonctionne pas de façon aussi générule qu'annoncé. Les exploits publiés, soit ont besoin d'un fichier déjà vulnérable à une attaque par inclusion de fichier local, soit sont générées par un LLM qui injecte lui-même une telle vulnérabilité dans le système qu'on lui demande de tester.

Recorded future (qui existe depuis 2012) annonce de nombreuses tentatives de scan et d'attaque, mais pas de chiffres disponibles sur le succès des attaquants.

Les vendeurs de solution de sécurité semble profiter un peu de la panique pour se faire de la publicité, avec un argument infaillible du genre "ce type d'attaque est irréalisable si votre serveur est équipé de notre solution" (sans préciser que c'est irréalisable aussi sur les serveurs non équipés de leur solution).

En attendant on est noyés sous les tentatives de proof of concept ne fonctionnant pas vraiment, dont certains prétendant exploiter une faille basée sur des rumeurs avant publication des détails et qui n'existe tout simplement pas. Malheureusement, la déconnexion avec la réalité rend difficile de trouver et de faire confiance à des vraies informations.

La réaction à l'annonce est la bonne, vu le score élevé et le risque d'exécution de code arbitraire. Mais il y a eu pas mal de site hors ligne pendant une demi journée.

La question est, est-ce que l'annonce elle-même n'était pas un peu exagérée? Est-ce que finalement la réaction de tout mettre hors ligne ne cause pas plas d'ennuis que la faille qui finalement n'est pas si simple à exploiter que ça?

Est-ce que si on commence à avoir des failles annoncées comme ça tous les jours, alors que inalement ce n'est pas exploitable, les gens vont arrêter de mettre leur site hors ligne à chaque fois?

Appeler "soleil ASCII" un caractère qui n'est ni un soleil, ni présent dans ASCII, et l'illustrer par un autre caractère soleil d'Unicode, c'est vraiment difficile à suivre, votre truc.

Tu dis que ça a été refusé sans donner de motif, mais je me permet de reposer la question à savoir pourquoi la raison classique "il n'y a pas de place, on a du faire des choix difficiles", raison qui est listé dans l'appel, ne suffit pas ? Il y a quoi qui fait qu'il faudrait motiver plus pour cette proposition et pas les autres ?

Ben justement c'est ça la question.

Qu'il y aie pas de place pour tout le monde, effectivement, c'est un problème bien connu du FOSDEM (et la solution serait d'avoir plus de conférences à d'autres endroits).

Donc la justification "on ne peut pas accepter tout le monde parce que y'a pas la place" ben… ça justifie rien du tout. Si la justification était "on a fait un tirage au sort", au moins on sait que c'est équitable et non biaisé par les préférences personnelles des organisateurs. Ou si la justification est "on a fait un vote et ce sujet a perdu", on sait que ce sont les préférences personnelles des organisateurs qui pensent que d'autres sujets sont plus intéressants, c'est un process démocratique qui entretient les biais des votants. Ou encore si c'est "on en a marre de vos trucs de gauchistes woke, ici c'est une conférence sur la technologie neutre, on a donc choisi de privilégier les sujets techniques", au moins on sait à quoi s'en tenir. Ou alors si c'est "votre proposition était mal rédigée et ne nous a pas convaincus", ou "les thèmes proposés peuvent être abordés dans d'autres devrooms", OK, très bien.

Je pense que recevoir un refus sans explication à part "y'avait plus de place", ça donne un sentiment d'impuissance car on ne peut pas comprendre où est le problème et comment faire pour réessayer l'année suivante avec de meilleures chances de succès (ou se dire que c'est définitivement sans espoir et organiser une contre-conférence).

Et surtout, tu n'as pas posté sur le sujet de ce que je vois (ou tout cas pas cette année), alors qu'un message a été posté.
Comme tu n'as pas posté, personne n'a mis ton message en lien sur Linuxfr avec un titre sans donner trop de contexte.

Non pas cette année, l'appel à participation pour les stands est encore ouvert et j'ai pas encore envoyé la candidature (vous me direz, si on ne candidate pas, pas de risque d'être refusé). On verra le moment venu.

C'était l'an dernier et il a 3 ans que nous n'avons pas eu de stand.

Nous avons aussi été avec ReactOS les premiers projets à n'avoir droit qu'à un demi-stand, soit une journée chacun, soit la moitié de l'espace alloué à d'autres projets, après avoir auto-organisé ça les années où un seul des deux projets étaient acceptés.

Avant ça, vous avez peut-être connu mmu_man faisant homme sandwich pour présenter Haiku malgré l'absence de stand, puis ensuite le stand dans le bâtiment AW tout au fond de l'université, avec les projets d'électronique et de systèmes embarqués.

Pendant ce temps, en face on a une poignée de distributions Linux qui disent toutes être un clone de l'autre (y'a 3 ans c'était l'explosion de CentOS avec ses 3 ou 4 forks qui font tous exactement la même chose mais qui ont eu chacun un stand complet).

Quand je râle et que je suis déçu parce que le FOSDEM n'accepte pas le stand de Haiku (ce qui arrive régulièrement), ou qu'il y a une devroom "kernel" qui ne prend même pas la peine de préciser qu'il s'agit uniquement de Linux et pas des autres noyaux, personne ne dit que j'utilise les "mécanismes d'outrages des forces réactionnaires".

Pourquoi le ressenti est différent quand il s'agit d'une devroom sur la diversité et l'inclusion? (sujet autrement plus important que Haiku, à mon avis).

J'imagine que les contraintes et critères d'une devroom sont distincts de celle pour une conf'.

Les devrooms sont les salles dans lesquelles il y a des conférences. Une fois la devroom acceptée, son (ou sa) responsable lance son propre "cfp" (call for participation) et monte lui/elle-même le programme en choisissant parmi les conférences proposées.

Les organisateurs du FOSDEM vont sans doute répondre qu'ils sont désolés, que la place est limitée et qu'ils ont préféré choisir d'autres sujets même si c'est toujours une décision difficile (ce qui est vrai).

Pourtant c'est un sujet pour lequel il y aurait plein de choses à dire et à faire, ce que soit pour l'accessibilité des logiciels, pour l'internationalisation, pour ce qu'on attend des développeurs (est-il nécessaire de pouvoir se payer un abonnement à un LLM à 3000$ par mois pour pouvoir contribuer par exemple?) ainsi que toutes les problématiques de harcèlement, sexisme, racisme, la mise en place de codes de conduite et leur application lorsque c'est nécessaire, et ainsi de suite.

Ce n'est pas dans l'annonce publique (on ne va pas non plus donner aux attaquants les moyens de reproduire l'attaque) mais plusieurs personnes ont pu confirmer que l'une des clés priâées en question étaxt bien 4.

Il ne s'agit pas de cryptographie RSA (ou la clé est deux nombres premiers) mais de courbes elliptiques (où la clé peut être n'importe quelle valeur aléatoire de 256 bits).

Ce n'est pas encore tout à fait clair ce qu'il s'est passé pour que 8 certificats soient signés avec des clés dont les 248 bits oe poids fort sont tous à 0. Les valeurs des 8 clés (et des liens vers plus oe détails) par exemple sur ce fil fediverse.

La réponse est dans la question:

Concernant les caractères autorisés dans une chaîne de caractères JSON, tout est autorisé sauf les caractères de contrôle ascii (dont notamment \n), le caractère \ et les guillemets fermants, qui doivent être échappés.

Ces caractères de contrôle sont donc interdits dans les chaînes de caractères en JSON.

Pour citer précisément la spécification:

All code points may be placed within the quotation marks except for the code points that must be escaped: quotation mark (U+0022), reverse solidus (U+005C), and the control characters U+0000 to U+001F.

De façon surprenante, le codepoint U+007F, lui, est autorisé sans échappement. En ASCII et en Unicode il s'agit de DELETE qui est un caractère de contrôle. Les tabulations et retours à la ligne (dans leur forme ASCII) sont, eux, interdits.

Le programme unicode me sort un truc assez surprenant, il me les désigne tous les quatre comme des “paragraph separators” ou “segment separator” pour \x1f ou encore “information separators” four three two one…

Ce sont bien les noms choisis par Unicode. Ils sont différents des noms qui étaient utilisés dans la spécification ASCII, même si ce sont les mêmes caractères.

J'ai lié un premier article, mais il y a au début un lien vers la suite:

https://sunshowers.io/posts/anthropic-mononoke-2/

Cette fois ci il est question de "ripping off", avec des exemples de paragraphes identiques.

This was a ripoff. My post yesterday was trying to be as charitable as possible given what I knew, and in particular that the similarity to Mononoke was mostly unintentional and the lack of credit was the result of not doing due diligence. However, after publishing the post I privately received confirmation that Scion intentionally and blatantly ripped off Mononoke, and in particular that there was overlap in personnel.

Donc Anthropic a embauché des gens qui avaient travaillé auparavant sur Mononoke, et leur on demandé de développer un nouveau système qui est en fait assez identique et sans citer son inspiration. Puis fait passer cela pour nouveau et révolutionnaire.

Suite à ces deux messages de blog, Anthropic a tout de même fini par mettre à jour son article (c'est indiqué au début des deux: l'article d'Anthropic et le deuxième blog ci-dessus).

Dans le cas qui nous concerne ici, c'est du plagiat, aved des paragraphes recopiés tels quels et sans attribution. C'est illégal et irrespectueux du travail original. Que ça soit fait par un humain ou un LLM ne change rien au problème.

La grosse nouvelle précédente était sur un clone de photoshop qui, s'il n'y a pas plagiat, pourrait au moins être qualifié de parasitisme.

Pourquoi c'est à chaque fois comme ça? Pourquoi personne ne parle des projets innovants et révolutionnaires qui vont là ou aucun humain n'est jamais allé? Logiquement il devrait y en avoir plein?

Il y a plein de choses qui peuvent être faites avec un ordinateur sans avoir besoin d'un analyste programmeur professionnel.

Ça va de la simhle utilisation de traitement de texte à du développement python. Quelque part entre les deux il y a Excel et les tableurs, qu'on peut agrémenter de macros, les bases de données access ou similaire, et il y a aussi des solutions comme windev.

De ce point de vue là ça ne me semble pas délirant, et c'est même assez cohérent avec ma vision du logiciel libre (partager mes connaissances et le résultat de mon travail au plus grand nombre et donner à chacun la possibilité de s'en emparer).

Là où ça diverge, c'est dans le choix d'une techno fermée avec une license restrictive et qui peut changer. Pour autant, je ne pense pas qu'il faut se moquer ou dévaloriser ces utilisations d'outils informatiques. Pas besoin de faire de l'élitisme.

En fait leur "propre" système est (au moins en partie) un plagiat de celui développé depuis une dizaine d'années chez Meta. Comme d'habitude, les LLM n'inventent rien et piochent dans leurs données d'entraînement ou ailleurs.

s’il n’aime pas utiliser github pour linux, il n’a aucun problème pour s’en servir pour ces petits projets

historiquement Linux était hébergé sur bitkeeper, un système de gestion de versions très propriétaire. Le projet avait un accès gratuit tant qu'il ne tentait pas de développer un client libre, ce qu'un autre développeur a tout de même commencé à faire.

Les relations se sont gâtées et Linus a fini par démarrer le développement de Git pour remplacer bitkeeper.

Sans toute cette histoire, Github n'existerait pas. Peut-être que tous les projets seraient toujours chez Sourceforge ou chez Google Code Project Hosting.

une acceptation du suicide collectif, en repoussant juste très légèrement la date de fin.

si ça repousse assez loin pour que ça tombe sur la génération suivante, c'est plus du suicide mais du meurtre.

Mais je crois qu'on est bien partis pour le suicide.

Puisqu'on parle d'APL (l'autre, l'américain) et d'Unicode, on peut signaler la particularité de ce langage d'avoir obstinément refusé de se conformer aux limitations de l'ASCII, et de se fait, d'avoir un ensemble de caractères Unicode définis rien que pour son usage, de 2336 jusqu'à 237A dans la catégorie "Miscellaneous Technical Symbols", juste avant RIGHT ANGLE WITH DOWNWARDS ZIGZAG ARROW, Angzarr de son petit nom, le symbole dont personne ne se souvient pourquoi il a été ajouté dans Unicode.

Même facilité pa un LLM, le reverse engineering ou la réimplémentation d'un logiciel demande du temps et des compétences. C'est pas un truc où on clique sur un bouton et pouf, on a un logiciel qui fait tout comme on veut.

Peut-être que, oui, patcher un logiciel existant (même sans les sources) est moins cher que d'en réécrire un, et c'est sûrement plus facile de le faire avec l'aide d'un LLM si on a pas l'habitude de manipuler un désassembleur (compétence relativement rare).

Le problème, c'est que patcher un logiciel existant sans l'accord de l'auteur, c'est illégal.

J'ai travaillé dans une entreprise qui était de l'autre côté de ce problème: impossible de vendre notre solution à des gens qui n'avait pas confiance dans la perrenité de l'entreprise (bien que convaincus sur le plan technique). La solution était un dépôt régulier des sources à l'agence pour la protection des programmes, avec une garantie que nos clients pourraient en récupérer une copie en cas de faillite (ça s'appelle apparament en français un entiercement.

Si vous êtes inquiets de la santé de vos fournisseurs, faites ça plutôt que de compter sur un LLM pour rattraper votre insouciance?

Bonjour, dans Haiku les contributions contenant du code généré par IA sont interdites en raison de risques au niveau du copyright. On est particulièrement inquiet sur ce sujet car les LLM ont été entraînés par exemple sur le code de linux qui est sous GPL, et si on demande d'écrire un driver pour du matériel spécifique, il y a d'assez fortes chances que le code ressemble beaucoup à celui de Linux.

Par ailleurs nous avons tout plein d'autres raisons de détester et de vouloir interdire l'utilisation de LLM une fois que ce problème aura une réponse.

Les contributions où les gens demandent de l'aide à un LLM mais rédigent le code eux-même sont autorisées, mais mal vues, surtout si cela a causé une déconnexion avec la réalité (c'est malheureusement le cas de plusieurs de nos utilisateurs, ça l'était déjà avant l'arrivée des LLM mais le phénomène est renforcé). C'est difficile d'être plus restrictif que ça là dessus, car on ne peut pas vraiment savoir ce que les gens ont fait et aussi parce que l'argument du copyright ne s'applique pas. Pour l'instant un rejet pour des raisons perçues comme politiques par une partie de la communauté n'est pas envisageable. Personellement je prévois de continuer à me battre pour que le projet se politise un peu plus.

Au niveau de Haikuports, on rejette les paquets de logiciels vibe codés, mais on ne va pas faire la chasse à la moindre contribution assistée par LLM dans chaque logiciel. Les recettes doivent être écrites et envoyées par des humains (sinon nous étions exposés à une avalanche de trucs faits par des robots).

S'agit-il d'une politique laxiste? Que faudrait-il faire de plus?

Nous avons également un gros travail à faire pour mettre à jour notre documentation afin de faciliter les contributions par des humains, afin de rester constructifs et de ne pas juste se lamenter sur la fin du monde.

On a une source qui dit que ces frigos étaient exposés directement sur internet? Parce que c'est aussi tout à fait possible qu'il y avait un VPN mais que le hacker a réussi à s'infiltrer dedans, non?

les logiciels libres sont gratuits, c'est pas pour autant qu'on en est le produit

Peut-être pas les utilisateurs, mais les développeurs qui travaillent sans être rémunérés et qui produisent du logiciel de qualité utilisé par des giga-entreprises, je crois que si, c'est un sacré bon produit.

Je comprends pas ces arguments qu'on voit régulièrement passer et qui ne correspondent à rien à mon expérience quotidienne avec de l'IA, y compris en équipe.

Je répondais à un commentaire qui se termine comme ça:

Ou est-ce qu'on est en train de voir émerger le développement entièrement automatisés de logiciel dont les spécifications sont connues (car on a une implémentation de référence) ?

J'imagine que ce n'est pas ce que tu pratiques (puisque il y a une équipe d'humain qui font des trucs).

Donc oui, c'est une question un peu hypothétique ou éventuellement pour les gens pratiquant le "vibe coding" le plus extrême. Ce n'est certainement (et à mon avis, heureusement) pas le cas de tous les gens qui utilisent de l'IA, dont certains font sûrement des choses très bien en gardant la main (ou au moins un œuil) sur le code produit.

En fait ça dépend comment on interprète les 4 libertés et même la notion de "liberté" elle même.

Prenons un autre exemple. Je développe un logiciel. Je le compile. Je distribue le binaire (sans les sources) avec une autorisation d'étudier, redistribuer, modifier et utiliser le programme.

Du point de vue des 4 libertés, c'est un logiciel libre.

Mais si tu prends par exemple la licence GPL, elle va un peu plus loin dans la façon dont la liberté de modifier un programme doit s'appliquer.

The “source code” for a work means the preferred form of the work for making modifications to it. “Object code” means any non-source form of a work.

The “Corresponding Source” for a work in object code form means all the source code needed to generate, install, and (for an executable work) run the object code and to modify the work, including scripts to control those activities.

The Corresponding Source need not include anything that users can regenerate automatically from other parts of the Corresponding Source.

Et toute la section 6 est très claire sur le fait que je ne peux pas me contenter de distribuer le binaire en disant "c'est bon vous avez qu'à le désassembler vous-même". Ce n'est pas "the preferred form of the work for making modifications to it".

Maintenant prenons le cas d'un logiciel généré par un troupeau de LLMs agentiques. Est-ce qu'on peut se contenter de diffuser le code "source" généré? Ou bien est-ce qu'il faut publier tous les prompts, toute l'infrastructure, et les LLMs utilisés, pour pouvoir redéployer tout ça et regénérer le code "source" à partir de là? Puisque, après tout, le code généré est inutilisable.

Et donc, plus généralement, la liberté, est-ce que c'est juste "tu as le droit de modifier le logiciel mais démerde toi, et on va tout faire pour que ça soit très compliqué", ou est-ce qu'il y a un minimum d'équité pour donner vraiment les moyens aux gens de faire des modifications?

C'est bon, on a vu, merci, y'a déjà 2 liens et un journal.

Gimp ne fait pas tout ce que fait Photoshop, et il a un fonctionnement très différent sur pas mal de points.

C'est un peu comme dire "Si les gens veulent un truc qui ressemble à Windows, opensource et gratuit mais fiable, pourquoi n'utilisent-ils pas tout simplement Linux?"

Oui certes ça ressemble, mais il y a plein de trucs que tu ne peux pas faire, ou que tu dois faire différemment, ou alors tu ne peux pas importer tes fichiers existants.

Bref, une migration comme ça, ça s'improvise pas. Sinon ça ferait bien longtemps que plus personne n'achèterait de logiciel payant.