gUI a écrit 6782 commentaires

Non je voulais écrire un journal de retour d'expérience et motiver à s'en monter un perso et pourquoi pas pro (interne à une PME par exemple).

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Justement, c'est ici une manière de dénoncer ce masculinisme et ce patriarcat.

Bin oui, et quand j'ai dis que l'IAg c'est un écosystème de gros bourrins, je l'ai bien laissé au masculin non inclusif pour cette même raison, même si je suis certain que des grosses bourrines ça doit bien exister aussi dans l'IA.

(ça existe peut-être dans l'IA mais pas dans mon Grammalecte qui me propose "bourrins". coïncidence ? je ne pense pas !)

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

J'avoue que je ne connaissais pas son nom, mais c'était, entre autre, le créateur de Casimir, de Groquick, de pas mal de marionettes du Bébêteshow du lion du Crédit Lyonnais, du tigre Esso etc.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Perso je trouve que c'est justement le lien avec le masculinisme qui fait la blague (du coup je rajoute le tag)

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

On rappelle la grande liste de pièges à cons dans le domaine.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Je ne doute pas que ce message sera immédiatement censuré et effacé de l'histoire.

Raté.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

celui de "machines à chier des mots"

attention à cette analogie censée être rabaissante je suppose, n'oublions pas que les humains ne sont rien d'autres que ça… (certes ils sont aussi amour et poésie, mais rarement aux heures de boulot).

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Compliqué à prédire, chacun sa propre boule de cristal, mais les Chinois passant leur temps à mettre sur le marché des modèles open-weights de plus en plus forts semblent bien décidés à casser la modèle économique (déjà bien fragile) des boîtes États-uniennes.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Peut-être veux-tu parler de Zhang Shan à Barcelone en 1992 ?

https://www.olympics.com/fr/infos/zhang-shan-la-seule-tireuse-a-remporter-l-or-en-competition-mixte

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Vu que c'est des catégories à part, les hommes sont ainsi certains de ne pas se faire battre par des femmes.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Je connaissais pas, merci !!!

Vu que j'ai un Yunohost, 1 clic et ça y est, j'ai mon searXNG perso (faut vraiment que j'écrive un journal sur Yunohost…).

Et en plus, comble du bonheur, j'ai même trouvé un serveur MCP. Du coup mes LLM locaux pourront effectuer des recherches Web simplement.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

C'est vraiment dingue le niveau de j'en n'ai rien à foutre dans ce domaine. Quand tu vois que les serveur git.kernel.org passent leur temps à générer des pages HTML pour des bots, qui vont devoir retransformer ça en données brutes alors que… bin tout est disponible avec un simple git clone c'est à pleurer de connerie.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Si tu pars du principe que tu as un VPN qui te donne accès "en local" aux machines, as-tu envisagé RDP tout simplement ?

C'est ce que j'utilise pour piloter à distance le Ubuntu du beau-père (on fait des visios mais il n'a rien à faire, c'est moi qui lance la visio sur son propre ordi) et il me semble que ça existe sous Windows également.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Justement il faut bien comprendre : echo ne fait rien. Si tu tapes echo ls * c'est le bash qui interpréter, et echo va recevoir une liste de fichiers en paramètres.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Attention, ce truc --exclude=* va être interpété par Bash (il va étendre le * à tous les fichiers présents).

Essaie avec --exclude='*' ça devrait aller mieux.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Attention, compiler du code consomme du CPU

Pour les gros logiciels oui, mais en apprentissage du C, ce sont des compilations très brèves, de quelques secondes seulement. La plus grosse consommation viendra de l'écran.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Vu la perte de TIPP, ils doit bien y en avoir qui planchent sur le moyen de récupérer une taxe quelconque sur les recharges de bagnole.

Parce que le plein à 4€ (ordre de grandeur pour ma Zoé), c'est pas bon pour le PIB ni pour les caisses de l’État ça !

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

J'ai l'impression qu'une bonne partie des fuites se font via les prestatataires/sous-traitants.

Ref needed !

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

leur stratégie sécurité se limite principalement à passer des contrats avec des éditeurs et des prestataires pour pouvoir ouvrir bien en grand les parapluies

Ça c'est une théorie. Une autre c'est que c'est une affaire de spécialiste, et si tu ne l'es pas… bin tu délègues.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Tu dira encore que c’est un défaut de sécurisation ?

Yep, je maintiens, y compris dans la faille zero day, c'est bien un problème de l'outil qui a une faille.

En tous cas, le prompt ne doit jamais contenir de "surtout ne fait pas ça", on a bien compris que ça ne marche pas. Une fois ceci compris, faut faire avec. Encore une fois, le LLM ne fait que pisser du texte, il faut un "con" derrière pour l'exécuter. Si tu filtres pas, c'est un peu comme le sanitize d'une boîte de dialogue de site web : une fois que tu sais que l'injection SQL est facile, alors tu prends les devants.

Par exemple mon shell command est l'exemple parfait du truc à ne pas faire par exemple.

Et tu en a marre de valider des […]

Il est bien là le soucis :) La facilité c'est de lui laisser les clés du camion.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Je parle pas vraiment de sandbox, je parle de limiter à certaines fonctions précises. Par exemple je vais pas lui donner un accès complet au DUT (Device Under Test) en ssh, mais je vais lui donner un outil qui fera une commande précise par ssh (par exemple récupérer l'ID du build pour vérifier que ça a bien été flashé). Et ainsi de suite.

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

En cherchant un peu je tombe sur ça : https://www.radiofrance.fr/rss

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Ouah merci pour la citation de mon petit gégé ! D'autant plus que si il existe c'est - entre autre - grâce à ta série de journaux qui m'ont vraiment mis le pied à l'étrier des LLM auto-hébergés. (d'ailleurs au passage suggestion de prochain journal : les différents paramètres des LLM et leurs influence, par exemple si je vois mon LLM tourner en boucle, ou si il réfléchit trop, quels sont les paramètres en jeu etc.)

Alors l'idée de base c'était d'avoir un simple fichier python (par exemple tout simplement ia.py ou open_cli.py pour continuer dans les noms avec manque d'inspiration ;) ) et de se faire son propre alias. Appelle-le juju si tu préfères !

Au début c'était juste un proof of concept pour manipuler le LLM à la mano, mais finalement il s'étoffe de plus en plus, et est même maintenant agentique (via MCP). Du coup tu me donnes envie de le publier, toujours dans un objectif pédagogique. Embarquer l'outil 'date' par exemple est une bonne idée comme premier exemple. Ça et l'ouverture vers le MCP, tu as tous les outils pour faire ton propre agent.

Parce que perso, maintenant que je vois clairement comment ça marche, c'est évident que quand on voit un titre "une IA s'est barrée de son cloisonnement par attaquer tout Internet", désolé, mais c'est vraiment la faute de l'agent, pas de l'IA. Un LLM ça pisse du texte c'est tout. Ça n'exécute rien.

Quand j'ai cherché à implémenter les outils, j'avais fait 3 outils : read_file, write_file et shell command. Les 2 derniers étant jugés plus risqués, ils demandent l'autorisation de l'utilisateur. Et bien pendant mes essais pour vérifier que l'agent faisait bien son boulot d'agent, j'ai bien vu le LLM contourner les instructions pour tenter d'utiliser shell_command quand je lui refusais write_file alors que c'était explicitement interdit dans le prompt !

C'est jamais le prompt qui cloisonne le LLM, c'est l'agent, d'où l'idée de se coder son propre agent dès qu'on a un poil peur que ça parte en cacahuètes. Je compte m'en servir au boulot pour gérer une CI avec hardware in the loop, donc flashing, reboot etc… crois-moi que l'agent va être écrit sur-mesure !!!

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

J'avais pas pensé que parler en anglais prendrait moins de tokens… mais bon, partant du principe que le LLM parle mieux français que moi anglais, je préfère tout de même m'adresser en français, et éviter des mécompréhensions potentielles.

Ça fait ricaner mes collègues qui parlent tous en anglais à leur LLM mais vraiment je trouve ça bcp plus logique d'utiliser sa langue maternelle. Vu leur niveau de langue, il ne faut pas hésiter !

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

Fait !

En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.