In medio stat virtus. Non, c'est tout à fait correct, la vertu est dans le juste milieu. En revanche, ça n'a rien à voir avec la conversation.

• Le roi Loth (François Rollin), Kaamelott, Livre V, Corvus corone, écrit par Alexandre Astier.

TL;DR

Sans être exceptionnel, Qwen 3.5 35B A3B est adéquat pour de la programmation agentique.

Or contrairement à ce que j'avais écrit, les modèles MoE comme Qwen 3.5 35B A3B sont en fait parfaitement utilisables avec une (…)

Les personnes qui n'ont pas été trop assommées par la 5eme canicule de l'été et qui ne sont pas parti en août ont du voir passer le drama en cours concernant la licence OpenMDW 1.1 et la proposition de Mike Dolan, avocat de la Linux Fondation (LF), de la faire certifier par l'Open Source Initiative (OSI) en tant que licence libre. Jusqu'ici, rien d'anormal. La LF est avant tout un regroupement d'entreprises (voir même de consortium industriel) et elle joue (…)

Introduction

Ce journal est dans le prolongement de mes précédents journaux :

• Auto-héberger ses IA : Principes généraux
• Auto-héberger ses IA : Matériel et optimisation de l'inférence
• Auto-héberger ses IA : Débordement CPU+RAM, Mixture-of-Experts et Benchmarks

On a bien parlé théorie, on a parlé matériel, vous avez vidé notre PEE/PEL, vous avez construit votre radiateur électrique intelligent, vous avez maintenant un LLM optimisé aux petits oignons. On arrive donc sur la partie la plus fun : s'en servir. Autrement (…)

Introduction

Ce journal est dans le prolongement de mes précédents journaux :

• Auto-héberger ses IA : Principes généraux
• Auto-héberger ses IA : Matériel et optimisation de l'inférence

Dans ce journal, on va parler de faire de l'inférence avec des LLM, avec pas ou peu de VRAM. Autrement dit, on va essayer de faire rentrer une grosse pièce carrée dans un petit trou rond.

Comme moi, vous avez peut-être observé quelque chose d'étrange : Il y a plein de vidéos Youtube (…)

Introduction

Camarades, prolétaires numériques, pingouins, unissez-vous ! Contre la rente des IA propriétaires, armons nos GPU ! Approprions-nous les moyens de production de l'intelligence !

Hem, bref, je pose mon mégaphone, et je rentre dans le vif du sujet.

Ce journal est essentiellement un approfondissement de mon mon précédent journal sur le sujet de l'autohébergement d'IA.

En prérequis, il faut avoir une familiarité avec :

• Linux en général ;
• Docker ;
• le bus PCIe ;
• quelques notions de base (…)