Forum général.cherche-matériel Retours d'expériences Hardware pour homelab LLM

3
21
mai
2026

Bonjour,

Je cherche à comprendre si l'achat d'un matériel dédié serait adapté/exploitable pour faire tourner correctement des LLM en local.

Mon objectif serait d'utiliser ce matériel pour faire tourner des agents LLM, de type assistants.
J'aimerais piloter un ordinateur via un service MCP. Il faut un modèle qui gère aussi la vision (par exemple : qwen3.6:35b, ou mistral-medium-3.5:128b qui est beaucoup plus lourd).

Idéalement, il faudrait prévoir beaucoup de RAM et de vRAM.

Je serais tenté vers des machines (…)

Journal Auto-héberger ses IA

46
18
mai
2026

Introduction

Si on en croit les décideurs pressés sur LinkedIn, l'IA, c'est la nouvelle révolution technologique, la nouvelle ruée vers l'or, et j'en passe. Bientôt, plus besoin d'ingénieurs logiciels !
Et si on en croit mes recommandations Youtube, l'IA, c'est la dernière arnaque à la mode, une bulle économique sans précédent en train de gonfler, et un désastre écologique ¯\(ツ)/¯.
Dans tous les cas, dans les métiers de l'informatique, le sujet est devenu difficile à éviter.

Pour ma (…)

Journal IA : mon parcours initiatique

Posté par  (Mastodon) . Licence CC By‑SA.
44
16
mai
2026

Salut les moule·e·s,

Je m'intéresse de près à l'IA depuis peu, et il m'a fallu un certain temps pour comprendre ce que je devais chercher en fait. Le fameux "claude code" ou les "agents" étaient un peu nébuleux, mais j'avais bien compris que c'était autre chose que de faire ses requêtes dans un browser web.

Si vous êtes comme moi il y a quelques mois, voici l'article que j'aurais aimé lire à l'époque.

Niveau 0 : ChatGPT dans le browser

(…)

Journal Comparatif : 6 LLMs locaux face à un exercice Python simple

27
3
avr.
2026

Bonjour, aujourd'hui j'ai fait un essai qui n'est pas du tout scientifique : que valent les LLM qui tournent sur mon Dell d'inférence pour coder une fonction Python très simple ?

Le prompt donné aux modèles : « Je voudrais que tu me fasses une fonction en Python pour parser un fichier CSV et le transformer en JSON. »

Un même prompt, six modèles différents, tous exécutés en local via Ollama. L'objectif : voir comment chaque LLM interprète une demande (…)

AMD mise tout sur RADV

75
6
mar.
2026
Linux

Nous avions appris avant l’été que la pile graphique d’AMD serait désormais entièrement libre et qu’AMD abandonnait ses derniers pilotes propriétaires au sens de privateur, mais AMD s’est également séparé du pilote libre AMDVLK au profit du pilote libre RADV de Mesa !

Une steam deck sur une steam machine originale affichant RADV inside!
L’ombre de Valve plane sur les pilotes graphiques AMD sous Linux. Ici une Steam Deck de 2022 et une AlienWare Alpha (Steam Machine originelle de 2015) en variante AMD, fonctionnant toutes deux avec RADV.

Le 17 novembre 2025, avec la sortie de la version 25.20.3, RADV est devenu le pilote Vulkan universel pour les cartes AMD sous Linux. Cette dépêche vous emmène sur les traces du pilote RADV et comment celui-ci a remplacé AMDVLK, remémore l’aventure d’ACO pour battre LLVM, raconte comment un changement récent du pilote Linux amdgpu active la prise en charge de Vulkan sur de nombreux matériels anciens, et soyons fou, vous explique comment installer RADV sur une Xbox.

Journal ollama et le GPU

Posté par  . Licence CC By‑SA.
5
16
avr.
2024

Bonjour à tous,

lors d'un précédent journal concernant les LLM, poulpatine m'a fait remarquer que je faisais erreur en affirmant que ollama ne fonctionne pas avec les GPU sous linux.
En effet j'avais tort. Enfin, en partie; je m'explique:
- en passant par l'installation standard de ollama, ollama tourne via un service systemd. Dans ce cas, le GPU n'est pas utilisé.
- par contre, en lançant un serveur ollama via une commande ollama serve, l'inférence utilise parfaitement (…)