Bonjour,
Je cherche à comprendre si l'achat d'un matériel dédié serait adapté/réaliste pour faire tourner des LLM en local.
Mon objectif serait d'utiliser ce matériel pour faire tourner des agents LLM, de type assistants.
J'aimerais piloter un ordinateur via un service MCP. Il faut un modèle qui gère aussi la vision (par exemple : qwen3.6:35b, ou mistral-medium-3.5:128b qui est beaucoup plus lourd).
J'ai un budget autour de 3 000 € / 3 500 €.
Je sais qu'idéalement, il faut beaucoup de RAM et de vRAM.
Je serais tenté vers des machines qui disposent de 128 Go de RAM unifiées, peut-être est-ce le meilleur compromis.
- Quelqu'un a-t-il un retour d'expérience à ce sujet ?
- Quel matériel serait le plus adapté pour ce genre de projet ?
- Que me conseillez-vous ?
Merci beaucoup !
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.