Forum général.général Construire un second cerveau par IA sous Debian, quelqu'un a testé ?

Salut. Je cherche depuis un bon moment à mettre en place un système de second cerveau par IA qui tourne en local sur ma machine, et j'avoue que je rame un peu sur la config sous Debian 12. Le principe c'est d'avoir un outil qui indexe mes notes, mes PDF, mes bookmarks… et qui me permet ensuite de faire des recherches en langage naturel dessus. Genre je tape "ce truc que j'avais lu sur le noyau et les namespaces" et ça me retrouve le document. J'ai regardé du côté de Obsidian avec des plugins LLM, mais aussi des trucs plus DIY comme Ollama couplé à un vector store (Chroma ou Qdrant, j'hésite encore). J'ai une vieille Thinkpad X230 avec 16 Go de RAM et un CPU qui date de 2012. Ollama tourne, j'ai réussi à faire tourner un mistral 7B en quantification 4 bits, c'est lent mais ça passe. C'est surtout la partie pipeline d'indexation qui me pose question. LangChain en Python ça a l'air bien sur le papier mais les dépendances c'est une catastrophe, y'a des conflits partout avec les paquets Debian stable.

J'ai essayé de créer un venv propre, ça règle une partie du problème, mais dès que je veux faire tourner tout ça en tâche de fond avec un service systemd ça devient vite le bazar. Quelqu'un a déjà monté une stack de ce type pour un second cerveau avec IA sur une Debian ? Pas forcément les mêmes outils, je suis ouvert à tout. Privoxy, un RAG maison, peu importe. Ce qui compte c'est que ça reste en local, sans appel à une API externe payante, et que ça survive aux mises à jour du système sans tout reconfigurer.