Salut. Je cherche depuis un bon moment à mettre en place un système de second cerveau par IA qui tourne en local sur ma machine, et j'avoue que je rame un peu sur la config sous Debian 12. Le principe c'est d'avoir un outil qui indexe mes notes, mes PDF, mes bookmarks… et qui me permet ensuite de faire des recherches en langage naturel dessus. Genre je tape "ce truc que j'avais lu sur le noyau et les namespaces" et ça me retrouve le document. J'ai regardé du côté de Obsidian avec des plugins LLM, mais aussi des trucs plus DIY comme Ollama couplé à un vector store (Chroma ou Qdrant, j'hésite encore). J'ai une vieille Thinkpad X230 avec 16 Go de RAM et un CPU qui date de 2012. Ollama tourne, j'ai réussi à faire tourner un mistral 7B en quantification 4 bits, c'est lent mais ça passe. C'est surtout la partie pipeline d'indexation qui me pose question. LangChain en Python ça a l'air bien sur le papier mais les dépendances c'est une catastrophe, y'a des conflits partout avec les paquets Debian stable.
J'ai essayé de créer un venv propre, ça règle une partie du problème, mais dès que je veux faire tourner tout ça en tâche de fond avec un service systemd ça devient vite le bazar. Quelqu'un a déjà monté une stack de ce type pour un second cerveau avec IA sur une Debian ? Pas forcément les mêmes outils, je suis ouvert à tout. Privoxy, un RAG maison, peu importe. Ce qui compte c'est que ça reste en local, sans appel à une API externe payante, et que ça survive aux mises à jour du système sans tout reconfigurer.
# Dans le genre de NotebookLLM
Posté par Sylvain Berfini (site web personnel) . Évalué à 3 (+2/-0).
Je crois que OpenNotebook cherche à répondre ton besoin mais j'ai pas testé.
# DreamServer
Posté par NeoX . Évalué à 4 (+1/-0).
y a korben qui a referencé "dreamServer" qui à l'air de faire l'insdtallation d'une stack complete
peut-etre possible d'installer deux stacks sur deux machines et de les faire communiquer ensemble
sur mes tests ca detecte bien les 2 GPUs (nvidia P2000 et GTX1070 pour 5+8Go de VRAM) à conditions evidemment d'avoir installer les pilotes qui vont bien sur l'OS principal (ubuntu26 pour moi car les pilotes nvidia sur debian sont trop ancien pour llama.server)
# déjà 1 ce serait bien ?
Posté par BAud (site web personnel) . Évalué à 2 (+0/-0).
spa gagné, quelle IA serait en mesure de proposer cela ?
autant passer à trixie plutôt que de rester en bookworm
déjà fournir des références, ce serait un peu mieux que la plupart des LLM :/
# je viens de comprendre
Posté par NeoX . Évalué à 3 (+0/-0).
en relisant le sujet et le corps de la demande, quelques jours apres
tu as deja 1 cerveau, le tiens, et tu veux un "assistant" (2e cerveau) à base d'IA, qui peut aller chercher dans tous tes fichiers pour retrouver des infos.
donc tu cherches juste une stack IA en fait
[^] # Re: je viens de comprendre
Posté par Benoît Sibaud (site web personnel) . Évalué à 3 (+1/-1).
Non je pense plutôt à du spam moi. Genre les commentaires ici ne servent strictement à rien. Et n'auront pas de réponses.
[^] # Re: je viens de comprendre
Posté par Voltairine . Évalué à 1 (+1/-2).
Le deuxième cerveau c'est le système digestif.
Quelqu'un, dont je ne ferai pas la promotion, a lancé le concept du « développement d'un second cerveau : une méthode éprouvée pour organiser votre vie numérique et libérer votre potentiel créatif ».
Bien entendu c'est juste du marketing et des promesses pour gogos avides de performances. Mais depuis il y a une flopée d'adeptes qui suivent le gourou et essaient de vendre des trucs en rapport.
N.B. : dans les deux cas c'est de la merde. Mais mieux vaux intéresser à celle que l'on produit soi-même plutôt que de manger celle des autres.
[^] # Re: je viens de comprendre
Posté par fearan . Évalué à 5 (+2/-0).
Chez le mâle il y'aurait donc 3 cerveaux ? Malheureusement le cœur ne peux en alimenter qu'un seul à la fois
Il ne faut pas décorner les boeufs avant d'avoir semé le vent
[^] # Re: je viens de comprendre
Posté par Voltairine . Évalué à 2 (+0/-0).
Et dans ce cas quel cerveau l'habite ?
Il semble que le dosage de testostérone permettrait de trancher dans la cas des militaires étasuniens.
# Hermes agent
Posté par antonio vinci . Évalué à 0 (+1/-2).
Regarde du coté de hermes agent:
https://www.youtube.com/watch?v=CFmFaWLzq94
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.