Dans cet article je me propose de faire une introduction aux grands modèles de langage, et en particulier à leur utilisation en local (i.e., hors ligne). Si vous ne souhaitez pas vous inscrire sur des plateformes en ligne, que vous êtes soucieux de l'utilisation qui est faite de vos données, que vous ne souhaitez pas débourser le prix d'un abonnement, mais que toutefois ces technologies suscitent votre intérêt, alors cet article est peut-être pour vous. Je n'aborderai (…)
Journal Pas de Revue de Presse cette semaine
Cette semaine pas d'article intéressant.
Enfin, pas intéressant pour la Revue de Presse.
Car j'ai passé un peu de temps à trier ce qui semble être de la presse. Des sites web avec de jolies images, venant de stocks ou de générateurs d'images.
Des sites sans commentaires utilisateurs.
Des pages sans auteurs.
Des "contenus" parfois même sans publicité. Je suis perplexe :)
Il y a quelques semaines mes recherches étaient surchargées par tous ces sites. Mais je crois comprendre que (…)
Journal décrire une une image avec une iA locale
Aujourd'hui c'est fourien™, petit tuto sans prétention!
Pour décrire des images en utilisant une iA localement j'utilise LLaVA qui fait partie de LLaMA C++ (llama.cpp)
prérequis :
créer un dossier image_summary et ses sous dossiers
mkdir -p image_summary/bin image_summary/models image_summary/data/img image_summary/data/txt
créer un venv (j'utilise Python 3.10.6)
python -m venv ./image_summary/venv/
activer l'environnement
source ./image_summary/venv/bin/activate
mettre à jour pip
pip install --upgrade pip
installer les dépendances
pip install 'glob2==0.7'
désactiver l'environnement
deactivate
télécharger le code source de llama.cpp (…)
Lien Stack Overflow bans users en masse for rebelling against OpenAI partnership
Journal [Trolldi] Vulgarisation sur l'IA pour décideur pressé
Cher 'Nal,
Je fais un article-marque-page sur un post tout frais de Ploum où il est question d'un fantasme vieux comme le Talmud avec le Golem.
En bref: C'est trop tard d'investir sur l'IA pour faire fortune, le secteur va péter et pas en bien façon dystopie post-apocalyptique.
Le post peut servir pour donner un "avis différentiel" pour tempérer les tentations disruptives d'un chef ou d'un big boss qui ne jure que par les sacro-saintes Croissance et Progrès. À (…)
Lien Des recruteurs contraints de se passer des IAs pour sélectionner des candidats 🤖
Lien Pour Linus Torvalds, voir toute cette hype sur l'IA c'est hilarant 🍿
Lien IA, vous avez dit IA ?
Lien Noyb poursuit OpenAI pour infraction au RGPD sur les informations fausses des personnes
Journal ollama et le GPU
Bonjour à tous,
lors d'un précédent journal concernant les LLM, poulpatine m'a fait remarquer que je faisais erreur en affirmant que ollama ne fonctionne pas avec les GPU sous linux.
En effet j'avais tort. Enfin, en partie; je m'explique:
- en passant par l'installation standard de ollama, ollama tourne via un service systemd. Dans ce cas, le GPU n'est pas utilisé.
- par contre, en lançant un serveur ollama via une commande ollama serve
, l'inférence utilise parfaitement (…)
Lien Tourner une IA sans GPU et sur Raspberry Pi grâce à llama.cpp 😮
Lien 13 Best Open Source ChatGPT Alternatives
Forum général.général IA / LLM mode ou enjeu ?
J'entends partout (dans les médias) que l'IA est l'avenir, l'IA est stratégique, qu'on est en retard avec l'IA. Or, on parle ici de LLM c'est-à-dire d'outil capable de générer du contenu à partir de description textuelle.
Je n'arrive pas à voir ce que tout cela apporte, à part à pourrir encore plus le net avec du contenu douteux, car non vérifié. Je m'adresse donc au forum pour m'aider à comprendre si il s'agit d'une mode ou bien d'un enjeu stratégique.