Bonjour à tous,
lors d'un précédent journal concernant les LLM, poulpatine m'a fait remarquer que je faisais erreur en affirmant que ollama ne fonctionne pas avec les GPU sous linux.
En effet j'avais tort. Enfin, en partie; je m'explique:
- en passant par l'installation standard de ollama, ollama tourne via un service systemd. Dans ce cas, le GPU n'est pas utilisé.
- par contre, en lançant un serveur ollama via une commande ollama serve, l'inférence utilise parfaitement (…)
Dans cet article je me propose de faire une introduction aux grands modèles de langage, et en particulier à leur utilisation en local (i.e., hors ligne). Si vous ne souhaitez pas vous inscrire sur des plateformes en ligne, que vous êtes soucieux de l'utilisation qui est faite de vos données, que vous ne souhaitez pas débourser le prix d'un abonnement, mais que toutefois ces technologies suscitent votre intérêt, alors cet article est peut-être pour vous. Je n'aborderai (…)
Oui, je sais, ça a l’air complètement idiot.
Voici l’histoire : au boulot je dispose d’une station Dell précision sur laquelle j’ai une kubuntu qui tourne sans problème depuis des années. Depuis quelques mois j’ai constaté un phénomène étrange au démarrage :
Le bios démarre et affiche le logo Dell. S’en suit une tentative de boot, puis un redémarrage, tout ça sans intervention de ma part. Re-bios, et le splash screen d’ubuntu reste indéfiniment à l’écran.
Deuxième tentative: Au reboot (…)
Chère linuxfrienne, cher linuxfrien,
voici une petite dizaine d'année que l'"IA" a commencé à diffuser hors de la sphère des scientifiques/développeurs/experts et a commencé à faire la une d'articles plus ou moins grand public.
Étant d'un naturel curieux et, profitant de cette période d'accalmie forcée, je me suis lancé dans lecture d'ouvrages dédiés à l'apprentissage automatique (machine learning) et l'apprentissage profond (deep learning, DL) en Python. Bon en fait j'ai commencé avant, mais on s'en fout.
À toutes fins utiles (…)
Ceci est un journal marque-page.
Comme je l'évoquais précédemment, une des critiques que l'on peut formuler à l'encontre de Jupyter est qu'il faille travailler dans un navigateur web, ce qui s'avère peu ergonomique. Il existe certes le programme nteract qui permet d'afficher et d'exécuter les notebooks hors du navigateur, mais on est encore loin d'un éditeur de texte.
Je n'utilise pas cet éditeur de texte en particulier (et j'ignore si il y en a beaucoup sur DLFP), mais Microsoft (…)
Cher journal,
tu connais sans doute Jupyter, cet outil de développement tournant dans un navigateur qui est particulièrement en vogue chez les scientifiques et plus généralement dans les domaines liés au traitement des données. Aujourd'hui je vais te parler d'une possibilité offerte par Jupyter qu'il ne me semble pas, sauf erreur de ma part, avoir vu évoquée ici, à savoir le développement d'applications web.
A titre personnel, et peut-être comme beaucoup des plus anciens (disons (…)
Cher journal,
n'étant pas développeur web ce qui suit est peut-être largement connu ; aussi excuse-moi si j'enfonce des portes ouvertes.
J'ai constaté un comportement étrange de Firefox concernant la gestion des caractères de fin de ligne/nouvelle ligne (\n) lorsque ceux-ci sont inclus dans des URL de données. Pour le contexte, il peut arriver, lorsqu'on travaille sur des serveurs Jupyter distants, que l'utilisateur n'ait pas accès à l'espace de fichier où sont stockés les notebooks. Dans ce cas, un (…)
Cher journal,
À l'instar de l'ami omc qui te partageait ses polycops de cours sur "Python for science", je vais moi aussi te parler de Python à travers le prisme de la cristallographie. Mais qu'est ce donc que la cristallographie vas-tu me demander. Historiquement il s'agit d'une discipline qui vise à déterminer la structure atomique (nature et ordonnancement des atomes) de la matière. Cette discipline est en fait à l'intersection d'un très grand nombre de domaines (physique, chimie, biologie,…) (…)