Journal ollama et le GPU

Posté par  . Licence CC By‑SA.
5
16
avr.
2024

Bonjour à tous,

lors d'un précédent journal concernant les LLM, poulpatine m'a fait remarquer que je faisais erreur en affirmant que ollama ne fonctionne pas avec les GPU sous linux.
En effet j'avais tort. Enfin, en partie; je m'explique:
- en passant par l'installation standard de ollama, ollama tourne via un service systemd. Dans ce cas, le GPU n'est pas utilisé.
- par contre, en lançant un serveur ollama via une commande ollama serve, l'inférence utilise parfaitement (…)

Journal Introduction pratique aux grands modèles de langage / LLM

73
3
mar.
2024

Dans cet article je me propose de faire une introduction aux grands modèles de langage, et en particulier à leur utilisation en local (i.e., hors ligne). Si vous ne souhaitez pas vous inscrire sur des plateformes en ligne, que vous êtes soucieux de l'utilisation qui est faite de vos données, que vous ne souhaitez pas débourser le prix d'un abonnement, mais que toutefois ces technologies suscitent votre intérêt, alors cet article est peut-être pour vous. Je n'aborderai (…)

Journal Le splash screen d’ubuntu empêche le démarrage ?

Posté par  . Licence CC By‑SA.
7
17
jan.
2022

Oui, je sais, ça a l’air complètement idiot.

Voici l’histoire : au boulot je dispose d’une station Dell précision sur laquelle j’ai une kubuntu qui tourne sans problème depuis des années. Depuis quelques mois j’ai constaté un phénomène étrange au démarrage :
Le bios démarre et affiche le logo Dell. S’en suit une tentative de boot, puis un redémarrage, tout ça sans intervention de ma part. Re-bios, et le splash screen d’ubuntu reste indéfiniment à l’écran.

Deuxième tentative: Au reboot (…)

Journal Revue (pas du tout exhaustive) de livres orientés machine learning / deep learning

Posté par  . Licence CC By‑SA.
16
21
avr.
2020

Chère linuxfrienne, cher linuxfrien,
voici une petite dizaine d'année que l'"IA" a commencé à diffuser hors de la sphère des scientifiques/développeurs/experts et a commencé à faire la une d'articles plus ou moins grand public.
Étant d'un naturel curieux et, profitant de cette période d'accalmie forcée, je me suis lancé dans lecture d'ouvrages dédiés à l'apprentissage automatique (machine learning) et l'apprentissage profond (deep learning, DL) en Python. Bon en fait j'ai commencé avant, mais on s'en fout.

À toutes fins utiles (…)

Journal Jupyter dans VS code

Posté par  . Licence CC By‑SA.
Étiquettes :
7
11
oct.
2019

Ceci est un journal marque-page.

Comme je l'évoquais précédemment, une des critiques que l'on peut formuler à l'encontre de Jupyter est qu'il faille travailler dans un navigateur web, ce qui s'avère peu ergonomique. Il existe certes le programme nteract qui permet d'afficher et d'exécuter les notebooks hors du navigateur, mais on est encore loin d'un éditeur de texte.

Je n'utilise pas cet éditeur de texte en particulier (et j'ignore si il y en a beaucoup sur DLFP), mais Microsoft (…)

Journal Créer une application web avec Jupyter, ipywidgets et voilà

Posté par  . Licence CC By‑SA.
36
4
oct.
2019
Ce journal a été promu en dépêche : Créer une application web avec Jupyter, ipywidgets et voilà.

Cher journal,
tu connais sans doute Jupyter, cet outil de développement tournant dans un navigateur qui est particulièrement en vogue chez les scientifiques et plus généralement dans les domaines liés au traitement des données. Aujourd'hui je vais te parler d'une possibilité offerte par Jupyter qu'il ne me semble pas, sauf erreur de ma part, avoir vu évoquée ici, à savoir le développement d'applications web.

À propos de Jupyter

A titre personnel, et peut-être comme beaucoup des plus anciens (disons (…)

Journal Jupyter et la gestion des caractères de fin de ligne dans les URL de données par Firefox vs Chromium

Posté par  . Licence CC By‑SA.
Étiquettes :
12
19
sept.
2019

Cher journal,
n'étant pas développeur web ce qui suit est peut-être largement connu ; aussi excuse-moi si j'enfonce des portes ouvertes.

J'ai constaté un comportement étrange de Firefox concernant la gestion des caractères de fin de ligne/nouvelle ligne (\n) lorsque ceux-ci sont inclus dans des URL de données. Pour le contexte, il peut arriver, lorsqu'on travaille sur des serveurs Jupyter distants, que l'utilisateur n'ait pas accès à l'espace de fichier où sont stockés les notebooks. Dans ce cas, un (…)

Journal Python haute performance et cristallographie

Posté par  . Licence CC By‑SA.
46
2
sept.
2019

Cher journal,

À l'instar de l'ami omc qui te partageait ses polycops de cours sur "Python for science", je vais moi aussi te parler de Python à travers le prisme de la cristallographie. Mais qu'est ce donc que la cristallographie vas-tu me demander. Historiquement il s'agit d'une discipline qui vise à déterminer la structure atomique (nature et ordonnancement des atomes) de la matière. Cette discipline est en fait à l'intersection d'un très grand nombre de domaines (physique, chimie, biologie,…) (…)