Journal Pourquoi tout le monde en parle ?

Salutations,

Vous allez voir de quoi je parle.

Ne vous attendez pas à avoir la réponse à cette question en titre. J’ai mieux que ça : mon avis sur la question.

Allons droit au but, par le chemin tortueux de l’analogie.

L’analogique du tournevis et de la perceuse électrique. Ne moinssez pas tout de suite, vous allez tout comprendre.

Ni un tournevis ni une perceuse électrique ne sont des systèmes complexes. Cependant le tournevis est simple, son principe de fonctionnement largement compréhensible, les sous-jacents physiques intuitifs pour quiconque. On appuie, on tourne. Alors qu’une perceuse électrique, s’il est aisé de comprendre la fonction et le mode d’action, son fonctionnement, prenons celui du moteur électrique, exige des connaissances en électro-magnétisme, c’est « pas aussi simple ». On peut dire qu’un tournevis est plus simple qu’une perceuse électrique.

Si vous n’êtes pas d’accord avec cette affirmation cessez tout de suite la lecture et commentez directement, vous gagnerez du temps.

C’est plus simple pour une intelligence naturelle du type de celle qui nous équipe tous, humains, moules, cochons. L’intelligence bio-sourcée, développée patiemment par la nature.
Mais pour une IA, j’entends par là les IA conversationnelles, type ChatGPT, Gemini, Grök ou encore ChienGPT, mais pas que. Pour ces créatures artificielles, un tournevis et une perceuse électrique sont deux objets ayant un niveau strictement équivalent de complexité. Et c’est pas rien. Bien sûr qu’elles sont capables de vous fournir des explications plus précises, complètes, et infinies (littéralement) sur la complexité relative du tournevis et de la perceuse électrique, de vous proposer : « Voulez-vous connaître davantage sur la chignole au travers des âges ou bien trouver un vendeur de perceuses électriques près de chez vous ? »…

Mais à l’intérieur, de part leur conception, il n’y a pas de différence entre tournevis et perceuse, ou magasin, ou chignole. Ce ne sont que des mots, pas des concepts reliés à des émotions, un vécu, des sensations. À un esprit, une âme.

Il s’agit dans les deux cas d’un mot parmi d’autres au sein d’un « LLM », un « Large Language Model » ou « Énorme et gigantesque modèle de langage » en français (traduction personnelle). Ceci implique des différences tellement fondamentales que le qualificatif d’ « intelligence » est, si on prend du recul, un parfait contre-sens pour désigner ce dont on parle. Pourquoi « parfait » ? Parce qu’il permet de développer des imaginaires sur-réalistes.

La formulation canonique de la thèse que je soutiens est la suivante : L’IA n’est pas conne comme une valise sans poignée, mais conne comme une poignée de porte collée à une boîte à chaussures avec du dentifrice parfum loutre des bois, ou encore (et simultanément parfois) une poignée de valise, musicale et sans sucre ajouté, parfaitement montée sur la poche d’une cornemuse de compétition.

J’entends trois grands types de discours sur l’IA :

1) Les IA deviennent conscientes, elles sont capables de pirater tout ce qu’elles veulent. Faut tout arrêter maintenant pendant qu’il en est encore temps, l’IA peut nous tuer d’une minute à l’autre, ça se trouve nous sommes déjà mort ! « L’humanité assassinée par sa créature. »
2) Les IA font tout mieux que nous, une IA peut écrire un programme fonctionnel en quelques secondes à partir d’une définition sommaire. Nous entrons dans une nouvelle ère. Tout va changer. Les cancers pourraient être éradiqués, l’espérance de vie doublée voire triplée, sinon décuplée dès que nous maîtriserons l’implémentation de circuit-intégrés directement au sein du corps humain. « L’humanité augmentée par son propre génie ».

3) Les IA nous mènent à notre perte, elles polluent en consommant une énergie incommensurable, elles nous rendent encore plus demeurés que jamais, elles nous tueront à petit feu si les méga-feux nous épargnent. « L’humanité entamant sa longue agonie auto-infligée. »

Le discours un peu plus raisonnable et plus pertinent, à savoir le miens comme (presque) toujours :

0) L’IA est une autre façon d’exploiter les ordinateurs. Une façon envisagée dès les débuts de l’informatique, et que le savoir-faire technologique et les performances obtenues par la technique récente, associée à la quantité phénoménale d’information générée continuellement et tous azimuts, rendent possible et intéressant à mettre en œuvre de nos jours. « L’humanité continuée. »

L’IA est complètement stupide par essence. On a tendance à ne pas s’en rendre compte parce que notre intelligence n’a pas encore bien pris la mesure, et surtout la nature artificielle de sa stupidité.

L’adaptation constante à la connerie humaine, indispensable à la survie, réclame une part majeur de notre puissance intellectuelle. La compréhension de la « connerie probabiliste généralisée » et ses interactions avec la première est un défi que nous nous sommes lancé. Nous l’atteindrons !

Pas d’analyse, j’en demanderai vous en demanderez une à ChatGPT après, passons tout de suite aux exemples pour illustrer la conclusion ci-dessus.

Demandez à votre IA de prédilection si elle voit ce qui cloche dans cette image (elle même générée par IA, est-ce bien utile de le préciser…). Il y a pas mal de trucs assez loufoques, mais un en particulier crève les yeux (pas littéralement évidemment ! vous aussi vous êtes cons ?). C’est pas évident pour une IA, qui sera néanmoins capable de fournir les explications de pourquoi c’est pas évident pour elle.

Deuxième exemple. J’aime les pentagones. Je demande donc à ChatGPT de me faire une belle illustration des quatre pentagones pavant le plan découverts par Marjorie Rice, une mathématicienne amateure.

Alors là, assez surpris fus-je, ChatGPT me dit en substance qu’il est vraiment nul en géométrie et qu’il est sûr de me décevoir, que j’ai tout intérêt à lui demander autre chose. C’est rare, normalement c’est plutôt par "la perfection" qu’il te présente tout ce qu’il fait.

Premier jet :

AVERTISSEMENT : c’est complètement faux

Deuxième essai :

C’est toujours aussi faux mais encore moins vraisemblable. Pourtant il a pris son temps et n’a probablement pas regardé à la quantité de banquise fondue.

Les quatre pentagones en question :

https://fr.wikipedia.org/wiki/Marjorie_Rice#Travaux