Journal Intelligence artificielle et problèmes réels

_
:tldr; J'ai constaté que récemment il y avait pas mal de journaux et liens "anti-IA" sur linuxfr, mon texte sera probablement dans la même veine. Ça a été écrit il y a quelque temps, suite au raz le bol à la fois de voir qu'une grande partie du monde tombe là dedans, présentant ça comme si c'était indispensable (ça remplace juste leur moteur de recherche), et en plus en constant que les robots IA étaient généralement agressif en scannant le web et partant, nos sites web perso (cf. https://linuxfr.org/users/zurvan-0/journaux/tenter-de-limiter-les-nuisances-liees-aux-robots-d-ia où la partie "problèmes réels" est abordée)_

Je me suis longuement intéressé aux algorithmes génératifs ces dix-quinze dernières années, c'est à dire créer de façon semi-procédurale des textes et des univers. J'y voyais un moyen de donner un coup de pouce au hasard, de trouver de nouvelles idées, de stimuler la créativité. Je me suis amusé avec ça au travers de programmations très simples, avec de la génération aléatoire et des données piochées dans des tables avec divers objets ou événements.

J'ai aussi découvert les chatbots, à travers AIML et riverscript. C'est plus développé pour la langue anglaise, mais j'avais essayé de regrouper ce qui existait en français, dans ce projet github, mais j'avais été rapidement limité. Il existait d'ailleurs à l'époque des chatbots français assez développés, mais les auteurs ne publiaient pas forcément leurs sources.

=> https://github.com/aifr/

Dans les deux cas, les fictions interactives et les chatbots, on retrouve les problématiques des origines de l'informatique, que l'on avait déjà avec le programme Eliza dans les années 60 : comment simuler une intelligence artificelle qui ferait illusion auprès des humains. C'est également les questionnements que l'on retrouve dans le film Blade Runner ou la série Westworld.

=> https://fr.wikipedia.org/wiki/ELIZA

Lorsque les premières intelligences artificelles (IA) génératives et conversationnelles comme ChatGPT sont arrivées vers 2022, on pourrait croire que poussé par l'enthousiasme, je me sois précipité vers ce nouvel outil révolutionnaire.

Il n'en est rien.

J'ai rapidement été dégoûté par le caractère fermé de ce « service », et je l'ai très peu utilisé, juste pour constater avec effarement à quel point certaines réponses pouvaient être biaisées et/ou erronées. Mais nul doute que cela va « s'améliorer », c'est à dire pouvoir se substituer encore plus à l'humain, sur le modèle des IA génératives de films et d'images. À propos de ces dernières, les avancées techniques sont réellement impressionnantes, on est passé en quelques années de quelque chose d'anecdotiques avec un mauvais rendu, à des productions qui tendent à se substituer encore plus à la réalité. Ainsi encore ce matin je suis tombé sur une IA qui remplaçait un acteur dans un film par un autre, avec les mêmes expressions de visage, et on ne voyait presque pas la différence.

C'est le « presque » le fond du problème. Car l'impression de malaise est bien réelle lorsqu'on constate que le presque est toujours présent. Et plus cela va s'améliorer techniquement, plus le presque se fera de façon diluée, relégant le malaise à des couches de plus en plus profondes du subconcient, et donnant une impression de réel d'autant plus biaisée que l'illusion est subtile.

Bref, il y a maintenant toujours cette impression bizarre lorsqu'on lit un pavé ou même n'importe quel texte de finir par ce dire : est-ce que cela a été rédigé en toute conscience par un humain, ou bien il s'est contenté de donner trois idées qui ont été ultérieurement développées par une IA ?

Par mimétisme on va se retrouver avec des humains qui deviennent « presque » des machines, fonctionnant en mode automatique, sans libre-arbitre ou âme pour départager le vrai du faux, le réel de l'illusion. C'est déjà le cas, mais cela va s'amplifier avec le temps si les gens prennent l'habitude de voir et cotoyer le faux dans tous les aspects de la société, que cela soit aux travers de films, de jeux vidéos, de dialogues, de lectures imbibés d'IA.

Cette omniprésence, réelle ou fantasmée de l'IA me rend paranoïaque dans mes choix culturels ou techniques. Déjà que je n'apprécie pas spécialement les productions audiovisuelles actuelles (netflix, universal music et compagnie), mais de savoir qu'un film, une pochette de disque, une musique, un livre auront été « peut-être », ou « presque », produits de manière industrielle, semi ou totalement automatique avec deux clics me pousse encore moins dans l'engagement que je pourrais avoir auprès de ces « produits ». Et de ne pas savoir non plus est encore le pire. Est-ce que je vais passer 10 minutes de mon temps à lire un texte peut-être généré par IA ? Est-ce que je vais demander à ChatGPTruc de le lire à ma place et de me le résumer ? La corporate society résoud cela facilement : les emails sont automatiquement générés par les expéditeurs avec un AssistantIA (copilot), et automatiquement lus et résumés à l'autre bout par les destinataires. Quel progrès !!

Je suis par ailleurs « artiste », c'est à dire que je fais moi-même de la musique, des dessins, je m'essaye également à l'écriture. Cela me met mal à l'aise de savoir que les autres humains en face, qui se confronteront à mon art, pourraient avoir des doutes similaires. Car si mes productions artistiques sont avant tout pour moi (on est narcissique ou on ne l'est pas !), je sais qu'elles peuvent également toucher d'autres personnes. Et je ne veux absolument pas qu'il y ait d’ambiguïté à ce sujet.

Je connais la ritournelle « il faut savoir s'adapter ou sinon disparaître », mais c'est un raisonnement fallacieux. On peut toujours tout retourner avec des mots (et si vous ne savez pas comment faire, demandez à votre nouvel ami numérique !). D'ailleurs certaines drogues permettent de dépasser les limites du cerveau, pourquoi ne pas s'adapter en en faisant un usage raisonné et pondéré ? Magouiller en affaire, tricher, mentir, voler, permettent d'être meilleur que les autres. Ne pas le faire c'est ne pas savoir s'adapter !

Pour faire simple, et en conclusion d'un texte déjà trop long (et 100% généré par un humain), je refuse d'utiliser les « Intelligences Articielles » pour mon travail littéraire et artistique de façon générale, et d'ailleurs je ne l'utilise pratiquement jamais non plus pour les autres occasions. Étant informaticien, je pense que je pourrais essayer de m' « approprier cet outil », mais ma sensibilité allant vers les logiciels libres, je vois surtout les IA actuelles comme des boîtes noires sur lesquelles nous, utilisateurs, n'avons aucun contrôle, et dont nous ne pouvons pas reprendre les rênes ni en devenir les acteurs. Ce n'est pas un bien commun, c'est un système parasitaire orchestré par des entreprises sans scrupules. Il ne peut pas vraiment en ressortir quelque chose de bon.

De plus actuellement les gros acteurs de l'IA générative perdent plus d'argent qu'ils n'en gagnent, et si avec les abonnements ils pourront peut-être atteindre un certain équilibre, à terme soit le modèle va s'effondrer et ce type d'outil ne sera plus disponible, soit ils commenceront à gagner de l'argent et là ils pourront pratiquer les prix qu'ils voudront ce qui rendra les utilisateurs pieds et poings liés. Cela fait beaucoup d'incertitudes, et je n'aime pas baser mon mode de fonctionnement et mon travail sur des fondations aussi fragiles.

Certes, il existe des IA open source, mais le système d'entraînement, très agressif, en pillant les sites web existants, et les bases de connaissances ne sont pas les mêmes, les enjeux non plus. En utilisant les IA, on n'a pas réellement l'impression de participer à un partage de connaissances objectives. Si j'utilisais cela, j'aurais aussi un peu l'impression de tomber sur un texte écrit par un autre et de me l'approprier à mon nom. Lorsque mon livre sera terminé, quel nom mettre en couverture ?

Au-delà de ce domaine éthique, en tant qu'artiste (musicien) et auteur (on fait ce qu'on peut), je me vois mal laisser un outil incontrôlable venir m'aider à definir mon art : le plaisir de créer est aussi dans la réflexion et la recherche, dans les tâtonnements, mes tâtonnements et hésitations. Je préfère chercher par mes propres moyens plutôt que d'avoir quelque chose de pré-digéré. Je sais qu'en une phrase et deux clics je pourrais générer de nouvelles idées, définir des personnages probablement plus riches et complexes, des paysages plus variés ou exotiques.

Mais écrire, tout comme lire, c'est aussi un exercice. Si j'utilise une machine pour se substituer à cela, est-ce que je ne risque pas d'avoir des lecteurs qui utilisent la même machine pour ne plus lire mon texte et se contenter d'un résumé rédigé par IA ? J'ai déjà évoqué cela plus haut.

À trop vouloir se simplifier ou « optimiser » la vie, on en vient à perdre son âme.