Posté par raphj .
Évalué à 10 (+8/-0).
Dernière modification le 09 février 2025 à 20:10.
Ma réaction initiale au titre a été « Comment ça ? Je ne comprends pas la question, pouvez répéter ? » xD
Pour finir par tomber d'accord avec l'article. Ce que j'en retiens : beaucoup de maux qu'on réserve à l'IA ne sont en fait pas spécifiques à l'IA.
Ça fait bien longtemps qu'on casse plein de choses et on n'a pas attendu l'IA pour ça. J'étais tombé sur cette conclusion dans ce commentaire (2ème point à la toute fin - le commentaire est long), c'est cool de voir que je ne suis pas seul.
C'est parce que l'IA, comme les autres outils, y compris ceux qui l'ont précédée, existent dans un système politique et économique qui fonctionne comme ça. Si on n'aime pas les effet qu'ils ont, ça me parait vain de combattre une de ses manifestations en isolation, il faut à mon avis être plus général et attaquer le problème à la racine.
Après, si la manifestation spécifique mais visible qu'est IA permet à certain·e·s de prendre conscience de certaines choses, ou que ça agit comme la goûte d'eau qui fait déborder le vase, pourquoi pas après tout. Il ne faut juste pas se méprendre, et bien identifier les bonnes cibles.
Et l'IA, c'est large, flou, et ça une définition glissante, autant spécifier. Par exemple, est-ce que toutes les critiques qu'on adresse contre l'IA s'appliquent à GNU Chess, qui est une IA ? Non. Elles s'adressent surtout aux IA génératives, et très souvent aux LLM. En tout cas, en ce moment et depuis peut-être 2-3 ans.
Soyons spécifiques, ou généraux, selon ce qu'on affirme :-)
En deux phrases, doit-on critiquer le couteau, le cuisinier, ou l'assassin ? Doit-on critiquer l'IA, ou certains de ses usages ou développements ?
Est-ce bien résumé ?
Ça me rappelle les discussions autour du peer-to-peer…
Posté par raphj .
Évalué à 4 (+2/-0).
Dernière modification le 10 février 2025 à 10:58.
Il y a un peu de ça, mais je ne suis pas entièrement convaincu.
Ni par ce résumé : j'ai l'impression qu'il perd pas mal le cœur du message.
Ni par le parallèle :
Comment représente-t-on le système politique / économique ? Le cuisinier et l'assassin sont des utilisateurs dont on accepte ou rejette les agissements, mais ça ne représente pas une grosse partie des inquiétudes qui ne sont pas liées aux les bonnes et mauvaises utilisations des IA
Si le couteau me parait plutôt neutre comme outil, je ne suis pas sûr qu'on peut dire la même chose des implémentations actuelles de l'IA. Et je ne pense pas que les discussions autour de l'écologie et de l'IA, ni autour des droits d'auteurs, ni des résultats incorrects ou biaisés (entre autres inquiétudes), se transposent bien à la production et l'utilisation du couteau. Je ne sais pas s'il y a des enjeux économiques, politiques, sociaux et environnementaux comparables.
En résumé, les LLM, qui sont des outils, n'ont malgré tout pas grand chose avoir avec de simples couteaux.
À lire l'appel, on a l'impression que les choses allaient plus ou moins bien avant mais que l'IA a entrainé une rupture qualitative
Il y a eu une vrai rupture qualitative, mais elle date vraiment de vers 2010, en terme d'apprentissage automatique, quand on a eu un réseau de neurone qui s'est mis à battre l'existant sur les benchmark de reconnaissance d'image. C'est avant la vague de marketing "IA" récente autour de chatGPT. (je dis pas qu'il y a eu une rupture conceptuelle).
C'est ce qui a justifié les recherches qui ont menés à la vague actuelle et probablement inspirés les grands modèles de langues qui ont impressionnés et entraînés cette espérance un peu délirante.
Mais d'un point de vue industriel on peut se souvenir que c'est vers cette époque qu'on a parlé de détourner des consoles de jeu pour faire du calcul parallèle et utiliser les GPU pour ça, c'était les prémisses du rush actuel et de l'envolée des cours de NVidia.
Quelque part il a raison oui, c'est une continuité de la course au progrès qui fait peu de cas de la sobriété. Encore avant tout ça a été alimenté par la boulimie de données avec Internet des facebook et compagnie entre autre et de quoi faire avec toutes ces données des utilisateurs.
Donc oui il y a à la fois des problématiques anciennes et des ruptures à prendre en compte, et les deux ne sont pas décorrélées. Les deux s'alimentent l'une l'autre. Mais maintenant, c'est au nom de l'IA et des ruptures promises futures qu'on produit des centrales nucléaires, pendant que la transition énergétiques et les normes environnementales sont attaquées par un environnement politique plutôt favorable au "conservatisme" …
Posté par raphj .
Évalué à 2 (+0/-0).
Dernière modification le 10 février 2025 à 13:46.
c'est au nom de l'IA et des ruptures promises futures qu'on produit des centrales nucléaires
C'est vrai, et en même temps je pense que ce n'est qu'un symptôme du système tel qu'il est.
Du coup, peut-être qu'on peut dire un truc comme : il ne faut pas oublier de généraliser, et il faut éviter d'attribuer à l'IA les maux qui viennent en fait du cadre plus large, mais ça vaut probablement le coup de (et ça ne veut pas dire qu'on ne devrait pas) s'attarder sur les manifestations spécifiques liées à l'IA, qui peuvent même aider à identifier les problèmes (structurels) du cadre.
Posté par Thomas Douillard .
Évalué à 3 (+0/-0).
Dernière modification le 10 février 2025 à 19:01.
Pour la météo ce ne serait pas si surprenant, la manière dont on fait les calculs aujourd'hui est très "force brute", il doit être possible d'identifier des manières de trouver des motifs dans les données qu'on a pas su faire avec des approches de simplification mathématiques plus traditionnelles. En gros on fait le même genre de calcul encore et encore à petite échelle, pour pouvoir trouver les structures à plus grande échelle.
Il se pourrait que l'ia arrive à agréger les données d'échelles différentes pour identifier les facteurs qui sont le plus susceptibles de faire tourner les choses dans un sens ou un autre. La détection de motif et la corrélation avec un résultat attendu donné, multi échelle, c'est exactement ce qu'on demande à faire pour faire de la détection sur des images.
Le truc qui est peut-être plus compliqué à faire c'est avec les changements climatiques, on va avoir des changements de régimes météo qui feront que les patterns appris par le passé vont être moins important, ou plus importants, et que c'est pas tellement visible dans les données passées parce que c'était rare ou il va y avoir de l'inédit. Là on peut avoir des résultats moins pertinents parce qu'on voit que l'extrapolation c'est pas toujours ça avec les techniques actuelles, leur capacité de "raisonnement" reste limitée en général. Peut être qu'en rajoutant des données issues de modèles climatiques on peut mitiger ça. Mais les modèles climatiques n'ont pas le même paramétrages et la même résolution.
Mais finalement là on se retrouve avec le fait que le terme "IA" recouvre tellement de choses que … plus ça va avancer plus il va falloir préciser de quoi on parle.
Le truc qui est peut-être plus compliqué à faire c'est avec les changements climatiques, on va avoir des changements de régimes météo qui feront que les patterns appris par le passé vont être moins important, ou plus importants, et que c'est pas tellement visible dans les données passées parce que c'était rare ou il va y avoir de l'inédit
Oui, j'ai eu cette inquiétude.
Mais finalement là on se retrouve avec le fait que le terme "IA" recouvre tellement de choses que … plus ça va avancer plus il va falloir préciser de quoi on parle.
# L'IA n'est pas spéciale
Posté par raphj . Évalué à 10 (+8/-0). Dernière modification le 09 février 2025 à 20:10.
Ma réaction initiale au titre a été « Comment ça ? Je ne comprends pas la question, pouvez répéter ? » xD
Pour finir par tomber d'accord avec l'article. Ce que j'en retiens : beaucoup de maux qu'on réserve à l'IA ne sont en fait pas spécifiques à l'IA.
Ça fait bien longtemps qu'on casse plein de choses et on n'a pas attendu l'IA pour ça. J'étais tombé sur cette conclusion dans ce commentaire (2ème point à la toute fin - le commentaire est long), c'est cool de voir que je ne suis pas seul.
C'est parce que l'IA, comme les autres outils, y compris ceux qui l'ont précédée, existent dans un système politique et économique qui fonctionne comme ça. Si on n'aime pas les effet qu'ils ont, ça me parait vain de combattre une de ses manifestations en isolation, il faut à mon avis être plus général et attaquer le problème à la racine.
Après, si la manifestation spécifique mais visible qu'est IA permet à certain·e·s de prendre conscience de certaines choses, ou que ça agit comme la goûte d'eau qui fait déborder le vase, pourquoi pas après tout. Il ne faut juste pas se méprendre, et bien identifier les bonnes cibles.
Et l'IA, c'est large, flou, et ça une définition glissante, autant spécifier. Par exemple, est-ce que toutes les critiques qu'on adresse contre l'IA s'appliquent à GNU Chess, qui est une IA ? Non. Elles s'adressent surtout aux IA génératives, et très souvent aux LLM. En tout cas, en ce moment et depuis peut-être 2-3 ans.
Soyons spécifiques, ou généraux, selon ce qu'on affirme :-)
[^] # Re: L'IA n'est pas spéciale
Posté par ǝpɐןƃu∀ nǝıɥʇʇɐW-ǝɹɹǝıԀ (site web personnel) . Évalué à 2 (+0/-0). Dernière modification le 10 février 2025 à 10:22.
En deux phrases, doit-on critiquer le couteau, le cuisinier, ou l'assassin ? Doit-on critiquer l'IA, ou certains de ses usages ou développements ?
Est-ce bien résumé ?
Ça me rappelle les discussions autour du peer-to-peer…
« IRAFURORBREVISESTANIMUMREGEQUINISIPARETIMPERAT » — Odes — Horace
[^] # Re: L'IA n'est pas spéciale
Posté par raphj . Évalué à 4 (+2/-0). Dernière modification le 10 février 2025 à 10:58.
Il y a un peu de ça, mais je ne suis pas entièrement convaincu.
En résumé, les LLM, qui sont des outils, n'ont malgré tout pas grand chose avoir avec de simples couteaux.
[^] # Re: L'IA n'est pas spéciale
Posté par Thomas Douillard . Évalué à 5 (+2/-0).
Il y a eu une vrai rupture qualitative, mais elle date vraiment de vers 2010, en terme d'apprentissage automatique, quand on a eu un réseau de neurone qui s'est mis à battre l'existant sur les benchmark de reconnaissance d'image. C'est avant la vague de marketing "IA" récente autour de chatGPT. (je dis pas qu'il y a eu une rupture conceptuelle).
C'est ce qui a justifié les recherches qui ont menés à la vague actuelle et probablement inspirés les grands modèles de langues qui ont impressionnés et entraînés cette espérance un peu délirante.
Mais d'un point de vue industriel on peut se souvenir que c'est vers cette époque qu'on a parlé de détourner des consoles de jeu pour faire du calcul parallèle et utiliser les GPU pour ça, c'était les prémisses du rush actuel et de l'envolée des cours de NVidia.
Quelque part il a raison oui, c'est une continuité de la course au progrès qui fait peu de cas de la sobriété. Encore avant tout ça a été alimenté par la boulimie de données avec Internet des facebook et compagnie entre autre et de quoi faire avec toutes ces données des utilisateurs.
Donc oui il y a à la fois des problématiques anciennes et des ruptures à prendre en compte, et les deux ne sont pas décorrélées. Les deux s'alimentent l'une l'autre. Mais maintenant, c'est au nom de l'IA et des ruptures promises futures qu'on produit des centrales nucléaires, pendant que la transition énergétiques et les normes environnementales sont attaquées par un environnement politique plutôt favorable au "conservatisme" …
[^] # Re: L'IA n'est pas spéciale
Posté par raphj . Évalué à 2 (+0/-0). Dernière modification le 10 février 2025 à 13:46.
C'est vrai, et en même temps je pense que ce n'est qu'un symptôme du système tel qu'il est.
Du coup, peut-être qu'on peut dire un truc comme : il ne faut pas oublier de généraliser, et il faut éviter d'attribuer à l'IA les maux qui viennent en fait du cadre plus large, mais ça vaut probablement le coup de (et ça ne veut pas dire qu'on ne devrait pas) s'attarder sur les manifestations spécifiques liées à l'IA, qui peuvent même aider à identifier les problèmes (structurels) du cadre.
Et, allez, une touche de positif tout de même : bien que ça me laisse un peu circonspect, il semblerait que pour certaines applications comme prédire la météo, on puisse faire beaucoup plus efficace énergétiquement avec des meilleurs résultats que ce qu'on a aujourd'hui. Donc il faut aussi prendre en compte ce genre de choses si ça s'avère vrai.
[^] # Re: L'IA n'est pas spéciale
Posté par totof2000 . Évalué à 2 (+0/-0).
Donc il faut aussi prendre en compte ce genre de choses si ça s'avère
vrai.[^] # Re: L'IA n'est pas spéciale
Posté par Thomas Douillard . Évalué à 3 (+0/-0). Dernière modification le 10 février 2025 à 19:01.
Pour la météo ce ne serait pas si surprenant, la manière dont on fait les calculs aujourd'hui est très "force brute", il doit être possible d'identifier des manières de trouver des motifs dans les données qu'on a pas su faire avec des approches de simplification mathématiques plus traditionnelles. En gros on fait le même genre de calcul encore et encore à petite échelle, pour pouvoir trouver les structures à plus grande échelle.
Il se pourrait que l'ia arrive à agréger les données d'échelles différentes pour identifier les facteurs qui sont le plus susceptibles de faire tourner les choses dans un sens ou un autre. La détection de motif et la corrélation avec un résultat attendu donné, multi échelle, c'est exactement ce qu'on demande à faire pour faire de la détection sur des images.
Le truc qui est peut-être plus compliqué à faire c'est avec les changements climatiques, on va avoir des changements de régimes météo qui feront que les patterns appris par le passé vont être moins important, ou plus importants, et que c'est pas tellement visible dans les données passées parce que c'était rare ou il va y avoir de l'inédit. Là on peut avoir des résultats moins pertinents parce qu'on voit que l'extrapolation c'est pas toujours ça avec les techniques actuelles, leur capacité de "raisonnement" reste limitée en général. Peut être qu'en rajoutant des données issues de modèles climatiques on peut mitiger ça. Mais les modèles climatiques n'ont pas le même paramétrages et la même résolution.
Mais finalement là on se retrouve avec le fait que le terme "IA" recouvre tellement de choses que … plus ça va avancer plus il va falloir préciser de quoi on parle.
[^] # Re: L'IA n'est pas spéciale
Posté par raphj . Évalué à 2 (+0/-0).
Oui, j'ai eu cette inquiétude.
Exact !
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.