Why not both ? Au moins la suppression de la pub va souvent avec la suppression des trackers donc ça débarrasse des deux problèmes d'un coup. Je doute que peu de personnes sont super contentes d'apprendre qu'elles ont un (des) double virtuel sur Internet constitué de leurs données perso, qui est revendu à n'importe qui plus ou moins légalement sans qu'elles maîtrisent grand chose.
C'est pas gagné, j'ai de la famille qui travaille dans le cadre de l'accompagnement de personne dans le public en France (je reste vague), et apparemment on a déjà vendu de l'IA dans ce genre de secteur qui n'a a priori rien à voir avec la technique. Il s'agirait faire pondre des projets d'accompagnements/suivi/vie par des LLMs, si j'ai bien compris.
Dans le cadre actuel ou on veut un max d'efficacité dans le service public et ou les dirigeants font n'importe quoi avec les finances, et les moyens contraints, ce genre de promesses doit faire frissonner les oreilles de certains.
Les vingt années de mandats consécutifs des démocrates à la suite de la Grande Dépression ont forcé les républicains à chercher un nouveau terrain électoral, et ils ont vite compris que leur principal objectif politique devait être de gagner le vote des Blancs du Sud, qui, bien que descendants des rebelles confédérés contre lesquels les fondateurs du parti républicain avaient créé le parti, étaient désormais idéologiquement plus proches de ce dernier que des démocrates (et étaient toujours des WASP, c’est-à-dire des Blancs, anglo-saxons et protestants).
Ils ont basculès du nordisme au sudisme, après avoir été quasi hégémoniques pendant longtemps, en basculant petit à petit vers du conservatisme pendant ce temps et en perdant leur côté réformistes initial.
Faut dire que quand il n'y a que deux grands parti il peut y avoir des nuances a l'intérieur qui ne s'expriment pas trop et des fractures brutales en cas de reconfigurations autour de lignes étouffées, et sur plusieurs siècles en plus … Les pôles ont pu s'inverser.
Je suis pas certain de ce que je dis mais … Ils sont optimisés pour faire un modèle minimum d'erreur sur un certain corpus.
Ça les "tire" dans une direction, c'est leur "raison d'être". Dans un dialogue, ça peut potentiellement induire de "l'intentionnalité" avec le contexte "tu est un chatbot, tu réponds a des questions …" du pre-prompt (que des gens s'amusent à "jailbreaker" pour faire sortir le llm de ces instructions. Là on a un genre de jeu qui se met en place … Le llm est conçu pour donner un texte qui répond aux instructions, l'utilisateur veut le faire sortir du script.
Le llm est conçu pour faire un minimum d'erreur, donc pour répondre quelque chose d'approprié dans ce contexte (ce ne sont plus strictement des erreurs vu qu'il n'y a plus de corpus). Là … Il y gaming. "Vous allez essayer de me faire sortir du script, je veux pas alors je suis conçu pour vous donner une réponse générique telle que celle là". C'est prévu de base tu me diras mais il y a un méta jeu qui fait que si fondamentalement oui, un llm prédit le mot suivant il se passe bien d'autres choses (post apprentissage, pre-prompt, autre?) pour obtenir un certain résultat et lui donner des "objectifs" à atteindre autre.
Et puis si on est plus éthéré on peut se demander si en avalant des tonnes d'exemple de jeu il finisse par émerger des capacités où elle " comprend" dans une certaine mesure ce que veux dire "gagner avun jeu, que pour prédire le coup suivant elle acquière des rudiments de tactique qu'elle met en place dans le dialogue. Oui c'est le résultat du corpus, et alors ? On lui demande bien ça …
Il y a une variété de situation. Il y a des milliardaires qui poussent clairement ces idées, genre Pierre Édouard Sterin, ou Elon Musk qui fait des saluts Nazis.
Il y a un historique politique de proximité de milieux d'argent genre la bourgeoisie Républicaine avec l'exploitation des masses et l'esclavage et ses idées racistes et eugénistes. Il y a des parties plus progressistes qui pensent que l'ouverture c'est bon pour le business (et que la concurrence fiscale c'est bon pour le porte-monnaie, mais c'est une autre histoire).
Et il y a ceux qui suivent le sens du vent et qui courtiseront toujours le pouvoir, et les alliances de circonstances qui vont dans le sens du vent, quel que soit ce sens ou son intensité … Enfin pas trop à gauche non plus. D'une manière générale on a pas l'impression qu'une majorité de milliardaires sont sur la ligne "on paye pas assez d’impôts" cependant, même s'il y en a (suffit de voir le Medef en France par exemple, quand ils diront qu'ils payent pas assez d’impôts il neigera en enfer). Et des alliances de circonstances. Mais la propagande des milieux d'argents, elle est rarement marxiste et plutôt conservatrice, quand même. Les idées progressistes c'est pas "il faut de l'argent pour le non lucratif", c'est "il faut du progrès technique et ça va ruisseler, il faut donner les moyens au gens de s'en sortir économiquement et tout le monde en profitera". Il y a une éthique du travail et si tu creuses un peu l'idée que "si ils sont pauvres c'est de leur faute" sera pas forcément loin.
Tu oublies surtout la phase ou elle sert à promettre des profits énormes à quelques investisseurs et qu'on va en mettre absolument partout, souvent c'est à partir de ce moment là qu'on ne comprend plus grand chose.
Toi tu vas chercher les poux dans la tête de personnes avec qui tu ne partages pas vraiment les opinions non ? Ça semble à un cas d'école d'utilisation de ce célèbre mème "mister gotcha de Matt Bors qu'on ressort avec les appels à la pureté :
Il y a une différence de démarche. La thermodynamique cherchait à comprendre la chaleur et a trouvé une abstraction mathématique (l'entropie par exemple) qui s'est avéré être utile pour la théorie de l'information, et les scientifique se sont demandé si c'était quelque chose de fondamental.
Là j'ai quand même l'impression qu'on n'est pas tout à fait dans la même démarche : on a un théorème de stat, on cherche un peu à lui trouver des application dans un cadre épisthémolique en tentant rien de moins que de refonder toute l'épistémologie sur ces bases. C'est ambitieux et c'est un peu normal au vu des ambitions, à mon avis, d'aller titiller et de demander des gages et de là ou ça pourrait aller. Notamment parce que c'est pas et de loin la seule manière de voire la philosophie des connaissance et qu'il y a plein de traditions disciplinaires autour. Par exemple si tu vas voir des sociologues et que tu leur dit qu'ils sont pas rationnels donc que ce sont des pas-science (ce qui ne serait pas inédit chez les rationalistes) tu vas probablement mal te faire recevoir.
A titre personnel oui je trouve que le parallèle qu'on peut faire entre l'information et l'énergie en physique théorique, et la calculabilité qui s'infiltre là dedans sur les lois fondamentales est un truc très intéressant. Le rapport entre cognition et calcul est un problème philosophico-scientifique très intéressant. Mais vouloir refonder toute la connaissances sur des bases de probas et de théorie de l'information il y a plein d'obstacles bien connus quand même. Par exemple en admettant "le théorème peut calculer une distribution", si ça se trouve la distribution on sait pas vraiment la faire parler, elle est complexe et en plus le truc qu'on cherche à prédire est intrinsèquement difficile et la distribution prédit beaucoup de chose et la seule chose qu'on peut dire c'est "on sait pas".
Et pour l'instant je vois pas vraiment dans la discussion quelque chose qui pourrait révolutionner ce que je pense sur ce genre de sujet. Je suis pas devin évidemment, ce n'est que mon avis, mais j'ai du mal à imaginer une voix qui permettrait de faire tomber ces obstacles fondamentaux (qui ne repose pas sur une grosse foi sur des avancées techniques très très importante style "singularité" qui serait une révolution tellement importante qu'on ne pourrait rien anticiper, peut-être y compris avec un inducteur de solomonof parfait). Et dans la "hype" actuelle, je pense qu'on a un peu besoin de rabats-joies … Malheureusement ça ne promet pas des montagnes d'argent ce genre de démarche un peu sceptiques, quand on parle de progrès technique.
Le média d’opinion tire sa force de ce fait qu’il assume sa subjectivité. Nous affirmons que la neutralité n’existe pas pour cette raison simple que l’auteur d’un article est engagé dans des rapports sociaux et influencé (pour ne pas dire déterminé) par une multitude de discours antagonistes. Que l’on combatte ou que l’on serve les intérêts de la classe dominante de manière active, de manière consciente ou de manière inconsciente, on ne peut pas prétendre s’extraire d’un monde social conflictuel et accéder à une neutralité quelconque. Aussi, assumer un parti pris revient à une forme d’honnêteté.
Le début nous donne la ligne politique :
LVSL (Le Vent Se Lève) part d’un constat : celui d’une défaite historique des forces de progrès. Notre projet s’annonce donc comme une entreprise de reconquête. […] L’époque actuelle a pour caractéristique première la domination sans partage – quoique contestée – de l’hégémonie néolibérale. Si le néolibéralisme refuse de dire son nom, s’il refuse de se donner un visage unique, il est cependant parvenu à construire une hégémonie solide, laquelle s’incarne dans une variété d’acteurs : journalistes, politiques, partis, etc
Sur une ligne de critique / défense contre l'idéologie néolibérale dominante qui irrigue les médias, en gros, avec la volonté de sortir de ces circuits. Ça peut aussi se voir dans les partenaires en bas de page, "les économistes atterrés" pour les plus connus en France peut-être.
Le genre de bas de page qui donne confiance, qui affiche la couleur et ne se résume pas à un copyright et des liens vers les réseaux sociaux avec une vague référence à une agence marketing un peu opaque.
Non mais vous vous rendez pas compte de l'impact ! Grâce à Internet on va pouvoir répandre la connaissance, les bienfaits du progrès et mettre en place une discussion démocratique mondiale sur la grande place du village, rendre le monde vraiment démocratique ! Alors bon les copistes vont certe passer un mauvais moment mais c'est un sacrifice nécessaire pour le bien commun de tous.
Posté par thoasm .
En réponse au lien Faut-il critiquer l'IA ?.
Évalué à 5.
Dernière modification le 10 février 2025 à 19:01.
Pour la météo ce ne serait pas si surprenant, la manière dont on fait les calculs aujourd'hui est très "force brute", il doit être possible d'identifier des manières de trouver des motifs dans les données qu'on a pas su faire avec des approches de simplification mathématiques plus traditionnelles. En gros on fait le même genre de calcul encore et encore à petite échelle, pour pouvoir trouver les structures à plus grande échelle.
Il se pourrait que l'ia arrive à agréger les données d'échelles différentes pour identifier les facteurs qui sont le plus susceptibles de faire tourner les choses dans un sens ou un autre. La détection de motif et la corrélation avec un résultat attendu donné, multi échelle, c'est exactement ce qu'on demande à faire pour faire de la détection sur des images.
Le truc qui est peut-être plus compliqué à faire c'est avec les changements climatiques, on va avoir des changements de régimes météo qui feront que les patterns appris par le passé vont être moins important, ou plus importants, et que c'est pas tellement visible dans les données passées parce que c'était rare ou il va y avoir de l'inédit. Là on peut avoir des résultats moins pertinents parce qu'on voit que l'extrapolation c'est pas toujours ça avec les techniques actuelles, leur capacité de "raisonnement" reste limitée en général. Peut être qu'en rajoutant des données issues de modèles climatiques on peut mitiger ça. Mais les modèles climatiques n'ont pas le même paramétrages et la même résolution.
Mais finalement là on se retrouve avec le fait que le terme "IA" recouvre tellement de choses que … plus ça va avancer plus il va falloir préciser de quoi on parle.
À lire l'appel, on a l'impression que les choses allaient plus ou moins bien avant mais que l'IA a entrainé une rupture qualitative
Il y a eu une vrai rupture qualitative, mais elle date vraiment de vers 2010, en terme d'apprentissage automatique, quand on a eu un réseau de neurone qui s'est mis à battre l'existant sur les benchmark de reconnaissance d'image. C'est avant la vague de marketing "IA" récente autour de chatGPT. (je dis pas qu'il y a eu une rupture conceptuelle).
C'est ce qui a justifié les recherches qui ont menés à la vague actuelle et probablement inspirés les grands modèles de langues qui ont impressionnés et entraînés cette espérance un peu délirante.
Mais d'un point de vue industriel on peut se souvenir que c'est vers cette époque qu'on a parlé de détourner des consoles de jeu pour faire du calcul parallèle et utiliser les GPU pour ça, c'était les prémisses du rush actuel et de l'envolée des cours de NVidia.
Quelque part il a raison oui, c'est une continuité de la course au progrès qui fait peu de cas de la sobriété. Encore avant tout ça a été alimenté par la boulimie de données avec Internet des facebook et compagnie entre autre et de quoi faire avec toutes ces données des utilisateurs.
Donc oui il y a à la fois des problématiques anciennes et des ruptures à prendre en compte, et les deux ne sont pas décorrélées. Les deux s'alimentent l'une l'autre. Mais maintenant, c'est au nom de l'IA et des ruptures promises futures qu'on produit des centrales nucléaires, pendant que la transition énergétiques et les normes environnementales sont attaquées par un environnement politique plutôt favorable au "conservatisme" …
Posté par thoasm .
En réponse au journal Le Rationalisme.
Évalué à 3.
Dernière modification le 10 février 2025 à 12:22.
En tant que limite théorique, je vois bien l'idée. Je ne suis pas sur que ça apporte tant de chose que ça d'avoir une formalisation mathématique d'idées style "si l'univers (et ses lois) est calculable ou approximable, alors on peut l'approximer", ce qui semble un peu une banalité, la formalisation mathématique n'apporte pas forcément beaucoup. (mais faudrait voir ce l'approximation est condamnée à avoir un horizon variable, cf. la théorie du chaos, au delà duquel on ne dit plus grand chose)
Les conclusions sur le rasoir d’Occam d'un tel modèle théorique sont à mon avis douteuse parce que les théoriciens et chercheurs n'ont pas vraiment besoin d'un tel modèle pour discuter des mérites respectifs de telle ou telle théorie, il y a bien d'autres critères épistémiques qui tiennent la route et qui jouent.
Il reste éventuellement intéressant dans le cadre de modèle théorique de limite du machine learning (plus que de la recherche scientifique en général), mais là encore on est très loin de ce genre de limite avec des modèles à base de réseau de neurone, et les approches à base de loi d'échelle vont dans le sens inverse de la recherche de parcimonie par exemple.
En pratique en recherche scientifique on galère bien souvent à trouver la bonne classe de modèle, et des modèles trop généraux sont inexploitables. Il faut trouver les modèles avec suffisamment de paramètres libres pour être humainement vaguement maîtrisables. Par exemple un truc qui serait intéressant d'un point de vue épistémique serait de savoir comment ce genre de théorie apporterait un éclairage sur les problématiques de la théorie des cordes, qui est critiquée pour avoir trop de paramètres libres qui lui permettent de s'adapter à n'importe quelle observation sans forcément permettre de rajouter grand chose à son pouvoir prédictif par l'observation.
_ "l’induction de Solomonoff ne peut que faire mieux que les meilleures théories calculables, même dans un univers non-calculable"
vs.
on essaie pas de construire physiquement (ou digitalement) un inducteur de Solomonoff. On sait que ce n’est pas calculable ! On sait que ce n’est pas calculable !
Donc on a troqué un univers supposé calculable qu'on essaye de comprendre à l'aide d'un principe qui ne l'est pas :) Difficile de voir ce qu'on aurait gagné dans l'affaire :p
C'est toujours une hypothèse ultra forte. Si par exemple tes données ne permettent pas d'avoir des critères déterministes pour définir cette fonction, sauf erreur de ma part tu ne peux pas borner ta fonction. Et s'il faut descendre, je sais pas, au niveau atomique pour recupérer une forme de déterminisme … Il te faut des quantités de données qu'on ne peut pas tevr stocker de sitôt.
Il n'est pas impossible que les matheux entre eux rentrent dans des postures un peu excessives voir troll et semi sérieuses quand ils discutent philosophie des maths et convictions à ce sujet !
Pour ma part, je trouve que, pour une démarche de fondation supposée poser des principes elementaires, on fait quand même des hypothèses fortes quand on lit les hypothèses de l'article wikipedia sur l'induction de solomonov quand on lit "assuming the universe is run by a computer program" par exemple. On a déjà pas forcément de réponse définitive à la these de Church Turing sur la calculabilité, d'un point de vue philosophique.
Ça n'efface pas le besoin d'épistémologie "par ailleurs" qui serait sceptique de ce genre de bases.
Yet strangely enough, I can’t find any theorem of probability theory which proves that I should appear ice-cold and expressionless.
J'ai rien à dire à ça :) si ce n'est que rien que le fait de mettre des trucs si différents sur le même plan est étrange. Probas, stats, épistémologie … J'ai du mal à trouver un immense potentiel de fécondité à tout ça en approchant les choses de manière purement théorique, avec ce type de théorèmes.
Du coup j'aurai bien du mal à comprendre pourquoi il y aurait matière à s'énerver dans une discussion ou finalement la conséquence la plus concrète dont on discute est de savoir si le rasoir d'ockgam est justifiable par la théorie des probas, en terme épistémique, rationnellement parlant, entre personnes qui discutent tranquilou dans un salon. Avec ma sensibilité, je ne comprend pas les enjeux ou les sentiments forts qui pousseraient a prendre ça "trop" au sérieux.
On sent bien la discussion de rationaliste :) Il y a un peu la volonté de supprimer toute forme d'émotion dans l'espoir d'éliminer toute forme de biais …
C'est pas toujours la marche à suivre, et c'est sans doute un des gros problèmes du rationalisme, fondamentalement. Être humain ou rationnel, ce n'est pas nécessairement supprimer toute forme d'émotion parce que ce seraient des biais vis-à-vis d'une rationalité parfaite. On ne peut créer un projet collectif qu'en prenant en compte notre humanité ou nos condition d'être vivants mortels, avec leur sensibilité et leur intérêt, leurs joies, leurs peines …
Différents systèmes sont acceptables pour regarder différents phénomènes, il n'y a pas qu'une seule "bonne" manière de regarder. Michael Launey en fait une intro mathématique dans cette vidéo.
C'est une bonne intro à des phénomène plus complexe, et un peu à la recherche scientifique aussi finalement. Par exemple en machine learning, comment on compare des images ? Certainement pas avec des choses aussi simples qu'une addition.
Ce n'est pas surprenant que le monde de la finance aie des besoins de physique statistique. Stéphane Mallat dans ses cours "la malédiction de la dimentionnalité" fait souvent la remarque que la physique est la science de la grande dimension et qu'il y a donc des idées venant de la physique a piquer pour les domaines où il y a pleins de données à analyser, des entités nombreuses …
Par contre dans le sens inverse … Qu'on m'appelle quand on verra des économistes résoudre des problèmes de physique :)
(avec en plus l'énorme écueil, pour ce qui est du financier, que ça n'a absolument rien à dire sur les sciences de la nature. Jupiter est-elle ronde ? 199€ !
C'est assez moche pour des idées supposées maximiser le bonheur, conséquentialistes qui plus est, de n'avoir comme conséquence principalement des exemples facheux.
Ça montre que, en supposant les idées épistémique ment correctes elles ne sont pas applicables correctement. Ce qui est un peu une auto-réfutation de l'intérêt épistémique, une prétention à atteindre la vérité, en fait.
Un des problème évidemment c'est que la volonté de tout quantifier induit la volonté de trouver une métrique, financière parce que ça permet d'agréger tout et n'importe quoi (dans un gloubiboulga informe). Finalement ça ne fonctionne pas, parce que ce n'est pas une bonne métrique pour plein de raison dans pleins de cas. Ça illustre très bien l’impossibilité pratique, même avec des théorèmes mathématiques corrects, de mettre des poids sur les variables statistiques dans un cadre à prétention aussi générale. Et mettre des poids sur les variables statistiques (qui sont à identifier aussi, gros problème) est un des fondements de la théorie.
Posté par thoasm .
En réponse au journal Le Rationalisme.
Évalué à 4.
Dernière modification le 06 février 2025 à 21:37.
L'effective altruism c'est un mouvement utilitariste, il me semble, et du débat philosophiques tu peux en avoir par exemple sur les fondements même du principe de l'utilitarisme en tant que tel, donc tu as toute une batterie de critique existantes qui s'appliquent de base. De ce point de vue le mouvement a sans doute bel et bien à répondre à ces critiques qui viennent de différents horizons.
Il semble également qu'il y ait en pratique pas mal de critiques d'universitaires sur les fondements de ces mouvements également.
Tu sembles aussi évoquer les conséquences sociales, avec certaines entreprises du mouvement crypto notamment. On peut tout à fait considérer que ces entreprises ont plus d'échecs sur bien des objectifs qu'on peut considérer désirables que fait de bien globalement.
De ce point de vue, a-t-on réellement besoin de regarder les "idées importantes" pour ne pas être convaincus que ces idées mènent à des actes désirables, et que bien d'autres approches auraient pu voir venir la chose ?
Il ne tient qu'à vous d'essayer de publier ! Si c'est vous qui avez une théorie à porter et que les épistémologue ne sont pas convaincus, ça va être difficile de leur demander d'aller sur votre terrain. Si on prétend faire de la science / philosophie, il faut aller sur le terrain ou ça se joue sérieusement.
Sinon c'est un peu comme n'importe quel charlatan qui prétend avoir une théorie révolutionnaire et de grosses prétentions mais reconnus que par lui même, vous comprenez le monde scientifique n'est pas prêt à reconnaitre son génie trop disruptif, alors qu'ils devraient vraiment regarder ce qu'il fait (spoiler, si il a essayé de publier il a pas réussi). Alors bon s'adresser à "la communauté" c'est plus simple :p
[^] # Re: vie privée pas privée
Posté par thoasm . En réponse au lien Jeep Owners Furious Over Full Screen Ads at Every Stop. Évalué à 3. Dernière modification le 16 février 2025 à 11:52.
Why not both ? Au moins la suppression de la pub va souvent avec la suppression des trackers donc ça débarrasse des deux problèmes d'un coup. Je doute que peu de personnes sont super contentes d'apprendre qu'elles ont un (des) double virtuel sur Internet constitué de leurs données perso, qui est revendu à n'importe qui plus ou moins légalement sans qu'elles maîtrisent grand chose.
[^] # Re: Marre
Posté par thoasm . En réponse au journal LLM (encore), effondrement et travail humain. Évalué à 9.
C'est pas gagné, j'ai de la famille qui travaille dans le cadre de l'accompagnement de personne dans le public en France (je reste vague), et apparemment on a déjà vendu de l'IA dans ce genre de secteur qui n'a a priori rien à voir avec la technique. Il s'agirait faire pondre des projets d'accompagnements/suivi/vie par des LLMs, si j'ai bien compris.
Dans le cadre actuel ou on veut un max d'efficacité dans le service public et ou les dirigeants font n'importe quoi avec les finances, et les moyens contraints, ce genre de promesses doit faire frissonner les oreilles de certains.
[^] # Re: LVSL
Posté par thoasm . En réponse au lien Pourquoi les barons de la Silicon Valley se convertissent au trumpisme . Évalué à 5.
Effectivement, historiquement les démarches cartes étaient les sudistes segregationnistes, cf. cet article de France Culture : https://www.radiofrance.fr/franceculture/a-l-origine-du-parti-democrate-un-parti-esclavagiste-4876442
Ça c'est inversé avec le New Deal de Roosevelt. Cet autre article dit : https://www.lagrandeconversation.com/monde/lhistoire-de-deux-partis-republicains-et-democrates-aux-etats-unis/
Ils ont basculès du nordisme au sudisme, après avoir été quasi hégémoniques pendant longtemps, en basculant petit à petit vers du conservatisme pendant ce temps et en perdant leur côté réformistes initial.
Faut dire que quand il n'y a que deux grands parti il peut y avoir des nuances a l'intérieur qui ne s'expriment pas trop et des fractures brutales en cas de reconfigurations autour de lignes étouffées, et sur plusieurs siècles en plus … Les pôles ont pu s'inverser.
Mais aujourd'hui le KKK est Trumpiste.
[^] # Re: pas mieux, je ne comprends ias l'emballement
Posté par thoasm . En réponse au journal Je suis perdu et je pensais m'être renseigné.... Évalué à 6. Dernière modification le 14 février 2025 à 09:39.
Je suis pas certain de ce que je dis mais … Ils sont optimisés pour faire un modèle minimum d'erreur sur un certain corpus.
Ça les "tire" dans une direction, c'est leur "raison d'être". Dans un dialogue, ça peut potentiellement induire de "l'intentionnalité" avec le contexte "tu est un chatbot, tu réponds a des questions …" du pre-prompt (que des gens s'amusent à "jailbreaker" pour faire sortir le llm de ces instructions. Là on a un genre de jeu qui se met en place … Le llm est conçu pour donner un texte qui répond aux instructions, l'utilisateur veut le faire sortir du script.
Le llm est conçu pour faire un minimum d'erreur, donc pour répondre quelque chose d'approprié dans ce contexte (ce ne sont plus strictement des erreurs vu qu'il n'y a plus de corpus). Là … Il y gaming. "Vous allez essayer de me faire sortir du script, je veux pas alors je suis conçu pour vous donner une réponse générique telle que celle là". C'est prévu de base tu me diras mais il y a un méta jeu qui fait que si fondamentalement oui, un llm prédit le mot suivant il se passe bien d'autres choses (post apprentissage, pre-prompt, autre?) pour obtenir un certain résultat et lui donner des "objectifs" à atteindre autre.
Et puis si on est plus éthéré on peut se demander si en avalant des tonnes d'exemple de jeu il finisse par émerger des capacités où elle " comprend" dans une certaine mesure ce que veux dire "gagner avun jeu, que pour prédire le coup suivant elle acquière des rudiments de tactique qu'elle met en place dans le dialogue. Oui c'est le résultat du corpus, et alors ? On lui demande bien ça …
[^] # Re: LVSL
Posté par thoasm . En réponse au lien Pourquoi les barons de la Silicon Valley se convertissent au trumpisme . Évalué à 7.
Il y a une variété de situation. Il y a des milliardaires qui poussent clairement ces idées, genre Pierre Édouard Sterin, ou Elon Musk qui fait des saluts Nazis.
Il y a un historique politique de proximité de milieux d'argent genre la bourgeoisie Républicaine avec l'exploitation des masses et l'esclavage et ses idées racistes et eugénistes. Il y a des parties plus progressistes qui pensent que l'ouverture c'est bon pour le business (et que la concurrence fiscale c'est bon pour le porte-monnaie, mais c'est une autre histoire).
Et il y a ceux qui suivent le sens du vent et qui courtiseront toujours le pouvoir, et les alliances de circonstances qui vont dans le sens du vent, quel que soit ce sens ou son intensité … Enfin pas trop à gauche non plus. D'une manière générale on a pas l'impression qu'une majorité de milliardaires sont sur la ligne "on paye pas assez d’impôts" cependant, même s'il y en a (suffit de voir le Medef en France par exemple, quand ils diront qu'ils payent pas assez d’impôts il neigera en enfer). Et des alliances de circonstances. Mais la propagande des milieux d'argents, elle est rarement marxiste et plutôt conservatrice, quand même. Les idées progressistes c'est pas "il faut de l'argent pour le non lucratif", c'est "il faut du progrès technique et ça va ruisseler, il faut donner les moyens au gens de s'en sortir économiquement et tout le monde en profitera". Il y a une éthique du travail et si tu creuses un peu l'idée que "si ils sont pauvres c'est de leur faute" sera pas forcément loin.
[^] # Re: L'outil et la société
Posté par thoasm . En réponse au journal Sommet pour l’action sur l'IA, réaction à chaud. Évalué à 6.
Tu oublies surtout la phase ou elle sert à promettre des profits énormes à quelques investisseurs et qu'on va en mettre absolument partout, souvent c'est à partir de ce moment là qu'on ne comprend plus grand chose.
[^] # Re: LVSL
Posté par thoasm . En réponse au lien Pourquoi les barons de la Silicon Valley se convertissent au trumpisme . Évalué à 9.
Ils sont disponibles ailleurs, en vrai :
* bluesky : https://bsky.app/profile/lvslmedia.bsky.social
* masto : https://piaille.fr/@lvslmedia/media
Leur pied de page semble juste ne pas être à jour. Voilà si ça t'intéresse et que tu es présent sur ces réseaux, yapuka !
[^] # Re: LVSL
Posté par thoasm . En réponse au lien Pourquoi les barons de la Silicon Valley se convertissent au trumpisme . Évalué à 8.
Toi tu vas chercher les poux dans la tête de personnes avec qui tu ne partages pas vraiment les opinions non ? Ça semble à un cas d'école d'utilisation de ce célèbre mème "mister gotcha de Matt Bors qu'on ressort avec les appels à la pureté :
[^] # Re: Pas si pas clair
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 3.
Il y a une différence de démarche. La thermodynamique cherchait à comprendre la chaleur et a trouvé une abstraction mathématique (l'entropie par exemple) qui s'est avéré être utile pour la théorie de l'information, et les scientifique se sont demandé si c'était quelque chose de fondamental.
Là j'ai quand même l'impression qu'on n'est pas tout à fait dans la même démarche : on a un théorème de stat, on cherche un peu à lui trouver des application dans un cadre épisthémolique en tentant rien de moins que de refonder toute l'épistémologie sur ces bases. C'est ambitieux et c'est un peu normal au vu des ambitions, à mon avis, d'aller titiller et de demander des gages et de là ou ça pourrait aller. Notamment parce que c'est pas et de loin la seule manière de voire la philosophie des connaissance et qu'il y a plein de traditions disciplinaires autour. Par exemple si tu vas voir des sociologues et que tu leur dit qu'ils sont pas rationnels donc que ce sont des pas-science (ce qui ne serait pas inédit chez les rationalistes) tu vas probablement mal te faire recevoir.
A titre personnel oui je trouve que le parallèle qu'on peut faire entre l'information et l'énergie en physique théorique, et la calculabilité qui s'infiltre là dedans sur les lois fondamentales est un truc très intéressant. Le rapport entre cognition et calcul est un problème philosophico-scientifique très intéressant. Mais vouloir refonder toute la connaissances sur des bases de probas et de théorie de l'information il y a plein d'obstacles bien connus quand même. Par exemple en admettant "le théorème peut calculer une distribution", si ça se trouve la distribution on sait pas vraiment la faire parler, elle est complexe et en plus le truc qu'on cherche à prédire est intrinsèquement difficile et la distribution prédit beaucoup de chose et la seule chose qu'on peut dire c'est "on sait pas".
Et pour l'instant je vois pas vraiment dans la discussion quelque chose qui pourrait révolutionner ce que je pense sur ce genre de sujet. Je suis pas devin évidemment, ce n'est que mon avis, mais j'ai du mal à imaginer une voix qui permettrait de faire tomber ces obstacles fondamentaux (qui ne repose pas sur une grosse foi sur des avancées techniques très très importante style "singularité" qui serait une révolution tellement importante qu'on ne pourrait rien anticiper, peut-être y compris avec un inducteur de solomonof parfait). Et dans la "hype" actuelle, je pense qu'on a un peu besoin de rabats-joies … Malheureusement ça ne promet pas des montagnes d'argent ce genre de démarche un peu sceptiques, quand on parle de progrès technique.
[^] # Re: LVSL
Posté par thoasm . En réponse au lien Pourquoi les barons de la Silicon Valley se convertissent au trumpisme . Évalué à 8. Dernière modification le 12 février 2025 à 10:19.
C'est un média qui se revendique engagé. Sigle de "Le Vent Se Lève". Ils ont signé une charte mondiale d'éthique des journaliste
Extrait de la page Notre projet :
Le début nous donne la ligne politique :
Sur une ligne de critique / défense contre l'idéologie néolibérale dominante qui irrigue les médias, en gros, avec la volonté de sortir de ces circuits. Ça peut aussi se voir dans les partenaires en bas de page, "les économistes atterrés" pour les plus connus en France peut-être.
Le genre de bas de page qui donne confiance, qui affiche la couleur et ne se résume pas à un copyright et des liens vers les réseaux sociaux avec une vague référence à une agence marketing un peu opaque.
[^] # Re: Too late
Posté par thoasm . En réponse au journal Sommet pour l’action sur l'IA, réaction à chaud. Évalué à 5.
Non mais vous vous rendez pas compte de l'impact ! Grâce à Internet on va pouvoir répandre la connaissance, les bienfaits du progrès et mettre en place une discussion démocratique mondiale sur la grande place du village, rendre le monde vraiment démocratique ! Alors bon les copistes vont certe passer un mauvais moment mais c'est un sacrifice nécessaire pour le bien commun de tous.
[^] # Re: L'IA n'est pas spéciale
Posté par thoasm . En réponse au lien Faut-il critiquer l'IA ?. Évalué à 5. Dernière modification le 10 février 2025 à 19:01.
Pour la météo ce ne serait pas si surprenant, la manière dont on fait les calculs aujourd'hui est très "force brute", il doit être possible d'identifier des manières de trouver des motifs dans les données qu'on a pas su faire avec des approches de simplification mathématiques plus traditionnelles. En gros on fait le même genre de calcul encore et encore à petite échelle, pour pouvoir trouver les structures à plus grande échelle.
Il se pourrait que l'ia arrive à agréger les données d'échelles différentes pour identifier les facteurs qui sont le plus susceptibles de faire tourner les choses dans un sens ou un autre. La détection de motif et la corrélation avec un résultat attendu donné, multi échelle, c'est exactement ce qu'on demande à faire pour faire de la détection sur des images.
Le truc qui est peut-être plus compliqué à faire c'est avec les changements climatiques, on va avoir des changements de régimes météo qui feront que les patterns appris par le passé vont être moins important, ou plus importants, et que c'est pas tellement visible dans les données passées parce que c'était rare ou il va y avoir de l'inédit. Là on peut avoir des résultats moins pertinents parce qu'on voit que l'extrapolation c'est pas toujours ça avec les techniques actuelles, leur capacité de "raisonnement" reste limitée en général. Peut être qu'en rajoutant des données issues de modèles climatiques on peut mitiger ça. Mais les modèles climatiques n'ont pas le même paramétrages et la même résolution.
Mais finalement là on se retrouve avec le fait que le terme "IA" recouvre tellement de choses que … plus ça va avancer plus il va falloir préciser de quoi on parle.
[^] # Re: L'IA n'est pas spéciale
Posté par thoasm . En réponse au lien Faut-il critiquer l'IA ?. Évalué à 5.
Il y a eu une vrai rupture qualitative, mais elle date vraiment de vers 2010, en terme d'apprentissage automatique, quand on a eu un réseau de neurone qui s'est mis à battre l'existant sur les benchmark de reconnaissance d'image. C'est avant la vague de marketing "IA" récente autour de chatGPT. (je dis pas qu'il y a eu une rupture conceptuelle).
C'est ce qui a justifié les recherches qui ont menés à la vague actuelle et probablement inspirés les grands modèles de langues qui ont impressionnés et entraînés cette espérance un peu délirante.
Mais d'un point de vue industriel on peut se souvenir que c'est vers cette époque qu'on a parlé de détourner des consoles de jeu pour faire du calcul parallèle et utiliser les GPU pour ça, c'était les prémisses du rush actuel et de l'envolée des cours de NVidia.
Quelque part il a raison oui, c'est une continuité de la course au progrès qui fait peu de cas de la sobriété. Encore avant tout ça a été alimenté par la boulimie de données avec Internet des facebook et compagnie entre autre et de quoi faire avec toutes ces données des utilisateurs.
Donc oui il y a à la fois des problématiques anciennes et des ruptures à prendre en compte, et les deux ne sont pas décorrélées. Les deux s'alimentent l'une l'autre. Mais maintenant, c'est au nom de l'IA et des ruptures promises futures qu'on produit des centrales nucléaires, pendant que la transition énergétiques et les normes environnementales sont attaquées par un environnement politique plutôt favorable au "conservatisme" …
[^] # Re: Pas si pas clair
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 3. Dernière modification le 10 février 2025 à 12:22.
En tant que limite théorique, je vois bien l'idée. Je ne suis pas sur que ça apporte tant de chose que ça d'avoir une formalisation mathématique d'idées style "si l'univers (et ses lois) est calculable ou approximable, alors on peut l'approximer", ce qui semble un peu une banalité, la formalisation mathématique n'apporte pas forcément beaucoup. (mais faudrait voir ce l'approximation est condamnée à avoir un horizon variable, cf. la théorie du chaos, au delà duquel on ne dit plus grand chose)
Les conclusions sur le rasoir d’Occam d'un tel modèle théorique sont à mon avis douteuse parce que les théoriciens et chercheurs n'ont pas vraiment besoin d'un tel modèle pour discuter des mérites respectifs de telle ou telle théorie, il y a bien d'autres critères épistémiques qui tiennent la route et qui jouent.
Il reste éventuellement intéressant dans le cadre de modèle théorique de limite du machine learning (plus que de la recherche scientifique en général), mais là encore on est très loin de ce genre de limite avec des modèles à base de réseau de neurone, et les approches à base de loi d'échelle vont dans le sens inverse de la recherche de parcimonie par exemple.
En pratique en recherche scientifique on galère bien souvent à trouver la bonne classe de modèle, et des modèles trop généraux sont inexploitables. Il faut trouver les modèles avec suffisamment de paramètres libres pour être humainement vaguement maîtrisables. Par exemple un truc qui serait intéressant d'un point de vue épistémique serait de savoir comment ce genre de théorie apporterait un éclairage sur les problématiques de la théorie des cordes, qui est critiquée pour avoir trop de paramètres libres qui lui permettent de s'adapter à n'importe quelle observation sans forcément permettre de rajouter grand chose à son pouvoir prédictif par l'observation.
[^] # Re: Pas si pas clair
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 3.
Donc on a troqué un univers supposé calculable qu'on essaye de comprendre à l'aide d'un principe qui ne l'est pas :) Difficile de voir ce qu'on aurait gagné dans l'affaire :p
[^] # Re: Pas si pas clair
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 3.
C'est toujours une hypothèse ultra forte. Si par exemple tes données ne permettent pas d'avoir des critères déterministes pour définir cette fonction, sauf erreur de ma part tu ne peux pas borner ta fonction. Et s'il faut descendre, je sais pas, au niveau atomique pour recupérer une forme de déterminisme … Il te faut des quantités de données qu'on ne peut pas tevr stocker de sitôt.
[^] # Re: Pas si pas clair
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 3.
Il n'est pas impossible que les matheux entre eux rentrent dans des postures un peu excessives voir troll et semi sérieuses quand ils discutent philosophie des maths et convictions à ce sujet !
Pour ma part, je trouve que, pour une démarche de fondation supposée poser des principes elementaires, on fait quand même des hypothèses fortes quand on lit les hypothèses de l'article wikipedia sur l'induction de solomonov quand on lit "assuming the universe is run by a computer program" par exemple. On a déjà pas forcément de réponse définitive à la these de Church Turing sur la calculabilité, d'un point de vue philosophique.
Ça n'efface pas le besoin d'épistémologie "par ailleurs" qui serait sceptique de ce genre de bases.
[^] # Re: Pas si pas clair
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 3.
J'ai rien à dire à ça :) si ce n'est que rien que le fait de mettre des trucs si différents sur le même plan est étrange. Probas, stats, épistémologie … J'ai du mal à trouver un immense potentiel de fécondité à tout ça en approchant les choses de manière purement théorique, avec ce type de théorèmes.
Du coup j'aurai bien du mal à comprendre pourquoi il y aurait matière à s'énerver dans une discussion ou finalement la conséquence la plus concrète dont on discute est de savoir si le rasoir d'ockgam est justifiable par la théorie des probas, en terme épistémique, rationnellement parlant, entre personnes qui discutent tranquilou dans un salon. Avec ma sensibilité, je ne comprend pas les enjeux ou les sentiments forts qui pousseraient a prendre ça "trop" au sérieux.
[^] # Re: Pas si pas clair
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 3.
On sent bien la discussion de rationaliste :) Il y a un peu la volonté de supprimer toute forme d'émotion dans l'espoir d'éliminer toute forme de biais …
C'est pas toujours la marche à suivre, et c'est sans doute un des gros problèmes du rationalisme, fondamentalement. Être humain ou rationnel, ce n'est pas nécessairement supprimer toute forme d'émotion parce que ce seraient des biais vis-à-vis d'une rationalité parfaite. On ne peut créer un projet collectif qu'en prenant en compte notre humanité ou nos condition d'être vivants mortels, avec leur sensibilité et leur intérêt, leurs joies, leurs peines …
[^] # Re: La même avec Jeff Bezos
Posté par thoasm . En réponse au lien Quelle est réellement la fortune de Bernard Arnault ?. Évalué à 3. Dernière modification le 08 février 2025 à 12:23.
Différents systèmes sont acceptables pour regarder différents phénomènes, il n'y a pas qu'une seule "bonne" manière de regarder. Michael Launey en fait une intro mathématique dans cette vidéo.
C'est une bonne intro à des phénomène plus complexe, et un peu à la recherche scientifique aussi finalement. Par exemple en machine learning, comment on compare des images ? Certainement pas avec des choses aussi simples qu'une addition.
[^] # Re: Verbiage…
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 4.
Ce n'est pas surprenant que le monde de la finance aie des besoins de physique statistique. Stéphane Mallat dans ses cours "la malédiction de la dimentionnalité" fait souvent la remarque que la physique est la science de la grande dimension et qu'il y a donc des idées venant de la physique a piquer pour les domaines où il y a pleins de données à analyser, des entités nombreuses …
Par contre dans le sens inverse … Qu'on m'appelle quand on verra des économistes résoudre des problèmes de physique :)
[^] # Re: Verbiage…
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 3.
(avec en plus l'énorme écueil, pour ce qui est du financier, que ça n'a absolument rien à dire sur les sciences de la nature. Jupiter est-elle ronde ? 199€ !
[^] # Re: Verbiage…
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 4.
C'est assez moche pour des idées supposées maximiser le bonheur, conséquentialistes qui plus est, de n'avoir comme conséquence principalement des exemples facheux.
Ça montre que, en supposant les idées épistémique ment correctes elles ne sont pas applicables correctement. Ce qui est un peu une auto-réfutation de l'intérêt épistémique, une prétention à atteindre la vérité, en fait.
Un des problème évidemment c'est que la volonté de tout quantifier induit la volonté de trouver une métrique, financière parce que ça permet d'agréger tout et n'importe quoi (dans un gloubiboulga informe). Finalement ça ne fonctionne pas, parce que ce n'est pas une bonne métrique pour plein de raison dans pleins de cas. Ça illustre très bien l’impossibilité pratique, même avec des théorèmes mathématiques corrects, de mettre des poids sur les variables statistiques dans un cadre à prétention aussi générale. Et mettre des poids sur les variables statistiques (qui sont à identifier aussi, gros problème) est un des fondements de la théorie.
[^] # Re: Verbiage…
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 4. Dernière modification le 06 février 2025 à 21:37.
L'effective altruism c'est un mouvement utilitariste, il me semble, et du débat philosophiques tu peux en avoir par exemple sur les fondements même du principe de l'utilitarisme en tant que tel, donc tu as toute une batterie de critique existantes qui s'appliquent de base. De ce point de vue le mouvement a sans doute bel et bien à répondre à ces critiques qui viennent de différents horizons.
Il semble également qu'il y ait en pratique pas mal de critiques d'universitaires sur les fondements de ces mouvements également.
Tu sembles aussi évoquer les conséquences sociales, avec certaines entreprises du mouvement crypto notamment. On peut tout à fait considérer que ces entreprises ont plus d'échecs sur bien des objectifs qu'on peut considérer désirables que fait de bien globalement.
De ce point de vue, a-t-on réellement besoin de regarder les "idées importantes" pour ne pas être convaincus que ces idées mènent à des actes désirables, et que bien d'autres approches auraient pu voir venir la chose ?
[^] # Re: Verbiage…
Posté par thoasm . En réponse au journal Le Rationalisme. Évalué à 5.
Il ne tient qu'à vous d'essayer de publier ! Si c'est vous qui avez une théorie à porter et que les épistémologue ne sont pas convaincus, ça va être difficile de leur demander d'aller sur votre terrain. Si on prétend faire de la science / philosophie, il faut aller sur le terrain ou ça se joue sérieusement.
Sinon c'est un peu comme n'importe quel charlatan qui prétend avoir une théorie révolutionnaire et de grosses prétentions mais reconnus que par lui même, vous comprenez le monde scientifique n'est pas prêt à reconnaitre son génie trop disruptif, alors qu'ils devraient vraiment regarder ce qu'il fait (spoiler, si il a essayé de publier il a pas réussi). Alors bon s'adresser à "la communauté" c'est plus simple :p