Ah oui pardon, c'était évident comme problème, personne n'en doutai je pense, mais c'était juste pour faire mon point. Bon après j'ai un peu perdu le fil parce que j'ai l'impression que tu cherches juste à recaser tes marottes :p donc je ne sais plus ou on va.
Ils ne veulent pas passer pour des perdants par exemple ? Ça influe sur le genre de faille qu'ils doivent "masquer" donc. Que faut-il pour être quelqu'un dans notre société ? Quel "jeu" faut-il jouer ?
Et ben … ça se discute. Les prouveurs de théorème, automatiques qui se réduiraient en 80 lignes de codes ils auront bien du mal à prouver des trucs non triviaux, la preuve de théorème ça reste un exercice qui demande pleins d'étapes manuelles, et encore il faut déjà avoir la preuve au préalable (en tout cas à l'heure actuel on essaye plutôt de transcrire des trucs déjà connus).
La combinatoire des trucs possibles rend complètement inopérante une approche qui tenterait une exploration naive des possible … dans une moindre mesure c'était déjà le cas pour le problème du repliement de protéine ou on avait pas spécialement de bon algorithme avant que des réseaux de neurone et de l'apprentissage par l'exemple plient le jeu.
Pour prouver un truc de manière profonde dont on a pas la solution à l'avance, il se pourrait que la voie à suivre soit de chercher d'abord dans certains coins de l'espace de recherche, et que les LLMs soient un bon outil heuristiques pour trouver ces coins prometteurs ou évaluer si on a progressé ou pas.
Je ne veux pas un scientisme, je l'ai déjà dit, je pense simplement qu'une démocratie n'est possible que si la population est correctement informée. Sinon c'est une dictature de ceux qui contrôlent l'information.
La démocratie ne se réduit certainement pas au vote de la majorité, et si tu es dans un tel réductionnisme on ne pourra pas converger.
Elles ont quel but en matière éducatives ces personnes ? Plutôt du genre à voir l'école comme manière de sélectionner les profils les plus performants pour les placer dans les écoles les plus sélectives pour que leur établissement soit bien placé dans les classements, ce que bien évidemment elles sauront mieux faire que les autres ?
Préalable peut-être, arrêter avec l'idée que le profit est l'alpha et l'oméga de toute activité. Quel genre de profil une telle idée pourrait-elle attirer ?
À la fin de son discours Vance cite (the great prophet) Nixon, preuve que c'est pas neuf "The professors are the enemy". Tout est dit, tout était déjà là.
Ça ne s'est pas fait en un jour, ils ont commencé par remettre en cause certaines discipline (dans leur intérêt, évidemment, et en finançant en particulier ce qui les intéressant) puis attaquer les libertés académiques en traîtant les opposants de militants non scientifique. Ce n'est que la suite logique.
L'accès aux universités pour tous en critiquant les politiques d'accès à certaines populations qui y ont plus difficilement accès structurellement c'était aussi la même chose. Ils ont toujours voulu que l'éducation supérieure soit leur entre-soi et que la main d'œuvre reste corvéable et surtout ne se syndique pas, à leur service sans se plaindre.
Moui c'est très vaguement énoncé, et une "démonstration" de cette nature aurait peu de chance d'être très très étayée.
Ça voudrait déjà définir ce qu'est un "niveau" d'éducation, et là il n'y a pas une manière réellement unique d'éduquer ou d'avoir des "niveaux". Par exemple si on imagine en recherche scientifique, avoir une bonne variété de personnes bien formées et avec les moyens de bosser ça veut plutôt dire avoir une garanties qu'on va chercher dans toutes les directions et que tu auras toujours suffisamment de gens pour avoir des marottes un peu marginales ou d'explorer des voies que d'autres jugent peu prometteuses.
J'imagine que ça implique la vision de l'éducation comme un formatage avec tout le monde qui suit plus ou moins la même voix. On peut plutôt imaginer ça comme un socle commun de valeurs partagées et de culture du dialogue entre les différents domaines du savoir pour diversifier les opinions, et de connaissances des autres et de ce qu'ils font pour diversifier et favoriser la confiance (il n'y a pas de partage sans confiance)
Non il ne s'agit pas de faire du dressage idéologique, il s'agit de donner les moyens de penser par soi même.
Il est évident que si tu n'as jamais eu accès à un livre de ta vie, ou si on ne t'as jamais expliqué le mode d'emploi, ou si tu n'as aucune notion de ce qu'est la science, la recherche scientifique ou comment des organismes comme le GIEC fonctionnent, tu seras vachement plus perméable aux discours qui disent que le réchauffement climatique c'est juste un discours pour faire peur au bas peuple et restreindre ses libertés.
Et c'est typiquement le genre de discours que les gens qui ont un intérêt là dedans vont manier. Or si on croit un peu dans la recherche scientifique et dans l'honnêteté et le travail des climatologues, sans forcément évidemment devoir devenir soi même expert de la question, à mon avis il faut quand même avoir deux / trois idées sur les sciences du climat pour prendre correctement des décisions sur le climat. Et que ça se traduise en vote.
On voit que des apprentis dictateurs comme Trump n'en ont cure, et que c'est vraiment une question de pouvoir, ça les emmerde les conclusions des scientifiques il veulent juste profiter du pouvoir et l'argent que leur offrent les énergies fossiles. Et que la technocratie n'est pas une solution non plus, on voit l'avènement d'une technocratie aux USA mais c'est pas les climatologues qui sont choisis pour la diriger, c'est des empêcheurs de tourner en rond.
En pratique, sur ce dossier, on voit des puissants qui ont intérêt à contrer les discours scientifiques patiemment construits, qui vont lancer toute leurs forces dans la désinformation là dessus, pour servir leurs intérêts, au détriment ultimes des personnes plus vulnérables qu'ils ont manipulées tout en méprisant les vraies connaissances.
La seule manière de lutter contre ça c'est … d'être correctement informé, c'est à dire d'avoir un système qui donne aux scientifiques les moyens de bosser raisonnablement, avec une certaine liberté sans être contraints de bosser sur les sujets qui rapportent gros potentiellement, que le grand public soit informé de leur boulot et soit capable de juger si c'est ou pas du bon boulot et soit résilient à la manipulation de masse. Je ne vois pas de manière d'y parvenir que de la bonne vulgarisation, honnête, et un niveau minimal d'éducation.
Si tu discutes avec les gens et qu'ils ont un peu confiance en toi ils t'écoutent. Même s'ils ont ricané auparavant en rebalancant des arguments climato-sceptique avant. Le "lol c'est pas une quantité aussi ridicule de CO2 en ppm dans l'atmosphère qui va changer grand choses" on l'a entendu …
Le truc est que … quand le vent tourne potentiellement, sur le dossier du réchauffement par exemple on entend des trucs qui sont très proche de "votez pour moi et vous n'aurez plus jamais à entendre ces conneries". Qui servent évidemment ceux qui ça doit servir.
La démocratie ne peut en tout cas pas cautionner l'abrutissement des électeurs. La démocratie c'est une promesse d'émancipation en permettant à tous de pouvoir participer à la décision, et pour ça on doit avoir un système éducatif qui tient la route.
Ce qu'on peut voir à l'inverse c'est qu'à droite, typiquement, on part vraiment du postulat que certaines personnes sont trop bêtes pour participer à la décision, sont faites pour obéir et que c'est une perte de temps de leur fournir une éducation potable, que c'est du nivellement par le bas parce que ça utiliserait des ressources à perte qui seraient mieux utiliser uniquement pour former des élites.
C'est deux visions, évidemment que si on est démocrate on doit combattre la deuxième parce qu'elle conduit inévitablement à la mort de la démocratie, avec la constitution d'une artistocratie qui s'autojustifie et se permet d'accéder à l'éducation en niant ce droit pour les autres. Le tout en naturalisant la chose : c'est bien parce que « l'intelligence des électeurs » poserait question qu'elle se justifie …
Le post de blog est bien plus détaillé sur les mécanismes à l'oeuvre et insiste sur les justifications qu'ils se donnent à eux même, que ce soit se débarrasser de l'état oppresseur (en se justifiant probablement par le fait que c'est un système totalitaire par nature), le libertarianisme qui souhaite au max limiter les pouvoirs de l'état même si il en reste un peu.
Et puis comment ça glisse, idéologiquement, quand ils hypothetisent que la technique va largement dépasser l'homme et que "rationnellement" (avec une définition de la rationalité comme efficacité financière et économique) des trucs comme l'IA sont beaucoup plus efficaces et vont rendre l'humain non nécessaire voire carrément contre productif. Le mouvement vers des magnats de la techs qui écrasent tout question richesse serait inéluctable, donc ça sert à rien de laisser trainer les choses et autant accélérer le mouvement, pour laisser advenir un monde meilleur (pour le futur lointain potentiellement pour les long-termistes). Et comment ça s'articule avec les mouvements commes les cryptomonnaies, le contrôle de l'info sur les réseaux sociaux …
Effectivement l'idée de vouloir dominer n'est pas neuve, la manière de le justifier et le rôle des techniques notamment numérique dans cette conquête et le narratif est plus original, et comment tout s'articulerait d'après l'auteur (même si ça mélange pas mal de truc et qu'en faire un récit cohérent n'est pas simple tant il y a de courants à l'oeuvre).
D'habitude quand on parle d'IA en SF c'est "comment elle se retourne contre l'humain", la c'est "comment l'humain justifie sa domination sur l'autre en instrumentalisent l'IA", (et plein d'autres techniques supposées être émancipatrice comme les cryptos, qui n'emancipe en réalité que ceux qui ont le pouvoir de les contrôler à la base, elles ne font que renforcer des rapports sociaux déjà existants)
Exemple extrême si tu préfères, il n'est pas choisi au hasard, il est là pour illustrer que du raisonnement probabiliste peut généraliser du raisonnement mathématique (j'ose pas dire Booléen parce que c'est plus général) classique, comme cas limite, et tendre à le faire de manière parfaite, dans l'idée. C'en est possiblement une généralisation, l'un étant le cas particulier de l'autre … (Et inversement, si on prouve une équivalence on est pas rendus)
Dans l'optique ou ça impliquerait une bascule sur un modèle de ''do-ocraty'' à autre chose plus basé sur les besoins des institutions genre l'UE avec du budget, une évolution plus raisonnable et stable de GTK est envisageable. D'autant que c'est une demande d'autres projets comme Gimp par exemple, pas le moindre, qui se voient un peu envoyer dans les cordes avec leurs besoin à eux avec des réponse style ''on a pas forcément les moyens de maintenir les trucs dont vous avez besoin quand on fait évoluer les APIs'', c'est clairement un besoin qui dépasse le cadre de Gnome.
Alors pour tester les IAs il vaut mieux bidouiller les énoncés du problèmes ou les garder secrets, on peut toujours soupçonner que si elles donnent la bonne réponse c'est pas tellement parce qu'elles l'ont inventées que plutôt parce que c'est une question classique et qu'elles ont "triché" en ayant déjà la question et la réponse dans leur corpus et qu'elles l'ont stockée.
Ce n'est pas forcément tant une question de possibilité de raisonnement que de connaissance empirique du monde. Les corpus de données comprennent probablement relativement peu d'information sur la pratique du roulage de cigarette et de la fumette, c'est pas tellement un truc qui s'apprend dans les livres. A partir de là, si la connaissance nécessaire n'est pas là, forcément le raisonnement n'est pas possible.
Une énigme mathématique demandant le même genre d'astuce pourrait montrer que la possibilité de "raisonnement" est là, et qu'elle n'est pas débloquée dans ce cas précis faute de connaissance. Un autre niveau serait de montrer que la connaissance est là, question roulage de clope (ce qui n'est pas impossible) mais que le lien avec le raisonnement formel n'est pas là parce que le logiciel est incapable de formaliser par lui même de manière à débloquer la capacité de raisonnement.
C'est la question de la compositionnalité des capacités "générique" qui vient après la démonstration de certaines capacités dans l'abstrait de manière indépendante. Mais sortir du cadre, oui les IAs ont quand même en soit démontré certaines possibilités de ce côté là.
C'est des choses qui sont étudiées actuellement, en cherchant les mots clés rapidement je trouve https://arxiv.org/pdf/2402.08674 ce papier qui a l'air de faire de la "pédagogie" d'IA pour chercher dans quel ordre leur faire apprendre des trucs pour débloquer de la compositions de connaissances.
Le fait que ce soit à base probabiliste ne nous donne pas vraiment d'informations sur la capacité à s'adapter facilement.
En particulier, pour calculer efficacement les probabilités dans un espace limité, avec un nombre de neurone contraint, il faut une forme de structuration de ces réseaux de neurones pour traîter l'information et en tirer des probabilités raisonnables. Cette structuration, pour fonctionner efficacement, ne doit-elle pas généraliser suffisamment pour s'adapter à d'autre problème ? La question n'est pas "proba ou pas" mais "comment ça généralise".
Exemple limite : un raisonnement mathématique. Prend un ensemble de démonstration mathématiques, à classer comme "correctes" ou "incorrecte", entraine le donc à discriminer le mathématiquement correct du mathématiquement incorrect. Les lois de la logiques ont des règles du jeu. Un réseau de neurone "séquentiel" peut en principe apprendre les différentes règles pertinentes, et classer leur application correcte ou pas, voire pointer directement les applications incorrectes.
Au cours de l'apprentissage, probabiliste, à force d'enquiller les démonstrations, il fait de moins en moins d'erreurs. C'est probabiliste. Une fois l'apprentissage terminé, on lui montre des démonstrations mathématiques, à classer en correctes et incorrectes. Dans le principe, il a "juste" à faire comme un correcteur humain, à vérifier pas à pas que les règles de la logiques sont respectées.
Sur ce principe, on part d'un apprentissage en mode probabiliste et on arrive à un résultat ou il n'y aura pas forcément d'erreurs … La question est, est-ce que ce résultat est crédible, et est-ce que la capacité à s'adapter très largement à une large classe de démonstration mathématique qu'il n'a pas vu n'est pas une preuve d'adaptation très importante ?
Tout ça pour dire que la dichotomie que tu fais n'en est pas forcément une, le mode "probabiliste" n'est pas incompatible avec l'adaptation (au contraire même, dans certains cas ça rend beaucoup plus robuste, c'est ce qui permet de généraliser et de discriminer petit à petit ce qui n'est pas important en en baissant petit à petit le poids). Alors qu'un raisonnement binaire sera impossible à généraliser si on sort un tantinet du cadre et sera inapplicable si on est pas pile poil dans le cadre déterminé à l'avance.
On peut dire Apprentissage automatique pour du plus générique, ça donne ''l'apprentissage automatique libre'', ça a l'avantage de rendre le terme ''apprentissage'' (crucial dans la problématique) explicite, mais on perd le grand public assez largement.
Et ça insiste plus sur le processus d'apprentissage que sur le résultat, alors que ''IA'' ce serait l'inverse, ça désigne le résultat qui tourne.
Y a-t-il un développeur qui soit capable de trouver tous les bugs ? Est-il compris dans l'ensemble des développeurs capables de se corriger eux même ? Quid des bugs créés par des non développeurs ? Est-il un non développeur lui même ?
Si ça se trouve ça se marierait bien avec une Wikibase, avec une édition des enquêtes en wiki façon Wikidata et SPARQL au lieux de SQL pour réviser son SPARQL.
[^] # Re: Pourquoi dire IA si on ne parle que des réseaux de neurones ?
Posté par thoasm . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 3 (+0/-0).
Ah oui pardon, c'était évident comme problème, personne n'en doutai je pense, mais c'était juste pour faire mon point. Bon après j'ai un peu perdu le fil parce que j'ai l'impression que tu cherches juste à recaser tes marottes :p donc je ne sais plus ou on va.
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 4 (+1/-0).
Ils ne veulent pas passer pour des perdants par exemple ? Ça influe sur le genre de faille qu'ils doivent "masquer" donc. Que faut-il pour être quelqu'un dans notre société ? Quel "jeu" faut-il jouer ?
[^] # Re: Pourquoi dire IA si on ne parle que des réseaux de neurones ?
Posté par thoasm . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 3 (+0/-0).
Et ben … ça se discute. Les prouveurs de théorème, automatiques qui se réduiraient en 80 lignes de codes ils auront bien du mal à prouver des trucs non triviaux, la preuve de théorème ça reste un exercice qui demande pleins d'étapes manuelles, et encore il faut déjà avoir la preuve au préalable (en tout cas à l'heure actuel on essaye plutôt de transcrire des trucs déjà connus).
La combinatoire des trucs possibles rend complètement inopérante une approche qui tenterait une exploration naive des possible … dans une moindre mesure c'était déjà le cas pour le problème du repliement de protéine ou on avait pas spécialement de bon algorithme avant que des réseaux de neurone et de l'apprentissage par l'exemple plient le jeu.
Pour prouver un truc de manière profonde dont on a pas la solution à l'avance, il se pourrait que la voie à suivre soit de chercher d'abord dans certains coins de l'espace de recherche, et que les LLMs soient un bon outil heuristiques pour trouver ces coins prometteurs ou évaluer si on a progressé ou pas.
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 6 (+4/-1).
Je ne veux pas un scientisme, je l'ai déjà dit, je pense simplement qu'une démocratie n'est possible que si la population est correctement informée. Sinon c'est une dictature de ceux qui contrôlent l'information.
La démocratie ne se réduit certainement pas au vote de la majorité, et si tu es dans un tel réductionnisme on ne pourra pas converger.
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 4 (+1/-0).
Elles ont quel but en matière éducatives ces personnes ? Plutôt du genre à voir l'école comme manière de sélectionner les profils les plus performants pour les placer dans les écoles les plus sélectives pour que leur établissement soit bien placé dans les classements, ce que bien évidemment elles sauront mieux faire que les autres ?
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 5 (+2/-0).
Préalable peut-être, arrêter avec l'idée que le profit est l'alpha et l'oméga de toute activité. Quel genre de profil une telle idée pourrait-elle attirer ?
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 6 (+3/-0).
À la fin de son discours Vance cite (the great prophet) Nixon, preuve que c'est pas neuf "The professors are the enemy". Tout est dit, tout était déjà là.
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 6 (+3/-0).
Leur dirigeants actuels tiennent le discours que les universités sont les ennemis, https://bsky.app/profile/valmasdel.bsky.social/post/3ljhq6rslv22w et ce n'est que la suite logique de leur discours.
Ça ne s'est pas fait en un jour, ils ont commencé par remettre en cause certaines discipline (dans leur intérêt, évidemment, et en finançant en particulier ce qui les intéressant) puis attaquer les libertés académiques en traîtant les opposants de militants non scientifique. Ce n'est que la suite logique.
L'accès aux universités pour tous en critiquant les politiques d'accès à certaines populations qui y ont plus difficilement accès structurellement c'était aussi la même chose. Ils ont toujours voulu que l'éducation supérieure soit leur entre-soi et que la main d'œuvre reste corvéable et surtout ne se syndique pas, à leur service sans se plaindre.
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 4 (+1/-0).
Ça ne m'aide pas beaucoup, désolé :p Je ne sais toujours pas trop de quoi on parle, trop vague.
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 3 (+0/-0).
Moui c'est très vaguement énoncé, et une "démonstration" de cette nature aurait peu de chance d'être très très étayée.
Ça voudrait déjà définir ce qu'est un "niveau" d'éducation, et là il n'y a pas une manière réellement unique d'éduquer ou d'avoir des "niveaux". Par exemple si on imagine en recherche scientifique, avoir une bonne variété de personnes bien formées et avec les moyens de bosser ça veut plutôt dire avoir une garanties qu'on va chercher dans toutes les directions et que tu auras toujours suffisamment de gens pour avoir des marottes un peu marginales ou d'explorer des voies que d'autres jugent peu prometteuses.
J'imagine que ça implique la vision de l'éducation comme un formatage avec tout le monde qui suit plus ou moins la même voix. On peut plutôt imaginer ça comme un socle commun de valeurs partagées et de culture du dialogue entre les différents domaines du savoir pour diversifier les opinions, et de connaissances des autres et de ce qu'ils font pour diversifier et favoriser la confiance (il n'y a pas de partage sans confiance)
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 3 (+2/-2).
Non il ne s'agit pas de faire du dressage idéologique, il s'agit de donner les moyens de penser par soi même.
Il est évident que si tu n'as jamais eu accès à un livre de ta vie, ou si on ne t'as jamais expliqué le mode d'emploi, ou si tu n'as aucune notion de ce qu'est la science, la recherche scientifique ou comment des organismes comme le GIEC fonctionnent, tu seras vachement plus perméable aux discours qui disent que le réchauffement climatique c'est juste un discours pour faire peur au bas peuple et restreindre ses libertés.
Et c'est typiquement le genre de discours que les gens qui ont un intérêt là dedans vont manier. Or si on croit un peu dans la recherche scientifique et dans l'honnêteté et le travail des climatologues, sans forcément évidemment devoir devenir soi même expert de la question, à mon avis il faut quand même avoir deux / trois idées sur les sciences du climat pour prendre correctement des décisions sur le climat. Et que ça se traduise en vote.
On voit que des apprentis dictateurs comme Trump n'en ont cure, et que c'est vraiment une question de pouvoir, ça les emmerde les conclusions des scientifiques il veulent juste profiter du pouvoir et l'argent que leur offrent les énergies fossiles. Et que la technocratie n'est pas une solution non plus, on voit l'avènement d'une technocratie aux USA mais c'est pas les climatologues qui sont choisis pour la diriger, c'est des empêcheurs de tourner en rond.
En pratique, sur ce dossier, on voit des puissants qui ont intérêt à contrer les discours scientifiques patiemment construits, qui vont lancer toute leurs forces dans la désinformation là dessus, pour servir leurs intérêts, au détriment ultimes des personnes plus vulnérables qu'ils ont manipulées tout en méprisant les vraies connaissances.
La seule manière de lutter contre ça c'est … d'être correctement informé, c'est à dire d'avoir un système qui donne aux scientifiques les moyens de bosser raisonnablement, avec une certaine liberté sans être contraints de bosser sur les sujets qui rapportent gros potentiellement, que le grand public soit informé de leur boulot et soit capable de juger si c'est ou pas du bon boulot et soit résilient à la manipulation de masse. Je ne vois pas de manière d'y parvenir que de la bonne vulgarisation, honnête, et un niveau minimal d'éducation.
Si tu discutes avec les gens et qu'ils ont un peu confiance en toi ils t'écoutent. Même s'ils ont ricané auparavant en rebalancant des arguments climato-sceptique avant. Le "lol c'est pas une quantité aussi ridicule de CO2 en ppm dans l'atmosphère qui va changer grand choses" on l'a entendu …
Le truc est que … quand le vent tourne potentiellement, sur le dossier du réchauffement par exemple on entend des trucs qui sont très proche de "votez pour moi et vous n'aurez plus jamais à entendre ces conneries". Qui servent évidemment ceux qui ça doit servir.
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 9 (+7/-1).
La démocratie ne peut en tout cas pas cautionner l'abrutissement des électeurs. La démocratie c'est une promesse d'émancipation en permettant à tous de pouvoir participer à la décision, et pour ça on doit avoir un système éducatif qui tient la route.
Ce qu'on peut voir à l'inverse c'est qu'à droite, typiquement, on part vraiment du postulat que certaines personnes sont trop bêtes pour participer à la décision, sont faites pour obéir et que c'est une perte de temps de leur fournir une éducation potable, que c'est du nivellement par le bas parce que ça utiliserait des ressources à perte qui seraient mieux utiliser uniquement pour former des élites.
C'est deux visions, évidemment que si on est démocrate on doit combattre la deuxième parce qu'elle conduit inévitablement à la mort de la démocratie, avec la constitution d'une artistocratie qui s'autojustifie et se permet d'accéder à l'éducation en niant ce droit pour les autres. Le tout en naturalisant la chose : c'est bien parce que « l'intelligence des électeurs » poserait question qu'elle se justifie …
[^] # Re: Liberté & démocratie
Posté par thoasm . En réponse au lien C'est la peau de la démocratie qu'ils veulent. Évalué à 9 (+7/-1).
Le post de blog est bien plus détaillé sur les mécanismes à l'oeuvre et insiste sur les justifications qu'ils se donnent à eux même, que ce soit se débarrasser de l'état oppresseur (en se justifiant probablement par le fait que c'est un système totalitaire par nature), le libertarianisme qui souhaite au max limiter les pouvoirs de l'état même si il en reste un peu.
Et puis comment ça glisse, idéologiquement, quand ils hypothetisent que la technique va largement dépasser l'homme et que "rationnellement" (avec une définition de la rationalité comme efficacité financière et économique) des trucs comme l'IA sont beaucoup plus efficaces et vont rendre l'humain non nécessaire voire carrément contre productif. Le mouvement vers des magnats de la techs qui écrasent tout question richesse serait inéluctable, donc ça sert à rien de laisser trainer les choses et autant accélérer le mouvement, pour laisser advenir un monde meilleur (pour le futur lointain potentiellement pour les long-termistes). Et comment ça s'articule avec les mouvements commes les cryptomonnaies, le contrôle de l'info sur les réseaux sociaux …
Effectivement l'idée de vouloir dominer n'est pas neuve, la manière de le justifier et le rôle des techniques notamment numérique dans cette conquête et le narratif est plus original, et comment tout s'articulerait d'après l'auteur (même si ça mélange pas mal de truc et qu'en faire un récit cohérent n'est pas simple tant il y a de courants à l'oeuvre).
D'habitude quand on parle d'IA en SF c'est "comment elle se retourne contre l'humain", la c'est "comment l'humain justifie sa domination sur l'autre en instrumentalisent l'IA", (et plein d'autres techniques supposées être émancipatrice comme les cryptos, qui n'emancipe en réalité que ceux qui ont le pouvoir de les contrôler à la base, elles ne font que renforcer des rapports sociaux déjà existants)
[^] # Re: Pourquoi dire IA si on ne parle que des réseaux de neurones ?
Posté par thoasm . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 3 (+0/-0).
Exemple extrême si tu préfères, il n'est pas choisi au hasard, il est là pour illustrer que du raisonnement probabiliste peut généraliser du raisonnement mathématique (j'ose pas dire Booléen parce que c'est plus général) classique, comme cas limite, et tendre à le faire de manière parfaite, dans l'idée. C'en est possiblement une généralisation, l'un étant le cas particulier de l'autre … (Et inversement, si on prouve une équivalence on est pas rendus)
[^] # Re: Pourquoi dire IA si on ne parle que des réseaux de neurones ?
Posté par thoasm . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 3 (+0/-0).
Ah mais j'en parle parce que ça ressort particulièrement des définitions que tu as sorties, de l'adaptation.
[^] # Re: Petit résumé sans IA
Posté par thoasm . En réponse au lien "Des prothèses qui ne trahissent pas", une proposition de réforme de la gouvernance de GNOME. Évalué à 5 (+2/-0).
Dans l'optique ou ça impliquerait une bascule sur un modèle de ''do-ocraty'' à autre chose plus basé sur les besoins des institutions genre l'UE avec du budget, une évolution plus raisonnable et stable de GTK est envisageable. D'autant que c'est une demande d'autres projets comme Gimp par exemple, pas le moindre, qui se voient un peu envoyer dans les cordes avec leurs besoin à eux avec des réponse style ''on a pas forcément les moyens de maintenir les trucs dont vous avez besoin quand on fait évoluer les APIs'', c'est clairement un besoin qui dépasse le cadre de Gnome.
[^] # Re: Pourquoi dire IA si on ne parle que des réseaux de neurones ?
Posté par thoasm . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 4 (+1/-0).
Alors pour tester les IAs il vaut mieux bidouiller les énoncés du problèmes ou les garder secrets, on peut toujours soupçonner que si elles donnent la bonne réponse c'est pas tellement parce qu'elles l'ont inventées que plutôt parce que c'est une question classique et qu'elles ont "triché" en ayant déjà la question et la réponse dans leur corpus et qu'elles l'ont stockée.
[^] # Re: Pourquoi dire IA si on ne parle que des réseaux de neurones ?
Posté par thoasm . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 4 (+1/-0).
Ce n'est pas forcément tant une question de possibilité de raisonnement que de connaissance empirique du monde. Les corpus de données comprennent probablement relativement peu d'information sur la pratique du roulage de cigarette et de la fumette, c'est pas tellement un truc qui s'apprend dans les livres. A partir de là, si la connaissance nécessaire n'est pas là, forcément le raisonnement n'est pas possible.
Une énigme mathématique demandant le même genre d'astuce pourrait montrer que la possibilité de "raisonnement" est là, et qu'elle n'est pas débloquée dans ce cas précis faute de connaissance. Un autre niveau serait de montrer que la connaissance est là, question roulage de clope (ce qui n'est pas impossible) mais que le lien avec le raisonnement formel n'est pas là parce que le logiciel est incapable de formaliser par lui même de manière à débloquer la capacité de raisonnement.
C'est la question de la compositionnalité des capacités "générique" qui vient après la démonstration de certaines capacités dans l'abstrait de manière indépendante. Mais sortir du cadre, oui les IAs ont quand même en soit démontré certaines possibilités de ce côté là.
C'est des choses qui sont étudiées actuellement, en cherchant les mots clés rapidement je trouve https://arxiv.org/pdf/2402.08674 ce papier qui a l'air de faire de la "pédagogie" d'IA pour chercher dans quel ordre leur faire apprendre des trucs pour débloquer de la compositions de connaissances.
[^] # Re: Pourquoi dire IA si on ne parle que des réseaux de neurones ?
Posté par thoasm . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 4 (+1/-0).
Le fait que ce soit à base probabiliste ne nous donne pas vraiment d'informations sur la capacité à s'adapter facilement.
En particulier, pour calculer efficacement les probabilités dans un espace limité, avec un nombre de neurone contraint, il faut une forme de structuration de ces réseaux de neurones pour traîter l'information et en tirer des probabilités raisonnables. Cette structuration, pour fonctionner efficacement, ne doit-elle pas généraliser suffisamment pour s'adapter à d'autre problème ? La question n'est pas "proba ou pas" mais "comment ça généralise".
Exemple limite : un raisonnement mathématique. Prend un ensemble de démonstration mathématiques, à classer comme "correctes" ou "incorrecte", entraine le donc à discriminer le mathématiquement correct du mathématiquement incorrect. Les lois de la logiques ont des règles du jeu. Un réseau de neurone "séquentiel" peut en principe apprendre les différentes règles pertinentes, et classer leur application correcte ou pas, voire pointer directement les applications incorrectes.
Au cours de l'apprentissage, probabiliste, à force d'enquiller les démonstrations, il fait de moins en moins d'erreurs. C'est probabiliste. Une fois l'apprentissage terminé, on lui montre des démonstrations mathématiques, à classer en correctes et incorrectes. Dans le principe, il a "juste" à faire comme un correcteur humain, à vérifier pas à pas que les règles de la logiques sont respectées.
Sur ce principe, on part d'un apprentissage en mode probabiliste et on arrive à un résultat ou il n'y aura pas forcément d'erreurs … La question est, est-ce que ce résultat est crédible, et est-ce que la capacité à s'adapter très largement à une large classe de démonstration mathématique qu'il n'a pas vu n'est pas une preuve d'adaptation très importante ?
Tout ça pour dire que la dichotomie que tu fais n'en est pas forcément une, le mode "probabiliste" n'est pas incompatible avec l'adaptation (au contraire même, dans certains cas ça rend beaucoup plus robuste, c'est ce qui permet de généraliser et de discriminer petit à petit ce qui n'est pas important en en baissant petit à petit le poids). Alors qu'un raisonnement binaire sera impossible à généraliser si on sort un tantinet du cadre et sera inapplicable si on est pas pile poil dans le cadre déterminé à l'avance.
[^] # Re: Pourquoi dire IA si on ne parle que des réseaux de neurones ?
Posté par thoasm . En réponse à la dépêche Une intelligence artificielle libre est-elle possible ?. Évalué à 4 (+1/-0).
On peut dire Apprentissage automatique pour du plus générique, ça donne ''l'apprentissage automatique libre'', ça a l'avantage de rendre le terme ''apprentissage'' (crucial dans la problématique) explicite, mais on perd le grand public assez largement.
Et ça insiste plus sur le processus d'apprentissage que sur le résultat, alors que ''IA'' ce serait l'inverse, ça désigne le résultat qui tourne.
[^] # Re: Clichés
Posté par thoasm . En réponse à la dépêche Programmer des démonstrations : une modeste invitation aux assistants de preuve. Évalué à 3 (+0/-0).
Y a-t-il un développeur qui soit capable de trouver tous les bugs ? Est-il compris dans l'ensemble des développeurs capables de se corriger eux même ? Quid des bugs créés par des non développeurs ? Est-il un non développeur lui même ?
pars chercher un comprimé de paracétamol
[^] # Re: Après le point médian...
Posté par thoasm . En réponse au lien Le Point applique les méthodes de l'extrême droite pour faire taire un contributeur de Wikipédia . Évalué à 4 (+2/-1). Dernière modification le 26 février 2025 à 19:08.
Et c'est raté, c'est un zéro Pointé.
[^] # Re: Copain de godot ?
Posté par thoasm . En réponse au lien The Museum of All Things. Évalué à 4 (+1/-0).
Raté, ça a tourné un peu ailleurs aussi :)
L'autrice l'a annoncé sur bluesky par exemple https://bsky.app/profile/may.as/post/3lixmhyzfw22d et ça a un bon accueil.
[^] # Re: Après le point médian...
Posté par thoasm . En réponse au lien Le Point applique les méthodes de l'extrême droite pour faire taire un contributeur de Wikipédia . Évalué à 3 (+2/-2).
Mais pas du tout Point d'exclamation
# Concept déclinable
Posté par thoasm . En réponse à la dépêche Réviser SQL en jouant au détective : SQLNoir. Évalué à 9 (+6/-0).
Si ça se trouve ça se marierait bien avec une Wikibase, avec une édition des enquêtes en wiki façon Wikidata et SPARQL au lieux de SQL pour réviser son SPARQL.
https://www.wikibase.cloud/
Bonus : meta-enquête, qui a voulu brouiller les pistes en vandalisant les données de l'enquête ?