Posté par gUI (Mastodon) .
Évalué à 10 (+12/-0).
Dernière modification le 21 septembre 2026 à 12:13.
Une IA, c'est un ordinateur
Même pas, une IA (on va raccourcir aux LLMs qui sont le cœur de la meule de ce dont on parle) c'est un logiciel qui prend du texte en entrée et qui fournit du texte en sortie. Point.
Ensuite, si des personnes décérébrée prennent le texte en sortie et exécutent tout ce qu'il y a marqué sans autre jugement, je ne suis pas certain qu'on ne puisse blâmer que l'IA…
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
Alors n'ayez pas peur: L'IA ne mettra pas fin à l'humanité. Une IA, c'est un ordinateur. Quand un ordinateur déconne, il suffit de le débrancher. Et il n'y a aucun Terminator qui empêchera qui que ce soit de tirer sur la prise. Ne tombez pas dans le panneau.
Oui. L'IA ne prend pas le pouvoir. On le lui donne.
Si on construit une génération de gens qui savent rien faire (se diriger, comprendre un texte, chercher une information, faire un choix pratique, voire affectif) sans demander à une IA, c'est l'IA qui gagne. Ou plutôt les capitalistes qui la vendent.
Et si on délègue collectivement nos tâches aux IA, on s'en rend aussi dépendants. Je pense notamment au fonctionnement des services publics (impôts, armée, pourquoi pas transports, énergie).
Le premier outil du dirigeant, c'est le consentement du dirigé : Etienne de la Boétie, Discours de la servitude volontaire.
Que le dirigeant obtienne le consentement par la force, par la conviction, par le copinage des puissants, par l'émanation réelle ou fictive de la volonté du peuple ne change rien : in fine, personne ne règne seul, et le dirigeant a l'obligation d'obtenir le consentement des dirigés. Dirigés qui peuvent à leur tour être des dirigeants de l'échelon n-1 et reproduire la structure en cascade.
Alors comment on se sort de ce système ? Eh ben on n'en sort pas. Il émerge tout seul, dès que des personnes s'aperçoivent qu'on est plus efficace en séparant les tâches (c'est la division du travail qui crée des chefs, et chez les celtes, par exemple, la puissance d'un roi se mesure très prosaïquement en nombre de bœufs possédés en propre). On pourrait renoncer à séparer les tâches, il est vrai : tout le monde participe à tout, personne ne se spécialise. Problème : personne ne devient alors compétent et les conditions matérielles sont effroyables. Sans division des tâches, on en reste à l'état de chasseurs-cueilleurs. Serait-on alors moins violents ? Eh bien ce n'est même pas sûr. Les traces archéologiques de violences tribales sont légion même avant le néolithique, et de nos jours, dans les quelques sociétés tribales qui persistent, la proba de mourir tué par un autre humain atteint 25%. Oui, c'est énorme : dans une société sans médecine moderne, sans protection efficace contre les animaux sauvages, un quart des décès sont dûs aux humains. Il est plus dangereux de vivre dans une société tribale qu'en Allemagne entre 1939 et 1945 !
Donc la question n'est pas : fallait-il laisser des dirigeants prendre le pouvoir. La question est : comment on les choisit, comment on les contrôle, et comment on s'assure qu'ils le rendent.
Ça, ce sont les sources. Le mouton que tu veux est dedans.
Attention à la confusion entre prise de décision et décideur.
Le problème dans nos fausses démocratie est que la prise de décision est à la fois concntrée sur peu de décideurs et que lesdits décideurs sont toujours les mênes ou parcage le même système de pensée et les mêmes intérêts.
Pour reprendre la main sur nos vies, il faut s'assurer du plus grand partage possible de la prise de décision, avec des décideurs qui changent régulièrement.
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
Et il n'y a aucun Terminator qui empêchera qui que ce soit de tirer sur la prise.
C'est très exactement ce que je me disais : suffit de débrancher la prise. Mais la réponse de Moonz (sous mon commentaire en lien) et les articles qu'il a partagés comme There’s No Fire Alarm for Artificial General Intelligence (qui date de 2017, donc avant l'explosion de l'IAGen) m'ont fait réfléchir. Il n'y aura pas d'événement brutal qui fera dire "débranchez-tout !" Ça va juste s'infiltrer partout au point qu'on ne saura pas trop comment faire marche arrière. Un peu comme avec les GAFAM. D'ailleurs on a toujours pas débranché le danger social qu'est Meta. Donc non pas de Terminator mais ça pourrait être un danger plus insidieux. Nous rendre tous un peu plus cons et moins autonomes est un bon début par exemple.
Pour moi, annoncer que "mon IA a réussi à s'échapper et à pirater telle ou telle organisation", c'est aussi du marketing à destination des clients, pas seulement des états.
ça permet de mettre en avant que telle ou telle IA est vraiment très intelligente ; elle est plus intelligente que ses créateurs
ça permet de mettre sous le tapis que les sysadmins et/ou l'infra mise en place sont à chier, en détournant l'attention
Posté par steph1978 .
Évalué à 7 (+5/-0).
Dernière modification le 21 septembre 2026 à 16:16.
C'est exactement ça.
Les entreprises prétendent ne pas aimer la régulation mais c'est faux, pour les plus grosses ; car cela leur permet d'asphyxier toute concurrence. Aujourd'hui, avec les réglementations en place, qui pourrait créer une banque ou un constructeur automobile ? Personne, enfin pas un petit entrepreneur. Il faudrait lever des fonds considérables pour se mettre au niveau de la réglementation en cours.
Posté par bbo .
Évalué à 5 (+5/-2).
Dernière modification le 21 septembre 2026 à 19:10.
J'ai souvent lu/entendu qu'utiliser la peur empêchait la mobilisation sur le dérèglement climatique. Que les écolos qui faisaient ça étaient, en gros, des pisse-froid. Et, bien sûr, "il faut vraiment bcp d'argent, qu'on n'a pas".
Là, je constate que la peur a permis de mobiliser les politiques et des centaines de milliards de dollars (dont une partie risque quand même de juste disparaître) venant de tout plein des pays sans empêcher du tout l'augmentation très importante de l'usage dans la population et presque l'acceptation de tout ce que ça va défoncer socialement.
Globalement, je partage l'idée de base. Un modèle d'apprentissage du langage (MLL) est avant tout un système qui génère du texte à partir d'entrées, et il peut produire une réponse très convaincante tout en étant factuellement incorrecte. Par conséquent, il ne s'agit pas d'un véritable « ordinateur pensant » que nous devrions suivre aveuglément.
Le problème principal réside dans la confiance que nous accordons aux résultats. Même le NIST souligne que les MAL peuvent produire des informations erronées avec un degré de certitude élevé, ce qui devient particulièrement problématique lorsque l'on agit directement sur la base de ces réponses sans les vérifier.
Pour moi, l'IA est surtout intéressante comme outil de recherche ou de raisonnement : elle fait gagner du temps, suggère des pistes, mais nous vérifions toujours les informations importantes. Finalement, c'est très similaire à ce que nous faisons déjà avec les moteurs de recherche, sauf qu'ici, il est beaucoup plus facile d'accepter la réponse sans la vérifier. Heureusement, la plateforme en ligne https://mostbetma1.bet/app/ permettra de résoudre ces problèmes.
# Même pire que ça !
Posté par gUI (Mastodon) . Évalué à 10 (+12/-0). Dernière modification le 21 septembre 2026 à 12:13.
Même pas, une IA (on va raccourcir aux LLMs qui sont le cœur de la meule de ce dont on parle) c'est un logiciel qui prend du texte en entrée et qui fournit du texte en sortie. Point.
Ensuite, si des personnes décérébrée prennent le texte en sortie et exécutent tout ce qu'il y a marqué sans autre jugement, je ne suis pas certain qu'on ne puisse blâmer que l'IA…
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
# Qui/quoi débrancher
Posté par François Chaix (Mastodon) . Évalué à 10 (+12/-0).
Alors… Le problème serait peut-être plutôt qu'on ne puisse pas débrancher ceux qui écoutent l'IA avec une confiance aveugle ?
[^] # Re: Qui/quoi débrancher
Posté par jihele . Évalué à 10 (+11/-0).
Oui. L'IA ne prend pas le pouvoir. On le lui donne.
Si on construit une génération de gens qui savent rien faire (se diriger, comprendre un texte, chercher une information, faire un choix pratique, voire affectif) sans demander à une IA, c'est l'IA qui gagne. Ou plutôt les capitalistes qui la vendent.
Et si on délègue collectivement nos tâches aux IA, on s'en rend aussi dépendants. Je pense notamment au fonctionnement des services publics (impôts, armée, pourquoi pas transports, énergie).
[^] # Re: Qui/quoi débrancher
Posté par PhRæD . Évalué à 10 (+9/-0).
Sauf que le « on », c’est souvent ton chef…
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
[^] # Re: Qui/quoi débrancher
Posté par jihele . Évalué à 10 (+9/-0).
Peut-être que la première connerie, c'était de donner le pouvoir aux chef.fes.
[^] # Re: Qui/quoi débrancher
Posté par François Chaix (Mastodon) . Évalué à 8 (+6/-0).
Je crois que personne ne leur a donné. Ils l'ont pris. Au pire, on les a laissé faire.
[^] # Re: Qui/quoi débrancher
Posté par Liorel . Évalué à 1 (+0/-1).
Le premier outil du dirigeant, c'est le consentement du dirigé : Etienne de la Boétie, Discours de la servitude volontaire.
Que le dirigeant obtienne le consentement par la force, par la conviction, par le copinage des puissants, par l'émanation réelle ou fictive de la volonté du peuple ne change rien : in fine, personne ne règne seul, et le dirigeant a l'obligation d'obtenir le consentement des dirigés. Dirigés qui peuvent à leur tour être des dirigeants de l'échelon n-1 et reproduire la structure en cascade.
Alors comment on se sort de ce système ? Eh ben on n'en sort pas. Il émerge tout seul, dès que des personnes s'aperçoivent qu'on est plus efficace en séparant les tâches (c'est la division du travail qui crée des chefs, et chez les celtes, par exemple, la puissance d'un roi se mesure très prosaïquement en nombre de bœufs possédés en propre). On pourrait renoncer à séparer les tâches, il est vrai : tout le monde participe à tout, personne ne se spécialise. Problème : personne ne devient alors compétent et les conditions matérielles sont effroyables. Sans division des tâches, on en reste à l'état de chasseurs-cueilleurs. Serait-on alors moins violents ? Eh bien ce n'est même pas sûr. Les traces archéologiques de violences tribales sont légion même avant le néolithique, et de nos jours, dans les quelques sociétés tribales qui persistent, la proba de mourir tué par un autre humain atteint 25%. Oui, c'est énorme : dans une société sans médecine moderne, sans protection efficace contre les animaux sauvages, un quart des décès sont dûs aux humains. Il est plus dangereux de vivre dans une société tribale qu'en Allemagne entre 1939 et 1945 !
Donc la question n'est pas : fallait-il laisser des dirigeants prendre le pouvoir. La question est : comment on les choisit, comment on les contrôle, et comment on s'assure qu'ils le rendent.
Ça, ce sont les sources. Le mouton que tu veux est dedans.
[^] # Re: Qui/quoi débrancher
Posté par PhRæD . Évalué à 4 (+2/-0).
Attention à la confusion entre prise de décision et décideur.
Le problème dans nos fausses démocratie est que la prise de décision est à la fois concntrée sur peu de décideurs et que lesdits décideurs sont toujours les mênes ou parcage le même système de pensée et les mêmes intérêts.
Pour reprendre la main sur nos vies, il faut s'assurer du plus grand partage possible de la prise de décision, avec des décideurs qui changent régulièrement.
« Y a même des gens qui ont l’air vivant, mais ils sont morts depuis longtemps ! »
[^] # Re: Qui/quoi débrancher
Posté par Bernie . Évalué à 1 (+0/-0).
Et j'ajouterai : et l'IA donnera à ces personnes des conseils pour "bien" voter :(
[^] # Re: Qui/quoi débrancher
Posté par Faya . Évalué à 4 (+2/-0).
C'est très exactement ce que je me disais : suffit de débrancher la prise. Mais la réponse de Moonz (sous mon commentaire en lien) et les articles qu'il a partagés comme There’s No Fire Alarm for Artificial General Intelligence (qui date de 2017, donc avant l'explosion de l'IAGen) m'ont fait réfléchir. Il n'y aura pas d'événement brutal qui fera dire "débranchez-tout !" Ça va juste s'infiltrer partout au point qu'on ne saura pas trop comment faire marche arrière. Un peu comme avec les GAFAM. D'ailleurs on a toujours pas débranché le danger social qu'est Meta. Donc non pas de Terminator mais ça pourrait être un danger plus insidieux. Nous rendre tous un peu plus cons et moins autonomes est un bon début par exemple.
# Marketing oui, mais aussi à destination des particuliers...
Posté par Dring . Évalué à 10 (+13/-0).
Pour moi, annoncer que "mon IA a réussi à s'échapper et à pirater telle ou telle organisation", c'est aussi du marketing à destination des clients, pas seulement des états.
ça permet de mettre en avant que telle ou telle IA est vraiment très intelligente ; elle est plus intelligente que ses créateurs
ça permet de mettre sous le tapis que les sysadmins et/ou l'infra mise en place sont à chier, en détournant l'attention
# That!
Posté par steph1978 . Évalué à 7 (+5/-0). Dernière modification le 21 septembre 2026 à 16:16.
C'est exactement ça.
Les entreprises prétendent ne pas aimer la régulation mais c'est faux, pour les plus grosses ; car cela leur permet d'asphyxier toute concurrence. Aujourd'hui, avec les réglementations en place, qui pourrait créer une banque ou un constructeur automobile ? Personne, enfin pas un petit entrepreneur. Il faudrait lever des fonds considérables pour se mettre au niveau de la réglementation en cours.
# Au final, je ne comprends pas
Posté par bbo . Évalué à 5 (+5/-2). Dernière modification le 21 septembre 2026 à 19:10.
J'ai souvent lu/entendu qu'utiliser la peur empêchait la mobilisation sur le dérèglement climatique. Que les écolos qui faisaient ça étaient, en gros, des pisse-froid. Et, bien sûr, "il faut vraiment bcp d'argent, qu'on n'a pas".
Là, je constate que la peur a permis de mobiliser les politiques et des centaines de milliards de dollars (dont une partie risque quand même de juste disparaître) venant de tout plein des pays sans empêcher du tout l'augmentation très importante de l'usage dans la population et presque l'acceptation de tout ce que ça va défoncer socialement.
# AI
Posté par DominickToretto . Évalué à 2 (+2/-0).
Globalement, je partage l'idée de base. Un modèle d'apprentissage du langage (MLL) est avant tout un système qui génère du texte à partir d'entrées, et il peut produire une réponse très convaincante tout en étant factuellement incorrecte. Par conséquent, il ne s'agit pas d'un véritable « ordinateur pensant » que nous devrions suivre aveuglément.
Le problème principal réside dans la confiance que nous accordons aux résultats. Même le NIST souligne que les MAL peuvent produire des informations erronées avec un degré de certitude élevé, ce qui devient particulièrement problématique lorsque l'on agit directement sur la base de ces réponses sans les vérifier.
Pour moi, l'IA est surtout intéressante comme outil de recherche ou de raisonnement : elle fait gagner du temps, suggère des pistes, mais nous vérifions toujours les informations importantes. Finalement, c'est très similaire à ce que nous faisons déjà avec les moteurs de recherche, sauf qu'ici, il est beaucoup plus facile d'accepter la réponse sans la vérifier. Heureusement, la plateforme en ligne https://mostbetma1.bet/app/ permettra de résoudre ces problèmes.
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.