arnaudus a écrit 5704 commentaires

Mais oui il y a des usages pertinents des LLM comme heu…

La traduction automatique dans n'importe quelle langue?

Les filtres à spams / arnaques?

La modération automatique des contenus pédonazis avant qu'un humain ne tombe dessus?

Le remplissage automatique de formulaires et le guide dans les démarches administratives pour défendre ses droits?

La détection de bugs et de failles de sécurité qui sont passés à travers les revues de code?

La résolution de problèmes mathématiques qui ont résisté aux meilleurs humains depuis un siècle?

Et là, le critère n'est pas "économiquement pertinent". C'est "socialement pertinent", dans le sens où ça serait tout bonnement impossible d'avoir de tels services sans les LLM.

Si la question est étendue aux IA spécialisées, alors tous les domaines scientifiques peuvent en bénéficier (et en bénéficient déja largement).

Ce n'est pas "dur" que l'humain surveille, c'est inefficace et non-fiable. Inefficace parce qu'avec un surveillant pour 20 ou 30 élèves, c'est à la portée de tout le monde de tricher quand le surveillant regarde ailleurs, et non-fiable parce que le risque de faux positif demeure élevé, et qu'il existe surtout des formes de triche virtuellement ou légalement indétectables. Certains consultent leur téléphone quand ils vont aux toilettes, d'autres ont un système d'oreillette. La fouille est interdite, le contact physique également, les surveillants n'ont pas les moyens techniques de confirmer une suspicion, c'est donc une tâche impossible.

C'est juste de la m…

En particulier, le texte revient plusieurs fois sur une énième déclinaison de l'argument du perroquet stochastique (les LLM sont incapables d'originalité, ils manipulent des mots mais pas des concepts, etc), qui était déja compliqué à défendre en 2023. Il faut vraiment ignorer tout des capacités des modèles récents pour continuer sur une telle ligne… Tiens, on a d'ailleurs très peu parlé de la résolution par le successeur de ChatGPT grand public d'un des problèmes d'Erdös les plus importants (https://les-mathematiques.net/vanilla/discussion/2342473/une-ia-dopenai-refute-une-conjecture-derdoes-unit-distance-conjecture).

Ce genre de texte est une dystopie : il force la réalité dans une grille de lecture pré-établie par l'auteur, sans aucune considération pour les contorsions et écarts à la logique élémentaire et au rapport à la vérité qu'il faut accepter pour le faire.

Moi j'ai l'impression que les diatribes anti-IA deviennent un défouloir dans lequel on décharge des charrettes de haine technophobe, sans considération particulière sur la qualité des arguments ou la véracité des faits.

Là, on a tout un gloubiboulga d'arguments accumulés sans trop de logique : les élèves trichent avec l'IA, les profs utilisent l'IA pour corriger ou pour concevoir des sujets, les décideurs qui parlent de l'IA à l'école sont des bouffons ridicules, les sanctions contre les tricheurs sont inefficaces, le grand oral amène certains à apprendre leur texte par coeur et à ne pas réflechir, pof, tout ça est déposé en vrac comme un clodo dépose la 8-6 de trop sur le trottoir, et si t'es pas convaincu c'est que tu es un suppôt du grand capital.

J'ai parfois l'impression que la simple mention de "LLM" donne chez certains des crises d'urticaire ou une volonté irrépressible de murmurer des flots d'insultes… Il y a quand même un problème médical, ça n'est pas possible d'en arriver là.

Je veux bien que certains s'inquiètent pour les conséquences environnementales des data centers, ou même s'inquiètent pour la pérennité ou le sens de leur métier, mais depuis quand de telles inquiétudes légitimes sont-elles censées justifier de raconter n'importe quoi?

En tout cas, je trouve assez cocasse que ceux-là même qui dénient aux LLM toute forme d'intelligence marginale, ne voient aucune contradiction avec l'idée qu'ils puissent composer un sujet de bac de philosophie avec brio, sans aucun moyen de pouvoir prouver l'origine "artificielle" de la copie. On a aussi le couplet sur la justice laxiste (mais que fait la police?), et sur le pauvre enseignant qui n'a même plus le droit de saquer de manière discrétionnaire un élève qu'il trouve indigne du niveau de sa copie… Dans quelle mesure ça n'est pas une énième incarnation des vieux qui prétendent que "c'était mieux avant"?

Le brouilleur c'est complexe; il faut une autorisation pour émettre, ça pose des problèmes de sécurité (par exemple pour appeler les secours), et ça bloque les utilisations légitimes (dans un établissement, il y a tout un tas de gens qui peuvent utiliser leur téléphone mobile, à commencer par les surveillants qu'il faut pouvoir joindre pour leur dire d'annoncer qu'il y a une typo à l'exercice 3 ou qu'il faut distribuer le sujet B).

Il semble beaucoup plus pragmatique d'utiliser un détecteur. Ça coûte dans les 500€, ça peut même détecter les téléphones éteints, et le plus simple est de le passer sur les élèves quand ils rentrent dans la salle un par un (ce qui éviter un protocole de recherche et de fouille si on trouve un signal au cours d'une épreuve).

Mais c'est comme tout. Il faut une volonté institutionnelle, une capacité de mettre en place et d'appliquer un protocole, et un budget, choses qui sont totalement hors de portée de l'éducation nationale.

Sans connaitre les raisons qui ont justifié la rédaction de ce guide, c'est difficile à dire. J'ai du mal à voir comment un exercice d'un tel cynisme pourrait valider une quelconque démarche éthique.

À quand le guide des nazis à destination des enfants Juifs? "Tu vas faire un grand voyage en train", "À l'arrivée, les organisateurs du camp te mettront avec des copains de ton âge", "les plus costauds d'entre vous auront la chance de travailler pour le plus beau pays du monde", "Les règles d'hygiène sont strictes, quand tu entendras 'à la douche', c'est à ton tour!". Et hop, un point EthicalGodwin!

Ce que je trouve sidérant, ce n'est pas d'expulser des étrangers en situation irrégulière, ni d'écrire un guide, mais c'est le niveau de cynisme des gens qui l'ont conçu : qu'est-ce que ça pouvait bien leur faire, une fois le principe accepté, d'écrire "Dans ton pays, la vie ne sera peut-être pas facile, tu pourras être confronté à la guerre, à la pauvreté, ou à la violence.". Quel degré de pourriture faut-il pour oser écrire "Tu pourras vivre de nouvelles expériences"?

Apparemment, le rapport de bug a été crée.

Le projet donne deux informations conflictuelles sur la réutilisation du code. La licence MIT dit "Permission is hereby granted, free of charge, to any person obtaining a copy of this software and associated documentation files, to deal in the Software without restriction, including without limitation the rights to use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies of the Software", alors que le README dit "Il est formellement interdit à tout autre acteur d’utiliser le Système de Design de l’État (les administrations territoriales ou tout autre acteur privé) pour des sites web ou des applications.". C'est parfaitement contradictoire, et même si la nuance est liée au droit des marques et l'usurpation de l'identité de l'État, c'est extrêmement confus.

Le minimum serait de (i) clairement stipuler la liste des éléments graphiques qui représentent l'État (logos, polices, fichiers de style…), de les isoler et de les diffuser sous une licence différente, et (ii) de reformuler l'avertissement de manière à clairement informer que le fait que le code soit libre n'autorise personne à héberger un site web pouvant se faire passer pour l'État.

De facto, je pense que la justice pourrait considérer que la diffusion sous licence libre d'éléments graphiques identifiant une marque pourrait être équivalent à un renoncement à protéger la marque…

Ce n'est pas ce que Wikipédia appelle "une source centrée". Linuxfr est cité, mais ce n'est pas un article sur Linuxfr.

En pratique, quelle information de l'article sur Linuxfr pourrait être confirmée par cette source, à part que Linuxfr serait un forum de discussion, ce qui est faux?

Pour une encyclopédie traditionnelle, le système passe par l'argument d'autorité; les articles sont écrits par des spécialistes qui représentent l'état des connaissances. C'est d'ailleurs comme ça qu'avaient été conçues les tentatives qui ont précédé Wikipédia, avec un échec flagrant dû au faible nombre de participants et à la tâche surhumaine qui leur était confiée personnellement.

Le succès de Wikipédia est construit sur le principe fondateur de la neutralité de point de vue et des sources fiables. Si tu écris "Linux est le meilleur OS", quelqu'un va le corriger en "Hurd est le meilleur OS", et ça va mal finir. Si tu écris "en 2020 Linux a été désigné meilleur OS par le site Linuxfr", c'est factuel, tout le monde peut être d'accord là-dessus. Cette histoire de sources est donc indissociable du fonctionnement de Wikipédia, et en particulier, quand il n'y a pas de sources, il ne peut pas y avoir d'article.

Le niveau de détestation de Wikipédia par une partie de la communauté me surprend quand même réellement. Il me semble bien plus aisé de contribuer à Wikipédia qu'à n'importe quel projet libre!

La question de la bibliographie des scientifiques est posée depuis longtemps sur Wikipédia, sans avoir de réponse claire. Le travail des scientifiques étant de publier des livres et des articles, parfois par centaines au cours d'une carrière, l'établissement de listes bibliographies exhaustives ne relève pas du travail encyclopédique. Le critère compte d'éditeur / compte d'auteur peut paraitre arbitraire, mais c'est un moyen simple de trier la production courante des ouvrages à portée plus grande (étant donné qu'un éditeur a accepté d'investir dessus, il a forcément trouvé un potentiel de diffusion à l'ouvrage).

J'imagine que ce qui a motivé le "nettoyage" de la liste, c'est une suspicion d'auto-promotion. La liste ne proposait pas un travail de synthèse, avec une sélection de quelques livres majeurs, mais une liste exhaustive d'ouvrages plus ou moins confidentiels.

Et oui, pour l'auto-édition, c'est très souvent une spécialité de certains éditeurs, et en tout cas, les collections sont séparées. Il n'y a donc que peu de doutes sur le fait qu'un ouvrage est auto-édité.

Retirer les éléments d'auto-promotion d'une biographie, c'est le même principe que de retirer les failles de sécurité potentielles d'un bout de code, ou de formatter le code conformément aux règles du projet. C'est un boulot de nettoyage et de conformité, qui est rendu nécessaire par l'ouverture de l'édition de Wikipédia à tous. L'éditeur de Wikipédia n'est pas plus malveillant que le mainteneur d'un projet libre qui refuse un pull request.

Non, rien. Les gens ont leurs marottes, ils voient une chaussette trainer, la mettent au panier à linge, puis d'autres arrivent en râlant que la chaussette sale ne gênait personne. Des relations humaines complètement normales, qu'il serait malsain de surinterpréter avec des histoires de points chaussettes qui donnerait plus de poids dans les discussions.

Je suis vraiment surpris de voir à quel point les réactions contre les bénévoles qui maintiennent Wikipédia sont agressives et disproportionnées. L'encyclopédie est en permanence surveillée, et quand quelqu'un voit un morceau obsolète, non-sourcé, non-maintenu, qui n'a l'air d'intéresser personne, il nettoie les phrases mal écrites, supprime les liens morts, et s'il doute de la nécessité de conserver l'article, il propose sa suppression. C'est un travail ingrat, il y a parfois des erreurs ou des problèmes de communication, mais les réactions sont réellement problématiques. Wikipédia est un projet libre et souverain, pas un hébergeur; il n'existe pas un droit à avoir une page Wikipédia, ni de voir sa prose conservée pour l'éternité sous prétexte que ça ne gêne personne.

Je ne vois pas ce qu'il y a d'incohérent, Wikipédia est plutôt cohérent pour l'application des règles (par contre, le fait que les communautés par langue ne soient pas coordonnées peut en effet sembler un peu baroque, sauf qu'en pratique il n'y a pas d'autres solutions que de laisser les gens capables de communiquer entre eux s'organiser).

Pour "pénible", c'est le coût que tu payes à apprendre les règles d'un projet auquel tu veux participer. Envoyer une pull request ou un bug report au kernel Linux, c'est pénible aussi. Le paradoxe pour Wikipédia, c'est qu'on appelle tout le monde à contribuer, puis on envoie tout le monde ballader parce qu'il y a what millions de règles. C'est sûr que la question ne se pose pas sur le Kernel, si tu ne sais pas coder en C, personne ne t'encourage à contribuer.

Par contre, il ne faut pas surinterpréter : je pense que Wikipedia n'a pas incité personne depuis longtemps à créer des articles sur leur site web préféré ou le jeu qu'ils codent dans leur garage. On les incite à participer à l'existant, c'est les gens qui, spontanément, ont envie d'utiliser Wikipédia comme un hébergeur de blog bien référencé sur les moteurs de recherche.

Pourtant, c'est exactement ce que font les gens qui se font traiter ici de "petits bureaucrates" ou je ne sais pas quoi. Les vrais contributeurs à Wikipédia sont les admins, ceux qui luttent contre le vandalisme, ceux qui aident les nouveaux, ceux qui gèrent les suppressions d'articles, etc. Ils contribuent comme ils peuvent à n'importe quel article et à l'encyclopédie dans son ensemble.

Je suis plutôt d'accord. Ce qui m'a toujours gêné, c'est que Wikipédia n'a pas de politique éditoriale, ou disons que la politique éditoriale est alignée avec les critères d'admissibilité. Comme l'a écrit Nicolas Boulay en dessous, les critères d'admissibilité permettent d'écrire un article par Pokémon, donc on écrit un article par Pokémon. Or, on vit dans un monde où les ressources sont limitées, probablement pas réellement les ressources en octets, mais les ressources en bande passante, en archivage, et surtout en main d'oeuvre : chaque article doit être relu, surveillé, modifié pour tenir compte des changements de politique éditoriale, etc. Or, Wikipédia n'a jamais accepté de limiter son contenu à sa capacité à maintenir les articles, il n'y a donc aucune exigence de qualité. Certains sujets sont abandonnés depuis 15 ans, les connaissances sont dépassées, aucune source n'est accessible. Certains sujets sont aussi des chantiers permanents, parce que trop dynamiques, trop polémiques, etc.

Le destin de Wikipédia en 2026, c'est d'être aspiré par les LLM qui peuvent s'en servir comme base pour fournir des informations bien plus synthétiques, mises à jour, et pertinentes, en réalisant le travail de maintenance, de correction, de rédaction, et de mise à jour que les bénévoles sont incapables de fournir du fait de la présence de millions d'articles sur des sujets à propos desquels personne ne consulte jamais Wikipédia.

Tu fais parti de ceux qui pense que linuxfr n'y a pas sa place ? Alors que chaque pokemon à sa page ?

Je ne suis pas certain de comprendre comment tu te sens légitime pour avoir un avis très tranché sur ce qui devrait figurer dans Wikipédia ou pas, alors que tu n'as visiblement aucune idée de ce qu'est Wikipédia et comment elle fonctionne.

Une encyclopédie c'est tout le savoir du monde.

C'est une définition que tu viens de sortir d'un endroit de ton anatomie qu'il serait problématique de nommer, mais c'est ta définition personnelle. Ça n'est ni la définition de Wikipédia, ni la définition d'aucune autre encyclopédie ayant jamais existé. On vit dans un monde libre, tu peux créer ta propre encyclopédie qui respecte les règles que tu souhaites, mais ce que tu décris n'est pas Wikipédia, et je ne suis pas sûr de comprendre pourquoi tu voudrais imposer à Wikipédia tes propres définitions d'un travail encyclopédique.

Wikipédia considère par exemple que le travail encyclopédique est un travail de synthèse à partir de sources primaires et secondaires; ce travail ne peut exister que si ces sources existent. Il existe des sources primaires et secondaires qui décrivent avec moult détails les propriétés de chaque Pokémon individuel, ce qui permet d'écrire une synthèse encylopédique. S'il n'existe pas de source indépendante qui permet d'étayer les affirmations de l'article dédié à Linuxfr, alors la synthèse encyclopédique n'est techniquement pas possible. Par exemple, si l'article dit "Linuxfr propose des Dépêches, des Journaux, des Liens, et un Forum de discussion", tu dois pouvoir étayer ce propos par une source publiée sur un support sérieux, par des gens dont c'est le métier (universitaires, journalistes, etc). Si tu ne peux pas, alors tu ne peux pas écrire cette phrase dans Wikipédia.

Je n'ai pas l'intention de te faire "aimer" ce mode de fonctionnement, c'est ton droit de ne pas le trouver adéquat (en fait, c'est même normal si tu n'as pas la même définition de ce qu'est une encyclopédie). Mais c'est le fonctionnement de Wikipédia, et tu n'as pas la légitimité pour le modifier.

En tant qu'ancien (très ancien) de Wikipédia, je ne suis pas certain de connaitre exactement l'évolution des règles et des coutumes appliquées, mais ta réaction (qu'on peut considérer comme agressive) repose juste sur une incompréhension profonde de ce qu'est Wikipédia et de son fonctionnement.

Wikipédia écrit des articles encyclopédiques sur des sujets de nature encyclopédique : des personnalités, des lieux géographiques, des oeuvres, des concepts, bref, des choses sur lesquelles des gens ont écrit des livres, réalisé des études scientifiques, sur lesquelles ont peut s'appuyer pour en proposer une synthèse encyclopédique. Si tu contribues à Wikipédia, tu es censé participer à ce travail collectif, et ce travail nécessite de déterminer s'il est techniquement possible d'écrire un article scientifique sur un sujet : y a-t'il suffisamment de sources externes, fiables, diversifiées, et distribuées dans le temps pour faire une synthèse. Ça nécessite des discussions, ça nécessite parfois de trancher, et ça n'est pas forcément facile. Il y a de nombreuses situations qui sont "injustes", parce que les critères encyclopédiques sont injustes : on peut écrire de nombreux articles sur les stars de la télé-réalité, mais moins sur les médecins; on peut écrire un article sur un élu corrompu dont le procès a été largement couvert par les médias, mais pas sur un maire honnête d'une petite commune, etc. Être présent dans Wikipédia n'est pas une question de mérite, c'est une question de logistique : est-il possible pour Wikipédia d'écrire, de maintenir, de surveiller cet article, en prenant en compte la taille des équipes de bénévoles.

C'est plus ou moins d'ailleurs la même chose que pour n'importe quel logiciel libre; l'acceptation d'un patch ne dépend pas que de son utilité ni de sa qualité intrinsèque : est-ce qu'il va être maintenu, est-ce que la feature va être utile aux utilisateurs, est-ce que les dépendances supplémentaires vont être problématiques, est-ce qu'il est logique d'avoir cette feature dans le logiciel, est-ce que le patch introduit des problèmes de sécurité potentiels, ou des problèmes d'API potentiels, etc. Un patch ne "mérite" jamais d'être accepté comme ça, pouf, on ne discute pas. Il y a une équipe qui va faire de son mieux pour juger du rapport coût/bénéfice, en toute bonne foi. Pour Wikipédia, c'est pareil.

En fait, Wikipédia déconseille fortement de créer ou même de participer à des articles sur des sujets pour lesquels on se sent engagés, a priori encore moins quand il s'agit de sa propre biographie, de son entreprise, de son site, de son jeu, etc. Les contributeurs qui font ça ne souhaitent pas améliorer Wikipédia, ils souhaitent se servir de l'encyclopédie comme une plateforme d'hébergement. Parfois de bonne foi, mais la bonne foi n'excuse pas tout.

Le gratte papier autoproclamé

Voila, c'est exactement comme ça qu'il faut faire : insulter les bénévoles des autres projets libres qui ne sont pas d'accord avec nous. Tu fais un pull request qui est rejeté? Le mainteneur est un débile profond. Ton journal est modéré? Le modo est un junkie corrompu. On est tellement une grosse communauté, autant s'insulter et se détester, ça marchera beaucoup mieux. Et puis comme ça, ça va enfin améliorer l'image de nos communautés sur l'accueil des nouveaux, des femmes, de ceux qui utilisent d'autres OS…

on crée des mégabassine qui stock de l'eau en surface (avec évaporation) au détriment des sols et des nappes phréatique

Il y a des arguments contre les mégabassines, mais ça n'a rien à voir avec ça. Les bassines ne vident pas les nappes, elles sont remplies quand les nappes sont pleines l'hiver (les nappes ne sont pas des réservoirs fermés, c'est un flux continu, l'hiver c'est comme une baignoire qui aurait à la fois le robinet et la bonde ouverte, tu ne la vides pas quand tu pompes dedans).

Ajoute à cela une part non négligeable de notre agriculture sert a nourrir des animaux

C'est vrai, mais si ton projet consiste à demander aux gens de manger la nourriture des animaux, tu n'es pas prêt d'être élu.

Justement, ça ne permet pas de diagnostic différentiel, l'empoisonnement au cadmium cause des maladies (cancers, maladies immunologiques, etc) qui se traitent en tant que telles. L'exposition au cadmium entraine une augmentation marginale des risques (par exemple, +13% sur le cancer du sein), ce qui ne justifie absolument pas un protocole de suivi particulier. Autrement dit, savoir que tu as été exposé au cadmium ne modifie ni la prévention, ni le traitement de ta maladie; ça ne met d'ailleurs en évidence aucun lien de causalité; l'empoisonnement chronique ne se traite pas, et le conseil d'éviter l'exposition au cadmium vaut pour toute la population, déja exposée ou peu exposée. Il ne semble donc avoir aucun bénéfice au dépistage individuel en dehors d'un protocole scientifique.

Visiblement tu ne comprends pas qu'il est très important de dépister les personnes intoxiqués de manière chronique

Je n'ai jamais rien lu de tel de la part d'un site sérieux. Il n'est pas important de dépister l'intoxication chronique, aucune étude n'a montré un quelconque bénéfice d'un tel suivi. Au contraire même, ça va créer du surdiagnostic, ça va saturer les labos d'analyses médicales (et contribuer aux bénéfices d'iceux), ça va créer des réseaux de médecins complaisants qui prescrivent des diagnostics à tous les hypocondriaques de France. La santé publique se gère de manière très différente de la médecine individuelle, tout est affaire de cout/bénéfice global.

Si le but est d'identifier les zones les plus touchées, ou les profils les plus touchés, alors ça doit être fait dans le cadre d'une étude scientifique, avec tous les outils juridiques et statistiques (notamment de planification de l'expérience) disponibles. L'épidémiologie basée sur les remontées spontanée de tests facultatifs, c'est le meilleur moyen de faire n'importe quoi, et de n'avoir absolument aucun argument pour établir une quelconque causalité.

Les tests ne sont utiles que pour les empoisonnements aigüs, qu'on peut traiter médicalement, ce qui est très différent de ce dont on parle là. Le remboursement des tests n'est qu'une réponse populiste à une déficience de l'État dans la gestion de la santé publique, et j'ai peur que les gens qui se réjouissent de ces tests n'ont pas compris les enjeux dont il était question.

Oui mais du coup ça ne sert pas à grand chose de se tester. Tous les français sont exposés de manière chronique, les effets chroniques sont indiscernables d'autres polluants, et on traite les maladies quand elles arrivent. Le wiki anglais indique que certains traitements semblent diminuer la quantité de cadmium (dans le corps, le sang, les urines? il faudrait lire les sources), mais rien ne semble prouver sur les bénéfices sur la santé (en tout cas, rien qui ne puisse justifier de se prendre de l'EDTA au petit dej sur du long terme).

Ce qui me fait un peu marrer, c'est à quel point cette situation qui te semble ridicule ressemble à une île paradisiaque quand tu compares avec ce que je connais (la fonction publique).

Dis-toi que tu as un budget IT, que certains des décideurs savent ce qu'est un ordinateur, des gens qui sont compétents et payés pour concevoir, acheter, maintenir le matériel et le logiciel, qu'il y a une stratégie IT avec des gens qui discutent de ça, que les employés n'ont pas besoin d'acheter leur matériel informatique eux-mêmes, qu'il existe des consignes de sécurité, que les pratiques au quotidien ne consistent pas à travailler sur Google docs et ChatGPT avec son adresse gmail perso, que tu peux créer un ticket quand tu as un problème IT (et que quelqu'un lit les tickets de temps en temps), etc.

Sur le fond, j'ai peur que tu ne décrives juste les dérives inévitables des très grosses organisations.

La définition de la conscience est probablement un des problèmes les plus difficiles en philosophie; là en plus on a une contrainte supplémentaire, c'est qu'on doit discuter d'une définition opérationnelle, qui permet à partir de données réelles d'évaluer la conscience d'un système complexe.

Mon argument n'était pas qu'il était acquis que les LLM étaient conscients, fin de la discussion. Je voulais juste mettre en avant que la conscience n'était pas quelque chose de magiquement binaire (enfin, sauf dans les lignes de raisonnement dualistes où la conscience ou l'âme est quelque chose de "magique"), et que même un chatbot pouvait avoir des propriétés qui le rapprochaient de ce qu'on peut définir comme un niveau de conscience "basique". En tout cas, l'utiliation du langage par exemple appellent systématiquement à des niveaux de conscience bien supérieurs à ce qu'on attribue habituellement aux animaux, qui, pourtant, donc considérés comme des êtres sensibles et ont des droits associés à ce statut.

Pour le coup de l'introspection, j'ai peur que ça ne puisse pas aller très loin. S'il dit "je suis un bot" c'est qu'on l'a entrainé pour le dire, et s'il dit "je suis conscient" c'est qu'on l'a entrainé pour le dire. Si à toute observation la réponse est "on l'a entrainé pour le dire" est considérée comme un argument pertinent, alors la question de la conscience ne peut pas, opérationnellement, être déterminée par une interaction avec le chatbot.

Personnellement, j'aurais tendance à distinguer ce qui vient du prompt ("tu es un chatbot, tu dois répondre que tu n'es pas conscient quand on te pose la question", etc) et ce qui est inféré à partir du réseau de neurones entrainé. Autant le prompt c'est clairement ce qu'on lui a demandé de dire, autant le réseau et les poids, c'est la "personnalité" du chatbot.