Thomas Douillard a écrit 9021 commentaires

Je faisais référence au Groupe_Wagner et aux fermes à troll russes, dont l’utilité pour l’humanité est, on va dire, pire que discutable.

Ce sera pas ChatGPT alors, ou alors va falloir aller faire la grève aux USA pour internationaliser (c’est comme nationaliser mais pour l’univers entier) OpenAI.

C’est vrai que c’est ultra pénible comme boulot de générer du contenu trollesque quand tu bosses pour Wagner, c’est un boulot à automatiser.

Au delà des signataires mis en avant, c’est un peu toujours les noms connus que la presse met en avant, et oui effectivement on peu soupçonner un peu d’opportunisme pour certains, ça n’enlève rien à l’opportunité de discuter sur des technos qui ont le potentiel de remplacer des graphistes ou d’alimenter des fermes à troll en contenu avec une qualité encore jamais atteinte.

Tu pourras facilement trouver des chercheurs spécialistes qui sont assez critiques, qui ne seront pas les derniers à disqualifier la société civile pour discuter.

Si jamais on demandait uniquement aux experts qui comprennent vraiment tout ce qui se passe par leur avis sur toute les technos à impact sociétal … Euh wait on sait pas reverse ingénierer ces modèles vraiment en profondeur pour comprendre toutes les subtilités de leur fonctionnement … conclusion : on a pas d’experts assez compétents, on ne peut donc que les laisser vivre leur vie sans critique.

Plus sérieusement, tout le monde sent confusément qu’il se passe quelque chose et que ça impacte de nombreuses professions, qu’il y a un potentiel encore pas exploité, et qu’en plus tout va très vite. L’avis des ingénieurs d’OpenAI, c’est donc le seul qui vaudrait puisque maintenant en plus les modèles sont fermés j’ai cru comprendre.

On a donc des technos très puissante qu’il faudrait laisser entre les mains de quelques personnes, sans critiques parce que tu comprends on sait pas de quoi on parle, on est pas assez intelligent pour comprendre, potentiellement pourquoi on pourrait perdre son boulot ?

Ça ne tient pas ton argumentation je pense. On en est pas là mais imaginons qu’on en arrive à une situation à la Skynet ou qu’on y risque. Ben … toi ici tu argumentes pour qu’on y arrive parce que c’est inévitable. Enfin je vois pas en quoi ton argument pourrait nous en sortir.

La course … on sait qu’il y a une course. Pour aller ou par contre, il y a moins de monde pour théoriser.

C’est un piège !

On parlait de respect, c’est pas très respecteux de n’intervenir que pour provoquer et se délecter du désordre qu’on a mis dans la discussion, avec la prétention de juste donner des faits (suivis de jugements de valeurs, mais ça doit être juste des constats objectifs factuels sur le déroulement de la discussion j’imagine)

Dans le principe :

Est-il impossible d’interpréter des mêmes faits d’une manière différentes ?
Est-il possible que les faits que tu donnes soient relativisables par d’autres faits, ou même discutables en eux mêmes ?
Est-il possible que tu orientes la lecture qu’on doive faire des faits ?

C’est pas évident à manier, la dérision, dans une discussion à plusieurs, parce qu’il faut bien s’assurer que tout le monde est sur la même longueur d’onde et le comprenne comme tel.

Pris littéralement, « Je les jette en pâture à la une meute de cervelle énervées et je les regarde se défendre » peut donner l’impression que tu ne respectes pas tes interlocuteurs a priori. Du coup, ils n’ont pas spécialement a respecter à la base le machin que tu leur jette en pâture.

Le seul truc qu’on peut faire, c’est d’argumenter de la manière la plus solide possible. Face à un adversaire de mauvaise foi, tout est possible. Et quand il y a des spectateurs effectivement c’est pire, si le seul but c’est de convaincre l’auditoire tout les moyens sont bons, y compris d’essayer de décrédibiliser l’adversaire en criant "sophisme" à des arguments valides. C’est l’objet du billet que je pointe d’ailleurs, en se posant comme expert du raisonnement fallacieux ça ne donne pas un totem d’immunité pour raisonner correctement ou honnêtement.

C’est pas pour prendre la défense des moisissures argumentatives, mais se focaliser là dessus dans un débat n’est pas forcément bon. C’est une thématique abordée par certaines personnes issues du monde sceptique qui en font la critique, voir par exemple cet article https://zet-ethique.fr/2020/04/17/fauxphismes-une-introduction/ sur le site Zet-éthique métacritique.

Il y a une part d’histoire aussi qui n’est pas forcément conservable en immatériel. On aura beau avoir les schémas il y a des chance que les techniques de fabrications soient pas toutes aussi documentées et qu’à posteriori pour savoir comment et avec quoi ça ait été fait il faut du matériel non ?

Finalement, faudra voir les actes ? Parce que pour l’instant, ils n’ont pas vraiment de communication sur ce qu’ils font pour garantir une certaine éthique ou quelles règles ils suivent, ce qu’il s’interdisent de faire, la prospection des risques …

OpenAI le fait un peu avec GPT-4, mais ça reste de la communication institutionnelle. Genre "on applique une passe pour éviter que le modèle réponde sur comment se procurer de l’uranium enrichi" ou encore "on a détecté des prémices que nos modèles pourraient manipuler l’utilisateur pour maximiser leur fonction objectif". Mais on sort le machin quand même.

Du coup, simplement dissoudre l’équipe éthique sans communiquer particulièrement sur comment l’éthique est concrètement prise en compte ou que les risques prospectifs sur des techniques émergentes soit identifiés et pris en compte, c’est inquiétant.

Une page web statique qui embarque ses images dans des champs data versus une page web dynamique unique servie une fois par un serveur pour chaque utilisateur … Faut dire que la situation est vraiment complexe et qu’il y a des tas de nuances.

OK et bah préfères la pas recherche pas académique mais de droite, qui dit des trucs de bon sens alors !

Si le langage formatait totalement les actions humaines

Je me demandes bien d’où tu sors ça, c’est tellement subtil.

Ben quelque part tout est suite de bits, en ce sens tout sera toujours "fichier". Le fait de stocker cette suite de bits dans un fs, avec un nom et une hiérarchie de répertoire c'est beaucoup moins le cas.

La vidéo en streaming, de nos jours, c’est tout sauf un fichier par contre. Faut voir comment les youtube-dl like en bave pour télécharger des vidéos yt.

Pas nécessairement besoin de les manipuler à la main, les logiciels de galeries photos font un classement automatique par date ou événement à partir des métadonnées. Picasa proposait même de tagger automatiquement les personnes présentes sur les photos avant d’être tué par Google.

Pour les photos, il y a les métadonnées et les étiquettes éventuellement qui ont cette fonction de classement et rangement.

Dans l’émission il prend l’exemple de l’afis qui relaie des arguments climatosceptiques, il peut y avoir une analyse complètement différente (pas forcément opposée) : les milieux rationalistes sont généralement progressistes sur le plan technique, et le Dieu pétrole a quand même été est est toujours au cœur d’une certaine forme de cette société technique perçue comme un progrès.

Du coup si on se permet une analogie, il n’est pas impossible que l’influence des pétroliers, qui ont eus intérêts à diffuser ces travaux, n’ait pas été nulle voire qu’il aient instrumentalisé ce doute … et que ça ait percolé dans les milieux sceptiques qui auraient été carrément instrumentalisés. Mais pour le coup c’est pas un effet du doute … Cela dit c’est un boulot de sciences sociales de trier les bouts, et le milieu scepticique et celui des sciences sociales sont pas toujours copains.

Aussi je me questionne un peu sur certains points qui ont été soulevé dans l’émission. Quand il est question de sexisme, toi, dascritch, tu répond "oui, mais comme partout". Je trouve un peu curieux du coup les questionnements autour de "on est pas certain qu’on touche le bon public" à la fin, qui semble assez peu compatibles. Si ces questionnements sont balayés d’un revers ça ne me parait pas spécialement propice à une ouverture du milieu, et une autocritique pourtant vantée par le mouvement un peu … insuffisante. Si la principale motivation qui reste c’est "parce que c’est marrant", je doute que juste se moquer des théories farfelues soit vraiment une ouverture suffisante à d’autre milieux pour promouvoir l’esprit critique.

C’est une fuite en avant : des gens font l’effort de faire des études et des recherches. Ça peut être constructif de critiquer les recherches, MAIS : si c’est pour ne pas les faire mais simplement aller perpétuellement se cacher dans les interstices non encore couverts pour rejeter les résultats, en mode, "ok, mais vous avez pas testés toutes les langues du monde !" non, ça n’est pas constructif. Faites les ces études, et publiez les ailleurs que sur Youtube.

De mon seul point de vue, ce genre de recherche me fait penser à ce que ces chercheurs cherchent à démontrer non une hypothèse, mais une idée préconçue.

De mon point de vue, ce genre de critique me fait penser à ce que les critiques ne cherchent pas à évaluer sérieusement les travaux, mais simplement à aller systématiquement aller chercher la petite bête, les choix de la vulgarisatrice, sans même lire eux même. Parce que les résultats leurs plaisent pas. Voilà, miroir.

Ben typiquement Viviane dit explicitement dans la vidéos qu’il y a des études dans plusieurs langues (elle montre français et allemand de mémoire, mais je peux me tromper) et que globalement ça va dans le même sens, donc c’est argumenté avant d’être objecté. Ça semble être un effet robuste dans les langues genrées. Du coup tu le vends pas très bien je trouve.

Ça reste dans tous les cas des choses à ne pas mettre au même plan. L’une des vidéos fait une revue de recherche scientifique. L’autre est une analyse et une opinion personnelle qui ne semble pas s’appuyer sur des publications. Y a-t-il des raisons de penser par exemple que les objections ne sont pas prises en comptes par les protocoles et discutées dans la littérature ?