arnaudus a écrit 5376 commentaires

OK, pardon, je n'ai pas été clair : tu ne voudrais jamais acheter un robot qui implémente les trois lois indifféremment de l'identité de son propriétaire. En tant que propriétaire du robot, je veux évidemment qu'il ne me nuise pas, qu'il obéit à mes ordres, et qu'il ne se mette pas en danger. Mais je ne veux pas qu'il obéisse aux ordres des autres, ou qu'il refuse un de mes ordres parce qu'il décèle une possibilité de nuire.

Tu te promènes dans la rue avec ton robot, et un plaisantin crie "robot, jette-toi sous le camion qui arrive!" et crac. Loi 2 > Loi 3, tu n'as plus de robot.

Tu laisses ton robot répondre au téléphone, et le soir, il te dit que malgré tes consignes, il vient d'accepter un devis pour l'isolation des combles parce que la personne au téléphone avait l'air très triste que tout le monde lui raccroche au nez. Loi 1 > Loi 2.

Par ailleurs, je crois qu'on a tous soupé des consignes d'auto-préservation des systèmes, genre "Ah non impossible de retirer Windows parce que ça serait triste pour toi de ne plus pouvoir utiliser ton ordinateur".

… et l'ensemble des nouvelles et romans sur les robots repose d'ailleurs sur les situations où l'application des lois est impossible ou mène à des situations qu'il aurait fallu éviter!

À partir du moment où une IA appartient à quelqu'un, dans le monde actuel, il est inenvisageable que les lois 2 et 3 ne dépendent pas de qui fait la requête. Il serait absurde que chatGPT s'autodétruise parce que quelqu'un le lui demande… Ce qui est au centre des questions éthiques, c'est la loi 1 et 2, puisque la loi 1 ne peut être d'application stricte (autrement, tout logiciel de conduite automatique devrait refuser de démarrer la voiture pour ne pas créer d'accident et risquer la vie de son propriétaire ou d'autres usagers). Il sait aussi absurde qu'en appliquant la loi 1 une IA vienne à aller pirater les systèmes des armées par exemple.

Les nouvelles d'Asimov sont des romans, c'est amusant, mais aucun fabriquant de robot ne voudrait implémenter ces lois, et aucun propriétaire de robot ne le voudrait non plus.

Certes, mais il y a forcément une sorte de score pour mesurer la "confiance" dans ce qui suit. Entre "Deux et deux font [X]" et "Poisson zigomar montagne [X]", le LLM doit savoir que le deuxième prend des probabilités infinitésimales étalées sur tous les mots, pourtant il est programmé pour répondre quelque chose.

Je viens d'essayer dans ChatGPT, et il hallucine d'ailleurs complètement : "Poisson, zigomard, montagne !", la fameuse incantation absurde de l'Inspecteur Gadget lorsqu'il se trompe en essayant d'activer un de ses gadgets !: n'importe quoi :-) En plus il réécrit zigomard avec un d, c'est bizarre.

Évidemment, les modèles actuels sont modifiés pour éviter les pièges les plus grossiers, mais le principe reste toujours celui-ci.

C'est quand même étonnant qu'il n'y ait pas moyen de calculer un indice de confiance au cours du processus, mais bon.

Il n'empêche que quand on lui demande d'être créatif, il est super bon. Voici un poème sur l'hallucination des IA:

Des circuits invisibles, où frémit la raison,
Dessinent un esprit aux confins du frisson.
Par codes et par brume, en errance infinie,
L’IA forge des songes d’une étrange harmonie.

Or dans le cadre de l'accès à la donnée personnelle, on peut assez légitimement s'appuyer sur le GDPR et la notion de portabilité, pour justifier l'automatisation de l'extraction.

Ça me semblerait à la fois plus pratique, plus légal, et plus fiable d'exiger l'extraction d'une archive complète contenant ses données personnelles. Ensuite tu analyses ton archive en local comme tu veux, mais balancer des requêtes à un site destiné à interagir avec un utilisateur humain semble largement sous-optimal.

Dans le cas de w[ebb]oob, de toutes manières, je ne vois pas du tout de distinction technique entre les deux. Il suffirait de trouver un jeu de mots graveleux avec "météo", et hop, tu peux utiliser un cadre de développement un peu plus abouti que des scripts qui trainent…

Je ne suis pas en train de dire que le scraping c'est bien ou c'est mal, ça dépend qui et quoi. Mais c'est quand même la pire solution, que ce soit pour le développement lui-même (c'est quand même 99% de bricolage crade et de reverse-engineering), la maintenance, et la sécurité juridique. Et même pour le site cible, puisque même s'il est de bonne foi et qu'il encourage la récupération de données, il ne va pas pouvoir changer son architecture sans pêter les outils de scaping, ce qui risque quand même d'empêcher son évolution.

Quand l'IA a juste elle est top et quand c'est faux elle hallucine ?

Non, c'est quand elle va "inventer" une réponse absurde hors de son corpus de connaissance. En gros, un LLM ne sait pas dire "je ne sais pas", donc quand il ne sait pas il va essayer de donner une réponse qui semble correcte en apparence. Parfois ces évident ("Les feux tricolores sont généralement verts, orange et rouges, mais ils sont parfois jaunes ou bleus"), parfois ça l'est beaucoup moins (par exemple il va t'inventer des chiffres quand il ne sait pas).

Parfois les IA se trompent parce qu'elle s'est entrainée sur des données fausses, auquel cas on ne peut pas y faire grand chose.

En quoi c'est différent de journalistes/politiciens/moules qui racontent des choses cohérences/plausibles mais souvent parfois factuellement fausses ?

Normalement, un être humain se rend compte quand il est en train de raconter n'imp', mais certains continuent quand même. Je pense que les LLM n'ont aucun moyen de savoir en interne à quel point ils sont en train d'inventer, et déclencher un "je ne suis pas sûr de la réponse".

Y'a aussi le fait de présenter les choses, si les journalistes rappelaient les prises de position passés et les mensonge passés avant la prise de parole d'un politicien, il regarderaient à 2x avant de recommencer à dire des conneries.

Le problème, c'est le décalage entre le temps qu'il faut pour dire une connerie, et le temps qu'il faut pour la contredire. Si un politicien dit "à l'époque j'étais déja favorable à ce projet", il te faut combien de temps pour aller retrouver les votes qui correspondent? Tu vas arriver 20 minutes après, tout essouflé, avec un truc du genre "Pourtant le 17 janvier 2012 vous aviez voté contre à l'assemblée", et le gars, qui est un professionnel de la rhétorique, va te répondre "C'est hors du contexte, j'ai voté contre cet amendement parce qu'il était proposé par le FN, mais le lendemain j'ai voté pour celui proposé par mon groupe parlementaire", et pouf tu es reparti pour 20 minutes, et quand tu reviens l'interview est terminée, et le gars a eu le temps de raconter 50 autres mythos. Tu ne peux pas t'en sortir.

Et puis, quoi, tu vas préparer des vidéos d'archives, et coup de bol, tu en as préparée une qui contredit ce que le gars vient de dire. Du coup, ton journaliste tout frétillant va en pleine interview passer l'extrait, le politicien va te répondre "Évidemment, j'ai dit ça en 2017, mais vous avez tronqué le début : je disais que A, et peut-être B. J'ai changé d'avis sur B, parce que le contexte international a changé, la situation n'est plus la même. Tout le monde peut changer d'avis, mais de toutes manières B n'a pas d'importance. N'empêche que vous vous êtes bien gardé de montrer que je disais A, et que je suis constant là-dessus depuis mon engagement en politique. Vous voyez, les journalistes, vous essayez toujours de me faire passer pour un menteur, mais c'est vous qui mentez : il y a 10 ans je disais A, et aujourd'hui je dis toujours A, j'ai toujours été constant sur ce point, et essayer d'insinuer le contraire c'est une attaque contre moi. Parce qu'évidemment vous n'avez pas passé un tel extrait à Machin qui est venu hier, ça montre bien qu'il y a une différence de traitement entre ceux qui disent A et les autres".

Il y a bien eu quelques tentatives par exemple où un panel d'experts mettait en temps réel au cours d'un débat des couleurs sur ce que venait de raconter l'un ou l'autre des intervenants. Et puis, quoi? Monsieur Z. va dire "Mes opposants politiques se gardent bien d'assumer une politique migratoire qui vise à progressivement remplacer les français par des Africains d'origine Musulmane, alors que moi je le dis sans cesse depuis 20 ans, parce qu'on doit la vérité aux Français", et là paf la barre devient toute rouge, et du coup, Z. continue "Ben voyons, on voit bien d'où ils viennent vos experts, ils viennent d'un milieu privilégié, ils ont grandi dans des beaux quartiers, ils vivent dans une tour d'ivoire et ne voient pas ce qui est évident pour les vrais Français. Je suis fier d'être en désaccord avec vos experts de pacotille." Et re-paf, victimisation, les journalistes et arbitres sont présentés comme des opposants politiques et ne sont pas neutres, ils ne me laissent pas dire la vérité, bla bla bla, tu n'as rien gagné.

J'allais répondre que Météo-France est un service public mais en fait leur site a des conditions d'utilisation tout aussi merdiques qu'un service commercial.

Météo-France est un établissement public, mais la dotation de l'État baisse et son fonctionnement repose sur des ressources propres (vente de prévisions, etc). L'Open Data c'est pas trop à la mode en France…

Ceci dit, ça ne serait pas trop logique de trouver les données brutes sur le www de Météo-France. Si API il y avait, elle serait certainement sur un serveur dédié, avec éventuellement une gestion des droits d'accès, et des conditions spécifiques différentes de celles de la consultation du site web.

Bah c'est quand même un peu dommage sur un site dédié aux logiciels libres de ne pas viser un travail collaboratif… Si tu as eu un problème à régler, il est possible que d'autres aient le même problème, non?

Du coup, l'objectif du journal c'est de partager des "trucs" pour le scrapping?

Je reste sur l'idée que pour ce genre de données, il doit exister des API…

avec la complicité des médias

Ça c'est trop facile. Beaucoup de médias ont mis en place des procédures de fact-checking, aux US, en France, dans les journaux, à la TV. Mais en fait les gens s'en foutent totalement. Au cours de la crise COVID, les grands médias historiques s'en sont plutôt bien sortis, ils ont bien sûr relayé des âneries comme tout le monde, mais beaucoup moins que les politiques ou les populistes, ils ont essayé d'expliquer ce qu'est un virus, pourquoi porter un masque protège de la transmission, comment fonctionne le système immunitaire ,comment fonctionne un vaccin, comment fonctionne une étude scientifique, etc. Depuis 15 ans aux US, il y a des sites de fact-checking qui démontent les arguments des candidats aux élections. Résultat : tout le monde s'en fout. La raison, c'est que les gens s'en foutent de la vérité. Ils savent que Trump raconte n'importe quoi, ils veulent entendre quelque chose, Trump leur dit, ils sont contents, ils savent que c'est faux mais ils sont contents. Un antivax se fout de savoir que les vaccins ne contiennent pas de puce 5G, il sait que ceux qui racontent ça lui mentent, mais il veut sa vérité. Le gars qui aime les gros SUV diésel s'en fout qu'on lui explique les mécanismes du changement climatique, il est prêt à voter pour n'importe qui qui lui dit "ah mais ça va deux secondes avec l'écologie".

C'est super bizarre en fait, parce que c'est nouveau à cette ampleur. Peut-être que l'angoisse du futur est telle qu'à un moment le cerveau décroche et qu'il préfère vivre dans une version alternative qui a sa propre vérité, je ne sais pas.

Après, la politique, ça a toujours été un domaine où tu peux raconter n'importe quoi, même si ça contredit toutes les données sociales ou économiques. C'est comme une sorte de droit : un programme politique n'a pas à se confronter à la réalité des faits. Le grand remplacement, les joies de vivre en URSS, le ruissellement, la théorie de la théorie du genre. Tous les partis, tous les programmes vivent avec leurs gros mensonges, qui survivent grâce à la "foi" des militants. Donc c'est pas du tout nouveau. Ce qui est nouveau en politique c'est d'assumer ouvertement, sur le mode "c'est ma vérité, qui es-tu pour venir la remettre en question avec des faits?". Ça existait chez les religieux, bah voila, ça arrive en politique.

Et tu fais quoi pour les autres véhicules en mouvements? tu stoppes tout d'un coup? Tu les laisse se prendre le mur?

Je ne vois pas trop le problème. Si tu as un train en panne tu as intérêt à ce que les trains qui suivent ne sont pas en mouvement, sinon tu vas avoir une collision à 1200 km/h… Donc 1) tu arrêtes tous les trains, et 2) tu ouvres les vannes. À mon avis, ce qui est compliqué, c'est le freinage d'urgence dans le vide en sustentation; c'est peut-être même plus simple pour freiner en urgence de laisser rentrer l'air dans le tube.

En cas de dé-dépressurisation brutale (comment tu appelles ça une dépressurisation à l'envers? repressurisation, ah oui :-)), ce que tu ne veux pas, c'est que les trains se mangent l'onde de choc. Donc de toutes manières tu vas avoir des capteurs de pression un peu partout dans ton tunnel, et si tu détectes une pression anormalement élevée à un endroit, tu ouvres toutes les vannes dans ce secteur : pshit, la pression monte partout pareil, et tes trains freinent sur l'air. Il ne semble y avoir aucun problème de concept, et il faut être sacrément de mauvaise foi pour imaginer qu'en cas de rupture à un endroit du tuyau, le système n'est pas conçu pour se repressuriser partout en même temps (genre "ah la la dans 2 minutes 30 le train va se prendre l'onde de choc qui arrive vers lui à la vitesse du son et on ne peut rien faire").

Et puis, de toutes manières, 1 bar, c'est pas une pression terrible, il n'y a aucun problème pour maintenir 1 bar dans le train (surtout que ça sera probablement moins, comme dans un avion). Ce qui est un peu plus difficile est de construire un tuyau qui tient 1 bar de dépression, mais c'est pas non plus un sous-marin…

Là encore y'a l'étanchéité qui est en jeu

C'est bon, des portes étanches à 1 bar, c'est pas non plus un défi d’ingénierie, hein… Tu fais des portes qui s'ouvrent vers l'extérieur, la pression les compresse sur un joint, et paf, tu es aussi étanche que tu peux imaginer. On parle de différences de pressions qui sont largement inférieures à une chambre à air de vélo… Surtout que le vide dont on parle est loin d'être parfait, tu n'est pas dans un accélérateur de particules!

Y'a au contraire eu beaucoup de pognon

Des levées de capitaux de l'ordre de 10 à 100M€, pour de tels projets pharaoniques, c'est rien du tout.

Seulement s'il ignore réellement que tu mens, non? Si vous êtes tous les deux au courant, alors ça commence à ressembler à de l'ironie, qui nécessite une forme de complicité, c'est un jeu social et ça n'est pas déplaisant, surtout quand la vérité est elle déplaisante.

Ça peut aussi être une requête pour préserver les apparences. Ça n'est pas impoli de sous-entendre "je suis en train de mentir et tu le sais, mais je te demande de faire semblant pour que la situation ne soit pas humiliante pour moi". Du genre, "les ventes ont été en deçà des objectifs ce trimestre", le gars te demande de ne pas te lever en gueulant "tu rigoles, tu n'as rien vendu, tu vas te faire virer". Après, tu fais ce que tu veux, mais il ne te manque pas de respect.

Pour moi, tant que j'ai compris le message qu'on me ment parce que pour une raison ou une autre l'autre ne veut pas dire la vérité, ou si je comprends la vérité mais que ça serait désagréable pour tout le monde de la dire avec des mots, alors le mensonge de politesse me convient tout à fait.

Je trouve quand même que ça n'exclut pas l'idée que le mensonge de politesse est quelque chose d'assez fréquent, et qu'il est assez naturel qu'on puisse l'apprécier. Quand une collègue te demande "ça va?", tu ne vas pas lui répondre "Non, je viens de me coincer un testicule dans la portière de ma voiture et je n'arrive plus à respirer", parce qu'elle préfère probablement un mensonge. Pour reprendre l'exemple sur l'emploi, quand quelqu'un demande à son futur maire "est-ce que vous pouvez sauver mon usine pour que je ne perde pas mon job", on peut tout à faire répondre "Nous sommes au courant du problème, on va organiser une réunion dès que possible avec toutes les parties pour voir ce qu'on peut faire".

C'est un peu pareil avec les actionnaires, quand ils demandent "vous voulez un milliard en plus, quel est votre business plan?", ils préfèrent certainement la réponse vaseuse dont il est question dans l'article que "Bah, on n'en n'a pas". Quand tout le monde est au courant, le mensonge évident fait partie des subtilités de la conversation.

Par contre, ce que je ne supporte pas, c'est l'ambiance dîner de cons. Ça se passe quand une partie de l'auditoire sait que c'est un mensonge, et pas l'autre. Par exemple, quand les gros actionnaires comprennent bien "On n'a pas de business plan" et se préparent à retirer leurs billes, alors que les petits actionnaires comprennent "mettez encore un peu de fric et ça sera banco". Là c'est un mensonge malhonnête. Et c'est pas forcément facile de bien savoir ce qu'il en est réellement, mais je pense que le coup des actionnaires et des business plans débiles, tout le monde sait bien ce qu'il se passe; ils sont conscients de mettre leur argent dans une bulle et agissent en conséquence.

Ouais, enfin certains "problèmes" n'en sont même pas. Genre "ouhlala problème de sécurité avec le vide", comme si on pouvait faire débarquer les passagers d'un avion en panne… Il suffit d'ouvrir les vannes et pshit en quelques secondes ton tube est pressurisé, donc c'est quand même beaucoup moins compliqué qu'un avion.

Donc on est tous d'accord : il faut beaucoup de mise au point, beaucoup de points techniques doivent être réglés, la rentabilité du truc est loin d'être évidente, et on se demande bien comment on va pouvoir construire ces tubes dans les zones habitées. Mais non, je trouve que de balancer "ceux qui y ont cru étaient des crétins", c'est totalement faux : l'idée était tout à fait raisonnable, elle l'est d'ailleurs toujours, c'est juste que le pognon n'a pas été mis derrière.

L'histoire de l'industrie a quand même montré qu'avec un investissement suffisant, les problèmes techniques pouvaient être réglés. Autrement, le programme Apollo, c'était aussi "pas près de marcher"!

L'hyperloop peut marcher en théorie, ça n'est pas de la science-fiction. Beaucoup des "problèmes" de la vidéo ne sont que des problèmes d'ingénierie; il y en a un certain nombre à régler, et probablement quelques prototypes à sacrifier, mais j'ai du mal à imaginer que ça pourrait être bloquant. C'est bien pour ça que les gens ont cru Musk; ils ne sont pas débiles; s'il avait mis le pognon comme il l'a mis dans Space X les premiers hyperloops fonctionneraient probablement déja. Par contre, ce qui est douteux, c'est d'en faire un moyen de transport économique pour tout le monde, rentable pour l'exploitant, avec un réseau dense, etc. Ceci dit, les mêmes critiques existaient pour les premiers trains, les premiers avions, etc. ("vous vous rendez compte, il va falloir construire des aéroports de plusieurs km² dans toutes les villes, c'est totalement impossible", etc).

Pas d'accord avec tout, mais c'est intéressant.

Mon reproche principal, c'est l'aspect caricatural de la démonstration, qui ne tient pas vraiment face à la réalité. Le truc, c'est qu'en effet les "géants de la tech" prétendent tous révolutionner le monde tous les 15 jours, parce que c'est ce qu'ils ont vendu à leurs actionnaires. Mais il y a quand même un peu de bière sous la mousse, parce que si ça n'était que de la mousse, ils ne pourraient pas construire une base d'utilisateurs. Par exemple, regardez comment les entreprises, les associations, les communes, etc. se sont appropriées Facebook, un outil qui n'était pas du tout prévu pour ça à la base. L'outil existe, il est en ligne, et les utilisateurs en font quelque chose. L'hébergeur du site, une fois que ça a pris, ne fait que suivre le mouvement, en essayant de garder un minimum d'ergonomie pour que l'envie d'aller voir ailleurs ne soit pas trop présente, et en essayant de tirer de l'argent. Quand ça commence à sentir mauvais, et que les utilisateurs vont partir quand même, on "merdifie" (c'est l'inverse des soldes pour liquidation en fait, comme on n'a pas de stock à écouler on fait monter les prix jusqu'à ce que plus personne ne vienne, et on ferme la boutique).

Mais il y a un produit fonctionnel et innvant derrière Google, derrière Facebook, Twitter, ou chatGPT.

Finalement, les destinataires des mensonges, ça n'est pas vraiment nous. Bien sûr, quand ils disent "ça va révolutionner votre business et vous allez devenir riches sans rien faire" c'est du pipeau, mais c'est tellement grossier que personne n'y croit (c'est comme "la lessive Machin fait disparaitre même les tâches les plus difficiles"). Les vraies cibles des mensonges sont les investisseurs. Ces boites n'ont pas de business model. Au moment où elles lancent un produit, elles ne savent pas comment elles vont gagner de l'argent avec. La première étape est de faire connaitre le produit, et ensuite il faut vendre un bateau aux actionnaires. Bien sûr, ils savent que c'est des mensonges, mais j'imagine qu'ils s'estiment tous plus intelligents que les autres et qu'ils sauront retirer leurs billes avant que la pyramide ne s'écroule. Et la merdification, c'est la revanche des actionnaires, qui veulent récupérer le pognon qu'on leur a promis.

ChatGPT pour prendre le dernier exemple en date est quand même un truc formidable. C'est vraiment quelque chose qu'on n'avait jamais vu avant. Pour l'instant, c'est un jouet. Mais ça ne veut pas dire que ça ne peut pas devenir quelque chose. Les Mayas connaissaient la roue, ils fabriquaient des jouets à roulettes pour leurs enfants, mais ils n'avaient pas compris que ça pouvait avoir d'autres utilités. Qui peut prétendre que ça n'est pas la même chose avec ChatGPT? Ce qui est ridicule, c'est les investissements démesurés et les promesses débiles, mais ça ne veut pas dire que c'est sans intérêt. Finalement, l'étincelle de départ, celle qui commence par "eh les mecs, regardez, j'ai un truc nouveau qui fait quelque chose d'intéressant", celle-ci n'est pas un mensonge. Et c'est peut-être ça qui est important, non?

J'ai entendu plusieurs fois la rumeur : les sites utilisent les cookies pour ajuster le prix en fonction du comportement du client. Tu viens la première fois, c'est pas cher, si tu reviens 2 ou 3 fois c'est que tu es intéressé et qu'on peut donc augmenter le prix. Avec éventuellement un bandeau "attention plus que 3 exemplaires en stock".

Étant donné la putasserie habituelle des sites de commerces pour te tirer un maximum de fric, ça semble plausible. Mais pour ma part, je n'ai jamais réussi à trouver un exemple clair où c'était le cas. Des prix qui varient, oui, bien sûr, mais ils semblent varier pour tout le monde. Des affichages "attention, plus que 3 exemplaires à ce prix", oui, ça existe, et c'est évidemment là pour te presser à prendre ta décision, mais je n'ai jamais vu clairement que c'était faux (ils n'ont peut-être plus que 3 objets en stock réellement?).

Il me semble que des agences de voyage avaient été condamnées il y a quelques années pour ça, mais je ne me rappelle plus exactement du dossier. En tout cas, ça m'est arrivé plusieurs fois de vérifier quand j'avais un doute (connexion sans cookie à partir d'une autre IP), et je n'ai jamais réussi à identifier clairement un exemple de manipulation de ce type. C'est par contre très facile de croire que c'est le cas (comme dans l'exemple HT/TTC ci-dessus) quand on ne fait pas attention : une connexion identifiée permet par exemple d'estimer les frais d'envoi, ou de modifier les délais de livraison en fonction du stock dans les entrepots. Pour les enseignes de bricolage par exemple, les prix diffèrent parfois en fonction du magasin, et tu as souvent un magasin "favori" dans tes préférences.

En fait, je ne sais même pas si ça marche comme approche, parce qu'afficher volontairement un prix très volatile, ça donne aussi envie d'attendre que ça redescende. C'est peut-être pour ça qu'à part les billets de train, d'avion, de concert, etc (pour lesquels tu n'as parfois pas le choix, et que la date approche), l'absence de sentiment d'urgence fait que pour ton pull tu vas plutôt avoir l'impression que tu te fais arnaquer avec le deuxième prix.

qui définit ce qui est "moral" ?

Ceux qui font les lois, qui sont normalement élus dans une démocratie.

on en vient à condamner l'homosexualité, les relations sexuelles entre personnes consentantes,

Et la nécrophilie, et les rapports avec les animaux, et la polygamie,

Si une personne a un comportement qui n'est pas moral de mon point de vue, mais qui ne nuit à personne, pourquoi devrais-je l'interdire ?

Parce que le partage d'un code moral est un socle de la vie en société? La morale est l'origine du droit (c'est la codification des interdits pré-existants: tu ne tueras point, tu ne convoiteras pas la femme de ton voisin, etc), et c'est aussi sa finalité (le droit existe justement pour qu'on ne décide pas à main levée ce qui est moral et ce qui ne l'est pas).

Définir ce qui est moral ou non, c'est une question de point de vue. Tu peux utiliser le critère que tu veux : tu peux penser que ce qui est moral c'est ce qui est écrit dans ton bouquin préféré, tu peux dire que c'est ce qui ne nuit pas à un autre être humain et/ou un animal et/ou une planète ou un truc naturel, avec des nuances infinies (par exemple RMS considère qu'avoir un rapport sexuel avec un cadavre ne nuit à personne, c'est son point de vue). Est-ce que se ballader tout nu nuit à quelqu'un? Est-ce que le voyeurisme nuit à quelqu'un? Est-ce que l'inceste consenti nuit à quelqu'un?

D'un autre côté, il y a plein de choses qui nuisent aux autres et qui sont pourtant légales (péter en public, coder en perl…). Donc tu ne peux pas t'en sortir par une pirouette du style "c'est pourtant simple".

Un exemple complexe que j'aime bien, c'est l'idée de limiter l'enrichissement. Si on a compris que l'économie n'était pas un jeu à somme nulle, il n'est pas du tout évident que l'enrichissement de quelques uns nuit aux autres (les sociétés les plus riches sont aussi souvent les plus inégalitaires, d'ailleurs). Du coup, pour moi, l'argument de la "justice sociale", c'est un argument purement moral : ça n'est "pas bien" d'avoir autant d'argent quand les autres n'en ont pas. Il faut accepter que la loi puisse être purement morale, sinon il serait impossible de faire des choix de société autres que purement utilitaristes ou scientistes.

Il me semble que ce genre de projets, tout bien intentionné qu'il soit, ne peut pas réellement sortir du script qui se partage sous le manteau, avec une petite communauté.

Déja, tu as le problème de la maintenance. La structure des sites cibles change, et comme il n'y a pas de collaboration, tu vas t'apercevoir que le site a changé quand le script ne marche plus. Du coup, il va falloir être réactif pour publier un correctif, et pendant ce temps, du point de vue des utilisateurs, ton truc est planté. Ça, ça ne peut pas marcher auprès d'un public qui ne serait pas au courant des aspects techniques; par exemple, si tu publies une "appli" pour smartphone, tu vas recevoir des centaines de "1 étoile, Sa marche pas, poubelle".

L'autre problème encore plus majeur, c'est évidemment que tu ne respectes pas les conditions générales d'utilisation des sites. L'objectif de ces sites est en général d'attirer les lecteurs avec du contenu un peu difficile à trouver pour leur servir un max de pubs et leur laisser un max de cookies. Les visites de robots et de scripts qui ne regardent pas les pubs, c'est de la bande passante perdue pour eux. Pire, en cas de succès, ça va même détourner les visiteurs. Tant que que tu passes sous les radars, pas de problème, personne ne verra rien. Mais dès que tu acquières une petite notoriété (style webboob), certains sites vont commencer à chercher à te bloquer, plus ou moins subtilement. Tu es donc condamné à la clandestinité. Et, même si le risque est limité, tu peux te prendre des mises en demeure. Et les miroirs qui hébergeraient ton application aussi. C'est pas très serein comme ambiance pour développer et diffuser un logiciel…

Cela étant dit, il me semble difficile de faire sans, comme l'on souligné de precedents commentaires.

J'ai aussi l'impression que l'idéal "romantique" du logiciel libre disparait, probablement avec la disparition de ses pionniers.

Et même sur le plan pragmatique, est-ce tu préfères mettre tes données dans un système de fichier codé dans un garage par un geek sur son temps libre, ou issu d'une collaboration entre des programmeurs professionnels qui travaillent en équipe dans des grandes entreprises? Bien sûr qu'on a eu des logiciels formidables crées et maintenus par des amateurs ou sur le temps libre des autres, mais il y a une forme de naïveté à penser que tout ça fonctionne "tout seul".

Un cadavre a été un être humain vivant à un moment. Il me semble que cela justifie qu'on lui témoigne du respect, même après sa mort

RMS soutenait l'exact contraire dans un des tweets pointés par le rapport. Son argument était justement qu'une fois mort il n'y avait plus de victime. Et il ne parlait pas de photos…

Et aussi l'objection sur le fait que ce sont seulement des "marques sur du papier". Après tout un livre c'est aussi seulement des "marques sur du papier". Mais on peut (et on doit) condamner un livre qui ferait l'apologie du meurtre par exemple.

Ah ouais :-) Super argument.

Pour l'IA, il y a aussi la question des données d'entrainement, puisque je ne vois pas très bien comment l'IA pourrait s'entrainer sans vraies images…

Mais de toutes manières, la morale n'est pas que de la logique. C'est normal que la loi condamne quelque chose qu'une très large majorité des gens estime immorale. Bien sûr que ce raisonnement a justifié la condamnation de l'homosexualité par exemple, et que la société est lente à changer et que c'est difficile pour les gens qui sont victimes d'une loi injuste. Mais je ne voudrais pas vivre dans une société qui ne condamne pas les actes immoraux sans victime par principe. Pour RMS, ça devrait être "sans victime qui se plaint" (donc on peut violer une femme dans le coma, ou un cadavre, ou un enfant "consentant", etc), pour d'autres, c'est un autre critère, mais au final, ça revient un peu toujours à absoudre les comportements des agresseurs parce qu'ils se sont mis dans une situation où il est difficile d'identifier une victime.

Finalement, est-ce qu'un critère acceptable ne serait pas lié à un comportement de prédateur réel ou simulé? Quelle est la différence entre un jeu vidéo où on est un bandit qui écrase des piétons après avoir volé une voiture, et un jeu où on joue un masculiniste blanc qui viole et tue des femmes noires? Dans le premier cas, c'est probablement un jeu (on fait semblant d'être un méchant), dans le deuxième cas, c'est probablement une simulation (on fait semblant de jouer mais on ne joue pas), et c'est ça qui fait la différence.

personne ne se maîtrise en toute circonstance

La maîtrise de soi, ça n'est pas "je jette un d20 et si je fais 1 je ne me maitrise pas" quelles que soient les circonstances. Mouler sur DFLP ça n'est pas la même chose que de buter quelqu'un avec une voiture ou violer une femme que tu viens de croiser dans la rue.

Et si tu moulais 24/24 sans pouvoir t'en empêcher, tu devras aussi te faire soigner si tu ne veux pas finir clodo. Les conséquences pour la société sont moindres, mais pour toi c'est catastrophique.

Mais ce n'est pas une excuse, c'est juste une réalité dont il faut tenir compte.

Moi je veux bien tenir compte de la possibilité de ne pas se maitriser dans des cas particuliers : alcool ou stupéfiants, réponse à une provocation, etc. Ça ne veut pas dire qu'on cherche à échapper à ses responsabilités, mais les circonstances peuvent en effet expliquer qu'on n'a pas su s'arrêter. Par contre, quand il y a préméditation ou que l'action est répétée, c'est quoi l'excuse? Le gars qui met son réveil pour aller planter une camionette en face de l'école pour se tripoter en regardant des enfants, c'est à quelle étape qu'il a été pris dans le feu de l'action sans pouvoir réfléchir? Ça n'est pas "trouver une soupape", ça. S'il voulait trouver une soupape, il irait faire du sport, il achèterait des puzzles de 5000 pièces, ou il se lancerait dans un clone de Minix.

De l'argent, le gouvernement en a plein

Ah bah évidemment si tu fermes les fac de lettres tu pourras ouvrir des facs d'informatique :) C'est pas ça, "trouver de l'argent".

Et l'argent n'a pas de pouvoir magique. Il n'existe pas de machine où tu verses l'argent d'un côté et tu récupères un beau logiciel sans bug de l'autre. Typiquement, la plupart des administrations de l'État sont des machines où tu verses de l'argent d'un côté, et tu n'obtiens pas grand chose de l'autre, alors que tout le monde dedans est débordé et finit en burn-out. Là, en l'occurrence, la nature de ta "machine" en question me semble bien vaporeuse…

Les mêmes que celles qu'on aurait si on apprenait que quelqu'un s'astiquait sur des photos de cadavres ou des vidéos de torture d'animaux, non? Il n'y a pas besoin de faits rationnels pour justifier les interdits moraux (l'inceste, le cannibalisme…), et "faire de mal à personne" n'est pas le seul critère. Il y a bien sûr une dimension culturelle à la morale, et notamment la fameuse histoire judéo-chrétienne qui a conditionné les interdits sociaux modernes, mais justement, l'idée n'est pas de reconstruire un code moral à partir de rien, c'est plutôt de retirer de la morale religieuse les interdits qui semblent archaïques (comme l'homosexualité).

Sinon, tu reviens au raisonnement de Stallman : la nécrophilie ne fait de mal à personne, etc. Mais c'est juste que les prémisses (la seule limite à la liberté est l'existence d'une victime consciente de l'être) sont foireuses. Il y a juste des choses immorales sans qu'il n'y ait de victime ou sans qu'elle ne soit consciente de l'être.

Si certaines de ses idées valent d'être combattues, pourquoi faire un amalgame avec toutes ses idées ?

La liberté d'expression c'est le droit d'exprimer ses idées sans être poursuivi par l'État. C'est à peu près tout, tu ne peux pas invoquer la liberté d'expression parce que tes amis ne veulent plus te parler. Même en France, où la protection du droit du travail est assez forte, tu peux être licencié si les idées que tu publies à titre privé nuisent à l'image de marque de ton entreprise.

Mais de toutes manières, là, on ne parle pas de droit du travail, on parle de caution morale. Quand tu colles Stallman dans ton comité de direction ou n'importe où, tu utilises une personnalité "remarquable" pour insister sur les valeurs de l'organisation ou de l'établissement. C'est juste l'utilisation de l'image de quelqu'un pour l'honorer, et parce que l'image correspond aux valeurs que tu défends.

Parce que le coup de l'amalgame et des idées à combattre, ça revient à accepter d'appeler un lycée "Louis-Ferdinand Céline" en expliquant que tu ne fais pas l'amalgame entre ses idées et son œuvre.

Note que personne n'a jamais suggéré d'arrêter d'utiliser emacs, ça n'a rien à voir. On peut lire Céline, regarder les films de Depardieu, ou donner de l'argent à Emmaüs, tout en refusant d'honorer les personnes et leurs idées.

Ça permettrait de faire des lois qui ont du sens.

À moins d'adopter un point de vue complètement scientiste, il est quand même souhaitable d'admettre que la loi puisse prendre ses distances avec la réalité scientifique, pour plein de raisons (pratiques, coût, ou morale). Fournir des images pédopornographiques à des hommes, même sous contrôle médical, a des répercussions morales qui doivent être prises en considération…