arnaudus a écrit 5258 commentaires

Je ne pense pas que quelqu'un nie que le SIM swapping existe. Ce qui est faux, c'est le mécanisme invoqué (le "pirate" téléphone à l'opérateur). C'est d'ailleurs exactement ce que le premier article dit, même si on sent bien que le journaliste a vendu de l'octet (il raconte en détail comment c'est censé se passer puis finit par "en France c'est quand même très peu probable").

Il existe des moyens de hacker le système SIM, c'est tout. Une carte "fantôme" sur la zone de la même antenne-relais reçoit tout sans jamais émettre, c'est indétectable. Certains hacks sont bien documentés; à un moment ça passait par un SMS trafiqué qui exploitait une vulnérabilité du chiffrage SIM pour récupérer quand on l'ouvrait tout un tas d'informations sur le chiffrement.

À noter quand même, je ne pense pas que le SMS ait jamais été conçu pour envoyer des données confidentielles, un peu comme les e-mails. Ça n'est donc pas très surprenant qu'on puisse profiter des vulnérabilités.

Vraiment pour pinailler, Marx oppose le prolétaire, qui vit effectivement de son labeur et le capitaliste, c'est le terme qu'il utilise, celui qui possède les moyens de productions.

Non non, ça n'est pas du pinaillage, merci, c'est important.

Par contre le communisme défend que c'est le travailleur qui crée la valeur ajoutée et que c'est donc lui qui devrait en percevoir les fruits, et non pas le capitaliste (rappel: celui qui possède les moyens de production). Et je pense que c'est ce que tu voulais dire par là.

J'avoue que là j'ai plus de mal à comprendre. Je focalise peut-être sur une version du communisme (soviétique), mais j'ai l'impression que l'idée, c'était que les moyens de production n'appartiennent pas au travailleur, mais à la collectivité. En gros, la valeur ajoutée tombe dans les poches de l'État, qui la redistribue (théoriquement). Dans un modèle communiste, une usine n'est pas une SCOP dont les ouvriers sont propriétaires, ce qui serait compatible avec une économie de marché, mais l'usine est collectivisée dans le cadre d'une économie planifiée. Les ouvriers sont des sortes de fonctionnaires, et ils ne touchent pas la valeur ajoutée qu'ils produisent.

D'ailleurs, reverser directement à chaque salarié la VA de son travail, ça serait très injuste. Certains services (le vidage de poubelles ou la comptabilité) ne produit pas de VA, alors que le travail reste indispensable pour la bonne marche de l'entreprise.

Parce que généralement on ne classe pas la classe moyenne chez les prolétaires.

Je ne sais pas qui est "on", mais "on" a visiblement loupé les premiers cours de Marxisme :-P

Prolétaire, ça ne veut pas dire "pauvre". 3e phrase dans prolétariat : "Le prolétariat ne se réduit donc pas au stéréotype de l'ouvrier en blouse bleue ni du travailleur souillé des mines, mais recouvre l'ensemble des êtres humains qui doivent se soumettre à un travail salarié, quels que soient leur niveau de vie et le niveau de leur salaire."

Bon, après, tu peux dire "cette couleur que vous appelez 'bleu' pour moi c'est 'rouge', et votre 'jaune' pour moi c'est 'vert'; mais c'est quand même plus facile d'utiliser les définitions courantes, ça facilite la communication.

Tu peux ajouter à cela que les journalistes ont, de part leur profession, quelques avantages que le citoyen de base n'a pas.

Si le fait de bénéficier d'une niche fiscale suffisait à classer quelqu'un parmi les capitalistes, ça se saurait… Je ne vois pas le rapport entre les niches fiscales et le fait de vivre de son travail.

faut pas oublier que parmi les travailleurs, bon nombre d'entre eux sont satisfait d'être au delà de 2 ou trois smic, et donc prendront fait et cause pour les possédants, et contribueront à conserver la société en sont état; et c'est même grâce à cela qu'ils ne sont guerre inquiété

C'est couvert par le principe d'[aliénation].

la police et l'armée, c'est aussi des travailleur.

Et ils sont bien connus pour être des nids de communistes, c'est bien connu :-)

Bah, c'est créateur d'emplois. Le fait que ça soit bien ou mal pour la société, tout le monde s'en fiche, non? Si c'était important, pourquoi est-ce qu'il n'est pas interdit de développer et vendre des armes de guerre, de démarcher les petits vieux au téléphone, de vendre de gros SUV?

Je ne suis pas sûr que j'aimerais vivre dans une société où chaque job doit être approuvé par un comité de moralité qui détermine si c'est bien ou mal pour la société, donc ça n'est pas non plus comme s'il existait une alternative crédible…

Ça fait quand même plus de 200 ans que la question se pose, et globalement, jusqu'ici, les craintes de voir la pauvreté exploser et les espoirs de voir le capitalisme s'effondrer sur lui-même ne se sont jamais réalisés.

Par un mécanisme que je ne comprends pas très bien, il semble que les besoins d'emploi d'un système capitaliste sont infinis. Une entreprise qui grossit doit embaucher. Avant, une indistrie grossissait en employant des dizaines de milliers d'ouvriers. Aujourd'hui, une entreprise grossit en embauchant des "collaborateurs" à qui on attribue tout un tas de bullshit jobs dont l'intérêt pour l'entreprise n'est souvent pas très clair, et dont l'intérêt pour la société est nettement négatif. Mais les entreprises ne se sont jamais dépeuplées quand elles ont remplacé les ouvriers par des machines. À moins que ce phénomène ne repose sur quelque chose de fragile, je ne vois pas de raison objective pour imaginer que demain, le besoin d'emplois va diminuer. Peut-être avec un retour à certains emplois manuels, puisque contrairement aux anticipations de la science fiction, il faut toujours des gens pour nettoyer le sol et vider les poubelles dans les bureaux, remplacer les ordinateurs défectueux, poser les prises réseau, etc.

Je suis plus ou moins d'accord: on va peut-être y gagner de façon globale, mais au prix de pertes locales (parce que ne nous voilons pas la face, des emplois vont disparaître avec ces technos).

Tu seras peut-être intéressé par la lecture de Destruction créatrice, et de Joseph Schumpeter. Il paraitrait que notre président actuelle est adepte de Schumpeter, ça rend le futur immédiat en France un peu plus prévisible :-)

Je suis tout à fait d'accord sur le fond, l'automatisation, ça fait nettement plus réfléchir quand c'est notre taf qui est menacé.

Par contre il va falloir relire Marx (tu avais quelque chose de prévu les 7 prochaines années?). La lutte des classes ça n'est pas entre les professions intellectuelles et les métiers manuels (ça, c'est plutôt le maoïsme, les Khmers rouges, etc, et ça n'a pas donné grand chose à part de la souffrance, de la misère, et de la dictature—le premier qui dit que le Marxisme non plus se fera traiter de crypto-Macroniste). Le principe de la lutte des classes (enfin, telle que je l'ai comprise), c'est le conflit entre le prolétariat (les gens qui vivent de leur travail) et la bourgeoisie (les gens qui possèdent le capital). Pour produire de la richesse, il faut les deux, et le communisme trouve anormal que la répartition des richesses produites soit partagée, alors qu'on a d'un côté des êtres humains et de l'autre côté des choses possédées par des êtres humains. En gros.

Les avocats et les journalistes sont des prolétaires, ils travaillent, et tirent leurs revenus de leur travail (bon, beaucoup d'avocats sont à leur compte et possèdent leur entreprise, donc c'est plus compliqué, mais pour les journalistes, ça n'est pas le cas : ils sont pigistes, salariés, stagiaires ou bénévoles, c'est un métier super-précaire, et je ne comprends pas trop comment on peut ne pas les considérer comme des prolétaires.

Quand j'étais en 3e, j'ai fait mon stage de découverte du milieu professionnel chez un plombier. Ça durait une semaine. Le matin, on allait sur site, et l'employé me trouvait quelque chose à faire. Par exemple, un ensemble de 10 tuyaux en cuivre à couper, il me filait une scie à métaux, et voila, il allait à un autre endroit. Quand il était midi, il revenait, me disait "ah c'est bien, tu en as coupé 7, il en reste 3. Il prenait sa disqueuse, et zzzim zzzim zzzim il coupait les trois derniers.

Crois le ou ne le crois pas, mais 30 ans après (ça ne me rajeunit pas :-) ), je me sens encore humilié par cette expérience. Je ne suis pas plombier; ça m'arrive souvent d'encadrer des jeunes ou des stagiaires, et je ne leur ai jamais proposé de passer du temps sur une tâche automatisable. Au contraire, quand je m'apercois qu'ils n'ont pas automatisé quelque chose d'automatisable, je leur explique comment faire.

Si ta ligne de pensée, c'est que la peur d'un futur incertain justifie d'interdire ou de ralentir l'arrivée d'une technologie capable de remplacer le travail humain, alors j'ai peur de ne pas suivre Beaumarchais et de faire ce qui m'est possible pour t'empêcher de diffuser une idée aussi mortifère. Tu es en train d'inventer pire qu'une vie gâchée à travailler : une vie gâchée à faire semblant de travailler. Je n'arrive pas à imaginer quelque chose de plus aliénant pour un être humain que de lui demander de se tuer à faire une tâche inutile; tu auras d'ailleurs remarqué que c'est une méthode de choix pour briser les volontés en prison ou en camp de concentration. Donc je peux tout à fait assumer de me faire traiter de scientiste si tu acceptes de garder ce genre d'idées dans un endroit de ton anatomie d'où elles n'auraient jamais dû sortir.

Ça n'avait pas vocation à être méchant, désolé. 1984 est un livre sur la propagande en pleine guerre froide (et un peu sur la philosophie du langage aussi, puisque le principe de la propagande de "big brother" est qu'une idée n'existe que si elle peut s'exprimer). D'ordinaire, Orwell est cité pour plein de choses qui n'ont pas grand chose, voire rien du tout à voir, comme la vidéosurveillance, la télé-réalité, ou le filtrage d'Internet. Éventuellement, on peut toujours trouver dans un vieux livre d'anticipation des éléments qui pourraient rappeler vaguement une situation contemporaine, mais je ne pense honnêment pas que la théorie "complotiste" de l'abétissement volontaire des foules par la diffusion de productions culturelles de faible qualité puisse être attribuée à Orwell. À la limite, on peut la faire remonter à Panem et circenses, et pour la musique, la cohabitation entre la musique populaire et la musique savante date au moins du Moyen Age. Paradoxalement peut-être, la musique populaire est l'une des premières choses interdites dans les régimes autoritaires—il ne faut pas oublier que les paroles de chanson peuvent être un instrument politique.

Je crois qu'il va falloir bientôt distribuer des points Orwell, à chaque fois que quelqu'un évoque 1984 dans un contexte qui n'a rien à voir avec le bouquin :-)

C'est assez évident que l'"industrie musicale" ne produit plus grand chose de créatif depuis assez longtemps, et c'est typiquement le genre de pan de l'économie qui a le plus à craindre des systèmes automatiques "créatifs".

À mon avis, il y a une question importante dans cette histoire, c'est la notion d'appartenance d'une personnalité musicale. Il ne fait aucun doute qu'un enregistrement de Michael Jackson reflète la personnalité de Michael Jackson : il a composé la musique, a contribué aux paroles, a enregistré la chanson avec sa voix, etc. L'enregistrement final est le produit du travail de beaucoup de gens, et en particulier du travail créatif de Michael Jackson. Maintenant, si une IA produit une chanson dans le style de Michael Jackson avec la voix de Michael Jackson, et (imaginons pour l'exemple) que la qualité et la créativité soient équivalentes à ce que faisait Michael Jackson, dans quelle mesure est-ce que les ayant-droits de Michael Jackson sont en droit de prétendre à quelque chose sur ce titre? A priori, rien n'est évident. On est habitués à ce que tout se monnaye en terme de droits maintenant, mais après tout, Michael Jackson n'a jamais travaillé sur ce nouveau titre, il n'a jamais chanté, il n'a jamais donné son avis sur quoi que ce soit. Il n'est pas question ici de rémunération d'un quelconque travail, on serait plutôt dans le droit des marques ou des modèles ; comme par exemple quand une basket Chinoise est estampilée "Mike" avec une virgule dans le mauvais sens, ça peut tromper les consommateurs.

On a également le même problème de l'extension des droits d'auteurs aux oeuvres "inspirées". Actuellement, le droit d'auteur s'applique aux oeuvres dérivées (pour lesquelles on peut prouver la copie), mais les artistes restent libres de s'inspirer d'un style, d'une tendance, etc. La manière dont les IA fonctionnent ressemble beaucoup à l'inspiration; on met des millions d'exemples dans une base de données et on sait par définition que la production n'aurait pas pu avoir lieu sans cette base de données; par contre on est tout à fait incapable de dire quelles oeuvres de la base explicitement ont été utilisées, ce qui fait que le droit d'auteur est trop "dilué" pour pouvoir s'appliquer.

La question qui n'est pas intéressante à mon avis, c'est celle d'une protection exclusive des oeuvres créatives humaines—simplement parce qu'elle existe déja. En fait, en demandant ça, l'industrie admet explicitement que les oeuvres commerciales sur le marché ne sont déja plus des oeuvres de l'esprit, puisqu'elles sont aisément remplaçables par des productions automatiques. Le droit d'auteur ne peut pas s'appliquer aux productions d'une machine, ni aux oeuvres non-originales, qui relèvent de l'artisanat (comme une amphore faite par un potier, un boeuf bourgignon fait par un cuisinier, etc). Du coup, la "soupe pop" moderne manque peut-être tellement d'originalité qu'il n'est pas du tout évident que le droit d'auteur la couvre. C'est totalement paradoxal de dire à la fois "protégez le travail des humains parce que les machines modernes sont capables de produire mieux et moins cher" et "le travail humain a des caractéristiques uniques qui justifient une protection spécifique par la loi". Si le travail humain a des qualités intrinsèquement supérieures à celui des machines, alors pas besoin de loi qui interdise les machines—de la même manière qu'un vêtement fait main a une qualité supérieure à la production indstrielle.

Après, il faut quand même réaliser qu'on panique quand même un peu tous sur cette question, parce qu'on s'est quand même rapprochés d'un coup de la singularité technologique. Le progrès des IA repousse presque tous les jours la limite de ce qu'on considérait relever uniquement de la puissance de notre esprit. Au XIXe siècle, il était évident pour tout le monde que le calcul relevait uniquement de l'esprit humain, alors qu'au XXIe siècle, il est évident que la puissance de calcul des machines surpasse l'esprit humain, mais que ça ne pose pas de problème parce que le calcul est "bête". On pensait en l'an 2000 que des activités telles que composer une chanson ou écrire une lettre étaient des manifestations uniques de l'esprit humain, et en 2023 les progrès technologiques nous démontrent que ça n'est pas le cas (avec une nuance quand même, puisque les machines doivent apprendre à partir d'exemples issus de l'intelligence humaine—ça n'est pas si différent des calculatrices, qui doivent être conçues par des humains qui savent calculer).

Ça m'évoque quand même le manque d'humilité des humains en général face aux manifestations des intelligences non-humaines. Dans les commentaires sous les vidéos de grands singes s'adonnant à des activités typiquement humaines (comme conduire une voiturette, ou allumer un feu), la réaction majoritaire, c'est "oui, mais on ne peut pas en déduire que les chimpanzés sont si intelligents que ça, quelqu'un leur a donné un briquet et leur a appris à s'en servir". Genre, parce que le type qui a écrit le commentaire, c'est l'inventeur du briquet? Mon utlisation personnelle d'un briquet, c'est exactelement la même que celle d'un chimpanzé. On m'a donné un briquet tout fait, on m'a montré comment on s'en sert, j'ai pigé que ça servait à allumer un feu et je l'utilise à cet effet (y compris pour cramer des fourmis ou vérifier si les poils de mes jambes prennent feu—on est vraiment foutus pareil en fait). Et de la même manière, je pense que la manière dont j'écris une lettre à la sécu ressemble beaucoup à la méthode de chatGPT, on rebalance des trucs qu'on a lu à droite à gauche et qui semblent être adaptés à la situation. Je pense qu'il est absurde de prétendre qu'une lettre à la sécu est une manifestation de mon intelligence supérieure, et il faut juste accepter que faire un truc avec son cerveau, ça n'est pas nécessairement une manifestation de la créativité humaine. Comme beaucoup d'animaux ont des jambes, il semble évident à tous que de marcher du métro à la porte du boulot n'est pas une activité créative. Par contre, comme aucun animal n'a un cerveau équivalent au notre, c'est facile de penser que n'importe lequel de nos pets de neurones a une sorte de valeur magique qui doit être protégée par une foultitude de droits complexes, histoire qu'il soit bien impossible de nous voler notre jus de cerveau. Bah voila, on sait maintenant qu'écrire une chanson pop, ça n'a rien de magique. Jusqu'à preuve du contraire, chatGPT n'aurait jamais pu écrire le répertoire des Beatles avant les Beatles, les Beatles étaient créatifs. Par contre, chatGPT aurait probablement pu écrire le répertoire d'Oasis avant Oasis. Hum, voila, quoi.

Je me demande bien s'il existe un opérateur assez stupide pour permettre ça. Genre "tiens, j'ai justement sous la main une autre carte SIM chez un autre opérateur, au nom de Tartempion. Vous pouvez basculer mon compte dessus? / Bien sûr, on fait ça tous les jours d'échanger les comptes entre des SIMs d'opérateurs différents, d'ailleurs on se demande bien pourquoi on vous envoie une nouvelle SIM qu'il faut activer par une procédure bien casse-pied quand vous changez d'opérateur".

Un truc qui n'est pas non plus abordé dans cet article pourravissime, c'est quand même qu'il faut non-seulement hacker la SIM, mais aussi hacker le compte (et peut-être même l'email). Ça fait beaucoup d'efforts, et on peut se demander s'il ne serait pas plus simple de piquer le téléphone directement.

Et ça oublie aussi complètement que maintenant la plupart des sites utilisent les systèmes d'identification des banques pour valider une partie des achats (les gros, les premiers, etc), ce qui nécessite aussi de connaitre le PIN d'identification à l'application de la banque.

Donc voler un disque en vitesse est effectivement beaucoup plus crédible qu'emporter le serveur complet.

Mouais, il faut quand même rentrer dans le datacenter, trouver le ou les bons serveurs, piquer un disque sans connaitre la probabilité d'avoir des données exploitables dessus, ressortir du datacenter avec le disque dans la poche, et espérer que personne ne s'aperçoive de rien, qu'il ne va pas y avoir de plainte ni de visionnage des vidéos… tout ça pour peut-être avoir piqué le disque avec /bin et /etc dessus. Ça demande beaucoup, beaucoup d'organisation pour un résultat bien incertain…

Pour un ordinateur portable, la situation est différente. Ça parait un peu paradoxal de laisser des gens se ballader avec des fichiers sensibles sur des ordinateurs portables (puisqu'on peut partir du principe que se faire voler est un destin probable pour un portable qui bouge beaucoup), mais d'essayer de mitiger le truc par un chiffrage avec une clé sur un support physique. Si tu ne veux pas que le portable ait constamment la clé USB vissée dessus, il faut de toutes manières que tu ne chiffres que certains fichiers. Autrement, si tout le disque est chiffré, il faudra mettre la clé dès que tu veux lire tes emails à l'aéroport ou que tu veux montrer la dernière plaquette promotionnelle à un client; autrement dit, la clé sera soudée à l'ordinateur.

Ah OK, je n'avais pas compris ça. Évidemment, si un client parano paye, autant entrer dans son jeu. Tu lui factures l'option "vol de disque", et pour "vol de serveur" c'est plus cher. Le niveau suivant, c'est "vol de data center complet avec 18 hélicoptères".

Le pire, c'est que ce genre de protocole ne doit pas trop empêcher que les clés trainent sur un post-it dans le bureau des admin sys.

Des rapports avec des données entièrement bidonnées qui ont l'air crédibles, des protocoles sur le papier béton qui tromperaient un scientifique, qui passeraient n'importe quel peer review ?

C'est déja très facile de tromper le peer-review. Le peer review est basé sur une forme de confiance dans la bonne foi (les erreurs de bonne foi peuvent être détectées si les données sont fournies de manière transparente, mais les manipulations sont virtuellement indétectables).

Ceux qui se sont gauler à manipuler des données sont juste des mauvais; la plupart du temps c'est un excès de confiance qui leur vaut leur perte.

Par contre, ce qui peut changer, c'est le volume de données pipeaurées, et la production automatique d'articles scientifiques pipeau de A à Z. Avant, faire un faux prenait du temps, et cette productivité limitée des faussaires limitait nécessairement le nombre de faux en circulation. Si maintenant un faussaire peut produire 100 fois plus de faux documents dans le même temps, le système peut se retrouver paralysé et noyé sous la masse.

L'objectif est avant tout de se protéger d'un vol d'un disque par un technicien de l'opérateur qui nous héberge, ou d'un mauvais effaçage après recyclage du disque en cas d'incident.

Par curiosité, est-ce que le rapport coût/bénéfice est bien raisonnable? Quelle est la probabilité qu'un technicien random pique un disque au pif dans une baie, sans trop savoir ce qu'il y a dessus? Quelle est la probabilité que ce technicien arrive à identifier un ou des fichiers sensibles parmi des To de données inintéressantes, et que ce tech soit connecté aux réseaux du côté obscur de la Force qui serait à même de valoriser ces données sur un marché noir? Si en face il y a des gens assez motivés pour aller placer des agents dans les data centers qui vont aller voler des disques de manière ciblée, alors il semble assez envisageable pour de telles organisation d'aller rentre visite à un admin sys pour lui demander poliment la passphrase.

Parce qu'en face, il n'y a pas rien. Il y a le coût de la mise en place du chiffrage (mettre en place le protocole décrit ci-dessus pour chaque nouveau serveur) et de la maintenance (serrer les fesses à chaque mise à jour), et surtout le risque de perdre des données si quelque chose se passe mal. Je ne prétends pas qu'il n'existe pas de données qui méritent ce genre de traitement, mais elles doivent être assez rares, non?

Pour les droits d'auteur, il n'y a pas besoin de loi, il y a besoin d'une jurisprudence. Le respect des droits d'auteur, ça a toujours été individuel. Tu penses que tes droits d'auteur n'ont pas été respectés? Alors tu portes plainte pour contrefaçon. C'est comme ça que ça marche si quelqu'un diffuse un de tes logiciels sous GPL sans respecter la licence par exemple. Il n'y a pas besoin de loi, la loi existe déja. Du coup, si tu penses qu'un système automatique produit un travail dérivé à partir de ton travail, tu peux te plaindre. La loi te protège déja. Par contre ça va être un sacré boulot de prouver que le travail est dérivé.

Ce que je ne sais pas, à vrai dire, c'est la "propreté" de la base de données. Quand tu publies sur Facebook, tu donnes tes droits à Facebook selon les conditions d'utilisation du site. Quand Facebook les revend, il peut le faire parce que tu as donné tes droits. Si tout s'est fait "proprement", je ne vois pas trop comment tu peux te plaindre. Si par contre la base d'apprentissage de chatGPT n'est pas propre, alors tu peux faire valoir tes droits. Mais je ne vois pas à quoi ça sert d'attendre : les lois sont là.

si comme moi je pense qu'il est plus important de prendre le temps de comprendre les externalités négatives avant d'aller trop loin.

Je pense qu'on est d'accord sur notre désaccord, donc. 1) je ne pense pas que ça soit possible (c'est un peu comme si tu disais "la sécheresse c'est mal, et ça serait bien que la pluie tombe plus en été"), et 2) je ne pense pas que ça soit une bonne idée du tout (parce que des dizaines de milliards de parents ont toujours dit à leurs enfants "ne met pas tes doigts dans la prise", et que ça a toujours donné l'idée à des dizaines de milliards d'enfants de mettre les doigts dans la prise, c'est la nature humaine de mettre les doigts dans la prise, et le jour où on ne mettra plus les doigts dans les prises c'est que notre espèce aura disparu—peut-être d'ailleurs après avoir mis les doigts dans la mauvaise prise).

Des usages débiles et problématiques de ce genre de technologies, on commence à en avoir une certaines collection. Le réglementer n'est pas une ineptie contrairement à ce que tu t'obstine à affirmer.

Quel usage souhaiterais-tu réglementer, qui ne le soit pas déja? Il est déja illégal de diffuser un montage photographique diffamatoire, de produire un faux document, ou de tricher aux examens.

Tout à fait c'est comme si on disait que maintenant les utilisateurs avaient un droit de regard sur leur données

Ça n'a absolument aucun rapport. Là, tu veux juste interdire à des entreprises de mettre en place un service parce que… parce que quoi exactement? Parce que des grand-mères à moustaches pensent que c'est peut-être dangereux pour la société. Il n'y a aucun problème de données, de vie privée, de consentement, il y a juste une sorte de vague peur de l'inconnu.

À ma connaissance, il n'y a aucun projet de loi pour obliger qui que ce soit à utiliser ChatGPT. Je ne vois pas en quoi ceux qui ne souhaitent pas utiliser un tel outil seraient en droit d'empêcher ceux qui souhaitent l'utiliser de le faire.

Encore une fois, les sites qui proposeront (gratuitement ou non) de tels services vont exister. Ça ne fait aucun doute. Comment veux tu procéder? Tu crées un Firewall national pour empêcher les gens d'accéder à ces URLs? Tu crées un délit d'utilisation de chatbot?

genre interdiction de fournir un accès à un programme entraîné sur X péta-octets ?

Tu veux interdire les moteurs de recherche? Les analyses de données scientifiques?

Par exemple, ce qu'on peut encadrer, c'est d'interdire le recours à de tels outils sans que l'utilisateur final ne soit au courant. Par exemple, quand on tombe sur un standard téléphonique, il faudrait rendre obligatoire le fait d'expliquer très clairement qu'on discute avec une IA. On peut aussi faciliter la mise en place d'interdictions ponctuelles de l'utilisation d'un tel outil : dans des copies d'examen, par exemple. Ou même rendre obligatoire une mention du type "ce texte a été en partie rédigé à l'aide d'une technologie d'intelligence artificielle", ce qui éviterait (un peu) les cabinets de conseil d'y avoir recours démesurément.

Sur le fond, comme de nombreux sites proposant ce type de service moyennant finances ou moyennant cookies existeront, il faudrait complètement brider l'ensemble d'Internet pour empêcher les français d'utiliser un tel outil… Ça me semble toujours aussi délirant, comme idée, en fait. On ne peut pas revenir en arrière, ça existe, et ça existera de plus en plus. Il faut travailler à rendre nos sociétés vivables avec cet outil, plutôt que de rêver à vivre à une époque où il n'existait pas encore.

C'est pas du tout la même chose que d'arrêter de se gouverner. Il est tout à fait logique d'interdire ce qui est nuisible, dans une certaine mesure (dans les faits, tout est histoire de compromis et de contexte historique : la clope et l'alcool sont autorisés, la coke ne l'est pas, etc).

Là, on parle en gros d'interdire par défaut, et d'attendre l'avis de je ne sais pas trop qui, qui travailleraient sur on ne sait pas quelles données, pour autoriser une technologie. Un principe majeur de nos sociétés, c'est la liberté de faire ce qui n'est pas interdit par la loi.

Parce qu'avec ce raisonnement, qu'est-ce qui détermine quelle technologie mérite de passer par le principe de précaution? Est-ce que la GPL n'aurait pas du être interdite le temps d'évaluer ses impacts sur la société (et, du coup, peut-être interdite au vu des intérêts économiques en jeu?) Est-ce que Linux n'aurait pas dû être interdit? Et Internet, une porte ouverte à toutes les fenêtres, au pédo-terrorrisme etc? Et les barrages, qui empêchent les poissons de remonter les rivières? Et les éoliennes, qui tuent des oiseaux? Allez hop, on fait des études, des rapports, des milliers et des milliers de pages de rapports, des synthèses de rapports, des conférences, des méta-analyses, des synthèses de conférences qui donneront lieu à des rapports, rapports qui concluront évidemment que "ça dépend", qu'il y a des avantages et des inconvénients, que des gens vont perdre leur boulot alors que d'autres vont en gagner, que les entreprises vont perdre en compétitivité si on n'autorise pas, qu'il vaut peut-être mieux un accident nucléaire tous les 50 ans qu'un changement climatique mondial, mais peut-être pas, mais peut-être que si… Il faudra toujours des études de plus, quel est l'impact économique, l'impact écologique, l'impact social, quels sont les effets à long terme, les effets indirects, les effets sur les finances publiques…

Vous voulez vraiment vivre dans un monde où il faut remplir une demande d'autorisation pour aller pisser contre un arbre, avec l'autorisation du délégué aux études hydrologiques départementales qui va estimer le temps de passage dans la nappe phréatique, et une étude d'impact du bureau d'études botaniques qui va évaluer l'effet sur la croissance de l'arbre en fonction de si c'est un chêne ou un châtaigner? C'est de la folie. La technophobie ne peut pas remplacer les principes constitutionnels de base.

Sans compter qu'on peut constater tous les jours que tout le monde, au final, se branle copieusement du travail des scientifiques et des ingénieurs. Les études hydrologiques montrent que les "mégabassines" utilisées conformément au protocole augmenterait les niveaux des nappes phréatiques et les débits des cours d'eau pendant l'été? C'est pas grave, on crame tout quand même parce qu'on est contre quand même, et que peut-être si la sécheresse se généralise on ne pourra pas les remplir (et donc? du coup elles seront vides certaines années; c'est sûr que c'est un problème majeur). Aucune étude ne peut montrer un quelconque effet des ondes électromagnétiques des GSM? C'est pas grave, on délivre des certificats médicaux d'électrosensibilité. Tout le monde se contrefout des études, des rapports d'experts, des résultats scientifiques. Ce qui compte pour les technologies, c'est combien ça coûte, combien ça rapporte, combien de gens regarderaient mes vidéos si je suis caricaturellement pour ou contre, combien ça désavantagerait les entreprises françaises si on autorise ou qu'on interdise, à quel point ça embêterait les Russes, les Chinois, les Américains, les Allemands… Quel est le poids des rapports scientifiques dans l'établissement des quotas de pêche? Dans la régulation du trafic maritime? Du trafic aérien? Sur l'emplacement des autoroutes, des lignes de TGV, des aéroports, des parkings de supermarchés? Vous croyez que les cabinets ministériels écoutent les experts universitaires sur l'économie? Sur l'urbanisme? Sur les politiques publiques? Vous croyez que de brandir des rapports de 2000 pages va décourager les opposants à l'enfouissement des déchets nucléaires, aux mégabassines, aux OGM? C'est du flan. Le principe de précaution, c'est un buzzword pour technophobes. Quand on brandit le principe de précaution, on ne veut pas lire des rapports scientifiques, on voudrait juste qu'une technologie qui nous met mal à l'aise soit interdite, "parce que", sans raison (parce que justement, on n'en a aucune).

Il faut peut-être limiter la parano quand même. Microsoft est payé pour stocker des données, s'il s'avère qu'ils vont fouiller les données de leurs clients, c'est leur activité qui va s'effondrer (à moins bien sûr que ça soit prévu au contrat).

Après, les services secrets de différents pays, c'est une autre histoire…

Je ne comprends pas trop comment tu peux évaluer les impacts sociétaux sans diffuser la technologie. Mais de toutes manières, cette technologie n'a pas vocation à être centralisée. Les algos sont plus ou moins connus, et les ressources nécessaires à la faire tourner sont à la portée de n'importe quelle grosse structure; ce n'est pas comme une centrale nucléaire. Tu veux proposer un moratoire sur quoi, sur les algos utilisés dans l'AI?

Et puis, est-il même pertinent de ne pas diffuser une technologie du fait de ses impacts sur la société? Combien d'emplois l'électricité a-t-elle fait disparaitre? Et le téléphone? Il a fallu 150 ans pour réaliser les problèmes liés à la combstion des énergies fossiles. Et combien de temps a-t-il fallu pour écarter les effets des GSM sur la santé? Sans compter que c'est les études épidémio qui ont permis ça, ça aurait donc été totalement impossible sans diffuser massivement cette technologie.

Sans compter que dans notre monde, les législations sont nationales. Tu vas mettre un moratoire, mais comment tu interdis l'accès à cette technologie, disponible librement dans d'autres pays? Tu mets en place un grand firewall, comme les régimes autoritaires? Tu empêches les entreprises d'accéder à des gains de productivité majeurs, en espérant quoi, que les entreprises étrangères vont bien attendre gentiment que tu aies mis 20 ans à tergiverser? Ce mode de fonctionnement semble totalement incompatible avec le monde tel qu'il existe en 2023.

potentiellement pourquoi on pourrait perdre son boulot ?

Y'a pas à dire, c'est vachement épanouissant de faire à la main ce qu'une machine pourrait faire parce qu'une loi interdit le remplacement des hommes par des machines. Ça donne du sens à ce qu'on fait, c'est un beau projet de société.

(tout ceci n'exclut évidemment pas une réflexion sur le partage de la valeur ajoutée créee par les systèmes automatiques), et sur la redistribution des richesses de manière générale.

Je ne sais plus où retrouver le lien, mais il y a des années on avait discuté de ce problème sur Wikipédia, où la question de la licence des photos "empruntées" aux catalogues de musées s'était posée. Il s'avère que le code de la propriété intellectuel est assez clair, quand la photographie est une opération technique dont l'objectif est de recopier le mieux possible l'oeuvre originale dans le domaine public, il semble impossible qu'il y ait des droits d'auteurs dessus.

Cependant, de nombreux musées le font; ils partent du principe que les choix techniques du photographe (éclairage, matériel, réglages de l'appareil photo etc) peuvent créer un nouveau droit d'auteur pour le photographe, qui se superposerait à celui de l'auteur du tableau, et donc protègerait cette photographie pendant 70 ans après la mort du photographe. Dans l'ensemble, c'est assez absurde—le droit d'auteur ne protège pas les choses qui sont difficiles à faire, mais les choses originales; une bonne copie est difficile à faire mais par définition elle n'est pas originale. Mais l'existence d'une telle "pseudo faille" suffit pour que les musées proposent cette interprétation et tentent de limiter la diffusion d'œuvres du domaine public—puisque pour le coup, ils sont propriétaires du support physique et sont en droit d'interdire la photographie non-autorisée pour n'importe quel prétexte fallacieux. Et à notre grande surprise, nous nous étions aperçu qu'il existait quelques jugements de tribunaux français qui vont dans ce sens, basés sur le principe de l'équilibre des droits (le respect du code de la propriété intellectuel entrainerait un manque à gagner disproportionné pour les musées, ce qui nuirait globalement à la société bien plus que le blocage de la diffusion des œuvres). Aussi WTF que puisse donc paraitre la justification des musées, il n'est pas non plus impossible qu'avec des avocats un peu roublards et devant des tribunaux non-spécialisés, la situation soit plus compliquée que ce qu'il parait.

Reste évidemment la question des photos non-autorisées. Prendre une photo alors que c'est interdit viole le règlement intérieur du musée, et on risque potentiellement des poursuites si on se fait prendre (en pratique, j'ai du mal à imaginer qu'on risque plus que l'expulsion du musée, mais on ne sait jamais). Par contre, si on arrive à prendre une bonne photo (avec un bon appareil et de bonnes conditions d'éclairage, quand il n'y a pas trop de monde, ça semble largement possible, du moins pour une résolution non-professionnelle), alors il me semble qu'il est impossible pour le musée d'interdire la circulation de la photo. C'est vraiment ça qui est étrange sur cette affaire, le musée ne possède les droits que sur l'accès au support physique de l'œuvre, et ne peut limiter la diffusion virtuelle qu'en verrouillant l'accès physique.