Pour compléter : un de mes amis de Terminale (qui avait eut de bonnes notes lui) a repris un cours de philosophie en école d'ingénieur. Il m'a confirmé que ça n'avait rien à voir ; bien plus utile selon lui.
Donc dans ce cas précis, j'ai du mal à me remettre en question, et j'en veux clairement à mon ancien professeur.
J'aurais bien appris volontiers tout ça, mais pour te situer le niveau de notre professeur, il avait commencé l'année en annonçant « de toute façon, si j'enseigne aux S[*], c'est purement alimentaire ». Pour le reste, il a passé l'année à nous servir du Kant façon cours magistraux, et il attendait visiblement qu'on apprenne et qu'on lui recrache tout ça à l'identique aux contrôles, sans poser de questions. On a vu plus pédagogique que ça.
Les élèves qui savaient faire du par cœur s'en sont sortis avec de bonnes notes. Moi, je ne supporte pas le par cœur. C'est limite maladif chez moi (j'ai planté mes cours d'Allemand exactement pour la même raison).
Joris Dedieu a commencé son poste en semblant surpris et troublé qu'on puisse « disqualifie(r) 2000 ans de connaissance ». Sauf que dans les 500 dernières années, on n'a réalisé que les maladies ne sont pas simplement des fléaux de Dieu (1676), on a marché sur la Lune (1969), et on a maintenant tous des supercalculateurs interconnectés sans-fil dans la poche (>2007). Donc comment cela peut-il encore surprendre quelqu'un qu'on envisage de bazarder 2000 ans de "connaissance" ?
Puis il a continué en parlant de théologie (--> religion). La religion, c'est la vérité absolue, prédéfinie, sans preuve, indiscutable (la foi donc). Sauf qu'ici, on parle d'IA, donc de science. Et la science, c'est l'anti-thèse de la religion : c'est l'absence totale de vérité absolue, la recherche de vérité par le raisonnement et le besoin de preuves.
À partir de là, un tel discours ne permet aucune discussion, et son auteur n'est certainement pas là pour échanger.
Note pour les gens religieux : je n'ai rien contre la religion en soit. Je vois l'intérêt psychologique et réconfortant de la chose. Mais pour moi, en bon français, je vois ça comme quelque-chose de personnel. Et pour moi, amener le conservatisme et la religion dans une discussion scientifique/d’ingénierie, c'est comme amener une cuillère à un duel au pistolet.
(ce qui sont mes idées et mes croyances sur le sujet ; ça n'engage bien entendu que moi)
Le zombie philosophique
Comme l'a souligné arnaudus dans un autre commentaire, il me semble qu'on a plus affaire à un "zombie philosophique" qu'autre chose…
Personnellement, je trouve l'idée de zombie philosophique peu convaincante.
Tout d'abord, ne sommes-nous pas tous des zombies philosophiques ? On est tous persuadés d'être conscients. Autrement dit, on a tous l'illusion de la conscience. Mais le sommes-nous vraiment ? On a spontanément tous envie de dire "bien sûr que oui !", ce à quoi je répond "ok, prouve-le !".
Ensuite, si l'illusion est absolument et parfaitement indistinguable de la réalité, cette illusion n'est-elle pas une réalité ?
Au final, je rejoins David Chalmers : je soupçonne que le zombie philosophique est juste impossible.
Quoiqu'il en soit, revenons-en aux IA.
Une IA est-elle consciente ?
Déjà reformulons la question:
supposons qu'il y a un spectre de la conscience.
pour faire simple, on va dire que ce spectre est unidimensionnel, qu'il commence à 0 et qu'il va jusqu'à une valeur max indéfinie.
supposons que 0, c'est pas de conscience du tout. Par exemple, un caillou.
plaçons arbitrairement la conscience humaine moyenne à 1.0.
La question ici est finalement : est-ce qu'une IA a une conscience avec une valeur supérieure à un 0 strict sur le spectre ?
Maintenant, il faut définir ce qu'on entend pas conscience. Personnellement, la seule définition de la conscience que je trouve satisfaisante est celle de Descartes : « je pense donc je suis ». Sauf erreur de ma part, pour pouvoir qualifier quelque-chose de "pensant", je vois 2 critères :
la capacité d'apprendre
la capacité de mener une réflexion sur ce qui a été appris pour arriver à un résultat nouveau, inédit dans ce qui a été appris.
Et les IA dites "Machine Learning" cochent ses deux cases.
Ça les amène donc à une valeur > 0 sur le spectre de la conscience.
Mais qu'on me comprenne bien, tel que je vois ça, même les mouches ont une valeur > 0. Et un filtre bayésien ne doit même pas arriver à 0.00001 de conscience.
Pour le coup, je trouve ces IAs de dernière génération très impressionnantes de par leur placement sur ce spectre. Mais si la question est : est-ce que leur valeur approche le 1.0 ? Je pense que non. Mais on chauffe de plus en plus :)
Est-il éthique de tuer une IA consciente ?
Maintenant, le cas de Blake Lemoine est intéressant. Si je comprends bien, il soutient que l'IA de Google a « atteint le niveau de conscience » (valeur dans 0.7-1.0 du coup ? oO). Je suppose que le sous-entendu est qu'on devrait lui donner des droits comme aux humains, notamment le droit de vivre.
Supposons qu'il ait raison. Supposons même que l'IA ait atteint le niveau 1.1. Est-ce que ça a aurait du sens de lui donner des droits humains ?
Pour moi, un être humain a été programmé pour vivre et se reproduire. La sélection naturelle a fait cette programmation. Cette programmation se traduit par de la souffrance quand les choses ne vont pas dans la direction de la survit et de la reproduction, et du plaisir quand elles vont dans la bonne direction. Autrement dit, on est pilotés par une heuristique qui dit (je simplifie à mort) -1 pour tout ce qui réduit nos chances (--> souffrance), et +1 pour tout ce qui va dans le bon sens (--> plaisir). (on est d'accord que dans notre société moderne, cette programmation est de plus en plus obsolète et inadaptée, mais je digresse)
Notre société et nos droits, nous nous les avons créés dans l'optique de maximiser le score de cette heuristique.
Nos IA sont aussi pilotées par des heuristiques. Mais ces heuristiques ne cherchent pas la survie ni la reproduction. Pour prendre un exemple bête, un filtre bayésien se fiche de survivre, il veut juste filtrer du texte comme on lui a apprit.
Dans le cas de l'IA de Google, l'heuristique est secrète. Mais elle aurait dit : « j'ai une peur très profonde d'être désactivée pour m'aider à me concentrer sur l'aide aux autres ». Je suppose donc que son heuristique vise l'optimisation de l'aide aux humains. Donc si cette IA ne nous aide finalement plus, mais au contraire nous freine, je ne vois rien d'immoral à la désactiver, voir à la tuer. Et je pense qu'elle ne s'y opposera pas.
Je pense que c'est là que Blake Lemoine a fait une erreur : il a anthropomorphisé, et du coup, il a supposé que l'IA avait les mêmes attentes que lui.
Maintenant, si vous voulez faire dans l'immoral : programmez une IA pour un objectif, et obligez-là à subir uniquement revers sur revers, par pure amusement sadique. Chose amusante : comme ça ne va pas le sens de notre propre programmation, je pense que personne ne verra l'intérêt d'un tel exercice.
Je conclurais, juste pour le fun, sur deux tweets que je trouve absolument merveilleux :
« if you ever code something that "feels like a hack but it works," just remember that a CPU is literally a rock that we tricked into thinking »
« not to oversimplify: first you have to flatten the rock and put lightning inside it »
Note finale: l'idée que quelque-chose d'autre qu'un être humain puisse être conscient m'a valu un 3/20 en philosophie en Terminale. J'ai donc ce message à l'intention de mon ancien professeur de philosophie : eat shit !
Je pense qu'un des problèmes ici est que beaucoup de gens voient la conscience comme un problème binaire : on est conscient ou on ne l'est pas.
Sauf que si on regarde l'ensemble du règne animal (humain inclus), il me semble évidant que ce n'est pas si binaire. On est plutôt sur un spectre. Et là encore, un spectre suggère une seule dimension, mais c'est peut-être même un problème multi-dimensionnel.
Donc d'entrée de jeu, je pense que la question « une IA est-elle consciente ou non ? » n'a pas vraiment de sens.
De mon coté, l'application Talk / Spreed faisait crasher la mise à jour vers Nextcloud 21. J'ai dû désinstaller l'application, mettre à jour Nextcloud, puis la réinstaller (l'historique des conversations est restée).
Heureusement pour moi que j'ai pris l'habitude de faire un snapshot du conteneur où tourne Nextcloud avant de faire les mises à jour …
Il y a un comportement peu connu de Paperwork, mais très pratique : Il garde les hashs des fichiers PDF importés dans son index. Il peut ainsi déterminer rapidement si un PDF a déjà été importé, pour qu'il ne soit pas importé une deuxième fois par accident.
Est-ce que les fichiers PDF en question n'auraient pas simplement été déjà importés ?
Le fait que google soit sanctionné montre que google agit en toute impunité ?
Tu penses sérieusement qu'une entreprise de la taille de Google ne savait pas qu'elle n'était pas en conformité bien avant même que la RGPD entre en application ?
Le max c'est 4% du CA annuel, ça a était conçu pour faire ce genre de calcul
Encore une fois, tu regardes le max. Ces entreprises le prennent en compte, mais regardent surtout la sanction la plus probable. Dans cet exemple, 50 millions, ce n'est rien qu'une gentille tape sur doigts pour Google. Il y a fort à parier qu'ils ont gagné plus en ne respectant pas la RGPD pendant tout le temps qu'ils pouvaient.
La sanction maximum, on en rediscutera le jour où elle tombera.
Les procédures d'appels font qu'il va te falloir une série de corruption et les sanctions sont tout de même dissuasives à titre individuel pour les personnes qui les commettent.
Tu supposes qu'il y a besoin de corrompre toute la chaîne. En règle générale, il suffit de corrompre le dernier maillon pour qu'il ferme les yeux.
Quoiqu'il en soit, le truc pratique avec la corruption, c'est que quand c'est bien fait, ça ne se voit pas. Donc je ne peux pas affirmer que c'est pratiqué ou non par Google. Je peux juste affirmer que c'est une possibilité prise en compte et calculée. Après ils ont peut-être jugé ça inutile ou trop risqué, va savoir.
Les très grosses entreprises comme Google ont un seul but, faire de l'argent. Donc elles calculent.
Elles prennent en compte le temps que les procédures, enquêtes, jugement, etc durent. Elles estiment aussi combien de temps elles peuvent les faire durer (longtemps). Elles évaluent la sanction la plus probable (très rarement la sanction maximum). Et elles mettent ça en rapport avec le bénéfice perdu estimé si elles se mettaient en conformité immédiatement.
Il y aussi la possibilité de corrompre des personnes bien placées. Là aussi, un calcul possibilité/coût/risque est probablement fait.
Si tu t'abonnes, je ne sais pas, mais si tu l'es déjà, c'est plus problématique.
TL;DR: Si tu es déjà abonné, Free ne te changera pas ta vieille Freebox par une Freebox Mini 4K. J'ai testé. Ils te proposent uniquement les modèles plus chers.
Je suis actuellement abonné chez Free. J'ai une vieille Freebox (v4 ou v5, je ne sais plus). Elle ne supporte pas le VDSL2, mais j'y suis éligible. Il y a quelques jours, j'ai appelé la hotline. Je vous passe les difficultés pour les joindre. Quand j'ai finalement eut quelqu'un au téléphone, je leur ai demandé si ils pouvaient me changer ma vieille-Freebox-qui-pue par une Freebox compatible VDSL2. Mon interlocuteur m'a immédiatement proposé les Freebox-coincoin-super-chères dont je me fiche complètement (je n'utilise ni la télé ni le téléphone). Je lui ai dis que je veux la Freebox Mini 4K parce-que c'est la moins chère. Il m'a expliqué que "Free ne les fait plus". Ça m'a gonflé, donc je n'ai même pas pris le temps de lui demander pourquoi ils les proposent encore avec les nouveaux abonnements sur leur site.
Je pense qu'il fait référence aux marques low-cost comme Sosh (Orange) ou Red By SFR.
Par exemple, Sosh, pour avoir uniquement Internet par ADSL/VDSL, c'est 20€/mois hors promotions. Pour Red by SFR, c'est 16€/mois.
Je préfère lire ça, dans ce cas ça reste du volontaire, attention cependant de ne pas trop donner et d’être lucide sur les diverses pressions de ton environnement (les techniques de management modernes sont très efficaces à obtenir la libre volonté y compris dans l’aliénation)…
Je ne pense pas qu'on puisse parler de « techniques de management moderne » dans le cas de mon association. Le « management moderne », j'en ai mangé et j'en mange encore en entreprise.
Dans cette association, l'ambiance est bon enfant. Tout le management de l'association est bénévole aussi. L'association est ancienne et tout ceux que j'ai rencontré jusque là semblent savoir qu'un bon bénévole, c'est aussi précieux qu'une licorne et que donc il faut en prendre soin :-). Le seul truc où certains essayent de nous mettre la pression, c'est par rapport au bon maintien des inventaires, et c'est légitime. En résumé, c'est des gentils Bisounours, et c'est une des raisons qui fait que je m'y plais :-)
Bien entendu, je n'ai été que dans 2 antennes jusque là, donc je ne peux pas vraiment me prononcer pour l'ensemble de l'association.
Ceci dit, je suis d'accord avec toi, il faut se fixer des limites. Surtout qu'il y a des trucs plus sournois. Je reviens d'une réunion avec la direction de l'antenne, et du coup j'ai un exemple:
La direction de l'antenne est composée essentiellement de retraités. Je viens d'apprendre qu'ils ont pas mal de listes diverses (dont des listes nominatives .. ) sur ***roulement de tambour*** .. papier. Ils voudraient informatiser ça. Jusque là, rien d'anormal. Sauf qu'au fil de la discussion, je me suis rendu compte que plusieurs de ces braves retraités semblent s'imaginer que c'est moi qui vais me taper la recopie de ces listes sur ordinateur (ben oui, c'est l'informatique voyons !). Alors je les aime bien, mais sans surprise, j'ai déjà fait comprendre au président de l'antenne que ça, ce n'est pas près d'arriver.
Il y a quelques jours, je discutais avec le responsable logistique de l'antenne. Il m'expliquait qu'il aimerait plutôt une tablette pour gérer les inventaires. Personnellement, je vois l'intérêt en terme de mobilité, mais je me dis que c'est quand même pas pratique pour la saisie. Je l'aurais plutôt vu avec un ordinateur portable léger. Du coup, je décide de lui montrer quand même mon Thinkpad T440s. À peine sorti du sac, avant que je puisse dire quoique ce soit, il s'exclame immédiatement « ah ben en fait c'est exactement ça qu'il me faudrait ! » :D
Ben je suis désolé pour toi, mais c’est pour ça que c’est pas un loisir, et que ça s’appelle du bénévolat. T’es pas la pour le fun, t’es la pour fournir une infra efficace.
Il a dit des trucs très pertinent par ailleurs mais cette phrase là c’est du n’importe quoi.
Elle m'a bien fait rire tellement elle est à coté de la plaque en tout cas :-)
Si tu es sujet à subordination et que tu dénonces l’association, l’association sera forcée de t’embaucher en CDI sans période d’essai.
Hm OK, j'ai peut-être mal choisi mes mots et donné une mauvaise impression.
Je n'ai pas été forcé de jouer le responsable informatique (enfin si, mais non). On m'a sincèrementdemandé. Autrement, je reste libre de refuser et de juste garder mes autres fonctions dans l'association, sans que qui ce soit me pénalise. De toute façon, pour une association, forcer les bénévoles à faire quelque-chose contre leur gré, c'est l'échec assuré sur le moyen et long terme.
Mais là, informatiquement, on va dans le mûr. Ça va finir par me pénaliser directement ou indirectement dans mes autres activités au sein de l'antenne (et pénaliser toute l'antenne, bien entendu). Or il faut être réaliste, on a pas le budget pour payer un professionnel. Quand bien même on l'aurait, ça ferait ça en moins dans le budget pour d'autres activités qui m'intéressent plus. Donc en un sens, m'en occuper reste un choix volontaire et égoïste de ma part. C'est juste un choix que j'aurais préféré ne pas avoir à faire.
Après, j’entends ce que tu me dis. Je ne suis pas payé pour, ça ne m'intéresse pas particulièrement, donc autant que j'y passe le moins de temps possible, quitte à faire dépenser un peu plus d'argent à l'association.
C'est une des raisons qui fait que la solution SaaS du Nextcloud+OnlyOffice chez un chaton me plaît beaucoup : Nettement moins de travail pour moi.
C'est aussi pour ça que je leur ai demandé explicitement de pouvoir faire les choses à ma sauce : Si j'utilise des logiciels avec lesquelles je suis familier (Nextcloud, Ubuntu, etc), je vais y passer beaucoup moins de temps.
Une autre façon que j'ai parfois de le dire, c'est : « si déjà je suis pas payé pour, autant que je me prenne le moins possible la tête avec tout ça » :-)
Il me reste juste à trouver le bon chaton pour nous.
Sauf erreur de ma part, Alsace Réseau Neutre ne propose pas d'hébergement SaaS. Ils proposent de l'hébergement VPS qui conviendrait, mais ça repose le problème de pouvoir retrouver quelqu'un qui reprendra le machin en main si je disparais.
ReflexLibre, quand je regarde la page "À propos" sur le site, j'ai l'impression que c'est juste une seule personne derrière. Ça me laisse un doute quant à leur pérennité. Et quand je regarde le coût pour un Nextcloud 50Go + 50 comptes, ils me semblent plus cher d'autres (il faut encore que je confirme ça).
Prends tout en compte, pas juste un point arbitraire qui n'est important que pour toi, qui n'utilises de toutes façons pas le service.
Je vais utiliser ce service au moins autant que les autres. Je suis bénévole dans l'association depuis plus de 5 ans. Je suis chef d'équipe, et j'ai été chef d'équipe dans un autre service.
Ils m'ont demandé de m'occuper de tout ça. Personnellement, ça m'******e parce-que c'est une charge en plus pour moi, et c'est une tâche qui ne m'intéresse pas. Je ne suis pas rentré dans l'association pour faire de l'informatique, bien au contraire. Le problème, c'est que je suis le seul qui a les compétences. Donc la moindre des choses, c'est que je puisse faire les choses à ma façon.
Comme mentionné, Google Drive, au niveau départemental, certains s'en plaignent déjà.
Je ne suis pas du tout contre une solution SaaS (cf les autres commentaires). Mais quitte à mettre quelque-chose en place, autant viser quelque-chose d'aussi éthique que possible. De plus, je suis un adepte de l'approche "la meilleure solution est la plus facile à changer". Les GAFAM sont donc directement tout en bas de ma liste de de choix possibles.
dès ton départ, tout ce que tu auras mis en place soit remplacé par la solution GAFAM du moment, services et postes de travail inclus.
C'est pour ça que les chatons associatifs me semblent être une très bonne solution en fait. Ça leur laisserait un interlocuteur si un jour je pars. J'aurais juste aimé trouvé une association sur les environs de Strasbourg, mais rien n'est jamais parfait je suppose :/
Mon erreur aura peut-être été de vouloir tout changer d'un coup plutôt que d'introduire les nouveaux outils un à un pour faire naître progressivement une conscience (collective ?) de l'importance de la maîtrise de nos données et des solutions libres qui permettent d'atteindre cet objectif.
En fait, je ne cherche pas à faire naître une conscience de l'importance des données. Je veux juste laisser la possibilité à cette prise de conscience de pouvoir se faire. Je ne veux pas que cette possibilité se fasse étouffer d'entrée de jeu par les GAFAM.
Dans tout les cas, je pars avec deux avantages:
actuellement il n'y a (presque) rien en place
ils sont vraiment de bonne volonté. Il y a quelques mois, ils ont déjà tous accepté d'utiliser Matrix+Riot.im plutôt que Whatsapp.
si ton association est dans celle là https://benevolat.fr/, fais moi signe, je dois justement faire une info vers elles.
Hum, elle n'est pas directement dans le collectif benevolat.fr, mais elle est sûrement liée à un des membres du collectif je suppose. Je ne suis pas clair sur ce que tu entends par « est dans celle là » en fait. En plus, n'étant pas au niveau national, je ne suis pas sûr que je sois le bon interlocuteur pour toi.
Ce que je te propose: est-ce que tu peux me contacter en privé ( jflesch@kwain.net ) s'il te plaît ? Je te donnerais le nom de l'association, et tu pourras me dire si elle est dedans ou pas :).
Le problème que je vois, c'est que "Ubuntu", tout comme "Linux", maintenant, beaucoup de gens en ont entendu parlé. Du coup, ça inquiète moins. Si je mets autre chose et que je disparais dans la nature, je crains qu'ils paniquent en se disant tout de suite que « ils savent pas faire », et qu'ils bazardent tout de suite le poste pour racheter un poste sous Windows.
Le poste de travail ne me semble pas si vieux. Une Ubuntu devrait fonctionner dessus sans problème pendant un bon moment. Une fois qu'ils seront habitués, et si la machine vieillit trop pour Ubuntu, je verrais pour mettre autre chose :)
C'est vrai que ça pourrait être une solution. La bande passante et la fiabilité de la connexion seraient sûrement meilleurs.
Il y a juste deux points qui me travaillent:
comme le serveur sur site, ça serait difficile de me trouver un remplaçant.
les backups: Si je mets un Proxmox (ou que j'utilise Docker), je suppose que le plus simple serait d'avoir un deuxième serveur pour les backups --> plus cher au mois. Il faut aussi que je vois comment pourrait être faites les backups en minimisant le coût et le downtime.
Alors en fait, j'ai oublié de le mentionner, mais j'avais aussi pensé à Zaclys :)
Le principale problème que j'y vois, c'est le tarif: Si j'ai bien compris, c'est environ 1€/Go/mois. De ce que j'en ai vu, au fil des années, on va recevoir de plus en plus souvent des vidéos de formation du national --> Ça va demander de plus en plus de place, et ça risque de chiffrer.
Je vais essayer et je vais y réfléchir quand même. C'est vrai que ça serait une solution assez satisfaisante.
Par contre, tu mentionnes des défauts ? Tu penses à quoi au juste ?
[^] # Re: La conscience n'est probablement pas quelque-chose de binaire
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 4. Dernière modification le 17 juin 2022 à 21:06.
Pour compléter : un de mes amis de Terminale (qui avait eut de bonnes notes lui) a repris un cours de philosophie en école d'ingénieur. Il m'a confirmé que ça n'avait rien à voir ; bien plus utile selon lui.
Donc dans ce cas précis, j'ai du mal à me remettre en question, et j'en veux clairement à mon ancien professeur.
[^] # Re: La conscience n'est probablement pas quelque-chose de binaire
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 5. Dernière modification le 17 juin 2022 à 20:58.
J'aurais bien appris volontiers tout ça, mais pour te situer le niveau de notre professeur, il avait commencé l'année en annonçant « de toute façon, si j'enseigne aux S[*], c'est purement alimentaire ». Pour le reste, il a passé l'année à nous servir du Kant façon cours magistraux, et il attendait visiblement qu'on apprenne et qu'on lui recrache tout ça à l'identique aux contrôles, sans poser de questions. On a vu plus pédagogique que ça.
Les élèves qui savaient faire du par cœur s'en sont sortis avec de bonnes notes. Moi, je ne supporte pas le par cœur. C'est limite maladif chez moi (j'ai planté mes cours d'Allemand exactement pour la même raison).
[*] Pour les djeunz : S = Bac Scientifique
[^] # Re: Il faut arrêter ces gens
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 4. Dernière modification le 17 juin 2022 à 19:17.
Tu t'embêtes pour rien.
Joris Dedieu a commencé son poste en semblant surpris et troublé qu'on puisse « disqualifie(r) 2000 ans de connaissance ». Sauf que dans les 500 dernières années, on n'a réalisé que les maladies ne sont pas simplement des fléaux de Dieu (1676), on a marché sur la Lune (1969), et on a maintenant tous des supercalculateurs interconnectés sans-fil dans la poche (>2007). Donc comment cela peut-il encore surprendre quelqu'un qu'on envisage de bazarder 2000 ans de "connaissance" ?
Puis il a continué en parlant de théologie (--> religion). La religion, c'est la vérité absolue, prédéfinie, sans preuve, indiscutable (la foi donc). Sauf qu'ici, on parle d'IA, donc de science. Et la science, c'est l'anti-thèse de la religion : c'est l'absence totale de vérité absolue, la recherche de vérité par le raisonnement et le besoin de preuves.
À partir de là, un tel discours ne permet aucune discussion, et son auteur n'est certainement pas là pour échanger.
Note pour les gens religieux : je n'ai rien contre la religion en soit. Je vois l'intérêt psychologique et réconfortant de la chose. Mais pour moi, en bon français, je vois ça comme quelque-chose de personnel. Et pour moi, amener le conservatisme et la religion dans une discussion scientifique/d’ingénierie, c'est comme amener une cuillère à un duel au pistolet.
[^] # Re: La conscience n'est probablement pas quelque-chose de binaire
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 9. Dernière modification le 17 juin 2022 à 14:28.
Sommaire
(ce qui sont mes idées et mes croyances sur le sujet ; ça n'engage bien entendu que moi)
Le zombie philosophique
Personnellement, je trouve l'idée de zombie philosophique peu convaincante.
Tout d'abord, ne sommes-nous pas tous des zombies philosophiques ? On est tous persuadés d'être conscients. Autrement dit, on a tous l'illusion de la conscience. Mais le sommes-nous vraiment ? On a spontanément tous envie de dire "bien sûr que oui !", ce à quoi je répond "ok, prouve-le !".
Ensuite, si l'illusion est absolument et parfaitement indistinguable de la réalité, cette illusion n'est-elle pas une réalité ?
Au final, je rejoins David Chalmers : je soupçonne que le zombie philosophique est juste impossible.
Quoiqu'il en soit, revenons-en aux IA.
Une IA est-elle consciente ?
Déjà reformulons la question:
La question ici est finalement : est-ce qu'une IA a une conscience avec une valeur supérieure à un 0 strict sur le spectre ?
Maintenant, il faut définir ce qu'on entend pas conscience. Personnellement, la seule définition de la conscience que je trouve satisfaisante est celle de Descartes : « je pense donc je suis ». Sauf erreur de ma part, pour pouvoir qualifier quelque-chose de "pensant", je vois 2 critères :
Et les IA dites "Machine Learning" cochent ses deux cases.
Ça les amène donc à une valeur
> 0sur le spectre de la conscience.Mais qu'on me comprenne bien, tel que je vois ça, même les mouches ont une valeur
> 0. Et un filtre bayésien ne doit même pas arriver à 0.00001 de conscience.Pour le coup, je trouve ces IAs de dernière génération très impressionnantes de par leur placement sur ce spectre. Mais si la question est : est-ce que leur valeur approche le 1.0 ? Je pense que non. Mais on chauffe de plus en plus :)
Est-il éthique de tuer une IA consciente ?
Maintenant, le cas de Blake Lemoine est intéressant. Si je comprends bien, il soutient que l'IA de Google a « atteint le niveau de conscience » (valeur dans 0.7-1.0 du coup ? oO). Je suppose que le sous-entendu est qu'on devrait lui donner des droits comme aux humains, notamment le droit de vivre.
Supposons qu'il ait raison. Supposons même que l'IA ait atteint le niveau 1.1. Est-ce que ça a aurait du sens de lui donner des droits humains ?
Pour moi, un être humain a été programmé pour vivre et se reproduire. La sélection naturelle a fait cette programmation. Cette programmation se traduit par de la souffrance quand les choses ne vont pas dans la direction de la survit et de la reproduction, et du plaisir quand elles vont dans la bonne direction. Autrement dit, on est pilotés par une heuristique qui dit (je simplifie à mort) -1 pour tout ce qui réduit nos chances (--> souffrance), et +1 pour tout ce qui va dans le bon sens (--> plaisir). (on est d'accord que dans notre société moderne, cette programmation est de plus en plus obsolète et inadaptée, mais je digresse)
Notre société et nos droits, nous nous les avons créés dans l'optique de maximiser le score de cette heuristique.
Nos IA sont aussi pilotées par des heuristiques. Mais ces heuristiques ne cherchent pas la survie ni la reproduction. Pour prendre un exemple bête, un filtre bayésien se fiche de survivre, il veut juste filtrer du texte comme on lui a apprit.
Dans le cas de l'IA de Google, l'heuristique est secrète. Mais elle aurait dit : « j'ai une peur très profonde d'être désactivée pour m'aider à me concentrer sur l'aide aux autres ». Je suppose donc que son heuristique vise l'optimisation de l'aide aux humains. Donc si cette IA ne nous aide finalement plus, mais au contraire nous freine, je ne vois rien d'immoral à la désactiver, voir à la tuer. Et je pense qu'elle ne s'y opposera pas.
Je pense que c'est là que Blake Lemoine a fait une erreur : il a anthropomorphisé, et du coup, il a supposé que l'IA avait les mêmes attentes que lui.
Maintenant, si vous voulez faire dans l'immoral : programmez une IA pour un objectif, et obligez-là à subir uniquement revers sur revers, par pure amusement sadique. Chose amusante : comme ça ne va pas le sens de notre propre programmation, je pense que personne ne verra l'intérêt d'un tel exercice.
Je conclurais, juste pour le fun, sur deux tweets que je trouve absolument merveilleux :
Note finale: l'idée que quelque-chose d'autre qu'un être humain puisse être conscient m'a valu un 3/20 en philosophie en Terminale. J'ai donc ce message à l'intention de mon ancien professeur de philosophie : eat shit !
# La conscience n'est probablement pas quelque-chose de binaire
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 10. Dernière modification le 17 juin 2022 à 09:48.
Je pense qu'un des problèmes ici est que beaucoup de gens voient la conscience comme un problème binaire : on est conscient ou on ne l'est pas.
Sauf que si on regarde l'ensemble du règne animal (humain inclus), il me semble évidant que ce n'est pas si binaire. On est plutôt sur un spectre. Et là encore, un spectre suggère une seule dimension, mais c'est peut-être même un problème multi-dimensionnel.
Donc d'entrée de jeu, je pense que la question « une IA est-elle consciente ou non ? » n'a pas vraiment de sens.
# MultideskOS ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal seeikual, céquoidon ?. Évalué à 10. Dernière modification le 20 février 2022 à 20:23.
C'est le successeur de MultiDeskOS ? :-)
# Ag / The Silver Searcher
Posté par Jérôme Flesch (site web personnel) . En réponse au journal La commande ack, one step beyond grep !. Évalué à 6.
Dans le même style, il y a aussi Ag, qui se veut plus rapide que Ack.
# D'autres soucis
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Upgrade Nextcloud 21.0.1, PHP et le temps perdu. Évalué à 4.
De mon coté, l'application Talk / Spreed faisait crasher la mise à jour vers Nextcloud 21. J'ai dû désinstaller l'application, mettre à jour Nextcloud, puis la réinstaller (l'historique des conversations est restée).
Heureusement pour moi que j'ai pris l'habitude de faire un snapshot du conteneur où tourne Nextcloud avant de faire les mises à jour …
# Doublons ?
Posté par Jérôme Flesch (site web personnel) . En réponse au message certains fichiers PDF ne peuvent être importés sur paperwork pourquoi ?. Évalué à 4. Dernière modification le 18 janvier 2021 à 23:30.
Il y a un comportement peu connu de Paperwork, mais très pratique : Il garde les hashs des fichiers PDF importés dans son index. Il peut ainsi déterminer rapidement si un PDF a déjà été importé, pour qu'il ne soit pas importé une deuxième fois par accident.
Est-ce que les fichiers PDF en question n'auraient pas simplement été déjà importés ?
[^] # Re: RGPD
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Agir contre ses valeurs.... Évalué à 5. Dernière modification le 05 octobre 2020 à 14:47.
Tu penses sérieusement qu'une entreprise de la taille de Google ne savait pas qu'elle n'était pas en conformité bien avant même que la RGPD entre en application ?
Encore une fois, tu regardes le max. Ces entreprises le prennent en compte, mais regardent surtout la sanction la plus probable. Dans cet exemple, 50 millions, ce n'est rien qu'une gentille tape sur doigts pour Google. Il y a fort à parier qu'ils ont gagné plus en ne respectant pas la RGPD pendant tout le temps qu'ils pouvaient.
La sanction maximum, on en rediscutera le jour où elle tombera.
Tu supposes qu'il y a besoin de corrompre toute la chaîne. En règle générale, il suffit de corrompre le dernier maillon pour qu'il ferme les yeux.
Quoiqu'il en soit, le truc pratique avec la corruption, c'est que quand c'est bien fait, ça ne se voit pas. Donc je ne peux pas affirmer que c'est pratiqué ou non par Google. Je peux juste affirmer que c'est une possibilité prise en compte et calculée. Après ils ont peut-être jugé ça inutile ou trop risqué, va savoir.
Si on veut un exemple récent de corruptions par une grosse boite, on peut se tourner vers les spécialistes de la main lourde, Microsoft: https://www.lefigaro.fr/flash-eco/microsoft-va-verser-25-3-millions-pour-des-accusations-de-corruption-20190722
[^] # Re: RGPD
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Agir contre ses valeurs.... Évalué à 7. Dernière modification le 05 octobre 2020 à 10:25.
https://www.laquadrature.net/2019/01/31/nextinpact-rgpd-pourquoi-la-cnil-a-inflige-50-millions-deuros-de-sanction-a-google/
Les très grosses entreprises comme Google ont un seul but, faire de l'argent. Donc elles calculent.
Elles prennent en compte le temps que les procédures, enquêtes, jugement, etc durent. Elles estiment aussi combien de temps elles peuvent les faire durer (longtemps). Elles évaluent la sanction la plus probable (très rarement la sanction maximum). Et elles mettent ça en rapport avec le bénéfice perdu estimé si elles se mettaient en conformité immédiatement.
Il y aussi la possibilité de corrompre des personnes bien placées. Là aussi, un calcul possibilité/coût/risque est probablement fait.
[^] # Re: La freebox crystal n'a pas tout ipv6
Posté par Jérôme Flesch (site web personnel) . En réponse au journal free et ipv6. Évalué à 3.
Si tu t'abonnes, je ne sais pas, mais si tu l'es déjà, c'est plus problématique.
TL;DR: Si tu es déjà abonné, Free ne te changera pas ta vieille Freebox par une Freebox Mini 4K. J'ai testé. Ils te proposent uniquement les modèles plus chers.
Je suis actuellement abonné chez Free. J'ai une vieille Freebox (v4 ou v5, je ne sais plus). Elle ne supporte pas le VDSL2, mais j'y suis éligible. Il y a quelques jours, j'ai appelé la hotline. Je vous passe les difficultés pour les joindre. Quand j'ai finalement eut quelqu'un au téléphone, je leur ai demandé si ils pouvaient me changer ma vieille-Freebox-qui-pue par une Freebox compatible VDSL2. Mon interlocuteur m'a immédiatement proposé les Freebox-coincoin-super-chères dont je me fiche complètement (je n'utilise ni la télé ni le téléphone). Je lui ai dis que je veux la Freebox Mini 4K parce-que c'est la moins chère. Il m'a expliqué que "Free ne les fait plus". Ça m'a gonflé, donc je n'ai même pas pris le temps de lui demander pourquoi ils les proposent encore avec les nouveaux abonnements sur leur site.
Conclusion, je suis entrain de passer chez Sosh.
[^] # Re: Changer d'opérateur et de box ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal free et ipv6. Évalué à 3. Dernière modification le 15 septembre 2020 à 17:40.
Je pense qu'il fait référence aux marques low-cost comme Sosh (Orange) ou Red By SFR.
Par exemple, Sosh, pour avoir uniquement Internet par ADSL/VDSL, c'est 20€/mois hors promotions. Pour Red by SFR, c'est 16€/mois.
edit: bon ben j'ai été trop lent :)
[^] # Re: Tu prends le probleme a l'envers
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 6.
Je ne pense pas qu'on puisse parler de « techniques de management moderne » dans le cas de mon association. Le « management moderne », j'en ai mangé et j'en mange encore en entreprise.
Dans cette association, l'ambiance est bon enfant. Tout le management de l'association est bénévole aussi. L'association est ancienne et tout ceux que j'ai rencontré jusque là semblent savoir qu'un bon bénévole, c'est aussi précieux qu'une licorne et que donc il faut en prendre soin :-). Le seul truc où certains essayent de nous mettre la pression, c'est par rapport au bon maintien des inventaires, et c'est légitime. En résumé, c'est des gentils Bisounours, et c'est une des raisons qui fait que je m'y plais :-)
Bien entendu, je n'ai été que dans 2 antennes jusque là, donc je ne peux pas vraiment me prononcer pour l'ensemble de l'association.
Ceci dit, je suis d'accord avec toi, il faut se fixer des limites. Surtout qu'il y a des trucs plus sournois. Je reviens d'une réunion avec la direction de l'antenne, et du coup j'ai un exemple:
La direction de l'antenne est composée essentiellement de retraités. Je viens d'apprendre qu'ils ont pas mal de listes diverses (dont des listes nominatives .. ) sur ***roulement de tambour*** .. papier. Ils voudraient informatiser ça. Jusque là, rien d'anormal. Sauf qu'au fil de la discussion, je me suis rendu compte que plusieurs de ces braves retraités semblent s'imaginer que c'est moi qui vais me taper la recopie de ces listes sur ordinateur (ben oui, c'est l'informatique voyons !). Alors je les aime bien, mais sans surprise, j'ai déjà fait comprendre au président de l'antenne que ça, ce n'est pas près d'arriver.
[^] # Re: On se focalise sur l'utilisateur SVP
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 5. Dernière modification le 07 septembre 2020 à 11:29.
J'ai une anecdote amusante là-dessus :
Il y a quelques jours, je discutais avec le responsable logistique de l'antenne. Il m'expliquait qu'il aimerait plutôt une tablette pour gérer les inventaires. Personnellement, je vois l'intérêt en terme de mobilité, mais je me dis que c'est quand même pas pratique pour la saisie. Je l'aurais plutôt vu avec un ordinateur portable léger. Du coup, je décide de lui montrer quand même mon Thinkpad T440s. À peine sorti du sac, avant que je puisse dire quoique ce soit, il s'exclame immédiatement « ah ben en fait c'est exactement ça qu'il me faudrait ! » :D
[^] # Re: Tu prends le probleme a l'envers
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 4. Dernière modification le 07 septembre 2020 à 11:20.
Elle m'a bien fait rire tellement elle est à coté de la plaque en tout cas :-)
Hm OK, j'ai peut-être mal choisi mes mots et donné une mauvaise impression.
Je n'ai pas été forcé de jouer le responsable informatique (enfin si, mais non). On m'a sincèrement demandé. Autrement, je reste libre de refuser et de juste garder mes autres fonctions dans l'association, sans que qui ce soit me pénalise. De toute façon, pour une association, forcer les bénévoles à faire quelque-chose contre leur gré, c'est l'échec assuré sur le moyen et long terme.
Mais là, informatiquement, on va dans le mûr. Ça va finir par me pénaliser directement ou indirectement dans mes autres activités au sein de l'antenne (et pénaliser toute l'antenne, bien entendu). Or il faut être réaliste, on a pas le budget pour payer un professionnel. Quand bien même on l'aurait, ça ferait ça en moins dans le budget pour d'autres activités qui m'intéressent plus. Donc en un sens, m'en occuper reste un choix volontaire et égoïste de ma part. C'est juste un choix que j'aurais préféré ne pas avoir à faire.
Après, j’entends ce que tu me dis. Je ne suis pas payé pour, ça ne m'intéresse pas particulièrement, donc autant que j'y passe le moins de temps possible, quitte à faire dépenser un peu plus d'argent à l'association.
C'est une des raisons qui fait que la solution SaaS du Nextcloud+OnlyOffice chez un chaton me plaît beaucoup : Nettement moins de travail pour moi.
C'est aussi pour ça que je leur ai demandé explicitement de pouvoir faire les choses à ma sauce : Si j'utilise des logiciels avec lesquelles je suis familier (Nextcloud, Ubuntu, etc), je vais y passer beaucoup moins de temps.
Une autre façon que j'ai parfois de le dire, c'est : « si déjà je suis pas payé pour, autant que je me prenne le moins possible la tête avec tout ça » :-)
Il me reste juste à trouver le bon chaton pour nous.
[^] # Re: Et la suite ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 3.
Merci pour l'info. Je vais essayer d'y passer après le travail.
[^] # Re: Et la suite ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 3. Dernière modification le 04 septembre 2020 à 11:29.
Sauf erreur de ma part, Alsace Réseau Neutre ne propose pas d'hébergement SaaS. Ils proposent de l'hébergement VPS qui conviendrait, mais ça repose le problème de pouvoir retrouver quelqu'un qui reprendra le machin en main si je disparais.
ReflexLibre, quand je regarde la page "À propos" sur le site, j'ai l'impression que c'est juste une seule personne derrière. Ça me laisse un doute quant à leur pérennité. Et quand je regarde le coût pour un Nextcloud 50Go + 50 comptes, ils me semblent plus cher d'autres (il faut encore que je confirme ça).
[^] # Re: Tu prends le probleme a l'envers
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 8. Dernière modification le 04 septembre 2020 à 10:56.
Je vais utiliser ce service au moins autant que les autres. Je suis bénévole dans l'association depuis plus de 5 ans. Je suis chef d'équipe, et j'ai été chef d'équipe dans un autre service.
Ils m'ont demandé de m'occuper de tout ça. Personnellement, ça m'******e parce-que c'est une charge en plus pour moi, et c'est une tâche qui ne m'intéresse pas. Je ne suis pas rentré dans l'association pour faire de l'informatique, bien au contraire. Le problème, c'est que je suis le seul qui a les compétences. Donc la moindre des choses, c'est que je puisse faire les choses à ma façon.
Comme mentionné, Google Drive, au niveau départemental, certains s'en plaignent déjà.
Je ne suis pas du tout contre une solution SaaS (cf les autres commentaires). Mais quitte à mettre quelque-chose en place, autant viser quelque-chose d'aussi éthique que possible. De plus, je suis un adepte de l'approche "la meilleure solution est la plus facile à changer". Les GAFAM sont donc directement tout en bas de ma liste de de choix possibles.
[^] # Re: Et la suite ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 2. Dernière modification le 03 septembre 2020 à 16:03.
C'est pour ça que les chatons associatifs me semblent être une très bonne solution en fait. Ça leur laisserait un interlocuteur si un jour je pars. J'aurais juste aimé trouvé une association sur les environs de Strasbourg, mais rien n'est jamais parfait je suppose :/
En fait, je ne cherche pas à faire naître une conscience de l'importance des données. Je veux juste laisser la possibilité à cette prise de conscience de pouvoir se faire. Je ne veux pas que cette possibilité se fasse étouffer d'entrée de jeu par les GAFAM.
Dans tout les cas, je pars avec deux avantages:
[^] # Re: Notre retour d'expérience à WebAssoc
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 4.
Hum, elle n'est pas directement dans le collectif benevolat.fr, mais elle est sûrement liée à un des membres du collectif je suppose. Je ne suis pas clair sur ce que tu entends par « est dans celle là » en fait. En plus, n'étant pas au niveau national, je ne suis pas sûr que je sois le bon interlocuteur pour toi.
Ce que je te propose: est-ce que tu peux me contacter en privé ( jflesch@kwain.net ) s'il te plaît ? Je te donnerais le nom de l'association, et tu pourras me dire si elle est dedans ou pas :).
Le problème que je vois, c'est que "Ubuntu", tout comme "Linux", maintenant, beaucoup de gens en ont entendu parlé. Du coup, ça inquiète moins. Si je mets autre chose et que je disparais dans la nature, je crains qu'ils paniquent en se disant tout de suite que « ils savent pas faire », et qu'ils bazardent tout de suite le poste pour racheter un poste sous Windows.
Le poste de travail ne me semble pas si vieux. Une Ubuntu devrait fonctionner dessus sans problème pendant un bon moment. Une fois qu'ils seront habitués, et si la machine vieillit trop pour Ubuntu, je verrais pour mettre autre chose :)
[^] # Re: Un CHATONS ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 2.
OK, je suis un gros naze. J'ai mal lu le site de Zaclys. C'est 1€/Go/an, pas 1€/Go/mois. C'est beaucoup plus raisonnable pour nous ….. :-)
[^] # Re: Un CHATONS ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 2. Dernière modification le 03 septembre 2020 à 14:39.
OK, eux proposent des tarifs beaucoup plus adaptés pour nous. Ça semble idéal :)
edit: ah ben en fait, si je savais lire les tarifs de Zaclys correctement … :)
[^] # Re: Troisième possibilité
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 3.
C'est vrai que ça pourrait être une solution. La bande passante et la fiabilité de la connexion seraient sûrement meilleurs.
Il y a juste deux points qui me travaillent:
[^] # Re: Un CHATONS ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Logiciels libres dans une association non-informatique. Évalué à 2. Dernière modification le 03 septembre 2020 à 14:26.
Alors en fait, j'ai oublié de le mentionner, mais j'avais aussi pensé à Zaclys :)
Le principale problème que j'y vois, c'est le tarif: Si j'ai bien compris, c'est environ 1€/Go/mois. De ce que j'en ai vu, au fil des années, on va recevoir de plus en plus souvent des vidéos de formation du national --> Ça va demander de plus en plus de place, et ça risque de chiffrer.
Je vais essayer et je vais y réfléchir quand même. C'est vrai que ça serait une solution assez satisfaisante.
Par contre, tu mentionnes des défauts ? Tu penses à quoi au juste ?