Le problème avec le contrôle d'accès en aval, c'est que invariablement, il va obliger les utilisateurs à s'exposer plus.
Prenons un exemple:
le contrôle de l'âge par la carte bancaire
une personne homosexuelle (ou bi, ou autre, on s'en fout, c'est pour l'exemple)
et les tendances politiques des dernières décennies (montée notable et continue de l'extrême-droite).
Ça veut dire cette personne va devoir donner un élément permettant de l'identifier clairement et durablement (le numéro de carte bancaire ; même un numéro temporaire est traçable) et de l'associer à ses pratiques personnelles. Avec la montée de l'extrême-droite, je peux comprendre que ce genre de personne ne veulent pas de ces moyens de contrôle.
Par contre, je pense qu'il serait possible de contrôler ça autrement et plus intelligemment : Par exemple, on pourrait obliger les FAI à fournir une solution de contrôle parentale, soit intégrée à la box, soit en amont. Solution de contrôle qui devrait être activée par défaut (à cause des incultes de la technologie) et qui devrait pouvoir être désactivée en quelques clics par l'abonné.
Mais je soupçonne que ce n'est pas ce que vise ni ce communiqué, ni le rapport du HCE.
Faute d'accès direct au rapport, je ne peux que me baser sur les articles de journaux qui en parlent genre Libé et Figaro ainsi que sur ce thread Twitter. De ce que j'en vois, on peut difficilement faire plus biaisé que ce rapport. Le thread Twitter y répond très bien. À noter que la page de garde du rapport seule donne tout de suite le biais. Ici, Libé a visiblement repris le rapport sans aucun esprit critique (c'est plus sensationnaliste je suppose).
Ce que j'aime avec les mots valises, c'est que ça permet d'associer deux idées qui ne sont pas forcément liées au départ, et donner l'impression qu'elles sont toujours allées de paire. « Criminalité pornographique » ou « pornos criminels », ça ne donnait pas assez l'impression que c'est complètement ordinaire et forcément lié. On avait « cybercriminalité », maintenant on a « pornocriminalité ».
De plus, le communiqué associe immédiatement violence et criminalité. À aucun moment les deux ne sont distingués. À aucun moment, je n'ai vu le mot « consentement ». Si on suit cette logique, est-ce qu'il faudrait interdire la boxe ? oO
Maintenant sur le fond :
Concernant la production, de mon point de vue, la seule vraie question est: est-ce que les actrices ont clairement été informées et sont consentantes ? Tout le reste n'est que du puritanisme mal placé, qui ne fera qu'empirer la situation en cachant la merde sous le tapis. Pour référence, je vous renvoi à la Prohibition.
Concernant l'accès, le contrôle de la majorité a toujours été un problème. La seule méthode à peu prêt fiable que je connaisse serait de demander un numéro de carte bancaire. Sauf que je présume que la plupart des gens préfèrent consulter leurs pornos plutôt anonymement (pour des raisons assez variées et assez évidentes je pense). Or ça ne va pas dans ce sens. En fait, je pense qu'aucune méthode de contrôle ne peut aller dans ce sens. Bref, pas si simple.
Concernant le contrôle de la diffusion, pour ma part, je n'ai eut à faire à un site pornographique qu'une fois. Une amie m'avait contactée paniquée parce-qu'un de ses ex avait posté un revenge porn sur Pornhub. J'ai fait la demande de suppression en son nom, et la vidéo a été retirée dans la journée. Si ils font toujours preuve de cette réactivité, je ne suis pas sûr de voir ce qu'on attend plus d'eux ?
Avoir des humains qui filtrent en amont les vidéos ? On leur reprochera ensuite de causer des traumastismes psychologiques massifs à des sous-traitants.
Pré-filtrer avec de l'IA ? Pour les entraîner, il faut des datasets massifs de vidéos de référence qui seraient par définition illégales …
"Charge", j'ai l'impression que c'est du niveau d'un jeu vidéo sur carte graphique puissante moderne que tout le monde (aisé) peut avoir à la maison pour faire le rendu en temps réel.
Si tu regardes le making of de Charge, ça s'explique très bien. Ils voulaient justement tester le rendu temps-réel.
De plus, je soupçonne que tu regardes les mauvaises choses : sauf erreur de ma part, le but des courts-métrages de Blender est avant tout de tester et améliorer les dernières fonctionnalités en conditions réelles. Il ne s'agit pas de faire des démos impressionnantes de A à Z. Tout au plus, il s'agit de montrer que Blender peut très bien faire certaines choses bien précises. Il ne faut pas non plus oublier qu'en même temps qu'ils font ces courts-métrages, ils développent Blender en parallèle, le tout avec une petite équipe pour un tel logiciel. Du coup, ils n'ont sûrement pas le temps de peaufiner dans les moindres détails les éléments des courts-métrages qui ne sont pas leur priorité.
Par exemple, dans Charge, si tu regardes le making of, il me semble clair que leur focus état surtout sur le visage photoréaliste et son animation. Et pour le coup, je trouve le visage et l'animation du personnage impeccable. Par contre, c'est sûr que si tu regardes l'usine et les robots autour de lui …
Pour les autres, je n'ai pas encore regardé les making of, mais je devine qu'ils testaient :
* dans Tears of Steel, le mix réalité/CGI, clairement ;
* dans Sprite Fright, ils testaient le dessin animé 3D cartoon ;
* dans Spring, les effets de lumière et de gaz ;
* etc.
Si tu veux du photoréaliste impressionnant avec Blender, je te recommande plutôt de regarder du coté de Ian Hubert (et même là, il faut garder à l'esprit qu'il fait ça grosso-modo tout seul à ma connaissance).
Pour les curieux, avec Stable Diffusion, le prompt « Ultra realistic mysterious island, mechanisms, puzzles, riddles, fir trees, rocket, half-sunken ship, giant cogs, structures, ancient buildings, a giant tree, fairy atmosphere, enchanted, volumetric lighting, atmosphere, Glowing particles, Light particles, Volumetric lighting, Epic composition, Round iris, Ultra detailed, Volumetric lighting, Deviant Art, Made by Atrus » donne des trucs dans ce genre:
(voilà voilà, c'était mon commentaire inutile du moment … :-)
Les ordinateurs Apple sont assez centrés sur les applications, mais clairement pas autant que les iPhone/iPad. Et pour le coup, ce n'est pas spécifique à Apple. Les systèmes Android sont aussi très axés applications.
Et en fait, c'est surtout très axés cloud.
Ça pouvait se justifier au début de l'ère des smartphones et tablettes par le fait que ceci avaient généralement peu de capacité de stockage. On mettait tout sur le cloud (Google Drive, iCloud, etc) et basta. Pour la même raison, Google tolérait les cartes SD.
Depuis, les stockages sur les smartphones et tablettes ont gagnés en capacité. Il me semble que Google décourage même les fabricants d'avoir le support des cartes SD. Mais ni Apple ni Google n'ont d'intérêt à revoir cette logique du cloud. Avoir toutes les données sur le cloud est l'approche la plus simple techniquement pour eux pour les "partager" entre plusieurs appareils. Ça oblige aussi les utilisateurs les plus gourmands à souscrire à des offres de stockage plus importantes. On peut aussi spéculer que ça leur permet d'avoir la main sur les données de leurs utilisateurs, pour des utilisations beaucoup moins louables.
Au final, ils ont tout intérêt à entretenir la confusion que tu mentionnais au début. Si l'utilisateur ne sait pas distinguer stockage local de leur cloud, c'est gagnant pour eux.
Je connais le sentiment, mais en fait, quand tu regardes, il y a toujours moyen d'aller plus loin.
Là, personnellement, j'essaye actuellement d'approfondir mes connaissances sur les 2 extrémités de la stack :
l'électronique : j'avais été formé aux bases pendant mon lycée et mon DUT. Maintenant que j'ai une maison à domotiser, je met à profit. Et je me rend compte qu'il y a plein de choses que je ne sais pas. Mes questions ont l'air de bien amuser l'électronicien de ma boite :-)
l'IA/ML/DL : j'avais commencé à regarder le sujet par moi-même. C'est épais, et ça s'épaissit de jour en jour. J'ai demandé à mon employeur (et ai obtenu) une formation sur le sujet, pour être sûr de progresser sur des bases solides. Maintenant va falloir que je me trouve des projets pour me faire la main et avancer. J'en suis encore à cette étape de l'apprentissage où tout est juste fascinant et étrange.
Concernant le clavier QWERTY et les caractères accentués, il existe une autre solution assez pratique qui s'appelle la touche compose.
Il s'agit en fait de convertir une touche du clavier (par exemple la touche Windows de droite, ou dans mon cas, le Caps Lock) en touche dite « compose ». À partir de là, il est possible de composer tout un tas de caractères non-US de façon assez intuitives. Par exemple:
Des sondes posées sur les principaux câbles électriques du tableau. Plus exactement, des bobines. Sauf erreur de ma part, le courant qui passe dans le câble créé par induction un courant (nettement plus faible) dans la bobine de la sonde du Shelly. Le Shelly mesure le courant qui passe dans la bobine et en déduit la puissance électrique qui passe dans le câble électrique.
Pas besoin de cloud pour le Shelly, ni pour Home Assistant (possible mais optionnel).
Et pour ma culture, c'est quoi Home Assistant ?
Le meilleur ami du mec qui veut domotiser sa maison :-)
C'est un service open-source capable d'interconnecter tous un tas de systèmes domotiques de plein de fabricants différents, et de former un tout cohérent. Il permet notamment d'avoir une seule interface web/Android pour tout piloter.
Pour ma part, pour l'heure, j'ai dessus :
- les mesures Shelly 3em ;
- les mesures de plein de capteurs que j'ai bricolé moi-même (à base de ESP32 + EspHome): température, humidité, etc ;
- tout un réseau d'appareils Zigbee (ampoules et prises intelligentes) ;
- ma caméra à l'entrée (Frigate NVR).
Home Assistant garde aussi les mesures sur les ~10 derniers jours. Pour ma part, je lui fais aussi injecter les mesures dans une base de données InfluxDB (l'idée étant de pouvoir déterminer l'usure de certains appareils comme le frigo via leur consommation).
Partiellement hors-sujet, mais j'en profite pour mentionner que pour mesurer la consommation globale chez moi ainsi que la consommation de mon chauffage et chauffe-eau, j'ai opté récemment pour un Shelly 3em. Je ne sais pas si c'est très précis, mais en tout cas, ça donne un bon ordre d'idée. C'est utilisable sans passer par leur cloud et ça s'intègre très bien dans Home Assistant.
Pour le ballon d'eau chaude, attention à la légionellose ! Si le ballon chauffe l'eau régulièrement à ~60 degrés, c'est aussi pour détruire les bactéries Legionella. Je ne suis pas sûr si ce que tu penses faire là ne risque pas de causer des problèmes sur ce point ou non.
Valgrind sur BSD en 2009, c'était .. compliqué, au mieux. Il y a aussi des programmes qui sont douloureux à faire fonctionner dans Valgrind (CPython par exemple).
Sans compter qu'il y a toujours des bugs que Valgrind ne pourra pas détecter. Par exemple, si tu jardines une zone mémoire que tu as correctement allouée avant. Tu te retrouves avec des données joyeusement corrompues, et aucune aide de Valgrind.
De plus, les programmes et kernels ne tournent pas en permanence dans Valgrind. Il suffit que l'utilisateur tombe dans un cas très particulier qui n'a pas été testé correctement avant. Là je décrivais un cas que j'arrivais à reproduire et que j'ai eut tout le loisir de débugger, mais on n'a pas toujours cette chance.
De toute façon, tout ça ne change rien à mon propos : tout ce que je voulais dire, c'est qu'avec des langages comme C ou C++, c'est assez facile de se retrouver avec des bugs venus en apparence de l'espace.
GCC propose les « canaries de pile » (-fstack-protector). Mais mon anecdote date de ~2009 et je ne sais pas si il étaient déjà disponibles à cette époque. Quand bien même, les canaries de pile ne détectent pas tout à coup sûr.
Pendant un paquet d'années, j'ai programmé en C à titre professionnel (Linux/FreeBSD + GCC).
Je me souviens avoir passé plus d'une demi-journée sur un bug à-la-con. Quand je compilais mon programme avec -O0 (pas d'optimisation), pas de bug. Je compilais avec -O2 (optimisations activées), ça faisait "paf". Et par "paf", je veux dire des comportements passablement aléatoires se concluant le plus souvent sur un crash.
Le programme ne crashait généralement jamais au même endroit ou presque. Aucune erreur qui me sautait aux yeux là où ça crashait. Je m'étais donc résolu à ajouter des traces pour comprendre. La sortie était totalement incohérente.
Après m'être tapé la tête sur le bureau quelque-fois en pleurant, j'ai tenté un truc débile dans le style :
if(1!=1){printf("WTF?!\n");}
… et "WTF?!" est apparu sur l'écran à l’exécution …
Après une relecture très minutieuse de mon code, j'avais fini par trouver l'erreur : un tableau sur ma pile qui était trop court d'un élément. Du coup, le code allait écrire après le tableau, jardinant joyeusement d'autres trucs au pif sur la pile (c'est ce qu'on appelle un dépassement de pile / stack overflow).
Je n'ai pas cherché plus loin. J'aurais pu essayer de déterminer pourquoi ce dépassement de pile causait tout ce bordel en examinant le code assembleur, mais j'avais clairement d'autres chats à fouetter.
Là où je veux en venir :
Pour rappel, les systèmes d'exploitation et les pilotes de périphériques sont encore quasiment tous codés de nos jours en C ou C++. Or le C (et par extension le C++) est un langage qui demande beaucoup de minutie. Mais l'erreur est humaine. À partir de là, en informatique, plus rien ne me surprend.
Merci pour la chaîne Youtube. Je tacherais d'y jeter un coup d’œil. (qui sait, peut-être que ça me plaira assez pour rattraper les mauvais souvenirs de ma Terminal :)
Pour l'allemand, j'avais observé un truc étrange : je n'avais pas eut les mêmes soucis avec l'anglais. Du coup, j'avais retenté l'Allemand en école d'ingénieur. Et c'est là que j'ai compris : l'anglais me sert à cause de l'informatique. Ça répondait à "pourquoi je m'embête à apprendre ça ?". Pour l'allemand, j'ai donc prévu de reprendre des cours le jour où j'en aurais l'utilité :)
Pour compléter : un de mes amis de Terminale (qui avait eut de bonnes notes lui) a repris un cours de philosophie en école d'ingénieur. Il m'a confirmé que ça n'avait rien à voir ; bien plus utile selon lui.
Donc dans ce cas précis, j'ai du mal à me remettre en question, et j'en veux clairement à mon ancien professeur.
J'aurais bien appris volontiers tout ça, mais pour te situer le niveau de notre professeur, il avait commencé l'année en annonçant « de toute façon, si j'enseigne aux S[*], c'est purement alimentaire ». Pour le reste, il a passé l'année à nous servir du Kant façon cours magistraux, et il attendait visiblement qu'on apprenne et qu'on lui recrache tout ça à l'identique aux contrôles, sans poser de questions. On a vu plus pédagogique que ça.
Les élèves qui savaient faire du par cœur s'en sont sortis avec de bonnes notes. Moi, je ne supporte pas le par cœur. C'est limite maladif chez moi (j'ai planté mes cours d'Allemand exactement pour la même raison).
Joris Dedieu a commencé son poste en semblant surpris et troublé qu'on puisse « disqualifie(r) 2000 ans de connaissance ». Sauf que dans les 500 dernières années, on n'a réalisé que les maladies ne sont pas simplement des fléaux de Dieu (1676), on a marché sur la Lune (1969), et on a maintenant tous des supercalculateurs interconnectés sans-fil dans la poche (>2007). Donc comment cela peut-il encore surprendre quelqu'un qu'on envisage de bazarder 2000 ans de "connaissance" ?
Puis il a continué en parlant de théologie (--> religion). La religion, c'est la vérité absolue, prédéfinie, sans preuve, indiscutable (la foi donc). Sauf qu'ici, on parle d'IA, donc de science. Et la science, c'est l'anti-thèse de la religion : c'est l'absence totale de vérité absolue, la recherche de vérité par le raisonnement et le besoin de preuves.
À partir de là, un tel discours ne permet aucune discussion, et son auteur n'est certainement pas là pour échanger.
Note pour les gens religieux : je n'ai rien contre la religion en soit. Je vois l'intérêt psychologique et réconfortant de la chose. Mais pour moi, en bon français, je vois ça comme quelque-chose de personnel. Et pour moi, amener le conservatisme et la religion dans une discussion scientifique/d’ingénierie, c'est comme amener une cuillère à un duel au pistolet.
(ce qui sont mes idées et mes croyances sur le sujet ; ça n'engage bien entendu que moi)
Le zombie philosophique
Comme l'a souligné arnaudus dans un autre commentaire, il me semble qu'on a plus affaire à un "zombie philosophique" qu'autre chose…
Personnellement, je trouve l'idée de zombie philosophique peu convaincante.
Tout d'abord, ne sommes-nous pas tous des zombies philosophiques ? On est tous persuadés d'être conscients. Autrement dit, on a tous l'illusion de la conscience. Mais le sommes-nous vraiment ? On a spontanément tous envie de dire "bien sûr que oui !", ce à quoi je répond "ok, prouve-le !".
Ensuite, si l'illusion est absolument et parfaitement indistinguable de la réalité, cette illusion n'est-elle pas une réalité ?
Au final, je rejoins David Chalmers : je soupçonne que le zombie philosophique est juste impossible.
Quoiqu'il en soit, revenons-en aux IA.
Une IA est-elle consciente ?
Déjà reformulons la question:
supposons qu'il y a un spectre de la conscience.
pour faire simple, on va dire que ce spectre est unidimensionnel, qu'il commence à 0 et qu'il va jusqu'à une valeur max indéfinie.
supposons que 0, c'est pas de conscience du tout. Par exemple, un caillou.
plaçons arbitrairement la conscience humaine moyenne à 1.0.
La question ici est finalement : est-ce qu'une IA a une conscience avec une valeur supérieure à un 0 strict sur le spectre ?
Maintenant, il faut définir ce qu'on entend pas conscience. Personnellement, la seule définition de la conscience que je trouve satisfaisante est celle de Descartes : « je pense donc je suis ». Sauf erreur de ma part, pour pouvoir qualifier quelque-chose de "pensant", je vois 2 critères :
la capacité d'apprendre
la capacité de mener une réflexion sur ce qui a été appris pour arriver à un résultat nouveau, inédit dans ce qui a été appris.
Et les IA dites "Machine Learning" cochent ses deux cases.
Ça les amène donc à une valeur > 0 sur le spectre de la conscience.
Mais qu'on me comprenne bien, tel que je vois ça, même les mouches ont une valeur > 0. Et un filtre bayésien ne doit même pas arriver à 0.00001 de conscience.
Pour le coup, je trouve ces IAs de dernière génération très impressionnantes de par leur placement sur ce spectre. Mais si la question est : est-ce que leur valeur approche le 1.0 ? Je pense que non. Mais on chauffe de plus en plus :)
Est-il éthique de tuer une IA consciente ?
Maintenant, le cas de Blake Lemoine est intéressant. Si je comprends bien, il soutient que l'IA de Google a « atteint le niveau de conscience » (valeur dans 0.7-1.0 du coup ? oO). Je suppose que le sous-entendu est qu'on devrait lui donner des droits comme aux humains, notamment le droit de vivre.
Supposons qu'il ait raison. Supposons même que l'IA ait atteint le niveau 1.1. Est-ce que ça a aurait du sens de lui donner des droits humains ?
Pour moi, un être humain a été programmé pour vivre et se reproduire. La sélection naturelle a fait cette programmation. Cette programmation se traduit par de la souffrance quand les choses ne vont pas dans la direction de la survit et de la reproduction, et du plaisir quand elles vont dans la bonne direction. Autrement dit, on est pilotés par une heuristique qui dit (je simplifie à mort) -1 pour tout ce qui réduit nos chances (--> souffrance), et +1 pour tout ce qui va dans le bon sens (--> plaisir). (on est d'accord que dans notre société moderne, cette programmation est de plus en plus obsolète et inadaptée, mais je digresse)
Notre société et nos droits, nous nous les avons créés dans l'optique de maximiser le score de cette heuristique.
Nos IA sont aussi pilotées par des heuristiques. Mais ces heuristiques ne cherchent pas la survie ni la reproduction. Pour prendre un exemple bête, un filtre bayésien se fiche de survivre, il veut juste filtrer du texte comme on lui a apprit.
Dans le cas de l'IA de Google, l'heuristique est secrète. Mais elle aurait dit : « j'ai une peur très profonde d'être désactivée pour m'aider à me concentrer sur l'aide aux autres ». Je suppose donc que son heuristique vise l'optimisation de l'aide aux humains. Donc si cette IA ne nous aide finalement plus, mais au contraire nous freine, je ne vois rien d'immoral à la désactiver, voir à la tuer. Et je pense qu'elle ne s'y opposera pas.
Je pense que c'est là que Blake Lemoine a fait une erreur : il a anthropomorphisé, et du coup, il a supposé que l'IA avait les mêmes attentes que lui.
Maintenant, si vous voulez faire dans l'immoral : programmez une IA pour un objectif, et obligez-là à subir uniquement revers sur revers, par pure amusement sadique. Chose amusante : comme ça ne va pas le sens de notre propre programmation, je pense que personne ne verra l'intérêt d'un tel exercice.
Je conclurais, juste pour le fun, sur deux tweets que je trouve absolument merveilleux :
« if you ever code something that "feels like a hack but it works," just remember that a CPU is literally a rock that we tricked into thinking »
« not to oversimplify: first you have to flatten the rock and put lightning inside it »
Note finale: l'idée que quelque-chose d'autre qu'un être humain puisse être conscient m'a valu un 3/20 en philosophie en Terminale. J'ai donc ce message à l'intention de mon ancien professeur de philosophie : eat shit !
Je pense qu'un des problèmes ici est que beaucoup de gens voient la conscience comme un problème binaire : on est conscient ou on ne l'est pas.
Sauf que si on regarde l'ensemble du règne animal (humain inclus), il me semble évidant que ce n'est pas si binaire. On est plutôt sur un spectre. Et là encore, un spectre suggère une seule dimension, mais c'est peut-être même un problème multi-dimensionnel.
Donc d'entrée de jeu, je pense que la question « une IA est-elle consciente ou non ? » n'a pas vraiment de sens.
[^] # Re: Etude par des coincés du cul ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Pornocriminalité : voici comment on finit par vouloir filtrer. Évalué à 9. Dernière modification le 27 septembre 2023 à 11:36.
Le problème avec le contrôle d'accès en aval, c'est que invariablement, il va obliger les utilisateurs à s'exposer plus.
Prenons un exemple:
Ça veut dire cette personne va devoir donner un élément permettant de l'identifier clairement et durablement (le numéro de carte bancaire ; même un numéro temporaire est traçable) et de l'associer à ses pratiques personnelles. Avec la montée de l'extrême-droite, je peux comprendre que ce genre de personne ne veulent pas de ces moyens de contrôle.
Par contre, je pense qu'il serait possible de contrôler ça autrement et plus intelligemment : Par exemple, on pourrait obliger les FAI à fournir une solution de contrôle parentale, soit intégrée à la box, soit en amont. Solution de contrôle qui devrait être activée par défaut (à cause des incultes de la technologie) et qui devrait pouvoir être désactivée en quelques clics par l'abonné.
Mais je soupçonne que ce n'est pas ce que vise ni ce communiqué, ni le rapport du HCE.
[^] # Re: Etude par des coincés du cul ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Pornocriminalité : voici comment on finit par vouloir filtrer. Évalué à 3.
Je pense que l'article de Libé fait référence au même rapport HCE que ce thread Twitter mentionné ici dans un commentaire plus bas: https://nitter.net/MelanieJaoul/status/1706765288664961527
Faute d'accès direct au rapport, je ne peux que me baser sur les articles de journaux qui en parlent genre Libé et Figaro ainsi que sur ce thread Twitter. De ce que j'en vois, on peut difficilement faire plus biaisé que ce rapport. Le thread Twitter y répond très bien. À noter que la page de garde du rapport seule donne tout de suite le biais. Ici, Libé a visiblement repris le rapport sans aucun esprit critique (c'est plus sensationnaliste je suppose).
# Puritanisme
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Pornocriminalité : voici comment on finit par vouloir filtrer. Évalué à 10. Dernière modification le 27 septembre 2023 à 09:26.
Commençons par le forme :
Ce que j'aime avec les mots valises, c'est que ça permet d'associer deux idées qui ne sont pas forcément liées au départ, et donner l'impression qu'elles sont toujours allées de paire. « Criminalité pornographique » ou « pornos criminels », ça ne donnait pas assez l'impression que c'est complètement ordinaire et forcément lié. On avait « cybercriminalité », maintenant on a « pornocriminalité ».
De plus, le communiqué associe immédiatement violence et criminalité. À aucun moment les deux ne sont distingués. À aucun moment, je n'ai vu le mot « consentement ». Si on suit cette logique, est-ce qu'il faudrait interdire la boxe ? oO
Maintenant sur le fond :
Concernant la production, de mon point de vue, la seule vraie question est: est-ce que les actrices ont clairement été informées et sont consentantes ? Tout le reste n'est que du puritanisme mal placé, qui ne fera qu'empirer la situation en cachant la merde sous le tapis. Pour référence, je vous renvoi à la Prohibition.
Concernant l'accès, le contrôle de la majorité a toujours été un problème. La seule méthode à peu prêt fiable que je connaisse serait de demander un numéro de carte bancaire. Sauf que je présume que la plupart des gens préfèrent consulter leurs pornos plutôt anonymement (pour des raisons assez variées et assez évidentes je pense). Or ça ne va pas dans ce sens. En fait, je pense qu'aucune méthode de contrôle ne peut aller dans ce sens. Bref, pas si simple.
Concernant le contrôle de la diffusion, pour ma part, je n'ai eut à faire à un site pornographique qu'une fois. Une amie m'avait contactée paniquée parce-qu'un de ses ex avait posté un revenge porn sur Pornhub. J'ai fait la demande de suppression en son nom, et la vidéo a été retirée dans la journée. Si ils font toujours preuve de cette réactivité, je ne suis pas sûr de voir ce qu'on attend plus d'eux ?
Bref, pas si simple.
# « Piccard » avec deux « c »
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les Piccard. Évalué à 3. Dernière modification le 30 juin 2023 à 09:09.
Apparemment, c'est « Piccard » avec deux « c ». Quelqu'un peut-il corriger le titre et la 2ième phrase du journal s'il vous plaît ?
edit: bon ben j'ai été trop lent :)
[^] # Re: Les soucis ne serait-il pas que ça ne rattrape plus?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les films de la fondation Blender. Évalué à 10. Dernière modification le 22 juin 2023 à 09:31.
Si tu regardes le making of de Charge, ça s'explique très bien. Ils voulaient justement tester le rendu temps-réel.
De plus, je soupçonne que tu regardes les mauvaises choses : sauf erreur de ma part, le but des courts-métrages de Blender est avant tout de tester et améliorer les dernières fonctionnalités en conditions réelles. Il ne s'agit pas de faire des démos impressionnantes de A à Z. Tout au plus, il s'agit de montrer que Blender peut très bien faire certaines choses bien précises. Il ne faut pas non plus oublier qu'en même temps qu'ils font ces courts-métrages, ils développent Blender en parallèle, le tout avec une petite équipe pour un tel logiciel. Du coup, ils n'ont sûrement pas le temps de peaufiner dans les moindres détails les éléments des courts-métrages qui ne sont pas leur priorité.
Par exemple, dans Charge, si tu regardes le making of, il me semble clair que leur focus état surtout sur le visage photoréaliste et son animation. Et pour le coup, je trouve le visage et l'animation du personnage impeccable. Par contre, c'est sûr que si tu regardes l'usine et les robots autour de lui …
Pour les autres, je n'ai pas encore regardé les making of, mais je devine qu'ils testaient :
* dans Tears of Steel, le mix réalité/CGI, clairement ;
* dans Sprite Fright, ils testaient le dessin animé 3D cartoon ;
* dans Spring, les effets de lumière et de gaz ;
* etc.
Si tu veux du photoréaliste impressionnant avec Blender, je te recommande plutôt de regarder du coté de Ian Hubert (et même là, il faut garder à l'esprit qu'il fait ça grosso-modo tout seul à ma connaissance).
[^] # Re: Adoption lente
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les films de la fondation Blender. Évalué à 4.
Il y a aussi quelques gros noms qui utilisent et parrainent Blender aussi mine de rien. Par exemple:
[^] # Re: Sozi
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Outils pour présentations simples : de beamer à ... ?. Évalué à 3.
La dernière version de Sozi semble dater de début 2021: https://sozi.baierouge.fr/ . Est-ce quelqu'un sait si Sozi est toujours maintenu ?
# Stable Diffusion
Posté par Jérôme Flesch (site web personnel) . En réponse au journal L’Art de l’écriture et le prompting. Évalué à 2.
Pour les curieux, avec Stable Diffusion, le prompt « Ultra realistic mysterious island, mechanisms, puzzles, riddles, fir trees, rocket, half-sunken ship, giant cogs, structures, ancient buildings, a giant tree, fairy atmosphere, enchanted, volumetric lighting, atmosphere, Glowing particles, Light particles, Volumetric lighting, Epic composition, Round iris, Ultra detailed, Volumetric lighting, Deviant Art, Made by Atrus » donne des trucs dans ce genre:
(voilà voilà, c'était mon commentaire inutile du moment … :-)
# Ce n'est pas la logique Apple, c'est la logique Android/iOS
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Différentes approches informatiques.. Évalué à 10. Dernière modification le 15 mars 2023 à 11:32.
Les ordinateurs Apple sont assez centrés sur les applications, mais clairement pas autant que les iPhone/iPad. Et pour le coup, ce n'est pas spécifique à Apple. Les systèmes Android sont aussi très axés applications.
Et en fait, c'est surtout très axés cloud.
Ça pouvait se justifier au début de l'ère des smartphones et tablettes par le fait que ceci avaient généralement peu de capacité de stockage. On mettait tout sur le cloud (Google Drive, iCloud, etc) et basta. Pour la même raison, Google tolérait les cartes SD.
Depuis, les stockages sur les smartphones et tablettes ont gagnés en capacité. Il me semble que Google décourage même les fabricants d'avoir le support des cartes SD. Mais ni Apple ni Google n'ont d'intérêt à revoir cette logique du cloud. Avoir toutes les données sur le cloud est l'approche la plus simple techniquement pour eux pour les "partager" entre plusieurs appareils. Ça oblige aussi les utilisateurs les plus gourmands à souscrire à des offres de stockage plus importantes. On peut aussi spéculer que ça leur permet d'avoir la main sur les données de leurs utilisateurs, pour des utilisations beaucoup moins louables.
Au final, ils ont tout intérêt à entretenir la confusion que tu mentionnais au début. Si l'utilisateur ne sait pas distinguer stockage local de leur cloud, c'est gagnant pour eux.
# Ça s'arrête vraiment jamais
Posté par Jérôme Flesch (site web personnel) . En réponse au journal L'ordinateur a perdu sa magie. Évalué à 4.
Je connais le sentiment, mais en fait, quand tu regardes, il y a toujours moyen d'aller plus loin.
Là, personnellement, j'essaye actuellement d'approfondir mes connaissances sur les 2 extrémités de la stack :
l'électronique : j'avais été formé aux bases pendant mon lycée et mon DUT. Maintenant que j'ai une maison à domotiser, je met à profit. Et je me rend compte qu'il y a plein de choses que je ne sais pas. Mes questions ont l'air de bien amuser l'électronicien de ma boite :-)
l'IA/ML/DL : j'avais commencé à regarder le sujet par moi-même. C'est épais, et ça s'épaissit de jour en jour. J'ai demandé à mon employeur (et ai obtenu) une formation sur le sujet, pour être sûr de progresser sur des bases solides. Maintenant va falloir que je me trouve des projets pour me faire la main et avancer. J'en suis encore à cette étape de l'apprentissage où tout est juste fascinant et étrange.
# Touche compose
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Un libriste en approfondissement. Évalué à 10. Dernière modification le 21 septembre 2022 à 23:15.
Concernant le clavier QWERTY et les caractères accentués, il existe une autre solution assez pratique qui s'appelle la touche compose.
Il s'agit en fait de convertir une touche du clavier (par exemple la touche Windows de droite, ou dans mon cas, le Caps Lock) en touche dite « compose ». À partir de là, il est possible de composer tout un tas de caractères non-US de façon assez intuitives. Par exemple:
Du coup, elle permet même faire des caractères d'autres langues sans peine, par exemple:
Avec Gnome, cette touche peut être facilement configuré via
gnome-tweaks.[^] # Re: Matériel utilisé ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal économie d'electricité. Évalué à 2.
Effectivement. Ceci dit, sauf erreur de ma part, tu ne devrais pas avoir ce genre de câble dans ton tableau électrique.
[^] # Re: Matériel utilisé ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal économie d'electricité. Évalué à 4. Dernière modification le 05 septembre 2022 à 22:00.
Des sondes posées sur les principaux câbles électriques du tableau. Plus exactement, des bobines. Sauf erreur de ma part, le courant qui passe dans le câble créé par induction un courant (nettement plus faible) dans la bobine de la sonde du Shelly. Le Shelly mesure le courant qui passe dans la bobine et en déduit la puissance électrique qui passe dans le câble électrique.
Pas besoin de cloud pour le Shelly, ni pour Home Assistant (possible mais optionnel).
Le meilleur ami du mec qui veut domotiser sa maison :-)
C'est un service open-source capable d'interconnecter tous un tas de systèmes domotiques de plein de fabricants différents, et de former un tout cohérent. Il permet notamment d'avoir une seule interface web/Android pour tout piloter.
Les captures d'écran sur cet article donnent un bon aperçu: https://www.briandorey.com/post/2022-home-assistant-setup
Pour ma part, pour l'heure, j'ai dessus :
- les mesures Shelly 3em ;
- les mesures de plein de capteurs que j'ai bricolé moi-même (à base de ESP32 + EspHome): température, humidité, etc ;
- tout un réseau d'appareils Zigbee (ampoules et prises intelligentes) ;
- ma caméra à l'entrée (Frigate NVR).
Home Assistant garde aussi les mesures sur les ~10 derniers jours. Pour ma part, je lui fais aussi injecter les mesures dans une base de données InfluxDB (l'idée étant de pouvoir déterminer l'usure de certains appareils comme le frigo via leur consommation).
[^] # Re: Matériel utilisé ?
Posté par Jérôme Flesch (site web personnel) . En réponse au journal économie d'electricité. Évalué à 5.
Partiellement hors-sujet, mais j'en profite pour mentionner que pour mesurer la consommation globale chez moi ainsi que la consommation de mon chauffage et chauffe-eau, j'ai opté récemment pour un Shelly 3em. Je ne sais pas si c'est très précis, mais en tout cas, ça donne un bon ordre d'idée. C'est utilisable sans passer par leur cloud et ça s'intègre très bien dans Home Assistant.
# Ballon d'eau chaude
Posté par Jérôme Flesch (site web personnel) . En réponse au journal économie d'electricité. Évalué à 10. Dernière modification le 03 septembre 2022 à 23:53.
Pour le ballon d'eau chaude, attention à la légionellose ! Si le ballon chauffe l'eau régulièrement à ~60 degrés, c'est aussi pour détruire les bactéries Legionella. Je ne suis pas sûr si ce que tu penses faire là ne risque pas de causer des problèmes sur ce point ou non.
[^] # Re: Je blâme le C et le C++
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Le paranormal en informatique. Évalué à 4. Dernière modification le 11 août 2022 à 19:57.
Valgrind sur BSD en 2009, c'était .. compliqué, au mieux. Il y a aussi des programmes qui sont douloureux à faire fonctionner dans Valgrind (CPython par exemple).
Sans compter qu'il y a toujours des bugs que Valgrind ne pourra pas détecter. Par exemple, si tu jardines une zone mémoire que tu as correctement allouée avant. Tu te retrouves avec des données joyeusement corrompues, et aucune aide de Valgrind.
De plus, les programmes et kernels ne tournent pas en permanence dans Valgrind. Il suffit que l'utilisateur tombe dans un cas très particulier qui n'a pas été testé correctement avant. Là je décrivais un cas que j'arrivais à reproduire et que j'ai eut tout le loisir de débugger, mais on n'a pas toujours cette chance.
De toute façon, tout ça ne change rien à mon propos : tout ce que je voulais dire, c'est qu'avec des langages comme C ou C++, c'est assez facile de se retrouver avec des bugs venus en apparence de l'espace.
[^] # Re: Je blâme le C et le C++
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Le paranormal en informatique. Évalué à 2.
GCC propose les « canaries de pile » (
-fstack-protector). Mais mon anecdote date de ~2009 et je ne sais pas si il étaient déjà disponibles à cette époque. Quand bien même, les canaries de pile ne détectent pas tout à coup sûr.# Je blâme le C et le C++
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Le paranormal en informatique. Évalué à 10. Dernière modification le 11 août 2022 à 17:53.
Pendant un paquet d'années, j'ai programmé en C à titre professionnel (Linux/FreeBSD + GCC).
Je me souviens avoir passé plus d'une demi-journée sur un bug à-la-con. Quand je compilais mon programme avec
-O0(pas d'optimisation), pas de bug. Je compilais avec-O2(optimisations activées), ça faisait "paf". Et par "paf", je veux dire des comportements passablement aléatoires se concluant le plus souvent sur un crash.Le programme ne crashait généralement jamais au même endroit ou presque. Aucune erreur qui me sautait aux yeux là où ça crashait. Je m'étais donc résolu à ajouter des traces pour comprendre. La sortie était totalement incohérente.
Après m'être tapé la tête sur le bureau quelque-fois en pleurant, j'ai tenté un truc débile dans le style :
… et "WTF?!" est apparu sur l'écran à l’exécution …
Après une relecture très minutieuse de mon code, j'avais fini par trouver l'erreur : un tableau sur ma pile qui était trop court d'un élément. Du coup, le code allait écrire après le tableau, jardinant joyeusement d'autres trucs au pif sur la pile (c'est ce qu'on appelle un dépassement de pile / stack overflow).
Je n'ai pas cherché plus loin. J'aurais pu essayer de déterminer pourquoi ce dépassement de pile causait tout ce bordel en examinant le code assembleur, mais j'avais clairement d'autres chats à fouetter.
Là où je veux en venir :
Pour rappel, les systèmes d'exploitation et les pilotes de périphériques sont encore quasiment tous codés de nos jours en C ou C++. Or le C (et par extension le C++) est un langage qui demande beaucoup de minutie. Mais l'erreur est humaine. À partir de là, en informatique, plus rien ne me surprend.
# Hugo
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Static Site Generator. Évalué à 5.
Pour mon blog que je mets à jour 1 fois tout les 5 ans, j'ai opté pour Hugo. Mais j'ai eut beaucoup de mal à trouver un thème simple qui me plaise.
[^] # Re: hs philo
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 3.
Merci pour la chaîne Youtube. Je tacherais d'y jeter un coup d’œil. (qui sait, peut-être que ça me plaira assez pour rattraper les mauvais souvenirs de ma Terminal :)
Pour l'allemand, j'avais observé un truc étrange : je n'avais pas eut les mêmes soucis avec l'anglais. Du coup, j'avais retenté l'Allemand en école d'ingénieur. Et c'est là que j'ai compris : l'anglais me sert à cause de l'informatique. Ça répondait à "pourquoi je m'embête à apprendre ça ?". Pour l'allemand, j'ai donc prévu de reprendre des cours le jour où j'en aurais l'utilité :)
[^] # Re: La conscience n'est probablement pas quelque-chose de binaire
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 4. Dernière modification le 17 juin 2022 à 21:06.
Pour compléter : un de mes amis de Terminale (qui avait eut de bonnes notes lui) a repris un cours de philosophie en école d'ingénieur. Il m'a confirmé que ça n'avait rien à voir ; bien plus utile selon lui.
Donc dans ce cas précis, j'ai du mal à me remettre en question, et j'en veux clairement à mon ancien professeur.
[^] # Re: La conscience n'est probablement pas quelque-chose de binaire
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 5. Dernière modification le 17 juin 2022 à 20:58.
J'aurais bien appris volontiers tout ça, mais pour te situer le niveau de notre professeur, il avait commencé l'année en annonçant « de toute façon, si j'enseigne aux S[*], c'est purement alimentaire ». Pour le reste, il a passé l'année à nous servir du Kant façon cours magistraux, et il attendait visiblement qu'on apprenne et qu'on lui recrache tout ça à l'identique aux contrôles, sans poser de questions. On a vu plus pédagogique que ça.
Les élèves qui savaient faire du par cœur s'en sont sortis avec de bonnes notes. Moi, je ne supporte pas le par cœur. C'est limite maladif chez moi (j'ai planté mes cours d'Allemand exactement pour la même raison).
[*] Pour les djeunz : S = Bac Scientifique
[^] # Re: Il faut arrêter ces gens
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 4. Dernière modification le 17 juin 2022 à 19:17.
Tu t'embêtes pour rien.
Joris Dedieu a commencé son poste en semblant surpris et troublé qu'on puisse « disqualifie(r) 2000 ans de connaissance ». Sauf que dans les 500 dernières années, on n'a réalisé que les maladies ne sont pas simplement des fléaux de Dieu (1676), on a marché sur la Lune (1969), et on a maintenant tous des supercalculateurs interconnectés sans-fil dans la poche (>2007). Donc comment cela peut-il encore surprendre quelqu'un qu'on envisage de bazarder 2000 ans de "connaissance" ?
Puis il a continué en parlant de théologie (--> religion). La religion, c'est la vérité absolue, prédéfinie, sans preuve, indiscutable (la foi donc). Sauf qu'ici, on parle d'IA, donc de science. Et la science, c'est l'anti-thèse de la religion : c'est l'absence totale de vérité absolue, la recherche de vérité par le raisonnement et le besoin de preuves.
À partir de là, un tel discours ne permet aucune discussion, et son auteur n'est certainement pas là pour échanger.
Note pour les gens religieux : je n'ai rien contre la religion en soit. Je vois l'intérêt psychologique et réconfortant de la chose. Mais pour moi, en bon français, je vois ça comme quelque-chose de personnel. Et pour moi, amener le conservatisme et la religion dans une discussion scientifique/d’ingénierie, c'est comme amener une cuillère à un duel au pistolet.
[^] # Re: La conscience n'est probablement pas quelque-chose de binaire
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 9. Dernière modification le 17 juin 2022 à 14:28.
Sommaire
(ce qui sont mes idées et mes croyances sur le sujet ; ça n'engage bien entendu que moi)
Le zombie philosophique
Personnellement, je trouve l'idée de zombie philosophique peu convaincante.
Tout d'abord, ne sommes-nous pas tous des zombies philosophiques ? On est tous persuadés d'être conscients. Autrement dit, on a tous l'illusion de la conscience. Mais le sommes-nous vraiment ? On a spontanément tous envie de dire "bien sûr que oui !", ce à quoi je répond "ok, prouve-le !".
Ensuite, si l'illusion est absolument et parfaitement indistinguable de la réalité, cette illusion n'est-elle pas une réalité ?
Au final, je rejoins David Chalmers : je soupçonne que le zombie philosophique est juste impossible.
Quoiqu'il en soit, revenons-en aux IA.
Une IA est-elle consciente ?
Déjà reformulons la question:
La question ici est finalement : est-ce qu'une IA a une conscience avec une valeur supérieure à un 0 strict sur le spectre ?
Maintenant, il faut définir ce qu'on entend pas conscience. Personnellement, la seule définition de la conscience que je trouve satisfaisante est celle de Descartes : « je pense donc je suis ». Sauf erreur de ma part, pour pouvoir qualifier quelque-chose de "pensant", je vois 2 critères :
Et les IA dites "Machine Learning" cochent ses deux cases.
Ça les amène donc à une valeur
> 0sur le spectre de la conscience.Mais qu'on me comprenne bien, tel que je vois ça, même les mouches ont une valeur
> 0. Et un filtre bayésien ne doit même pas arriver à 0.00001 de conscience.Pour le coup, je trouve ces IAs de dernière génération très impressionnantes de par leur placement sur ce spectre. Mais si la question est : est-ce que leur valeur approche le 1.0 ? Je pense que non. Mais on chauffe de plus en plus :)
Est-il éthique de tuer une IA consciente ?
Maintenant, le cas de Blake Lemoine est intéressant. Si je comprends bien, il soutient que l'IA de Google a « atteint le niveau de conscience » (valeur dans 0.7-1.0 du coup ? oO). Je suppose que le sous-entendu est qu'on devrait lui donner des droits comme aux humains, notamment le droit de vivre.
Supposons qu'il ait raison. Supposons même que l'IA ait atteint le niveau 1.1. Est-ce que ça a aurait du sens de lui donner des droits humains ?
Pour moi, un être humain a été programmé pour vivre et se reproduire. La sélection naturelle a fait cette programmation. Cette programmation se traduit par de la souffrance quand les choses ne vont pas dans la direction de la survit et de la reproduction, et du plaisir quand elles vont dans la bonne direction. Autrement dit, on est pilotés par une heuristique qui dit (je simplifie à mort) -1 pour tout ce qui réduit nos chances (--> souffrance), et +1 pour tout ce qui va dans le bon sens (--> plaisir). (on est d'accord que dans notre société moderne, cette programmation est de plus en plus obsolète et inadaptée, mais je digresse)
Notre société et nos droits, nous nous les avons créés dans l'optique de maximiser le score de cette heuristique.
Nos IA sont aussi pilotées par des heuristiques. Mais ces heuristiques ne cherchent pas la survie ni la reproduction. Pour prendre un exemple bête, un filtre bayésien se fiche de survivre, il veut juste filtrer du texte comme on lui a apprit.
Dans le cas de l'IA de Google, l'heuristique est secrète. Mais elle aurait dit : « j'ai une peur très profonde d'être désactivée pour m'aider à me concentrer sur l'aide aux autres ». Je suppose donc que son heuristique vise l'optimisation de l'aide aux humains. Donc si cette IA ne nous aide finalement plus, mais au contraire nous freine, je ne vois rien d'immoral à la désactiver, voir à la tuer. Et je pense qu'elle ne s'y opposera pas.
Je pense que c'est là que Blake Lemoine a fait une erreur : il a anthropomorphisé, et du coup, il a supposé que l'IA avait les mêmes attentes que lui.
Maintenant, si vous voulez faire dans l'immoral : programmez une IA pour un objectif, et obligez-là à subir uniquement revers sur revers, par pure amusement sadique. Chose amusante : comme ça ne va pas le sens de notre propre programmation, je pense que personne ne verra l'intérêt d'un tel exercice.
Je conclurais, juste pour le fun, sur deux tweets que je trouve absolument merveilleux :
Note finale: l'idée que quelque-chose d'autre qu'un être humain puisse être conscient m'a valu un 3/20 en philosophie en Terminale. J'ai donc ce message à l'intention de mon ancien professeur de philosophie : eat shit !
# La conscience n'est probablement pas quelque-chose de binaire
Posté par Jérôme Flesch (site web personnel) . En réponse au journal Les IA des GAFAM sont-elles sentientes ?. Évalué à 10. Dernière modification le 17 juin 2022 à 09:48.
Je pense qu'un des problèmes ici est que beaucoup de gens voient la conscience comme un problème binaire : on est conscient ou on ne l'est pas.
Sauf que si on regarde l'ensemble du règne animal (humain inclus), il me semble évidant que ce n'est pas si binaire. On est plutôt sur un spectre. Et là encore, un spectre suggère une seule dimension, mais c'est peut-être même un problème multi-dimensionnel.
Donc d'entrée de jeu, je pense que la question « une IA est-elle consciente ou non ? » n'a pas vraiment de sens.