• # Mon avis

    Posté par  . Évalué à 1 (+2/-3). Dernière modification le 11/01/21 à 20:45.

    <provoc>
    C'est pas encore qu'on aura une voiture qui sera capable d'avoir assez d'informations sur la personne à tuer. Déjà qu'elles ont du mal à voir un piéton tout court, de là à détecter que c'est un vieux…
    </provoc>

    <serieux>
    Je suis convaincu que la réponse à ce pb (admettons qu'un jour la question se pose) est… de ne pas choisir et de tirer au hasard. Oui, même dans un système critique il faut du random, notamment pour éviter les bugs systématiques. Qu'on décide de tuer en priorité les jeunes, les vieux, les hommes ou les femmes, ça va provoquer un déséquilibre social qui n'avait pas lieu avant. Quand "l'intelligence" détecte plusieurs situations à peu près équivalentes, autant tirer au hasard, c'est plus "safe" globalement.

    Le random c'est la vie (au propre comme au figuré).
    </serieux>

    En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

    • [^] # Re: Mon avis

      Posté par  (site Web personnel) . Évalué à 3 (+4/-3). Dernière modification le 11/01/21 à 22:03.

      ça va provoquer un déséquilibre social qui n'avait pas lieu avant.

      Ca fait des lustres qu'on provoque ça.
      Désolé, je ne suis pas pour tuer les handicapés, les faibles, les cancéreux, alors que bon ça fait un déséquilibre social (faut payer pour leur santé!)
      Et pour être provocateurs en ces temps durs, rappelons qu'on a fait un choix fort de sacrifier la santé mentales de jeunes pour sauver la santé physique de vieux cette année, assumes-tu de vouloir laisser tout ouvert et que genre la moitié des plus de 80 ans y passe pour ne pas provoquer un déséquilibre social (tous ces vieux qui vont vivre à cause de notre choix alors qu'ils ne devraient pas, déséquilibre contre le "random")?

      Le random c'est la vie (au propre comme au figuré).

      Notre humanité est d'éviter ce "random".
      On a l'assurance chômage, l'assurance sociale, etc… Autant en public obligatoire qu'en privé optionnel, justement pour limiter les conséquences de ce "random".
      Désolé, je ne suis pas libertarien (n'en déplaise à certains ici qui me cataloguent comme tel ;-) ).

      (admettons qu'un jour la question se pose)

      On se la pose depuis un moment, les chercheurs "social" ont un temps d'avance sur la technologie. le sujet de S&V est pas du tout nouveau, j'ai déjà lu dessus il y a plusieurs années (https://en.wikipedia.org/wiki/Moral_Machine date de 2017, donc déjà mini 4 ans).

      • [^] # Re: Mon avis

        Posté par  . Évalué à 4 (+2/-0). Dernière modification le 12/01/21 à 08:21.

        Notre humanité est d'éviter ce "random".

        Et bien je pense que c'est une erreur de vision (pas spécialement de ta part, bcp de gens le pensent également). Au contraire je pense qu'il faut du random pour l'équilibre des choses. Quelle que soit la décision qu'on prenne, dans n'importe quel domaine, si elle est systématique (systémique ?) à l'échelle de l'humanité, ça fout le bordel.

        • Économie : tout le monde qui achète chez la même personne, c'est un monopole, c'est le bordel (on découvre que les supermarchés c'est pas top, rien ne vaut le commerce de proximité - une usine de bouffe fait un erreur elle intoxique des millions de gens, alors que le boucher du coin fait une erreur il intoxique 100 personnes etc.)
        • Économie encore : les traders ayant le même logiciel ou presque, il y a déjà eu quelques problèmes dû au fait que tout le monde prenait la même décision au même moment (je sais plus trop, un mini crack je crois)
        • Social : si tout le monde pense la même chose, vote pour la même personne, on finit dans une dictature, c'est le bordel.
        • Écologique : je dis souvent de ne pas parler de LA pollution mais DES pollutions. Concentrer notre activité sur une seule pollution (actuellement le CO2 via les énergies fossiles) c'est le bordel, mais si c'est pour basculer sur une seule techno qui remplace ça, quelle qu'elle soit (invente la voiture aux haricots verts vapeurs, file 2 milliards de bagnoles qui marchent aux haricots verts vapeur, ça va être un désastre écologique dû à la production de haricots verts vapeurs) ce ne sera pas mieux.
        • Biologique : je ne vais pas t'expliquer à quel point le random est le fondement de la vie tel qu'on la connaît :)
        • Technique : là on parle d'algorithme vitaux, mais pour la première fois à très grande échelle (j'ai bossé 10 ans dans l'avionique, les enjeux sont très différents). Une erreur de conception et c'est un bug commun à des millions de véhicules, donc des millions de décisions. Cet exemple (je choisis le jeune ou le vieux ?) est caricatural mais je le trouve intéressant : pourquoi choisir à l'avance ? Toi-même au volant tu ne fera pas 2x la même choses étant 2x dans la même situation.

        Attention, je ne dis pas de faire n'importe quoi et de tirer des dés chaque fois qu'on doive décider quelque-chose, mais quand tu as un panel de solutions devant toi, ne pas forcément chercher l'ultime optimisation à tout prix. C'est source, je le pense, de plus d'emmerdes au final que de gain réel. Dans le cas de la voiture il faut absolument tout faire pour éviter cette situation (bien évidemment), et ensuite, si vraiment il faut choisir… ne choisissons pas.

        La vie c'est énormément de random, ne croyons pas qu'on a toujours toutes les cartes en main pour décider ce qui est "le mieux".

        On se la pose depuis un moment

        Oui j'ai vu passer ces débats très rapidement, et justement à force d'y réfléchir (je bosse dans l'embarqué, j'ai fait de l'avionique y compris DAL A, j'ai également bossé chez Renault, c'est un sujet qui m'interpelle) j'ai mon idée là-dessus. De toutes façons encore une fois, on est techniquement très loin d'avoir besoin d'une telle réponse, mais oui, posons-nous les bonnes questions à l'avance (pour une fois…)

        En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

        • [^] # Re: Mon avis

          Posté par  (site Web personnel) . Évalué à 3 (+3/-2). Dernière modification le 12/01/21 à 09:05.

          Quelle que soit la décision qu'on prenne, dans n'importe quel domaine, si elle est systématique (systémique ?) à l'échelle de l'humanité, ça fout le bordel.

          Je préfère largement ce bordel au bordel d'avant quand on laissait plus de place au hasard.
          Chacun sa préférence peut-être.
          Juste pour info : ce qui nous permet de communiquer maintenant est basée sur la suppression maximale du hasard dans la maîtrise de l’électricité (ton CPU), l'optique (transmission), la santé (je suis vivant encore à mon âge), etc.

          Et bien je pense que c'est une erreur de vision (pas spécialement de ta part, bcp de gens le pensent également).

          A voir… Mais oui je suis très loin d'être sûr que de tirer au sort 35 personnes au hasard et n’ayant jamais étudié un sujet soit mieux que de sélectionner des gens ayant étudié pendant des années le sujet. D'autres pensent autrement, je doute de l'efficacité mais voyons ce que ça donne (je n'ai pas vraiment le choix en fait).

          La vie c'est énormément de random, ne croyons pas qu'on a toujours toutes les cartes en main pour décider ce qui est "le mieux".

          Oui, mais ici ce n'est pas le sujet, ici on regarde quand il y a possibilité de choisir.

          on est techniquement très loin d'avoir besoin d'une telle réponse, mais oui, posons-nous les bonnes questions à l'avance (pour une fois…)

          En réalité, les questions sur les voitures ne sont que le prolongement de questions que se posent le médical depuis des lustres.
          en période de saturation hospitalières (pas que pandémie, mais gros accident, guerre…), je préfère prioriser les plus jeunes et les gens ayant le plus de chances de survivre aux plus vieux qui ont déjà vécu et mourront bientôt de toutes manières, tu préfères choisir au hasard (et baisser la moyenne d'espérance de vie).
          C'est un choix, juste pas le mien.

          • [^] # Re: Mon avis

            Posté par  . Évalué à 6 (+4/-0). Dernière modification le 12/01/21 à 10:31.

            Mais oui je suis très loin d'être sûr que de tirer au sort 35 personnes au hasard

            excellent exemple. je veux plus de random dans la vie politique en effet. mais j'ai pas dit non plus de "faire n'importe quoi" et de tirer au hasard dans la rue. j'observe juste que le systématique de nos députés actuels (blancs, riches, hommes) manque franchement de diversité. que faire ? j'avoue que ne sais pas trop… mais oui ça manque clairement de random.

            Juste pour info : ce qui nous permet de communiquer maintenant est basée sur la suppression maximale du hasard

            excellent exemple également. oui, il faut des protocoles déterministes, et ça marche très bien. mais dès que la sécurité est arrivée, on a vite mis du random partout. toute notre sécurité informatique est basée sur du random, tellement que c'est une stratégie importante de générer du vrai random. encore une fois, je ne veux pas faire n'importe quoi n'importe comment, mais observer que le systématique a ses limites. et parfois, il FAUT du random. quand ? c'est tout le sujet.

            Oui, mais ici ce n'est pas le sujet, ici on regarde quand il y a possibilité de choisir.

            oui mais ce que je dis c'est qu'il y a un peu de prétention aussi à croire qu'on peut choisir de manière éclairée. on n'a toujours qu'une part de la vision des choses, c'est pas évident de prendre "la meilleure décision". d'où l'acceptation de ce fait et accepter parfois de laisser le hasard avoir le dernier mot.

            je préfère prioriser les plus jeunes et les gens ayant le plus de chances de survivre aux plus vieux

            excellent exemple encore une fois, tu as dit "les gens qui ont le plus de chance de survie". donc tu laisses mourir le jeune atteint d'une leucémie au profit du vieux de 75 ans en pleine santé. la voiture connectée, aura-t-elle cette information au moment de décider ?

            mais globalement je pense qu'on va être d'accord sur ce point : il vaut mieux passer de l'énergie à éviter les situations désastreuses que de passer du temps à décider quel choix devrait être fait dans de telles situations (et c'est clairement ce que fait l'industrie automobile actuellement).

            En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

          • [^] # Re: Mon avis

            Posté par  . Évalué à 2 (+2/-1).

            Je préfère largement ce bordel au bordel d'avant quand on laissait plus de place au hasard.

            Sauf qu'il ne dit pas de laisser « plus de place au hasard » mais plutôt « un peu de place au hasard de temps en temps » et il précise bien que c'est à tous choix égaux (il se trouve que c'est déjà ce qu'on fait)

            Juste pour info : ce qui nous permet de communiquer maintenant est basée sur la suppression maximale du hasard dans la maîtrise de l’électricité (ton CPU), l'optique (transmission), la santé (je suis vivant encore à mon âge), etc.

            Non, il ne s'agit pas toujours/forcément de « suppression maximale du hasard » Dans le cas de la transmission on ajoute des codes de contrôles (pour détecter quand le hasard impacte trop néfastement) de corrections (qui au passage ne couvrent pas tous les cas.) Dans le cas de l'électricité, ou mieux de l'électronique, c'est un peu la même chose : on borne (les résistances ont une marge de tolérance, les diodes fonctionnent sur des seuils, etc. si globalement on fait du zéro-un, ce n'est pas pour autant que le courant est systématiquement à zéro ou un volt !)

            […] Mais oui je suis très loin d'être sûr que de tirer au sort 35 personnes au hasard et n’ayant jamais étudié un sujet soit mieux que de sélectionner des gens ayant étudié pendant des années le sujet.

            À tout hasard, quand on compose un jury, ces gens ont étudié le droit et la psychologie et le dossier de la personne jugée pendant des années ? De la même façon quand on réunit des citoyens/citoyennes pour décider de textes de lois dans certains pays, est-ce à dire que ces gens sont experts/expertes ?

        • [^] # Re: Mon avis

          Posté par  (site Web personnel) . Évalué à 3 (+1/-0).

          La vie c'est énormément de random, ne croyons pas qu'on a toujours toutes les cartes en main pour décider ce qui est "le mieux".

          Xkcd a réponse à TOUT :)

          * Ils vendront Usenet^W les boites noires quand on aura fini de les remplir.

      • [^] # Re: Mon avis

        Posté par  . Évalué à 2 (+0/-0).

        assumes-tu de vouloir laisser tout ouvert et que genre la moitié des plus de 80 ans y passe pour ne pas provoquer un déséquilibre social

        Bien évidemment non, mais ce n'est pas mon propos. Je ne suis ni anarchiste ni libertaire. Mais je vais réfléchir à une illustration via le sujet de la pandémie actuelle.

        En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

        • [^] # Re: Mon avis

          Posté par  . Évalué à 4 (+2/-0).

          Bon, j'ai réfléchis.

          Déjà je voudrais observer que c'est un peu une pandémie du systématique. Tout le monde habite au même endroit, tout le monde se déplace en même temps. Si on avait une vie plus diffuse (et bcp moins sociale, ce dont je ne veux pas spécialement, je reste sur une observation) il n'y aurait pas de pandémie, ou en tous cas elle n'aurait pas le même effet.

          Prenons les bars qu'on a fermé systématiquement. C'est donc une cata pour toute la profession. Pourquoi les a-t-on fermés ? Certes parce que de fait on parle fort à 50cm l'un de l'autre, mais aussi parce que du jeudi soir au samedi soir c'est le bordel, tout le monde va au bar, en même temps, au même moment. Le petit vieux qui prend son ballon de blanc à 10h le matin risque infiniment moins que le travailleur du matin à 8h dans le métro (parce que tout le monde prend le métro à la même heure).

          Comment y remédier ? Une proposition pas trop faisable réellement, mais c'est pour illustrer : le lundi matin tu tires au sort l'organisation de ta semaine : "tu travailleras de 11h27 à 21h12, et tu pourras aller au bar mardi à 14h27 avec tes copains X Y et Z" (pris au hasard dans une liste de 10 copains que tu as déclaré). On pourrait ainsi continuer à prendre le métro sans s'entasser et aller au bar avec les copains. Mais pas tous en même temps, c'est tout.

          Le côté sympa du random vis à vis de la planification globale (une autre alternative) c'est que t'enlève le côté Communiste totalitaire qui t'impose un truc. Mais la théorie des grands nombres t'assures un étalement des décisions.

          En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

          • [^] # Re: Mon avis

            Posté par  (site Web personnel) . Évalué à 1 (+1/-2).

            Une proposition pas trop faisable réellement, mais c'est pour illustrer

            Le soucis est justement sur "pas faisable", ça reste utile pour optimiser d'avoir tout le monde au même moment.
            Mais sur le principe, tu prêches un convaincu, j'ai mes propres horaires et je suis pour l'ouverture de tout le dimanche (oui, les syndicats vont hurler) et encore plus en période de pandémie.

            Mais… Ca n'est en réalité pas le sujet, car tu aurais fait un choix d'étaler. Désolé mais HS.

      • [^] # Re: Mon avis

        Posté par  (site Web personnel) . Évalué à 6 (+3/-0).

        On se la pose depuis un moment, les chercheurs "social" ont un temps d'avance sur la technologie. le sujet de S&V est pas du tout nouveau, j'ai déjà lu dessus il y a plusieurs années (https://en.wikipedia.org/wiki/Moral_Machine date de 2017, donc déjà mini 4 ans).

        Il est intéressant d'avoir des réponses réfléchies sous le coude à ces questions, mais il ne faut pas non plus en faire un sorte d'alpha et oméga des réflexions autour des systèmes autonomes.

        Par exemple pour la voiture autonome, on sort souvent cet exemple pour montrer qu'avant de commercialiser il faudrait trancher cette question. C'est bizarre car déjà l'être humain conducteur ne prendra lui aucune décision rationnelle en de telles circonstances, il n'a pas le temps de le faire, ni les données, ni la rigueur en cas de catastrophe de le faire bien.

        Ensuite, il faudrait encore que cette situation soit réaliste. Des accidents où tu as le choix de faucher deux groupes distincts de personnes, en ayant aucune solution pour les épargner, tout en ayant le temps de choisir l'un ou l'autre groupe, est-ce que cela arrive dans la vraie vie ? Et avec un véhicule autonome qui à priori s'arrêtera automatiquement en cas de défaillance mécanique détectée et qui à priori aussi aura une vitesse adaptée à une situation donnée, est-ce que cela a vraiment une chance d'arriver de manière récurrente ? Et est-ce que même si cela arrivait, l'IA aurait assez de données, de temps et de capacité d'analyse pour faire la décision conforme au scénario souhaitée ? Personnellement j'ai un doute que cela arrive suffisamment fréquemment pour que cela ait un quelconque intérêt.

        C'est bien que des chercheurs se penchent dessus car peut être qu'on aura un système où cette question sera pertinente. Mais à l'heure actuelle cela me semble bien théorique.

        • [^] # Re: Mon avis

          Posté par  (site Web personnel) . Évalué à 1 (+2/-3).

          C'est bizarre car déjà l'être humain conducteur ne prendra lui aucune décision rationnelle en de telles circonstances, il n'a pas le temps de le faire, ni les données, ni la rigueur en cas de catastrophe de le faire bien.

          Ha ça, l'être humain et ses incohérences… Perso, ça m'amuse toujours d'excuse un chauffeur de voiture "pas de chance" mais attaquer une compagnie aérienne alors qu'on sait que l'avion est largement plus sûr que le voiture (pour le même trajet).

          Perso, j'y vois surtout l'idée qu'on peut (contrairement à avant avec un humain), donc pourquoi pas le faire. En sachant bien que le mieux est d'éviter la situation…

          A noter que je préférerai déjà qu'on le fasse dans les cas actuels, pour les personnels de santé on s'en remet à leur jugement tacite (qui peut être foireux, ou attaqué en justice), aucun politique ne voulant assumer la décision rationnelle à prendre.

          • [^] # Re: Mon avis

            Posté par  . Évalué à 3 (+1/-0).

            qui peut être foireux, ou attaqué en justice

            au passage, le random est inattaquable en justice

            (bon, je ne sais pas trop quoi faire de cette phrase, mais j'aime bien :) )

            En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.

            • [^] # Re: Mon avis

              Posté par  . Évalué à 1 (+0/-0).

              Je crois qu'une entreprise a été condamnée parce qu'il y avait corrélation entre une vaccination (d'une personne précise) et le déclenchement d'une sclérose en plaque. Pas causalité, juste corrélation.

              Juste pour dire que hasard et justice, c'est parfois compliqué.

              • [^] # Re: Mon avis

                Posté par  (site Web personnel) . Évalué à 2 (+0/-0). Dernière modification le 13/01/21 à 22:13.

                En fait, la justice ne s'est pas prononcée sur l'aspect médical. Elle s'est prononcée sur l'existence du dommage et ses réparations. Même si le jugement est, d'un point de vue scientifique et au vu de ce que l'on sait de la sclérose en plaques (une maladie qui peut prendre du temps à se déclarer) étonnant (maintenant, il est possible, possible, pas probable attention, que le vaccin ait pu déclencher une poussée qui a révélé une maladie jusqu'à présent discrète qui se serait montrée plus tard, comme ça peut n'être qu'une coïncidence).

                Mais, évidemment, le jugement, s'il a une valeur juridique, n'a aucune valeur scientifique.

                Designeuse de masques pour sphéniscidés.

          • [^] # Re: Mon avis

            Posté par  (site Web personnel) . Évalué à 5 (+2/-0).

            Perso, j'y vois surtout l'idée qu'on peut (contrairement à avant avec un humain), donc pourquoi pas le faire. En sachant bien que le mieux est d'éviter la situation…

            Je ne dis pas le contraire, si on peut le faire proprement, tant mieux.

            Mais ne pas le faire ne doit pas être un frein pour autant, car cela ne change pas le comportement actuel avec des humains aux commandes. Puis surtout, parce que ces scénarios me semblent vraiment très improbable et relevant plus du fantasme.

  • # Vieille question de philosophie morale

    Posté par  (site Web personnel) . Évalué à 3 (+0/-0).

    Une série de vidéos de Monsieur Phi sur la philosophie morale
    https://www.youtube.com/watch?v=9FFI9bwYuK0&list=PLuL1TsvlrSndG1xYLRsaNvSM46lOkOg2W
    (parmi pas mal d'autres textes et vidéos sur le sujet disponible en ligne)

Envoyer un commentaire

Suivre le flux des commentaires

Note : les commentaires appartiennent à ceux qui les ont postés. Nous n’en sommes pas responsables.