Journal [Science Fiction] La loi de Kharnov

Posté par (page perso) . Licence CC by-sa
13
17
sept.
2012

Kharnov est un membre de l'équipe du jeu Unvanquished, il s'occupe principalement de la communication ; c'est généralement lui qui annonce les nouvelles (et il le fait plutôt bien). Le projet Unvanquished essaie de définir un univers autour du jeu et Kharnov est en train d'écrire une histoire, l'histoire qui se passe avant que ne commence une partie de jeu !

Dans cette histoire, quelque chose m'a interpellé fortement, un concept que j'ai trouvé génial ! Kharnov dit quelque chose comme :

L'utilisation de robots soldats pourrait provoquer une terreur semblable à l'utilisation de l'arme nucléaire. Ainsi, les rôles de combattants ont été interdits aux robots. Les humains ont donc finalement décidé que seul un humain est autorisé à tuer un autre humain, pas une machine intelligente.

Avez-vous déjà rencontré un tel concept dans la littérature S.F. ?
Ça me fait penser à la première loi d'Asimov, Un robot ne peut porter atteinte à un être humain, Kharnov cite Dune, œuvre dans laquelle toute forme d'ordinateur a été interdite. Mais, ce que je trouve d'inédit dans son concept, c'est que, contrairement à Asimov, ce n'est pas une loi de robotique, c'est une loi humaine !

L'idée qu'on puisse exprimer la loi de cette manière, « Seul l'humain est autorisé à tuer l'humain » est révolutionnaire : pour exclure les robots de ce pouvoir, il faudrait l'attribuer à l'homme, ce qui revient à déclarer que « seul l'homme possède la légitimité du crime ».

J'ai trouvé ça excellent, je sais que certains DLFPiens sont très branchés S.F., connaissez-vous une œuvre qui explore cette direction, ou cela vous semble-t'il inédit ?

  • # URL et robotique

    Posté par (page perso) . Évalué à 4.

    Le lien dans l'article est cassé, il s'agit de http://unvanquished.net/forum/showthread.php/331-Unvanquished-timeline

    Sinon :
    > Ça me fait penser à la première loi d'Asimov, Un robot ne peut porter atteinte à un être humain, Kharnov cite Dune, œuvre dans laquelle toute forme d'ordinateur a été interdite. Mais ce que je trouve d'inédit dans son concept, c'est que, contrairement à Asimov, ce n'est pas une loi de robotique, c'est une loi humaine !

    Je suis pas du tout experte dans le domaine (je n'ai pas lu Asimov, shame on me), mais les lois de la robotique ne sont pas fixées par les humains qui ont créé les robots ?

    • [^] # Re: URL et robotique

      Posté par (page perso) . Évalué à 1. Dernière modification le 17/09/12 à 22:04.

      Le lien dans l'article est cassé

      Ah oui c'est la faute à firefox qui hôte http:// des URL dans la barre d'adresse (et qui le rajoute quand on copie-colle, mais parfois, comme là, ça ne marche pas), merci d'avoir posté l'url complète !

      les lois de la robotique ne sont pas fixées par les humains qui ont créé les robots ?

      Oui, en faisant la distinction loi humaine/loi robotique, je ne parle pas de l'auteur de la loi, mais de l'objet de la loi.
      Les lois de la robotique d'Asimov ont pour objet la machine.
      La loi que Kharnov édicte est une loi qui a pour objet l'homme.
      Les deux lois (la 1ère d'Asimov et celle de Kharnov) se rejoignent : c'est parce que la machine n'a pas le droit de tuer qu'il est dit que l'homme a le droit de tuer. Ce que je trouve passionnant, c'est de pouvoir déclarer que l'homme a le droit de tuer.

      On peut sortir cette idée de l'univers de Science Fiction. Par exemple, c'est toujours illégitime, pour un animal, de tuer l'homme. Par contre certaines conditions comme la guerre ou la peine de mort permettent à l'homme de tuer l'homme. La mort d'un homme est toujours un drame, mais l'homme souhaite que, si cette mort est inévitable, elle soit la cause d'un homme.

      ce commentaire est sous licence cc by 4 et précédentes

      • [^] # Re: URL et robotique

        Posté par (page perso) . Évalué à 4.

        « Ce que je trouve passionnant, c'est de pouvoir déclarer que l'homme a le droit de tuer. »

        Sans être aucunement un spécialiste, je ne connais pas de système politique durable qui n'ait crée une telle loi. En France, par exemple, les policiers, les gendarmes, et les militaires ont le droit de tuer. Même un quidam pourrait tenter d'invoquer le droit d'auto-défense :

        Code pénale :

        Art. 122-5. N'est pas pénalement responsable la personne qui, devant une atteinte injustifiée envers elle-même ou autrui, accomplit, dans le même temps, un acte commandé par la nécessité de la légitime défense d'elle-même ou d'autrui, sauf s'il y a disproportion entre les moyens de défense employés et la gravité de l'atteinte.

        N'est pas pénalement responsable la personne qui, pour interrompre l'exécution d'un crime ou d'un délit contre un bien, accomplit un acte de défense, autre qu'un homicide volontaire, lorsque cet acte est strictement nécessaire au but poursuivi dès lors que les moyens employés sont proportionnés à la gravité de l'infraction.

        Par conséquent, j'ai bien du mal à appréhender les raisons qui vous poussent à vous extasier ainsi sur la violence (droit de tuer) et l'intolérance (accordé de manière asymétrique aux seuls humains contre toute autre espèce, et surtout pas à une autre espèce contre des humains) de la nature humaine. Ces adjectifs proposés pour la nature humaine étant à lire en leur ôtant tout côté péjoratif. Il s'agit juste de constatations ante-diluvienne (au sens propre, cf. la Bible, livre 1, chapitre 1).

        • [^] # Re: URL et robotique

          Posté par . Évalué à 3.

          En France, par exemple, les policiers, les gendarmes, et les militaires ont le droit de tuer.

          Non, ils sont également soumis à l'article que tu cites plus loin. Concernant une « possible mission » pour les militaires où l'usage de la force létale est possible, ils agissent en tant que bras armé de l'État dans un cadre très précis.

          En France, le chef des Armées est le Président de la République.

          The capacity of the human mind for swallowing nonsense and spewing it forth in violent and repressive action has never yet been plumbed. -- Robert A. Heinlein

        • [^] # Re: URL et robotique

          Posté par (page perso) . Évalué à 2.

          j'ai bien du mal à appréhender les raisons qui vous poussent à vous extasier ainsi sur la violence

          Je ne m'extasie pas sur la violence, mais sur une idée qui soulève plein de passionnantes questions, dans de multiples domaines.

          Par exemple vous citez la bible, la culture judéo-chrétienne imprégnée de la bible considère que la loi fait le péché. Sans loi, il n'y a pas de péché. Ça ne veut pas dire qu'il n'y a pas de mal ni de bien, mais qu'il n'y a pas de péché. Qu'est ce que le péché ? c'est un mal qui peut être pardonné. La loi rend le mal condamnable (faute), et rend le mal pardonnable (péché). Ainsi, voulant s'affranchir du péché, l'homme est tenté de s'affranchir de la loi, en prenant le risque de rendre impossible le pardon. Tout ces thèmes là sont complexes et passionnants. Peut-on condamner un robot, peut-on pardonner à un robot ?

          En fait ces questions se posent déjà avec l'animal : peut-on punir un animal ? peut-on condamner un animal, peut-on pardonner à un animal ? Ce sont trois questions différentes ! On peut punir un animal ou un robot, mais punir n'est pas condamner, qu'est ce que la condamnation ? De la même manière, pardonner n'est pas oublier ni supporter ni nier ni ignorer le mal. Qu'est ce que le pardon, qu'est ce que la loi ? Pourquoi l'homme écrit-il des lois ? Pourquoi Asimov a-t'il écrit une loi de la robotique ?

          L'affirmation « seul l'homme a le droit de tuer », pose la question de la loi, c'est dire « seul l'homme a pouvoir sur la loi » ou bien « seul l'homme est dépositaire de la loi ». En délégitimant le robot, l'homme se mysticise.

          ce commentaire est sous licence cc by 4 et précédentes

        • [^] # Re: URL et robotique

          Posté par (page perso) . Évalué à 2.

          N'est pas pénalement responsable la personne qui, devant une atteinte injustifiée envers elle-même ou autrui, accomplit, dans le même temps

          Ce dans le même temps est essentiel, c'est ce qui fait que la mort n'est pas la fin de l'acte.

          La légitimité de la « légitime défense » n'est soutenable uniquement parce qu'on ne tue pas pour se défendre, mais que la défense provoque la mort. La différence n'est pas toujours facile à cerner mais elle est essentielle.
          Pour que l'acte ayant provoqué la mort soit légitime, il faut qu'il n'aie pas eu pour fin de tuer.

          Il faut distinguer deux cas

          • Fin : mort d'autrui
            Moyen : acte entraînant la mort
            Conséquence : survie

          • Fin : survie
            Moyen : acte entraînant la mort
            Conséquence : mort d'autrui

          Seul le deuxième cas est légitime, c'est ce qui est signifié dans accomplir un acte de défense, autre qu'un homicide volontaire. La légitime défense n'est pas un droit de tuer, c'est la défense qui est légitime, pas le fait de tuer.

          Ces deux articles que vous citez sont justement un bon exemple de loi qui ne légitime pas le meurtre.

          [s'extasier sur] l'intolérance (accordé de manière asymétrique aux seuls humains contre toute autre espèce, et surtout pas à une autre espèce contre des humains) de la nature humaine.

          Là encore, il n'y a pas d'extase, il s'agit simplement de poser la question de la tolérance, la tolérance précède l'intolérance. La tolérance est-elle acquise ? est-elle universelle ? est-elle propre à l'homme ? propre ç qui ? Comme on peut se demander « qu'est ce que la légitimité », on peut se demander « qu'est ce que tolérer ». Est ce que l'animal tolère ? Il supporte, mais tolère t'il ? Le robot peut-il tolérer ? Il peut supporter, mais peut-il tolérer ? Kharnov aurait pu dire aussi « seul l'homme a le pouvoir de condamner » ou « la tolérance appartient à l'homme », ces assertions suscitent des débats philosophiques passionnants !

          ce commentaire est sous licence cc by 4 et précédentes

      • [^] # Re: URL et robotique

        Posté par (page perso) . Évalué à 4.

        URL corrigée dans le journal.

        Pour rester sur le sujet, j'en reviendrai à la loi 0 appliquée par deux robots - notamment - et protégeant l'humanité (qui englobe les humains).

        Dans Dune, c'est une interdiction des humains aux 3 empires existants (pas forcément très humains pour certains…). D'où la guerre des machines, bref.

        The Cuckoo Egg (*) ou Le problème de Turing de Marvin Minsky sont intéressants concernant d'autres civilisations ou les robots aussi (une enquête sur un meurtre, mêlant SF et meurtre parfait).

        (*) que ce soit The_Cuckoo's_Egg ou Cuckoo's_Egg d'ailleurs

    • [^] # Re: URL et robotique

      Posté par . Évalué à 2. Dernière modification le 18/09/12 à 19:56.

      J'ai été voir ton CV, par curiosité et ça n'a rien à voir avec la choucroutre, mais je pense qu'il y a une faute :

      Spécialité « Connaissaces et raisonnements »

      Il manque pas un n ?

  • # Malheureusement...

    Posté par (page perso) . Évalué à 2.

    Malheureusement, c'est déjà dépassé, les drones américains sont déjà plus mortels que les fantassins au sol.
    La grande majorité des executions se font au travers d'un drone maintenant, je ne compte plus le nombre de chefs terroristes tués à distance par un missile lancé depuis un drone.

    Certes, c'est téléguidé, et donc au final c'est un humain qui presse le bouton, mais l'executant c'est quand même une machine.

    • [^] # Re: Malheureusement...

      Posté par . Évalué à 6. Dernière modification le 18/09/12 à 09:30.

      La grande majorité des executions se font au travers d'un drone maintenant.

      Certainement pas la majorité des exécutions de part le monde. Et de loin…

      au final c'est un humain qui presse le bouton, mais l'executant c'est quand même une machine.

      Oui, et quand un humain appuie sur la détente d'un flingue ? C'est aussi une machine (le flingue).

    • [^] # Re: Malheureusement...

      Posté par . Évalué à 4.

      Un drone est un avion télécommandé, pas un robot. La décision n'est pas prise par l'intelligence artificiel mais par un humain. D'ailleurs, c'est très occidental d'avoir peur des machines. Après tout un robot a bien été conçu par quelqu'un qui a codé les règles de mise en œuvre de l'ouverture du feu.

      "La première sécurité est la liberté"

      • [^] # Re: Malheureusement...

        Posté par . Évalué à 2.

        Après tout un robot a bien été conçu par quelqu'un qui a codé les règles de mise en œuvre de l'ouverture du feu.

        Si on parle d'intelligence artificielle (de la SF hein), l'intelligence de l'automate échappe à son concepteur, on ne parle plus uniquement d’algorithmique. Il y a décision du robot, pas uniquement du concepteur.

        • [^] # Re: Malheureusement...

          Posté par . Évalué à 4.

          Je ne suis pas sûr que de telle machines existe un jour. Est-ce qu'un anti-spam est un "vrai" robot ? Est-ce Dr. Watson d'IBM est un robot selon toi ? Un correcteur orthographique ? un compilateur ?

          Tout cela a l’apparence d’intelligence, mais qui aurait envie de coder l'émergence "d'envie" de désir ou autre dans un machine ?

          Cela me rappelle le psy du film Sphère, qui panique quand il se rend compte que l'intelligence extra terrestre est content et donc à des émotions, car il se demande ce qui va se passer si il se met en colère.

          "La première sécurité est la liberté"

          • [^] # Re: Malheureusement...

            Posté par (page perso) . Évalué à 2.

            «Tout cela a l’apparence d’intelligence, mais qui aurait envie de coder l'émergence "d'envie" de désir ou autre dans un machine ?»

            Si tu pars du principe d'une IA pas codée en dur, mais qui adapte son comportement à son environnement en fonction par exemple de récompense/punition sans qu'il n'y ait d'indication sur la façon dont elle doit se «programmer» en interne, ça ne me parait pas complétement inenvisageable…

            Bon après, même avec une vie artificielle développée j'imagine qu'il faudrait quelques milliards de génération de robots-amibes et de robots-poissons-rouges avant d'en arriver à un stade de robot-humain, mais d'un autre côté à la base on parle de SF et dans le domaine je pense que c'est bien que des fois la «Rule of Cool» ( http://tvtropes.org/pmwiki/pmwiki.php/Main/RuleOfCool ) passe avant le réalisme :o)

            • [^] # Re: Malheureusement...

              Posté par . Évalué à 3.

              Justement, je trouve qu'il manque une SF qui pousse la science actuel au max, sans trop inventer (il y a plus de chance d'avoir un robot plus intelligent d'une certaine façon qu'un humain (genre siri en version 25), que d'aller passer ses vacances sur Mars dans 50 ans), cela ne serait pas moins étrange et dérangeant. Si tu connais "Chobit", tu peux tout à fait imaginer que l'androïd ne fait que suivre son programme et pourtant, elle séduit le héros "sans le vouloir". Même pas besoin de faire croire à une âme planquée derrière la machine.

              Ton robot programmé par un système de récompense/punition ressemble à un anti-spam (probabilité conditionnel), voir même à un bête minmax d'un jeu vidéo. Devant une recherche exhaustive ou presque, un codeur a définit une loi heuristique qui devant des données, donne une valeur de bon ou mauvais. Le résultat est souvent difficile à prédire, mais cela reste un biais "humain". Ce qui donne l'impression d"intelligence est le nombre de configuration testée (ex: jeu d’échec) ou la taille de la base de donnée (Watson). Ensuite, il y a des techniques pour éviter de tester l'ensemble des possibles, mais cela reste juste un moyen de réduire le temps de calcul (recuit simulé, algo génétique, "marching ants", monte carlo).

              "La première sécurité est la liberté"

              • [^] # Re: Malheureusement...

                Posté par (page perso) . Évalué à 1.

                Ton robot programmé par un système de récompense/punition ressemble à un anti-spam (probabilité conditionnel), voir même à un bête minmax d'un jeu vidéo. Devant une recherche exhaustive ou presque, un codeur a définit une loi heuristique qui devant des données, donne une valeur de bon ou mauvais. Le résultat est souvent difficile à prédire, mais cela reste un biais "humain". Ce qui donne l'impression d"intelligence est le nombre de configuration testée (ex: jeu d’échec) ou la taille de la base de donnée (Watson). Ensuite, il y a des techniques pour éviter de tester l'ensemble des possibles, mais cela reste juste un moyen de réduire le temps de calcul (recuit simulé, algo génétique, "marching ants", monte carlo).

                Je pensais plus à des trucs du genre un certain nombre d'agents qui évoluent dans un univers (que ce soit l'univers réél avec des «vrais» robots ou une simulation) avec mettons récompense positive = trouver de la nourriture et récompense négative = se faire attaquer par un prédateur, où par exemple avec des agents «simples» il peut y avoir émergence de comportements collectifs pas prévus par le programmeur.

                • [^] # Re: Malheureusement...

                  Posté par . Évalué à 2.

                  Ce que tu proposes ressembles beaucoup aux algorithmes génétiques. Ta fonction heuristique sera dans ce cas trouver de la nourriture et survivre. Dans le cas d'un jeu d'echec, tu peux te contenter de "victoire du jeu": "bien", et le reste "pas bien". Cela marchera mal car il faut aller jusqu'à la fin de la partie pour avoir un résultat, or c'est impossible dans un temps raisonnable, alors les fonctions se complexifient. Certain utilise du monte carlo pour réduire les calcul par exemple.

                  Avec ce genre de d'heuristique, tu ne scripte pas le comportement de ton robot, mais tu scripts son "but dans la vie", si on peut dire. C'est les calculs qui feront ressortir les stratégies. J'avais codé un minmax pour un jeu de puissance 4, la fonction d'évaluation comptait le nombre de position gagnante potentiel (les alignement de 1 2 3 pions posés pouvant aller à 4 ). L'IA avait tendance à beaucoup jouer au milieu, ce qui maximisait sa fonction. Mais le comportement "jouer au milieu" n'était pas coder du tout, c'était un comportement émergent de la règle principale.

                  "La première sécurité est la liberté"

    • [^] # Re: Malheureusement...

      Posté par . Évalué à 3.

      Avant ils utilisaient une arme à feu. Au final c'était aussi une balle lancée par une machine à distance qui tuait l'humain. C'est téléguidé et c'est un humain qui pressait sur un bouton. Où est la différence exactement ?

      Tous les nombres premiers sont impairs, sauf un. Tous les nombres premiers sont impairs, sauf deux.

      • [^] # Re: Malheureusement...

        Posté par (page perso) . Évalué à 2.

        La différence, c'est que quand l'autre riposte, tu ne risque rien, tu est à 50km dans un bunker devant un écran, un joystick à la main.

        Pour moi c'est exactement ce que les "robots soldats" seront: y aura 10 généraux/stratèges dans un bunker ou un avion au dessus du théâtre des opérations, ils cliqueront sur l'écran pour faire avancer leurs "troupes" et ces robots tireront sur tout ce qui bouge.

        L'acquisition de cibles sera faite automatiquement (ce qui n'est pas le cas aujourd'hui pour les drones), mais la décision de les envoyer au front aura été décidée par des humains.

        Que tu prenne la décision au moment de tirer (drone) ou bien quelques minutes avant ("robot soldat) en positionnant ton arme et en la mettant en "tir auto", un humain a quand même pris la décision.

        • [^] # Re: Malheureusement...

          Posté par . Évalué à 6.

          Tu ne risques rien uniquement parce que tu as un avantage technologique. Ça a été pareil pour plusieurs changements d'armes, dans le passé.

          Tous les nombres premiers sont impairs, sauf un. Tous les nombres premiers sont impairs, sauf deux.

          • [^] # Re: Malheureusement...

            Posté par (page perso) . Évalué à 3.

            Oui, on peut comparer cela à l'avantage technologique "mon véhicule est blindé, et toi tu es à cheval", même en restant au cœur du conflit.

            Cela dit, on commencera à atteindre la "peur" évoquée lorsque le drone choisira lui-même ses cibles, et que l'homme qui commande ne fera qu'indiquer un théâtre d'opération. Sans avoir une machine réellement intelligente, capable d'introspection, avec des émotions, on peut cependant provoquer la même crainte : celui qui prendra la décision de me tuer n'est pas un homme, quand il a été envoyé, il ne me connaissait pas comme cible et le commanditaire de l'attaque ne m'a pas désigné. Et ça c'est une réalité accessible avec nos moyens technologiques.

            Ce genre de bavure peut être faite par un drône.

            L'homme dans son bunker éloigné ne ferait qu'envoyer un drône sur un théâtre d'opération, le drône confond un journaliste et sa caméra avec un soldat armé, pwned. La décision de tuer le journaliste est prise par le drône, même si elle est permise par l'homme dans son bunker et l'équipe qui a conçu le drône.

            ce commentaire est sous licence cc by 4 et précédentes

            • [^] # Re: Malheureusement...

              Posté par . Évalué à 2.

              Du point de vue "médias", cela sera toujours un drone de la CIA qui a fait une bavure. Bavure de drone ou de cowbow chevauchant sa gatling de 30 mm , cela change quoi ?

              J'ai l'impression que ce qui te choque, c'est que la désignation de cible soit "automatique". Cela existe déjà depuis longtemps avec les armes anti-avions, avec un "lock" fait par un radar. La décision de tir est prise par un humain, mais je suis persuadé que les systèmes anti-missiles sont presque 100% automatiques pour gagner du temps.

              De toute façon, la reconnaissance d'image est à des années lumières de ce que peut faire un oeil humain en une fraction de seconde. Il sera donc toujours plus précis d'avoir un oeil humain dans la boucle de décision.

              "La première sécurité est la liberté"

              • [^] # Re: Malheureusement...

                Posté par . Évalué à 5.

                Du point de vue "médias", cela sera toujours un drone de la CIA qui a fait une bavure. Bavure de drone ou de cowbow chevauchant sa gatling de 30 mm , cela change quoi ?

                Il n'y a plus ce contact entre les victimes et les bourreaux, ou même entre les bons soldats qui aiment bien faire leur métiers, avec amour et passion.

                C'est une déshumanisation de la guerre à l'ancienne mon bon monsieur…

                • [^] # Re: Malheureusement...

                  Posté par . Évalué à 2.

                  C'est pareil que le gars dans son char qui regarde sa cible à 500 m avec un écran télé, non ? (avec du hard rock dans les oreilles)

                  "La première sécurité est la liberté"

              • [^] # Re: Malheureusement...

                Posté par (page perso) . Évalué à 2. Dernière modification le 18/09/12 à 19:26.

                J'ai l'impression que ce qui te choque

                Il y a quelque chose qui me choque ?

                J'ai cité une phrase qui, je trouve, résonne profondément dans plein de domaines : scientifique, mais aussi moral, légal, philosophique, social, qu'est ce que la légitimité ? qu'est ce que tuer ? est ce que pouvoir autoriser l'homme à tuer n'implique pas d'abord de le lui interdire ? etc.
                Je ne suis pas choqué, j'ai juste eu l'impression d'entrouvrir une boîte plein de questions passionnantes !

                De toute façon, la reconnaissance d'image est à des années lumières de ce que peut faire un oeil humain en une fraction de seconde. Il sera donc toujours plus précis d'avoir un oeil humain dans la boucle de décision.

                Oui, je suis bien d'accord, mais il devient possible avec nos technologies actuelles de provoquer de cette peur si particulière, celle qu'on voit au début de Robocop, quand l'homme comprend que le robot va le tuer, et que ce qui gouverne cette volonté n'est pas une conscience humaine.

                ce commentaire est sous licence cc by 4 et précédentes

                • [^] # Re: Malheureusement...

                  Posté par . Évalué à 3.

                  "quand l'homme comprend que le robot va le tuer, et que ce qui gouverne cette volonté n'est pas une conscience humaine."

                  J'imagine que si tu es face à un psychopathe, tireur d'élite, armé de 2 mitrailleuses, qui fait un décompte de mise à feu, je ne pense pas que tu sois plus calme.

                  "La première sécurité est la liberté"

            • [^] # Skynet

              Posté par . Évalué à 3.

              Bah, si tu vas par là, une mine anti-personnelle est aussi une machine qui décide d'elle-même de tuer après avoir été déployée sur un théâtre d'opération. Le fait que sa prise de décision ne soit pas issue d'un processus sophistiqué plus ou moins intelligent mais d'un bête capteur de mouvement, ne change pas grand chose au fond du problème.

              A mon avis, le robot dans la SF est un concept qui a servi (et sert encore) à explorer la frontière entre l'homme et la machine et tout ce que cela peut impliquer. Ce concept est fondé sur le principe que le robot idéal est un humain et une machine en même temps.

              Dans la réalité, comme tu l'expose très bien, ça semble bien plus compliqué. Les décisions (et leur exécution) sont prisent à travers un ensemble d'interactions hommes/machines. C'est ce qui fait que le concept de robot en tant que moyen d'exploration science-fictif de la frontière homme/machine bât un peu de l'aile depuis le cyberpunk. Les robots, en tant que figure classique du genre, sont désormais tout juste bon à vendre des aspirateurs automatiques. Vive les cyborgs. Même les bidules que l'on envoi sur Mars ne sont au final que des drones, que l'on peut voir comme les bras télécommandés d'un ensemble de systèmes d'informations plus ou moins pilotés par des humains. Toute la question qui nous intéresse ici, enfin, il me semble en tout cas, étant toujours, fondamentalement, dans ce plus ou moins, (ou si tu préfère la part de la machine dans la prise de décision), bien sûr. On rejoint le problème posé initialement par le robot, mais sous une forme plus adapté à ce que la société actuelle connait.

              Faut pas gonfler Gérard Lambert quand il répare sa mobylette.

              • [^] # Re: Skynet

                Posté par . Évalué à 2.

                "le plus ou moins" est dans la définition d'un bon outils ou pas. Les possibilités restent immense.

                "La première sécurité est la liberté"

              • [^] # Re: Skynet

                Posté par (page perso) . Évalué à 2.

                L'idée de la mine antipersonelle est un bon exemple en fait, pour illustrer la perte de contrôle de l'arme et sans aller jusqu à la SF et SkyNet.

                A mon avis, le robot dans la SF est un concept qui a servi (et sert encore) à explorer la frontière entre l'homme et la machine et tout ce que cela peut impliquer. Ce concept est fondé sur le principe que le robot idéal est un humain et une machine en même temps.

                Le thème de l'hybridation est courant, mais le robot permet aussi (surtout ?) d'explorer la frontière du contrôle et de la responsabilité, l'homme n'étant plus une simple créature mais jouant au créateur il prend le risque de l'altérité. Avec cette optique, c'est intéressant de voir que l'homme ai développé abondamment le thème du « robot destructeur », peut-être parce qu'il se projette sur cette « créature ». Si cette vision diffère selon les cultures, c'est qu'elle prend source dans des philosophies et des humanismes différents. La profusion d'œuvres àla « Terminator » ou àla « Frankeinstein » traduit une certaine vision de l'homme tel qu'il se voit lui-même. Quand Nietzsche dit « Dieu est mort », alors celui qui veut se faire Dieu craint de mourir à son tour.

                ce commentaire est sous licence cc by 4 et précédentes

                • [^] # Re: Skynet

                  Posté par (page perso) . Évalué à 2. Dernière modification le 23/09/12 à 14:05.

                  Note : Ce thème (pour devenir Dieu, l'homme tue Dieu, devenant Dieu, il se condamne à être tué) est assez bien développé dans le film Le cheval de Turin sorti cette année (attention, le synopsis n'a pas grand chose à voir avec le film, ce n'est qu'un prologue) !

                  ce commentaire est sous licence cc by 4 et précédentes

    • [^] # Re: Malheureusement...

      Posté par . Évalué à 5.

      « je ne compte plus le nombre de chefs terroristes tués à distance »

      Moi non plus je ne les comptes pas… parce qu'il y en a pas. Le terrorisme est un crime, et pour en être accusé il faut avoir été jugé… hors les personnes tués n'ont jamais été jugées, elles sont juste désignés par des civils du gouvernement étasunien (même pas des militaires : il ne s'agit donc pas de guerre mais « d'assassinats légaux » pour ceux que les concepts novateurs du ministère de la justice US n'effrayent pas). Elles sont donc « présumées innocentes ».

      • [^] # Re: Malheureusement...

        Posté par . Évalué à 5.

        EDIT : Désolé, en fait j'ai confondu un concept qui ne s'applique qu'aux hommes politiques pris la main dans le sac ; on a en fait affaire ici à des bougnoules ahuris qui vivent comme des bêtes dans des contrées barbares, le concept d'innocence n'a donc aucun sens, surtout lorsque le cours de l'action des entreprises d'armement occidentales est en jeu.

  • # Hmmm ....

    Posté par (page perso) . Évalué à 2.

    … il pourrait être intéressant de discuter de cette seule assertion: "seul l'homme possède la légitimité du crime".
    Partant du fait que la notion de crime implique qu'il ne s'agit pas d'un meurtre simplement "utilitaire" (comme tuer un lapin pour se remplir l'estomac), je me demande en quoi l'Homme détient cette légitimité …

    • [^] # Re: Hmmm ....

      Posté par (page perso) . Évalué à 3.

      je me demande en quoi l'Homme détient cette légitimité

      Parce que c'est lui le plus fort. Du moins à l'échelle de la vie sur terre pour un temps inconnu.
      Donc c'est lui qui décide des règles. Et lorsque les règles ne lui conviennent plus… elles changent.

    • [^] # Re: Hmmm ....

      Posté par . Évalué à 1.

      je me demande en quoi l'Homme détient cette légitimité…

      Et bien, dans l'idéal, faire la guerre est tuer des gens devrait être un acte de sacrifice, parce que celui qui se charge effectivement du boulot aura des morts sur la conscience pour le reste de sa vie. Il y a un fort tabou sur le meurtre en dépit du fait que diverses nations en fasse l'éloge régulièrement.

      Please do not feed the trolls

    • [^] # Re: Hmmm ....

      Posté par (page perso) . Évalué à 2.

      Il pourrait être intéressant de discuter de cette seule assertion: "seul l'homme possède la légitimité du crime".

      J'y ai un peu répondu dans ce commentaire, mais cela pose aussi la question du bourreau (cf. Dieu et nous seuls pouvons).

      En revendiquant d'être « le seul à avoir le droit d'être bourreau », l'homme affirme qu'il est un bourreau.

      Comme quoi une simple historiette autour d'un jeu vidéo peut traduire beaucoup de chose de l'idée que l'homme se fait de l'homme.

      ce commentaire est sous licence cc by 4 et précédentes

      • [^] # Re: Hmmm ....

        Posté par (page perso) . Évalué à 2.

        Certains ont dit « L'homme est un loup pour l'homme », je ne crois pas que l'on ai déjà dit qu'un animal était un bourreau, il faut la science fiction (ou le mythe) pour imaginer un bourreau qui n'est pas homme.

        ce commentaire est sous licence cc by 4 et précédentes

  • # À lire / à voir

    Posté par (page perso) . Évalué à 1.

    Il y a bien une nouvelle de SF qui me vient à l'esprit : Nouveau Modèle (Second Variety en VO) de Philip K. Dick, qui a même été adapté au cinéma sous le nom de Planète Hurlante (Screamers). La nouvelle décrit une Terre du future progressivement détruite par des drones devenus incontrôlables.

    Évidemment, Terminator et Matrix voguent sur le même thème, qui doit remonter à Frankenstein. À ma connaissance, Asimov est l'un des seuls à avoir vraiment écrit des romans et nouvelles en évitant soigneusement ce « syndrome Frankenstein ».

    • [^] # Re: À lire / à voir

      Posté par . Évalué à 2.

      Ce n'est pas l’exclusivité de la SF occidental ? en général, les mangas sont un plus neutre vis à vis des robots.

      "La première sécurité est la liberté"

    • [^] # Re: À lire / à voir

      Posté par (page perso) . Évalué à 2.

      Merci pour la suggestion !

      Dans la lignée des « robots incontrôlables », je sais que Ghost in the Shell : Innocence fait plusieurs fois référence à L'Ève nouvelle d'Auguste de Villiers de L'Isle-Adam, soit en le citant, soit en glissant quelques références dans des images comme celle-ci :

      ghost in the shell innocence, l'ève nouvelle

      Mais je n'ai pas encore lu l'Ève nouvelle.

      ce commentaire est sous licence cc by 4 et précédentes

Suivre le flux des commentaires

Note : les commentaires appartiennent à ceux qui les ont postés. Nous n'en sommes pas responsables.