Journal Société de Cristal de Max Harms

22
17
déc.
2017

Un journal de pub éhontée pour un roman de SF qui cause d'intelligence artificielle : Crystal Society, de Max Harms.

Ce roman imagine l'apparition des premières consciences artificielles dans un labo de l'université de Rome dans environ 20 ans, puis leurs interactions avec le reste du monde, tout cela raconté du point de vue d'une de ces IA. Le roman est en anglais mais j'en ai traduit le début pour tenter ceux qui hésiteraient à se lancer.

Ce roman, qui se revendique de la science-fiction dure, est intéressant car il fait réfléchir à des questions éthiques ainsi que de sûreté de l'intelligence artificielle, autrement dit des problèmes que pourrait poser l'apparition d'IA générales qui ne soient pas fondamentalement maléfiques mais rationnelles et avec des buts plutôt positifs.

Le roman implique également des extraterrestres peu amènes, une organisation communiste révolutionnaire, et une sorte d'Elon Musk qui s'applique à coloniser Mars.

L'auteur est un développeur qui se spécialise dans le machine learning, et fait partie de la communauté de la rationalité bayésienne, à laquelle on doit également Harry Potter et les Méthodes de la Rationalité (VF) par exemple (que je recommande aussi, ou leurs essais pour ceux qui préfèrent la non-fiction).

Crystal Society est le premier roman d'une trilogie dont le dernier tome devrait sortir en février 2018. Le premier tome est disponible en ligne sous licence CC-BY-NC.

Liens

  • # Tiens un agent....

    Posté par (page perso) . Évalué à 4.

    "I have directed my agents to infiltrate your world and
    whisper this story in the ears of those who would share it. They
    will translate the concepts into your tongue and attempt to
    tailor them to make more sense to you, but unfortunately some
    details are bound to be lost."

  • # "Intelligence artificielle"

    Posté par . Évalué à -5.

    Passionnant…
    https://www.lexpress.fr/actualite/sciences/l-intelligence-artificielle-n-existe-pas_1956669.html
    "La véritable IA n'existera jamais, car le monde est inconnaissable. C'est l'histoire du philosophe à qui l'on demande: "Que pensez-vous des Espagnols?" Et qui répond: "Je ne sais pas, je ne les connais pas tous!" Il n'est pas rationnel d'être à 100% rationnel, or un ordinateur est à 100% rationnel. Ce qui intervient dans la pensée inductive, comme l'intuition ou l'imagination, n'est pas programmable."

    • [^] # Re: "Intelligence artificielle"

      Posté par (page perso) . Évalué à 8. Dernière modification le 17/12/17 à 14:39.

      C'est intéressant car la rationalité bayésienne consiste justement à ne juger les méthodes de pensée et d'action que sur les résultats qu'elles permettent d'obtenir, et non selon des idées reçues sur ce qui est "rationnel". Cela s'oppose au fait de choisir une méthode de raisonnement (ex : la démarche expérimentale) et de s'y tenir absolument, et cela s'oppose surtout aux personnages soi-disant rationnels qu'on voit souvent dans les films et qui appellent "rationalité" leur propre psychorigidité.

      On pense à Sheldon dans The Big Bang Theory ou Spock dans Star Trek, qui par exemple donne des probabilités de mourir de l'équipage avec 3 chiffres significatifs alors qu'elles sont entièrement fausses (l'équipage s'en sort toujours), ou se plaint que l'ennemi gagne en agissant de manière "irrationnelle" (c'est-à-dire imprévisible, car pour lui rationnel = prévisible).

      "If you fail to achieve a correct answer, it is futile to protest that you acted with propriety."

      La rationalité bayésienne consiste donc à atteindre ses objectifs en utilisant absolument tous les moyens à sa disposition, y compris par exemple le doute, l'imprévisibilité, l'intuition, l'imagination, etc. (L'adjectif "bayésienne" fait référence au fait de réviser ses croyances au fur et à mesure qu'on reçoit de nouvelles informations, selon la règle de Bayes.)

      Quant à savoir si ces choses seraient des pouvoirs magiques des humains qu'on ne peut pas mettre dans ordinateur, y a-t-il besoin de développer…

      • [^] # Re: "Intelligence artificielle"

        Posté par . Évalué à 3.

        Quant à savoir si ces choses seraient des pouvoirs magiques des humains qu'on ne peut pas mettre dans ordinateur, y a-t-il besoin de développer…

        Oui, et pas qu'un peu. Parce que qualifier une éventuelle "spécificité des humains" (ou du vivant, pour éviter l'anthropocentrisme) de "pouvoirs magiques" est un peu trop facile. J'attends ton développement avec impatience, du coup ;)

        • [^] # Re: "Intelligence artificielle"

          Posté par (page perso) . Évalué à 2.

          On comprend bien le fonctionnement des briques de base du cerveau et on est capable d'en simuler d'assez simple (souris: http://www.cell.com/cell/fulltext/S0092-8674(15)01191-5) Partant de là, pour moi c'est plutôt à ceux qui disent que reproduire l'intelligence humaine est inatteignable de justifier …

          • [^] # Re: "Intelligence artificielle"

            Posté par . Évalué à 2.

            Partant de là, pour moi c'est plutôt à ceux qui disent que reproduire l'intelligence humaine est inatteignable de justifier …

            Et c'est bien ce qui me pose problème. Le corps humain (et ça vaut pour pas mal d'organismes vivants complexes) est bien plus que ce qu'on désigne comme son intelligence : microbiome intestinal, multiples interactions chimiques au niveau hormonal, et j'en passe. Et on commence tout juste à réaliser à quel point on a sous-estimé les interactions entre tout ce petit monde et le cerveau.

            Alors oui, "simuler" le comportement électrique d'un cerveau de souris, c'est intéressant. Mais faut rester humble quand même : on est à des années-lumières de produire un cerveau de remplacement synthétique ET fonctionnel. Même pour une souris.

            • [^] # Re: "Intelligence artificielle"

              Posté par (page perso) . Évalué à 3.

              La question n'est pas de savoir s'il est facile de faire une IA de niveau humain ou de simuler un cerveau humain complet. La question est de savoir si certains processus de pensée humains sont tels qu'ils ne pourraient théoriquement avoir d'équivalent dans un ordinateur. J'ai l'impression qu'une telle affirmation révèle un manque d'imagination.

              Prenons l'intuition par exemple. Une façon de pensée humaine par excellence ? On peut la définir comme un processus de pensée qui donne un résultat de telle sorte qu'on ait uniquement ce résultat et qu'on ne sache pas comment il est apparu. Or il me semble que quand on entraine un réseau de neurones à reconnaitre une catégorie d'images, il va donner des résultats sans qu'on sache sur quels critères il se base, par opposition à un algorithme classique. Donc pour moi le deep learning c'est de l'intuition. Problème résolu.

              Ces questions me semblent assez proche du fait de voler dans les airs. Il s'est passé des siècles entre les premiers schémas d'engins volants et le premier avion. C'était sans conteste un problème difficile. Mais qu'est-ce qui pouvait bien se passer dans la tête d'un contemporain de De Vinci ou même de l'antiquité qui affirmait qu'il était dans le principe impossible de voler et qu'on ne pourrait jamais y arriver, tout en regardant des animaux le faire sous ses yeux ?

    • [^] # Re: "Intelligence artificielle"

      Posté par (page perso) . Évalué à 8.

      Un ordinateur n'est pas forcément rationnel dans l'absolu. Il peut se baser sur les comportements des humains par exemple : il pourrait utiliser les suggestions d'achat d'un site marchand (basé sur la réalité des comportements pas forcément rationnels des acheteurs), les variations de la bourse (la main invisible du marché ou les actions impulsives de boursicoteurs ou les comportements erratiques de trading à haute vitesse sont-ils rationnels). Il peut aussi se baser sur du pseudo-aléatoire, ce qui n'a pas grand chose de purement rationnel : décider de choisir entre A, B ou C en fonction de la variation de la pression atmosphérique à Vera Cruz additionnée à la dérivée de la valorisation du bitcoin n'aurait rien de rationnel. Le chaos amené par le pseudo-aléatoire (impossible de connaître les conditions initiales), ajouté à l'incompréhension de certains algos (aucun humain ne comprend comment marche exactement AlphaGo ou tout algo du genre par exemple), plus les bugs éventuels, rendent le monde informatique « imparfait » et non « 100% rationnel » (et les humains sont tout autant imparfaits et non 100 % rationnels d'ailleurs). Bref que l'on pense que l'on puisse avoir une vraie IA ou pas, je ne trouve pas cet argument très fort.

      • [^] # Re: "Intelligence artificielle"

        Posté par . Évalué à 2.

        Un ordinateur n'est ni rationnel, ni irrationnel, c'est l'humain qui le programme ( ou l'humain qui a programmé la machine qui l'a programmé …) et l'humain qui l'utilise qui le sont. Une pomme qui tombe serait moins rationnelle ? Un algorithme est-il capable de disserter ? Pose un ordinateur sur une île déserte, qui se posera la question de sa rationalité ? La rationalité dont vous parlez, et plus globalement l'intelligence artificielle, nous renvoient toujours à nous. Les ordinateurs sont le reflet de notre propre rationalité dans la conception et la mise en œuvre - et souvent de notre irrationalité dans l'usage - comme la roue, l'imprimerie, la poudre à canon, la bombe H, etc.

        Je crois que cette méprise est partie des nombre rationnels qui n'en sont pas. C'est une métaphore: quotient de deux entiers, mise en balance de deux idées par la raison.

        • [^] # Re: "Intelligence artificielle"

          Posté par (page perso) . Évalué à 2.

          On peut dire que la rationalité est une notion de haut niveau qui n'a pas de sens en parlant de circuits électroniques. En revanche, des attributs de haut niveau peuvent émerger dans du logiciel suffisamment sophistiqué sans intervention directe d'un humain. Par exemple, on pourrait dire qu'une IA qui découvre par elle-même le bluff au poker est "douée de duplicité" indépendamment de choix humains.

      • [^] # Re: "Intelligence artificielle"

        Posté par (page perso) . Évalué à 2.

        En fait je pense qu'il faut distinguer entre le matériel dont on peut supposer qu'il est effectivement cohérent et le programme qui lui ne l'est pas nécessairement que ce soit volontaire ou non.

      • [^] # Re: "Intelligence artificielle"

        Posté par . Évalué à 1.

        Cette critique de la rationalité s'applique aux hommes aussi. Quand je m'interroge sur la pensée de quelqu'une, c'est toujours moi qui m'interroge. Enfin quand on est matérialiste bien entendu.

    • [^] # Re: "Intelligence artificielle"

      Posté par . Évalué à 2.

      Je ne connais pas ce monsieur, encore moins le fond de sa pensée et ce n'est qu'une interview avec ses contraintes de format. Et encore, le sujet de l'intelligence artificielle n'est qu'une toute petite partie de l'article.

      N'empêche qu'encore une fois, on a l'impression de voir quelqu'un qui essaye de se rattraper aux branches pour désespérément trouver et défendre quelque propriété qui serait le "propre de l'homme" à grands renforts de jugements d'autorité.

      Comment parler d'intelligence, de conscience, de sentiments, sans entrer dans les principes font du cerveau humain ce qu'il est et sans entrer dans le fonctionnement de l'intelligence artificielle ? Les mécanismes d'apprentissage et de renforcement ne sont-ils pas similaires ? Dans les deux cas, les phénomènes émergents ne prennent-ils pas le pas sur la physique des composants de base (neurones, transistors, … ) ?

      Bien sûr on n'a pas encore programmé d'IA capable de faire l'ensemble de ce que peut faire un cerveau humain.
      Mais voilà, la problématique peut être formulée de façon scientifique. On peut donc essayer de l'aborder et de se l'expliquer par des procédés d'ordre philosophique, si on veut (c'est même très intéressant), mais une réponse non basée sur des arguments scientifiques n'a que peu d'intérêt.

    • [^] # Re: "Intelligence artificielle"

      Posté par . Évalué à 1. Dernière modification le 18/12/17 à 11:44.

      La véritable IA n'existera jamais

      L’évolution a réussi à faire un truc pas trop trop dégueulasse en 3.5 milliards d’années pourtant. Juste avec un langage comprenant 4 symboles (ou 64, selon le point de vue). Le challenge de l’IA consiste à :

      1. reproduire ce résultat
      2. l’améliorer

      Sachant que (2) viens quasiment automatiquement avec (1)

      • [^] # Re: "Intelligence artificielle"

        Posté par (page perso) . Évalué à 3.

        Juste avec un langage comprenant 4 symboles (ou 64, selon le point de vue).

        Je pense que c'est plus compliqué que cela. L'ADN n'est pas la seule composante de nos organismes pour nous donner de l'intelligence. Et d'ailleurs, malgré le fait que tout les êtres vivants ont plus ou moins la même base en terme de codage et de chimie, seules quelques espèces ont une intelligence qu'une IA actuelle ne sait pas reproduire. Et encore le niveau est très variable parmi eux.

        Il faut prendre nos organismes comme un ensemble, tu as la partie neuronale, l'ADN, les protéines, toute la chimie organique qui gravite autour avec ses différents composants. Et il n'est pas improbable qu'une partie du fonctionnement de notre cerveau (et donc de son fonctionnement au niveau cellulaire) nous échappe encore.

        Après ça doit certainement être possible de reproduire tout cela un jour sans doute. Mais l'évolution est loin d'avoir pondu quelque chose de simple pour ce résultat.

        • [^] # Re: "Intelligence artificielle"

          Posté par . Évalué à 1.

          L'ADN n'est pas la seule composante de nos organismes pour nous donner de l'intelligence

          Non, mais c’est la seule composante sur laquelle "l’évolution" "programme".

          • [^] # Re: "Intelligence artificielle"

            Posté par (page perso) . Évalué à 4.

            Bah, non.

            Regarde les mitochondries qui ne sont pas dans notre corps grâce à notre ADN, les bactéries dans notre tube digestif, l'influence de notre environnement sur notre raisonnement ou l'expression des gènes. Tout ceci évolue et fait parti du processus évolutif individuel et global. Pourtant, ces éléments ne sont pas dû uniquement à l'ADN mais viennent bien de l’extérieure ou par d'autres mécanismes.

            Suffit de constater, deux jumeaux, avec le même ADN de départ, produiront des individus distincts, avec leur raisonnement propre, et des différences visibles physiquement aussi.

            • [^] # Re: "Intelligence artificielle"

              Posté par . Évalué à 2.

              Regarde les mitochondries qui ne sont pas dans notre corps grâce à notre ADN

              L’ADN mitochondrial est soumis aux mêmes pressions de sélection que l’ADN classique. Et presque aux mêmes mécanismes de mutation. Qu’il soit dans la mitochondrie plutôt que dans le noyau ne change pas grand chose du point de vue de la sélection naturelle.

              les bactéries dans notre tube digestif, l'influence de notre environnement sur notre raisonnement

              Ben comme tu dis, tout ceci fait partie de l’environnement, que l’évolution prend en compte. Exactement comme un développeur prend en compte l’environnement dans lequel son programme est supposé tourner.

              • [^] # Re: "Intelligence artificielle"

                Posté par (page perso) . Évalué à 4.

                L’ADN mitochondrial est soumis aux mêmes pressions de sélection que l’ADN classique. Et presque aux mêmes mécanismes de mutation. Qu’il soit dans la mitochondrie plutôt que dans le noyau ne change pas grand chose du point de vue de la sélection naturelle.

                Sauf que la mitochondrie n'est pas apparu par le mécanisme de l'ADN. C'est ça que je voulais dire, de même que notre corps ne génère pas de lui même la flore intestinale. Cela provient d'autres choses qui font tout autant parti du processus évolutif.

                La question n'était pas vraiment au sujet de l'évolution de la mitochondrie elle même mais de son apparition dans les cellules vivantes.

        • [^] # Re: "Intelligence artificielle"

          Posté par . Évalué à 3.

          seules quelques espèces ont une intelligence qu’une IA actuelle ne sait pas reproduire. Et encore le niveau est très variable parmi eux.

          Mouais, ou alors toutes en fait.
          Ce qu’on sait reproduire c’est surtout un comportement moyen, limite statistique, appliqué avec marge de manœuvre à plein d’individus, et on peut simuler le comportement probable d’un groupe d’animaux, dans un environnement limité.

          De là à dire qu’on sait reproduire leur intelligence, je crois que le pas n’est pas vraiment franchis…
          Le problème étant qu’on atteint ici les limites de la définition de l’intelligence, et qu’on entre dans un débat philosophique.
          Ou alors qu’il faut un test de Turing adapté aux poissons rouges et autres batraciens.

          Yth.

        • [^] # Re: "Intelligence artificielle"

          Posté par . Évalué à 1.

          seules quelques espèces ont une intelligence qu'une IA actuelle ne sait pas reproduire.

          Copier une "intelligence" n'est pas une preuve d'intelligence, c'est même le contraire… Le propre de l'intelligence, c'est qu'elle peut être unique, inattendue, qu'elle peut créer jusqu'à l'infini et surtout, en être consciente. Sans conscience, pas d'intelligence possible…

  • # Au début était le commencement

    Posté par . Évalué à 1.

    J'aime bien autant le sujet du journal que l'objet du sujet du journal.
    Et donc, au delà du 1er chapitre peut-on espérer que la traduction sera complète ?

    • [^] # Re: Au début était le commencement

      Posté par (page perso) . Évalué à 2.

      Je me tâte à en faire un peu plus à l'occasion, mais là à la louche le premier chapitre m'a pris un weekend à ne faire que ça et sans trop trainer pour avoir une première version, puis encore un ou deux jours à relire, éditer et faire mon perfectionniste. 30 chapitres pour le tome 1, ça ferait un peu long à faire tout seul…

  • # A propos d'IA.

    Posté par . Évalué à 1. Dernière modification le 18/12/17 à 22:51.

    Déjà, merci beaucoup pour le travail, je vais commencer la lecture.

    Hormis les white-papers techniques et le man, j'ai vraiment du mal à lire des romans entiers UK en VO sans que mon cerveau surchauffe au bout de quelques chapitres, et à l'écran c'est encore plus fatigant. Une édition Atalante peut-être un jour … ?

    Sinon j'en profite pour faire appel à ton savoir collectif cher journal : étant un amoureux du travail d'Asimov, j'ai pratiquement lu toute son oeuvre (surtout ces nouvelles ou je trouve qu'il est tout bonnement exceptionnel avec une pointe d'humour qui me plaît beaucoup).

    Les thèmes notamment sur l'IA, les robots évidemment, et le fameux super-ordinateur positronique qui gère toutes les ressources de la planète de façon ultra-rationnel (je l'adore celui-ci), sont certes plaisant mais au final j'apprécie surtout sa capacité de conteur,sa prose simple, légère et humouristique (y a vraiment des nouvelles très drôles !!) traitant malgré tout de sujets philosophiques poussés.

    Souvent je me fis aux avis sur Internet mais je suis la plupart du temps déçu, je n'arrive pas à retrouver le rythme ou la légèreté de la prose … des conseils ?

  • # merki

    Posté par (page perso) . Évalué à 3.

    Merci pour ce journal, j'ai vraiment apprécié la lecture du premier tome !

Suivre le flux des commentaires

Note : les commentaires appartiennent à ceux qui les ont postés. Nous n'en sommes pas responsables.