Journal Bill Gates est « préoccupé par la superintelligence » artificielle

Posté par (page perso) . Licence CC by-sa
Tags : aucun
24
30
jan.
2015

Bonjour nal,

Quelques temps après Stephen Hawking, Bill Gate s'avoue inquiet du développement d'une superintelligence artificielle.
Pour ceux qui n'auraient jamais entendu parlé de Skynet lorsqu'ils étaient petit, pour qui Terminator est un simple personnage de fiction, il faut revenir sur la notion de "singularité technologique". Le développement de l'informatique aussi bien en terme matériel que logiciel devrait aboutir dans un délais de 20 à 50 ans à la création d'une intelligence supra humaine susceptible de prendre en charge son évolution, l'être humain étant cantonné à un rôle secondaire dans l'histoire.
Cette idée était déjà présente chez Isaac Azimov qui dans une nouvelle explore l'idée que les machines prennent le pouvoir de manière insidieuse.
Cher journal, je crois que j'ai enfin compris le but ultime de Microsoft: faire reculer le jour de l'avènement de la machine supra humaine par une compilation de bugs savamment choisie. Quel humaniste ce Bill….
une lien? http://www.lemonde.fr/pixels/article/2015/01/29/bill-gates-est-preoccupe-par-la-super-intelligence-artificielle_4566394_4408996.html#2o6QKvSjf7HhX6oB.99

  • # Skynet ?

    Posté par . Évalué à 10.

    Pour ceux qui n'auraient jamais entendu parlé de Skynet lorsqu'ils étaient petit

    Ça élimine déjà tous les belges qui ont eu un accès internet relativement tôt.

    Tous les nombres premiers sont impairs, sauf un. Tous les nombres premiers sont impairs, sauf deux.

  • # Asimov

    Posté par . Évalué à 2.

    Personnellement ça me fait plus penser au Multivac qui dirige la planète entière mais de manière assez impersonnel.

    • [^] # Re: Asimov

      Posté par (page perso) . Évalué à 4.

      C'est un souvenir lointain mais il me semble qu'une nouvelles des "Robots" se concluait par le constat que les machines, nées de générations successives de robots engendrés par d'autres ordinateurs, gouvernaient le monde tout en restant soumises aux lois de la robotiques et donc emmenait l'humanité vers la société la plus parfaite sans que nul ne puisse prédire si cette société serait capitaliste ou communiste. Quelqu'un s'en souvient-il?

      • [^] # Re: Asimov

        Posté par . Évalué à 3. Dernière modification le 30/01/15 à 13:51.

        À la fin de l'œuvre d'Asimov plus particulièrement, quand la majorité des nouvelles et bouquins se trouvent plus ou moins liés entre eux, je crois que c'est finalement en toile de fond de l'ensemble de son œuvre (une fois le cycle des robots rattaché à celui de Fondation par « Les Robots et l'Empire »).

        Ceci étant, je crois que c'est essentiellement dans « Terre et Fondation » et « Fondation Foudroyée » dans une moindre mesure (de tête), que le célèbre « R. Daneel Olivaw » admets les limites des capacités de choix des robots pour prendre soin de l'humanité, et finit par lui rendre son contrôle à elle-même, sans plus tenter de la contrôler dans l'ombre.

        Et effectivement, c'est dans ces derniers volumes que deux alternatives se posent au héros humain : un modèle de société plutôt inspiré du communisme, et un autre plus individualiste. Je ne me souviens d'ailleurs plus vers où se penche plus le-dit héros.

        • [^] # Re: Asimov

          Posté par (page perso) . Évalué à 6.

          [SPOILER]
          C'est à la fin de "Fondation foudroyée" que le héros doit choisir entre 3 options pour l'humanité:
          Trevize doit maintenant prendre une décision, alors qu’il n’est soumis à aucune influence dominante. Il a le choix entre l’Empire matérialiste de la Première Fondation, semblable à celui qui s’est effondré, l’Empire mentalique de la Seconde, telle que le voulait Hari Seldon, et Galaxia, super-organisme à l’échelle galactique, telle que le veut Gaïa. Sans savoir pourquoi, il choisit Galaxia. Les deux autres responsables des factions repartent donc avec la profonde certitude d’avoir tout arrangé, mais Gaïa peut à présent préparer l’édification de Galaxia, foudroyant les anticipations de Seldon, ce qui durera des siècles. (https://fr.wikipedia.org/wiki/Fondation_foudroy%C3%A9e)

          Et dans le dernier volume, "Terre et fondation", il part à la recherche de la Terre pour essayer de comprendre pourquoi il a choisi Galaxia.

          Je ne contredit pas violemment ton analyse mais le choix ne se réduit pas uniquement entre "Communisme" et "Capitalisme" pour le héros, mais aussi entre une société de libre arbitre (la Première Fondation), une société dont les choix sont faits par une entité supérieure extérieure aux gens (l'empire mentalique de la seconde fondation), et enfin une société dont les choix sont faits par tout l'univers entier en tant qu'organisme unique (Galaxia).

          • [^] # Re: Asimov

            Posté par . Évalué à 2.

            Ouip. Souvenirs lointains que je faisais coller au message précédent, du coup. :)

            Ça me rajeunit pas, d'ailleurs, de repenser à quel âge j'ai lu tout Asimov ou presque.

          • [^] # Re: Asimov

            Posté par (page perso) . Évalué à 3.

            De mémoire il choisit galaxia en pensant que uni en symbiose nous seront plus fort contre une entité adverse qui viendrait nous attaquer.

          • [^] # Re: Asimov

            Posté par . Évalué à 1.

            Il choisit Galaxia parce qu'il est "conscient".

            • [^] # Re: Asimov

              Posté par . Évalué à 1.

              Effectivement, plus tard, il réalise qu'en voyant l'influence qu'a pu avoir le mulet, seul Galaxia pourrait résister à une « attaque » d'une autre forme d'organisme, en précisant qu'on n'en a jamais vu.

              Et c'est d'ailleurs une incohérence dans l'œuvre d'Asimov parce qu'il y en a un dans Némésis.

              • [^] # Re: Asimov

                Posté par . Évalué à 3.

                Effectivement, plus tard, il réalise qu'en voyant l'influence qu'a pu avoir le mulet

                C'est triste son avis sur eDonkey !

                "Quand certains râlent contre systemd, d'autres s'attaquent aux vrais problèmes." (merci Sinma !)

        • [^] # Re: Asimov

          Posté par . Évalué à 1.

          Et effectivement, c'est dans ces derniers volumes que deux alternatives se posent

          Une alternative se pose. En effet, une alternative "est un choix entre 2 possibilités distinctes" (Wikipedia).

          Donc, une alternative --> 2 possibilités; 2 alternatives --> 4 possibilités?

          • [^] # Re: Asimov

            Posté par . Évalué à 5.

            Donc, une alternative --> 2 possibilités; 2 alternatives --> 4 possibilités?

            Bah non. 2 alternatives --> 3 possibilités. Possibilité 1, alternative 1 et alternative 2

  • # Jusqu'ici

    Posté par . Évalué à 10.

    Je suis plus préoccupé par la superconnerie naturelle.

    • [^] # Re: Jusqu'ici

      Posté par . Évalué à 3. Dernière modification le 30/01/15 à 14:01.

      En cela, on peut d'ailleurs lier ce journal à celui de la pénibilité de Google : la singularité risquera peut-être de dépasser l'humain, mais peut-être non seulement à cause de l'augmentation de ses capacités de calcul, des données auxquelles elle a accès, et de l'amélioration des algorithmes, mais aussi parce-qu'à trop lui déléguer de choses, on se sera rendu globalement plus idiots et/ou dépendants de services externes et hétéronomes.

      En bref : parce-qu'on/certains aura/auront fait le choix politique de la facilité à se rendre massivement plus débiles.

      • [^] # Re: Jusqu'ici

        Posté par . Évalué à 6.

        De Asimov à Idiocracy, de Charybde en Scylla ….

      • [^] # Re: Jusqu'ici

        Posté par . Évalué à 1.

        Pas sûr que l'on puisse généralliser le cas de quelques uns de manière si systèmatique.

        VICE, le dernier film (assez pourri… selon moi) un peu sf sortit au ciné, fait état d'un homme qui à soumis les machines pour mieux soumettre les humains.

        Donc ouais, c'est surtout la superconnerie qu'il faut craindre.

  • # Puisque c'est Dredi ...

    Posté par . Évalué à -9. Dernière modification le 30/01/15 à 14:20.

    Pourquoi personne ne parle de la connerie artificielle …
    vous savez les trucs qui commencent par MS … MS 95 / MS 98 / Millenium (très très bon cru)
    MS NT4 le unix killer … il est ou celui la ?

    FLASH SPECIAL 30 JANVIER 2065 ….
    William Gates III (petit fils de ….) a tenté de compiler GNU-IA sur une version Windows 248, mais sans résultat : "" Le plus dur juste après la compilation, au démarrage de l'entité c'est de la convaincre de ne pas se suicider … très vite celle ci affiche : I am not a Number et s'auto détruit. ""

    On me signale à mon oreillette qu'il est tend de partir en week end …

  • # Pic, plateau, tout ça...

    Posté par (page perso) . Évalué à 10. Dernière modification le 30/01/15 à 14:50.

    Le développement de l'informatique aussi bien en terme matériel que logiciel devrait aboutir dans un délais de 20 à 50 ans à la création d'une intelligence supra humaine

    Devrait aboutir ? Qui dit ça ? Les mêmes qui observent un bambou grandir et qu'ils disent qu'il devrait atteindre la lune en 2028 ?
    L'extrapolation à l'infini d'une courbe de tendance c'est le mal.

    • [^] # Re: Pic, plateau, tout ça...

      Posté par . Évalué à 1.

      L'extrapolation à l'infini d'une courbe de tendance c'est le mal.

      Certains disent que c'est des maths.

    • [^] # Re: Pic, plateau, tout ça...

      Posté par . Évalué à 7.

      Surtout qu'il semble déjà très compliqué de définir et de mesurer l'intelligence, alors extrapoler un truc que l'on connait mal, comment dire … Et d'ailleurs, dans la notion d'intelligence humaine, quelle part on donne a ce qui procède de la collaboration des individus entre eux, et quelle part est individuelle ? Qui plus est, est-ce que ça a du sens de procéder a un tel découpage ?

      Et si on admet que l'intelligence d'un individu est connectée à l'intelligence collective via un ensemble complexe de processus sociaux-culturel, si une intelligence artificielle "singulière" émerge un jour, pourquoi ne s’intégrerait-elle pas naturellement dans ces processus, du fait même qu'ils semblent nécessaire au fonctionnement de l'intelligence en général ? Et n'est-ce pas déjà un peu le cas à travers les machines qui permettent aux humains de collaborer et d'externaliser certaines de leur fonctions cognitives (la mémoire, le calcul par exemple) ?

      Enfin bref, est-ce que la question de fond ce n'est pas plutôt que l'on serait entrain de vivre un processus d'artificialisation et de "mécanisation" plus ou moins partiel de notre intelligence collective et individuelle à travers l'informatisation et du coup, quelle en serait la limite et ses conséquences dans l'avenir ?

      Bref, je n'arrive pas être convaincu par ce concept de singularité, comme avec celui des robots "humanoïdes", même si ça fait toujours d'excellents film de SF. Et d'ailleurs, question SF, je suis plus séduit par la Culture de Ian Banks que par les Robots d'Asimov.

      Faut pas gonfler Gérard Lambert quand il répare sa mobylette.

      • [^] # Re: Pic, plateau, tout ça...

        Posté par . Évalué à -7.

        ça me choque que même chez linuxfr on tombe dans de pareils pièges marketings de journalistes en manque de scoops. Ils sont ou les matheux ? L'intelligence artificielle ne peut pas exister merci Gödel, mais le théorème d'incomplétude c'était en 1931 !!!

        Par contre des évolutions encore plus déviantes du trombone de Microsoft, ça oui…

        • [^] # Re: Pic, plateau, tout ça...

          Posté par (page perso) . Évalué à 7.

          L'intelligence artificielle ne peut pas exister merci Gödel

          Pff. Encore une fois Gödel mis a toutes les sauces.
          Quel rapport entre un énoncé technique sur la formalisation de l'arithmétique et une possibilité d'existence d'une "intelligence" artificielle (avec toutes les ambiguïtés sur la notion d’intelligence) ?
          Tiens ça me fait penser à ce post récent de David Monniaux.

          • [^] # Re: Pic, plateau, tout ça...

            Posté par (page perso) . Évalué à 6.

            C'est marrant j'ai croisé une foi les frères Bogdanov et ils m'ont affirmé que le champ topologique permettait de décrire ce qui se passait avant le Big Bang… Je continue à penser que ça ne veut rien dire mais visiblement ils ne lâchent pas le morceau.
            Pourtant ce n'est pas parce que le nord existe que le nord du pôle nord existe.

        • [^] # Re: Pic, plateau, tout ça...

          Posté par (page perso) . Évalué à 2.

          L'intelligence artificielle ne peut pas exister merci Gödel, mais le théorème d'incomplétude c'était en 1931 !!!

          Une théorie suffisamment complexe pour comprendre l'arithmétique est nécessairement incomplète, quel rapport avec l'intelligence?

          • [^] # Re: Pic, plateau, tout ça...

            Posté par . Évalué à -10.

            Quelle est l'enfant de l'élaboration du formalisme des mathématique ? Réponse : La programmation. Est-ce qu'un algorithme peut capter le sens des choses ? Non, seulement la forme. (Google Trad ne comprend pas le langage, hein merci…) Pour les fous qui veulent tout simuler… On comprend déjà même pas le rapport entre physique, psychique, et biologique, donc pas avant plusieurs siècles.

            Godel montre que le formalisme de la logique des mathématiques est régis par un élément extérieur qu'il nomme l'intuition, cqfd, quand les ordis auront de l'intuition on sera tous mort, ça c'est sûr.

            • [^] # Re: Pic, plateau, tout ça...

              Posté par . Évalué à 1.

              Euh, renseigne toi un minimum sur les IA. Aujourd'hui, avec des zeta-octets de données et des processus complexes de décision (réseaux de neurones, etc.), on n'a plus besoin d'intuition.

              Aujourd'hui, on a Google qui te décrit des images avec 99% de fiabilité avec une IA.

              Ou encore, du trading haute fréquence, ou des voitures qui sont pilotés de manière bien plus fiables que par un humain (vision à 360° en permanence). :)

              Alors bon le théorème d'incomplétude, il fait bien marrer.

              "Quand certains râlent contre systemd, d'autres s'attaquent aux vrais problèmes." (merci Sinma !)

              • [^] # Re: Pic, plateau, tout ça...

                Posté par . Évalué à 1.

                Alors bon le théorème d'incomplétude, il fait bien marrer.

                Tout à fait, le théorème d'incomplétude est très utilisé pour faire de l'humour, par exemple :

                • Tous les crétois sont des menteurs, dit Epiménide, penseur crétois.

                Ha ha ha, quel boute en train, ce Gödel, quand même !

                Faut pas gonfler Gérard Lambert quand il répare sa mobylette.

                • [^] # Re: Pic, plateau, tout ça...

                  Posté par . Évalué à -2.

                  Etienne Klein éclaire nous !
                  http://youtu.be/przYGmtfH1o?t=56m05s

                  On va dire qu'il y a ceux qui lisent et s'informent, et les autres… Je ne vais pas m'expliquer, car les discussions de café ça ne m’intéresse pas. Mais si vous aimez comprendre le monde dans lequel on vit au lieu de répéter bêtement des articles de gogo, je vous conseille le papier de Marceau Felden : "L'intelligence peut-elle être "Artificielle" ? Ainsi que la belle intro sur le formalisme et le sens de Jacques Arsac : "L'informatique et le mur du sens".

                  Je précise que ces gens ne sont pas des geeks trainards de l'internet des égos, mais bien des scientifiques qui enseigne la physique, merci.

                  • [^] # Re: Pic, plateau, tout ça...

                    Posté par . Évalué à 6.

                    Oui, très bien ta vidéo, mais elle est un peu incomplète.

                    « Einstein a tort » du haut de quelqu’un qui n’a jamais étudié la physique c’est du narcissisme, OK.

                    Mais ta video oublie une autre forme de narcissisme, qui est d’utiliser des résultats scientifiques dans un contexte philosophique sans le comprendre.

                    Exemple 1: Eintein a montré que tout était relatif donc la réalité objective n’existe pas.

                    Exemple 2: Gödel donc l’intelligence artificielle est impossible.

                    Maintenant si tu veux faire de la patalogique, moi aussi je sais faire :

                    • Si (1) incomplétude => non-intelligence
                    • Si (2) le dualisme métaphysique est faux (i.e. que l’intelligence humaine provient exclusivement des processus physiques qui se déroulent dans le corps humain et en particulier dans le cerveau, et aucunement d’un source « métaphysique » comme une âme incorporelle)
                    • Si (3) la thèse de Turing-Church est correcte
                    • Alors (4) les êtres humains ne sont pas intelligents
                    • [^] # Re: Pic, plateau, tout ça...

                      Posté par . Évalué à 8.

                      Oui, très bien ta vidéo, mais elle est un peu incomplète.

                      C'est Gödel qui tenait la caméra.

                      (Ok, poussez pas, je sors)

                      Faut pas gonfler Gérard Lambert quand il répare sa mobylette.

                    • [^] # Re: Pic, plateau, tout ça...

                      Posté par . Évalué à -4.

                      Ces résultats scientifiques sont obligatoirement philosophiques, car il change la manière de vivre de ces gens, et on peut le voir dans les notes de Gödel, qui sont philosophiques. (Il faut les lire). Mais j'avoue pleinement que mon résumé à deux balles en trois phrases est totalement incomplet, et provocateur (et pas univoque). Mais bon est-ce que c'est vraiment le lieu pour faire une thèse sur l'intelligence artificielle ?

                      Pour revenir à la question pataphysique mon maitre Saint Linus dans l'évangile de la parole d'Aalto à dit (01,29) : I like offending people because people getting offended should be offended).

                      PS: j'aime bcp ton point (2), car au fond, qui sait ce qu'est l'intelligence ? Voilà entre autres pourquoi quand j'entends intelligence artificielle cela me fait tout de suite pensé à un micro-onde quantique qui peut cuire des saucisses en les lançant dans l'hyperespace.

    • [^] # Re: Pic, plateau, tout ça...

      Posté par . Évalué à 6.

      L'extrapolation à l'infini d'une courbe de tendance c'est le mal

      Excellente définition du mal :)

  • # Intelligence artificielle... warf...

    Posté par . Évalué à 10.

    Pendant que certains se font peur tout seuls avec l'intelligence artificielle, on doit composer tous les jours avec des OS plus ou moins buggués, toujours aussi techniques à installer et à utiliser, et toujours aussi "bêtes". Il y a une évolution très nette des supports informatiques : tout petits ordinateurs avec des écrans tactiles, wifi, toujours plus de données stockées dans un petit espace… Mais pour ce qui est de la qualité générale les logiciels, warf warf. On a utilisé les améliorations des capacités de calcul pour faire tourner les logiciels dans des frameworks de plus en plus lourds (flash, java…) ; les gains de réactivité sur les accès disque ont été plus que largement compensés par la nécessité de pinger un serveur à l'autre bout de la planète pour ouvrir n'importe quelle application… C'est toujours aussi long de développer le moindre logiciel, toujours aussi long de le débugguer, toujours aussi galère pour le faire tourner sur plusieurs plateformes et lui faire passer les mises à jour du système. Bref, on en est encore à passer le plus clair de notre temps à faire tourner des logiciels triviaux correctement. Si d'ici 50 ans on pouvait arriver à des systèmes à peu près stables, à peu près robustes, et à peu près compatibles avec le matériel et le logiciel des autres, je pense que ça serait un progrès très net. Ça me semblerait assez dément d'imaginer que la singularité technologique est imminente alors qu'on sait à peine comment être sûr d'afficher correctement un lecteur vidéo sur une page web…

    • [^] # Re: Intelligence artificielle... warf...

      Posté par . Évalué à 6.

      J'ai tendance à réagir un peu comme toi chaque fois qu'on me parle de singularité ou de super-IA. Et puis, le temps passant, je me surprends parfois à avoir l'impression de faire fausse route.

      Typiquement, ce raisonnement (que je fais facilement mien, donc) marche dès lors que tu limite les ordinateurs ou la puissance informatique aux micro-ordinateurs actuels. Si tu considère l'"intelligence" (guillemets de rigueur) de l'ensemble de l'infra Google, c'est déjà autre chose. On a un machin monstrueux, tolérants à un grand nombre de pannes, réparti à travers le Monde. Pour l'instant, il n'est rien sans intervention humaine régulière. Et pour les 20 ans à venir, c'est une quasi-certitude. Plus loin? Bien malin qui saurait le dire.

      • [^] # Re: Intelligence artificielle... warf...

        Posté par . Évalué à 6.

        En même temps, c'est un peu la discussion qu'on a eue sur un autre fil il y a peu de temps, est-ce que les datacenters de Google sont vraiment "intelligents"? Contraitement à la plupart des approches en IA, les algorithmes sont profondément bêtes ; ils ne font que chercher des réponses dans la base de données gigantesque des connaissances humaines numérisées. Plus cette base sera exhaustive et plus les algorithmes de recherche seront précis, et plus on aura l'impression d'accéder à une sorte de mémoire centrale de l'humainité. Cependant, une telle structure n'est pas "intelligente" et ne peut rien inventer, rien créer, rien produire à part des synthèses des données qu'elle contient. Elle est donc totalement incapable de générer cette fameuse singularité, son point d'arrivée ne peut être qu'une sorte de Wikipédia incroyablement exhaustive munie d'une interface intuitive, mais elle sera totalement dépendante de la création humaine pour s'enrichir de nouvelles données. Elle va pouvoir te lister tous les algotithmes de tri, mais ne pourra pas en inventer un. Elle pourra te lister des centaines de milliers de conjectures mathématiques, sans pouvoir en démontrer aucune.

        J'ai l'impression que dans le domaine logiciel, pour avoir une singularité, il faut impérativement des machines autoprogrammables. Par exemple, des logiciels qui auto-codent de nouvelles fonctionnalités, ce genre de choses. 20 ans me semble très optimiste pour voir une telle technologie fonctionner réellement. Au cours des 20 dernières années, quelles ont réellement été les innovations en terme de programmation (pas les trucs cryptiques et en proof of concept dans les labos de recherche)? Vu comment c'est parti, il ne me semble pas improbable que dans 20 ans, on en soit toujours à peu près au même point…

        • [^] # Re: Intelligence artificielle... warf...

          Posté par . Évalué à 2.

          Le seul moteur d’évolutions assez puissant pour faire émerger des formes intelligence complexes adaptées à leur environnement c'est la sélection naturelle darwinienne.
          L'IA progressera à partir du moment où nous exercerons une force sélective à son encontre, du genre essayer de débrancher la prise. Les expériences pour laisser à des vers robots découvrir comment "marcher" son assez intéressante.

          http://www.larecherche.fr/savoirs/dossier/darwin-revisite-selection-artificielle-01-02-2002-89330.

        • [^] # Re: Intelligence artificielle... warf...

          Posté par . Évalué à 1. Dernière modification le 31/01/15 à 07:37.

          Cependant, une telle structure n'est pas "intelligente" et ne peut rien inventer, rien créer, rien produire à part des synthèses des données qu'elle contient.

          Euh ben non. Confer Science & Vie : un peintre IA, qui fait des peintures très originales.
          (je crois qu'il y avait aussi un romancier IA et un musicien IA… ;-) )

          J'ai l'impression que dans le domaine logiciel, pour avoir une singularité, il faut impérativement des machines autoprogrammables. Par exemple, des logiciels qui auto-codent de nouvelles fonctionnalités,

          Euh, c'est super vieux (les virus MS-DOS le faisaient déjà), et c'est utilisé en IA.

          "Quand certains râlent contre systemd, d'autres s'attaquent aux vrais problèmes." (merci Sinma !)

        • [^] # Re: Intelligence artificielle... warf...

          Posté par . Évalué à 1.

          On se trompe de cadre d'analyse, l'émergence de ""l'intelligence"" (singularité) n'est pas dans un système uniquement composé du datacenter Google, mais dans le méta réseaux composé de l'ensemble (machines centrales plus utilisateurs plus autres fournisseurs de données). C'est comme chercher de l'intelligence dans un cerveau seul sans considérer les autres organes (yeux, oreilles, intestins, etc.) et leurs interactions (rétroactions). Sinon pour info, les AGI sont en capacité maintenant de donner le change jusqu'à un certain point. Même ce bon deeplop qui n'est pas le plus brillant de sa classe et qui utilise un historique confus a de vrais fulgurences.

    • [^] # Re: Intelligence artificielle... warf...

      Posté par . Évalué à 6.

      Le cerveau humain doit être au moins aussi buggué qu’un OS moyen, je ne vois pas où tu veux en venir.

      XKCD obligatoire

      Et ce d’autant plus qu’il est fort à parier qu’une IA forte viendra des maths et d’une implémentation logicielle relativement simple (exactement comme les outils d’IA faible aujourd’hui) mais très gourmande en ressources (bien plus qu’aujourd’hui !), plutôt que d’un logiciel extrêmement complexe logiciellement.

      • [^] # Re: Intelligence artificielle... warf...

        Posté par . Évalué à 5.

        Mouais, si je comprends bien, tu veux dire que l'"OS cérébral" qui a inventé les avions, les ordinateurs, et les centrales nucléaires est le même que celui qui a inventé le fondamentalisme religieux, l'épuration ethnique, et le bizutage. Du coup, on peut très bien disposer prochainement d'un programme d'IA tellement puissant qu'il est capable de concevoir des IA encore plus intelligentes, en le faisant tourner sur une machine qui n'arrive pas à détecter ton imprimante wifi? Ça me parait paradoxal, mais pas forcément plus que l'existence de gamins miséreux qui passent leur vie à récupérer quelques grammes de métaux précieux dans nos poubelles informatiques…

      • [^] # Re: Intelligence artificielle... warf...

        Posté par . Évalué à 3.

        Oui, mais ce qui me pose problème, perso, c'est cette idée ou ce concept d'IA forte, supérieure, etc .. C'est quoi une intelligence supérieure ? Comment ça se mesure ? Si il s'agit de la capacité à comprendre la grande question sur la vie, l'univers et le reste, l'humain a déjà fait pas mal de boulot depuis quelques centaines de milliers d'années, non ?

        Alors, là, demain, l'IA forte se pointe, conçue par l'homme qui plus est, profite de tout ce boulot qu'on a déjà fait et paf, là, elle serait du coup plus intelligente ? Et paf, elle nous mettrai un grand coup de pied au cul simplement parce qu'on serait des boulets périmés tel des vieux iphones 4 ?

        Et si comme tu le dit, ce ne serait, au final, qu'une question de math, cela voudrais dire qu'une implémentation logicielle de principes mathématiques nouveaux et révolutionnaire pourrait être plus "intelligente" que ses concepteurs, c'est à dire, au minimum donc, capable de produire un principe supérieur en intelligence qu'elle-même, puisque c'est le summum auquel est arrivé son concepteur humain. Et du coup, cette super intelligence serait capable de produire elle aussi une super super intelligence qui lui foutrait un coup de pied au cul et ainsi de suite, l'univers serait de facto détruit par une explosion exponentielle de super super super … IA se mettant des coups de pieds au cul récursivement ?

        Ou alors, on peut convenir que si l'IA forte est si forte qu'elle sera suffisamment intelligente pour ne pas concevoir une IA plus forte qu'elle qui la détruirait. Mais on est assez intelligent nous aussi pour comprendre ça, enfin, au moins Billou et Stephen Hawking en tout cas, puisque ça les inquiète.

        Donc à mon avis, le concept d'intelligence supérieure est fondamentalement foireux. Ce qui ne veux pas dire que le concept d'intelligence artificielle l'est. Il est possible que l'on arrive a créer une forme d'intelligence artificielle, de là a ce qu'elle soit supérieure ou inférieure à quoi que ce soit … à mon avis, c'est la que ça perd son sens toute cette affaire.

        Faut pas gonfler Gérard Lambert quand il répare sa mobylette.

        • [^] # Re: Intelligence artificielle... warf...

          Posté par . Évalué à 5.

          IA se mettant des coups de pieds au cul récursivement ?

          C'est exactement la définition de la singularité technologie, la violence en moins. Si quelqu'un crée une IA capable de s'améliorer elle-même, on va avoir une rupture dans l'histoire de la technologie—des innovations technologiques à profusion, virtuellement instantanées.

          La notion d'intelligence artificielle est quasiment impossible à définir de manière consensuelle, mais en tout cas, pour générer une singularité technologique, il lui faut plusieurs propriétés : la capacité de créer des IA plus performantes, et la capacité à inventer des "choses" autres que des IA. La deuxième exclut dans une certaine mesure tout ce qui consiste en du calcul brut. Par exemple, une IA capable de démontrer des théorèmes mathématiques ne pourrait pas enclencher un tel cycle, par contre, une IA capable de créer de nouvelles conjectures, de démontrer des théorèmes, et de produire des IA encore plus fortes pour définir de nouvelles conjectures, de démontrer des théorèmes, et de produire des IA encore plus fortes, pourraient plus ou moins "résoudre" les mathématiques, ce qui serait quand même une sorte de truc important pour l'humanité…

          • [^] # Re: Intelligence artificielle... warf...

            Posté par . Évalué à 5. Dernière modification le 30/01/15 à 17:55.

            Oui, comme ça, je percute mieux. En fait, chez Billou et ceux qui flippe au sujet de la singularité, le concept d'IA forte est pollué par notre perception culturelle du fait que des civilisations humaines plus évoluées technologiquement ont causé historiquement la disparition d'autres sociétés humaines, et que donc, on projetterais cette trouille naturelle sur des concepts comme les extra-terrestres, les robots, les IA, qui du fait qu'il serait plus évolués technologiquement, nous éclipserais. Héhé, c'est comme souvent, la science fiction, si elle nous apprend rien sur le futur, elle en dit long sur nous-même.

            Faut pas gonfler Gérard Lambert quand il répare sa mobylette.

        • [^] # Re: Intelligence artificielle... warf...

          Posté par . Évalué à 2.

          Alors, là, demain, l'IA forte se pointe, conçue par l'homme qui plus est, profite de tout ce boulot qu'on a déjà fait et paf, là, elle serait du coup plus intelligente ? Et paf, elle nous mettrai un grand coup de pied au cul simplement parce qu'on serait des boulets périmés tel des vieux iphones 4 ?

          L'accès à des zeta-octets de données en permanence, ça permet d'analyser bien plus qu'un humain seul.

          Je me souviens assez mal, mais j'avais lu dans S&V qu'un algo de recoupage de données avait permis de mettre à jour des faits qui étaient restés cachés aux meilleurs spécialistes à propos d'une épidémie (oui c'est super vague, si quelqu'un pouvait retrouver le numéro sur les IA…)

          "Quand certains râlent contre systemd, d'autres s'attaquent aux vrais problèmes." (merci Sinma !)

          • [^] # Re: Intelligence artificielle... warf...

            Posté par . Évalué à 4.

            Le truc c'est que l'analyse est faite par l'homme en utilisant des machines. C'est là, justement, où ce concept de nocivité de la singularité technologique pose problème, il suppose qu'il y aurait les machines d'un coté, et des hommes sans machines de l'autre, et que, du coup, la machine prendrait le pouvoir sur l'homme. Alors qu'en pratique, c'est l'articulation des deux qui semble le moteur de l'évolution actuelle. Bref, pour faire simple, je pense que l'homme et la machine forme un alliage qui sera toujours supérieur à la machine seule et que c'est cela qui nous permettra d'éviter ce funeste destin que certains nous promette.

            Sinon, j'aurais tendance à dire que tu semble confondre big data et intelligence artificielle, ce n'est pas tout à fait la même chose. Et si c'est de Google Flu que tu évoque, si ça semble globalement efficace pour détecter les épidémie de grippe, il semble que ça ne soit pas exempt d'erreurs non plus.

            http://en.wikipedia.org/wiki/Google_Flu_Trends

            Il me semble que le problème avec ce genre de truc, c'est les retro-actions que l'outil induit par son utilisation. C'est assez rigolo, mais tant que google flu n'est pas très utilisé, il est précis, mais si on se met à lui faire confiance, dés qu'il va commencer à détecter un début d'épidémie, le nombre de recherche sur l'épidémie va croitre de ce simple fait et fausser les résultats. Comme une sorte de prophétie auto-réalisatrice; sauf que l'épidémie réelle ne se propage pas. C'est un peu le même problème pour les prédictions des cours de la bourse qui ont un effet sur les cours de la bourse. Bref, la connaissance du futur change le futur et le rend imprévisible. On dirait du Gödel, tiens.

            Faut pas gonfler Gérard Lambert quand il répare sa mobylette.

            • [^] # Re: Intelligence artificielle... warf...

              Posté par . Évalué à 3.

              Sinon, j'aurais tendance à dire que tu semble confondre big data et intelligence artificielle

              Le big data (dans sa partie analyse et exploitation) est un sous-domaine de l’IA : c’est adapter les méthodes d’IA faible connues à des dataset bien plus volumineux. Et c’est certainement ce qui se rapproche le plus d’une recherche pratique d’une IA forte aujourd’hui (qu’on soit clair : les gens qui font de la big data ne recherchent absolument pas une IA forte, ils sont toujours dans la recherche d’une IA faible, mais les outils qu’ils se trouvent forcés à développer dans le domaine, par ricochet, font avancer la recherche sur les IA fortes. L’apprentissage d’un recursive neural network a longtemps été un graal de ceux qui rêvent d’une IA forte, et c’est la big data qui a apporté les méthodes)

              On dirait du Gödel, tiens.

              Absolument rien à voir.

              Il me semble que le problème avec ce genre de truc, c'est les retro-actions que l'outil induit par son utilisation

              Tout à fait, mais ça n’enlève rien à la pertinence de ce que nous apprend l’exemple : avec les bonnes données, un ordinateur peut faire mieux qu’un spécialiste dans certains domaines aujourd’hui.

              M’enfin c’est pas du tout un scoop (on le savait depuis au moins Big Blue) et ça reste un exemple d’IA faible.

  • # Je connaît ça déjà

    Posté par . Évalué à 3. Dernière modification le 30/01/15 à 16:22.

    Totalement HS, mais Eclipse Phase est un JdR qui parle (entre autres) de ça.
    La transhumanité a créé des intelligences artificielles surpuissante, les TITAN, et celles-ci ont presque anéanti la transhumanité. Cela fait maintenant 10 ans que les TITAN sont parti et personne ne sait où ils sont.
    Le background en jette plein la gueule (on parle de plusieurs sujets, les TITAN ne sont pas derrière chaque coin de rue, etc.). Je conseille le jeu à tous !

    P.S.: Pour ceux qui aurait un doute, il s'agit aussi d'un jeu sur le transhumanisme.

  • # BILL GATES, MONSANTO ET ROCKEFELLER : ATTENTION DANGER !

    Posté par . Évalué à -5. Dernière modification le 01/02/15 à 22:56.

Suivre le flux des commentaires

Note : les commentaires appartiennent à ceux qui les ont postés. Nous n'en sommes pas responsables.