Journal Un super ordinateur d'IA pour OpenAI

Posté par  (site web personnel) . Licence CC By‑SA.
7
8
déc.
2016

Bonjour Nal,

La société d'Intelligence Artificielle ouverte OpenAI reçoit en cadeau de Nvidia le premier super ordinateur "in a box" dédié à l'IA (je suppose que la plupart des super ordinateurs le sont).

Les détails (en Anglais) sur le blog de Nvidia.

  • # OS

    Posté par  . Évalué à 2.

    …et ça tourne sous Ubuntu :D

  • # IA

    Posté par  . Évalué à 9.

    je suppose que la plupart des super ordinateurs le sont

    Je pense que la part de travaux dédiée à l’IA ne doit pas représenter tant que ça par rapport au calcul intensif « traditionnel », pour la métorologie, les réactions nucléaires, ou encore la génétique.

    • [^] # Re: IA

      Posté par  (site web personnel) . Évalué à 0.

      Je n'avais jamais pensé à ça mais en fait l'IA c'est justement réduire la quantité de calcul nécessaire pour résoudre un problème: s'il avait fallu calculer toutes les positions possibles sur un échiquier pour déterminer la meilleure stratégie nous serions loin encore de voir une machine gagner une partie contre un fort joueur.

      • [^] # Re: IA

        Posté par  . Évalué à 6.

        Tu n'as pas besoin d'IA pour faire un code qui gagne aux échecs. Tu peux regarder le code source de gnuchess par exemple, c'est très classique.

        • [^] # Re: IA

          Posté par  . Évalué à 5.

          L'un des problèmes de l'IA, c'est que quand on résout le problème on a tendance à considérer que ce n'est plus de l'IA :)

        • [^] # Re: IA

          Posté par  (site web personnel) . Évalué à 2.

          Alors disons les choses autrement : pour ne pas explorer tout l'espace des solutions, on utilise des heuristiques. L'IA pourrait être le fait que la machine trouve d'elle-même ces heuristiques.

      • [^] # Re: IA

        Posté par  . Évalué à 6.

        Je n'avais jamais pensé à ça mais en fait l'IA c'est justement réduire la quantité de calcul nécessaire pour résoudre un problème

        Oui alors ça à mon avis c’est un but à atteindre… Qu’une IA réussisse par exemple à prouver des théorèmes mathématiques sur lesquels des générations de mathématiciens humains continuent de se casser les dents, ou à découvrir des méthodes de calculs encore inconnues de l’Homme (et c’est de ça dont on parle en écrivant : « réduire la quantité de calcul nécessaire pour résoudre un problème ») et là on ne fera peut-être tourner plus que ça… mais en attendant pour la météorologie par exemple ça consiste (àmha) à simuler une atmosphère à l’aide de calcul (vectoriels ?)… très lourds mais d’une intelligence toute naturelle.

        Cela dit les théories mises au point dans le cadre de la recherche sur l’IA doivent aussi être testés aussi sur les phénomènes météorologiques… mais encore une fois, selon moi, ça ne doit pas être le principal de ce qui tourne sur les super-calculateurs.

        • [^] # Re: IA

          Posté par  . Évalué à 10.

          mais en attendant pour la météorologie par exemple ça consiste (àmha) à simuler une atmosphère à l’aide de calcul (vectoriels ?)… très lourds mais d’une intelligence toute naturelle.

          Je pense qu'elle n'a rien de naturelle ton intelligence météorologique. Elle est tout aussi artificielle que n'importe qu'elle autre construction humaine. Le vrai problème, à mon sens, de ce que l'on appelle IA, ce serait plutôt de déterminer a quel moment, un système construit par l'homme va pouvoir acquérir les mêmes capacités intellectuelles que son créateur, voire de les dépasser. (En gros, c'est le test de Turing).

          Les mathématiques sont aussi une création humaine. Lorsque tu pose comme étalon de notre capacité à détecter l'existence d'une IA par le fait qu'elle arrive à prouver des théorèmes mathématiques sur lesquels des générations de mathématiciens humains continuent de se casser les dents, suppose aussi qu'elle transmettre cette intelligence mathématique à l'homme, sinon, comment l'homme pourrait-il reconnaître la validité de cette intelligence, qui lui est supérieure, si il est incapable de comprendre les théorèmes mathématique conçues par l'IA ?

          C'est là toute l’ambiguïté et le coté génial du test de Turing. D'une certaine façon, c'est une définition très limitée de l'IA. On pourrait oser imaginer qu'une IA puisse se développer de telle façon qu'elle ne nous soit pas accessible (son incompatibilité par essence au test de Turing n’empêcherait pas le fait qu'elle puisse le réussir si elle était compatible, le test étant basé sur une compatibilité en terme de communication entre l'étalon, l'homme, supposé intelligent, et le sujet dont l'intelligence est à évaluer en regard de l'homme. Le point crucial de ce concept étant qu'il n'est pas possible pour une espèce se disant intelligente d'évaluer l'intelligence d'une autre espèce autrement qu'en regard sa propre intelligence).

          Auquel cas, on peut aussi ajouter à ce constat qu'il puisse déjà exister des formes d'intelligences (ou de consciences) telles que l'on n'y ait jamais eu vraiment accès en tant qu'humain.

          Il paraît que Turing avait été marqué par Blanche Neige, on a même qualifié son suicide d'hommage à ce conte. Hors, on trouve dans ce fameux conte des frères Grimm ce dialogue entre la sorcière et son miroir :

          – Miroir, miroir en bois d’ébène, dis-moi, dis-moi que je suis la plus belle. Et, invariablement, le miroir répondait :
          – En cherchant à la ronde, dans tout le vaste monde, on ne trouve pas plus belle que toi.

          Et cela m’amène à penser que cette fameuse IA après laquelle on semble courir désespérément, n'est-elle pas autre chose que notre propre ego « numérisé » ?

          Note que personnellement, je préférerais que l'on parle d'automatisation de processus cognitifs (humains) plutôt que d'intelligence artificielle, ça serait moins casse-gueule, philosophiquement parlant, à mon humble avis.

          Faut pas gonfler Gérard Lambert quand il répare sa mobylette.

          • [^] # Re: IA

            Posté par  . Évalué à 5.

            Elle est tout aussi artificielle que n'importe qu'elle autre construction humaine.

            J’avais conscience du caractère équivoque de ma formulation. J’ai choisi « humaine » pour l’opposition basique avec "artificielle". Merci pour ta réponse pertinente, « intelligence artificielle » c’est en effet complexe comme concept.

            Lorsque tu pose comme étalon de notre capacité à détecter l'existence d'une IA par le fait qu'elle arrive à prouver des théorèmes mathématiques sur lesquels des générations de mathématiciens humains continuent de se casser les dents, suppose aussi qu'elle transmettre cette intelligence mathématique à l'homme, sinon, comment l'homme pourrait-il reconnaître la validité de cette intelligence, qui lui est supérieure, si il est incapable de comprendre les théorèmes mathématique conçues par l'IA ?

            Je pensais à un programme qui réussirait à produire une démonstration valide, quand je dis « valide » ça sous entend que des Hommes soient capables de comprendre et vérifier cette démonstration.

            Peut-être que nous ne pourrions pas comprendre cette « création » mais peut-être que si. Ce serait la même chose que quand un humain trouve une démonstration, les autres mathématiciens pourront être en mesure de comprendre et vérifier, bien que tous se disent : « Mais bon dieu, pourquoi n’y avais-je pas pensé !? »

            automatisation de processus cognitifs

            Je dirais « reproduction de processus cognitifs biologiques ». Vu qu’on en est encore à découvrir des choses sur ces processus eux-mêmes c’est clair que la route est encore longue :)

            • [^] # Re: IA

              Posté par  . Évalué à 2.

              Je pensais à un programme qui réussirait à produire une démonstration valide, quand je dis « valide » ça sous entend que des Hommes soient capables de comprendre et vérifier cette démonstration.

              Il faut imaginer que l'on soit capable de créer un programme capable de résoudre un problème mathématique que l'on n'était nous même incapable de résoudre ? Je ne dis pas que c'est pas possible, j'en suis incapable, mais c'est très étonnant.

              Cela dit, il y a peut-être une astuce pour sortir de ce paradoxe, c'est ce concept d’émergence. C'est à dire qu'en créant des systèmes suffisamment complexes, en particulier si ces systèmes possèdent des faculté d'évolutions, d'autonomie, d’apprentissage, des propriétés nouvelles pourrait apparaître, non déductibles des propriétés de bas niveau.

              En tout cas, je pense que tout ça est très spéculatif, intéressant, c'est sur, mais spéculatif. C'est d'ailleurs, j'ai l'impression, une des raisons qui font que les chercheurs qui travaillent concrètement sur le sujet évitent assez généralement d'invoquer trop directement ce concept d'intelligence artificielle.

              Faut pas gonfler Gérard Lambert quand il répare sa mobylette.

              • [^] # Re: IA

                Posté par  . Évalué à 3.

                Il faut imaginer que l'on soit capable de créer un programme capable de résoudre un problème mathématique que l'on n'était nous même incapable de résoudre ? Je ne dis pas que c'est pas possible, j'en suis incapable, mais c'est très étonnant.

                Ça ne me parait pas plus absurde qu'une IA qui invente une façon de jouer au Go à laquelle personne n'avait pensé.
                Une démonstration mathématique est un enchaînement de déductions logiques. On peut très bien voir un parallèle avec les jeux de stratégie au tour par tour.
                La seule chose qui pourrait coincer, c'est si on oublie un élément de base dans les déductions, un peu comme si on oubliait d'indiquer une règle au jeu de stratégie.

              • [^] # Re: IA

                Posté par  . Évalué à 3. Dernière modification le 10 décembre 2016 à 18:00.

                Il faut imaginer que l'on soit capable de créer un programme capable de résoudre un problème mathématique que l'on n'était nous même incapable de résoudre ?

                Selon moi oui, c’est seulement à partir de là qu’on pourra parler d’intelligence artificielle. « Incapable » dans le sens « nous n’y somme jamais arrivé jusque là » pas dans le sens : « c’est absolument impossible ».

                Par exemple un programme qui utiliserait un concept connu, comme les chaînes de Markov, pour trouver une démonstration inconnue pour un autre théorème.

                On a déjà réussi à trouver des résultats grâce à la machine, par exemple un pentagone pavant que l’on ne connaissait pas. Même s’il ne s’agit aucunement d’IA mais plutôt de semi-bruteforce, l’ordinateur a bien « produit » une connaissance nouvelle pour l’Homme.

                Peut-être qu’un jour un programme réussira à prouver que c’était le dernier pentagone pavant et qu’il n’y en a pas d’autre…

                • [^] # Re: IA

                  Posté par  . Évalué à 4.

                  Même s’il ne s’agit aucunement d’IA mais plutôt de semi-bruteforce, l’ordinateur a bien « produit » une connaissance nouvelle pour l’Homme.

                  Il doit être possible de faire de même pour de nombreux énoncés géométriques : Tarski a prouvé la complétude de la géométrie élémentaire et donc sa décidabilité : une théorie récursivement axiomatisable et complète est décidable (ce qui est globalement le cas d'une bonne partie des mathématiques que l'on apprend jusqu'au Bac).

                  En ce qui concerne l'ensemble de l'édifice mathématique, à la fin des années 50, les adeptes de l'IA prévoyaient le chômage pour les mathématiciens sous dix ans : force est de constater qu'ils ont échoué et qu'ils étaient fort présomptueux. On s'est alors plutôt orienté vers des assistants de preuves (les preuves sont semi-automatisées et guidées par le mathématicien) comme Coq, qui permettent également d'écrire des programmes « sans bugs » comme un compilateur, par exemple.

                  Pour ce qui est de la possibilité d'une intelligence artificielle, j'aurais tendance à rejoindre les vues de Jean-Yves Girard qu'il a exposées dans deux articles :

                  Et pour répondre à cette question :

                  Il faut imaginer que l'on soit capable de créer un programme capable de résoudre un problème mathématique que l'on n'était nous même incapable de résoudre ?

                  Si l'humanité est capable de créer un tel programme, c'est qu'elle est capable de trouver un moyen pour résoudre le problème. Celui qui est intelligent, ce n'est ni le programme ni la machine qui le fait tourner, mais son auteur. ;-)

                  Sapere aude ! Aie le courage de te servir de ton propre entendement. Voilà la devise des Lumières.

            • [^] # Re: IA

              Posté par  . Évalué à 1.

              En fait ,c'est déjà fait :

              http://www.tomshardware.fr/articles/recherche-intelligence-artificielle-google,1-61695.html

              L'intelligence artificielle de Google chiffre ses données et les hommes sont dépassés
              Les intelligences artificielles de Google ont conçu leur propre système de chiffrement de données sans qu’un utilisateur introduise un algorithme spécifique.

              Mais on ne comprend pas (encore) comment elles ont fait !!!

  • # Apprentissage automatique

    Posté par  . Évalué à 9.

    Apprentissage Automatique

    Pour être plus précis ce type de machine est dédié à l’apprentissage automatique Apprentissage_automatique ou machine learning.
    Plutôt que de décrire un ensemble de règle à l’ordinateur puis de lui demander de résoudre un problème dans le cadre de ces règles, il s’agit de lui présenter un (grand) nombre de cas et l’ordinateur déduira de lui même ses propres règles de décision à partir de ces cas.

    Il s’agit par exemple de lui donner des millions d’images avec une liste des entités se trouvant sur chaque image (phase d’apprentissage), puis on lui présente une nouvelle image qui lui est inconnue et l’ordinateur doit donner les entités qui se trouvent sur l’image (phase de décision). Typiquement ce genre de problèmes est formulé comme un problème d’optimisation continue où on cherche à trouver un minimum (ou plus récemment des point-selles) sur des fonctions très compliquées, par exemple des réseaux de neurones artificiels. La machine de NVIDIA est dédiée à cela, les GPUs étant très performant à faire des multiplications matricielles. Pour info, certains labos français possèdent déjà cette machine.

    On est donc très loin de ce qu’on entend dans le grand public comme étant de l’IA ou des concepts qui ont été discutés précédemment dans ce journal. On ne cherche pas à reproduire des capacités cognitives de haut niveau mais des fonctions de perceptions de bas niveau.

    Depuis NIPS une des très grandes conférences sur le sujet.

  • # Réchauffé ?

    Posté par  (site web personnel) . Évalué à 3.

    Ça date de cet été ce cadeau…

    • [^] # Re: Réchauffé ?

      Posté par  . Évalué à 2.

      L'annonce date de cet été, mais la livraison est récente.

  • # OpenAI - AI et logiciel libre

    Posté par  . Évalué à 4.

    Pour info OpenAI c'est ceux qui font OpenAI gym une invitation à coder des IA pour résoudre des jeux.
    J'ai pas vérifié dans les détails mais normalement tout ce qu'ils font est OpenSource. (compte github)

    Une des dernières choses que j'ai vu passer d'eux est universe.

    Je ne sais pas si quelqu'un, par ici, a déjà expérimenté tout ça ?

    • [^] # Re: OpenAI - AI et logiciel libre

      Posté par  . Évalué à 0.

      Pour info Nvidia c'est ceux qui font un pilote propriétaire, une invitation à coder nouveau pour résoudre des bugs.
      J'ai pas vérifié dans les détails mais normalement tout ce qu'ils font est propriétaire. (pas de compte github)

      Une des dernières choses que j'ai vu passer d'eux est un gros doigt de Linus.

      Je ne sais pas si quelqu'un, par ici, a déjà entendu tout ça ?

      ⚓ À g'Auch TOUTE! http://afdgauch.online.fr

      • [^] # Re: OpenAI - AI et logiciel libre

        Posté par  . Évalué à 1.

        Ok mais OpenAI n'est pas du tout NVidia que je sache, voir OpenAI
        Un des fondateur est Elon Musk.

        Nvidia se fait un coup de pub en leur offrant leur très jolie bête (la puissance de calcul est juste énorme), eux vont l'utiliser pour faire tourner des simulations qui à priori utilise du logiciel libre (pas que vu que déjà le driver Nvidia sera sûrement proprio).

        Le but d'OpenAI (au moins dans la déclaration, hein) est de collaborer de manière ouverte (brevets, publications et plus), pour la création d'une intelligence artificielle ([voir ici].

        Nvidia est malheureusement très propriétaire, mais les bibliothèques libres de deep learning comme Keras, Theano ou TensorFlow sont souvent utilisés avec CUDA, le langage spécifique Nvidia, car son concurrent ouvert OpenCL est malheureusement un peu à la ramasse et moins implémenté, en tout cas pas sur du matériel de ce calibre (ni même des choses un peu plus modeste comme une carte TitanX).

        Pour le reste (compte github etc…), relis mon post ci-dessus !

      • [^] # Re: OpenAI - AI et logiciel libre

        Posté par  . Évalué à 4.

        Une des dernières choses que j'ai vu passer d'eux est un gros doigt de Linus.

        Tu parles de quel doigt ?
        Moi j'ai souvenir de ça, mais je ne sais pas si ça a continué à évoluer.
        Extrait :

        Je n’aurais jamais cru pouvoir dire ça il y a un an, mais ces six derniers mois ont montré un effort considérable d’ouverture, non pas uniquement en temps ingénieur disponible et en documentation, mais aussi en code ! Cela a aussi permis à Linus Torvalds de changer de doigt du majeur au pouce, quand il parle de NVIDIA. Encore toute mes félicitations à tous ceux qui sont impliqués dans ces projets, aussi bien côté libre que du côté de NVIDIA, et qui ont rendu cela possible.

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.