Journal Clustering avec Linux

Posté par  .
Étiquettes : aucune
0
6
mar.
2003
Je voudrais mettre en place un cluster global sur mon réseau local histoire d'utiliser au mieux toutes les ressources de mes différents ordi s. Ceci afin d'essayer de voir s'il y a une différence au niveau rapidité d'exécution d'une appli bien lourde ou pas.

J'ai entendu parler d'OpenMosix de Linux Virtual Server et de Beowulf.

Je voudrais donc savoir si des gens ici les ont déjà testés ou s'il y a d'autres alternatives, ce que ca vaut....bref votre expérience à ce sujet si vous en avez une me serait grandement utile ;)
  • # Re: Clustering avec Linux

    Posté par  . Évalué à 4.

    Tu veux faire quoi comme genre de cluster? Calcul, répartition de charge ou du fail over?
    • [^] # Re: Clustering avec Linux

      Posté par  . Évalué à 2.

      Principalement de la répartition de charge CPU et mémoire
      • [^] # Re: Clustering avec Linux

        Posté par  . Évalué à 7.

        si tu veux faire tout ça sans avoir à utiliser des applications spécialement concues pour ça, alors openmosix est fait pour ça (à condition d'avoir des liaisons rapides entre tes machines, fastethernet étant limite limite)
        • [^] # Re: Clustering avec Linux

          Posté par  . Évalué à 1.

          oui je confirme, je veux pas devoir modifier mes apllis pour tirer parti tu cluster....
          sinon niveau vitesse réseau tu conseillerais quelle vitesse ?
          • [^] # Re: Clustering avec Linux

            Posté par  . Évalué à 1.

            paske sur la doc, ils disent qu'à partir de 10Mbps de bande passante c'est bon ?
            • [^] # Re: Clustering avec Linux

              Posté par  . Évalué à 1.

              tu peux relier chaque couple de machine avec plusieurs liens fast ethernet pour avoir de meilleures performances
            • [^] # Re: Clustering avec Linux

              Posté par  (site web personnel) . Évalué à 2.

              Bah moi j'avais essayé mosix (quand c'etait encore libre).

              Il y avait les problèmes suivants :

              - un processus migre en entier (avec toutes ses pages mémoire) ou rien du tout.
              - 10 Mbps, c'est effectivement pas beaucoup, je suis passé en 100 c'etait largement mieux (tes machines ralentissent de manière conséquente pendant la migration d'un processus, autant que ca soit court).
              - les processus qui font beaucoup d'I/O, ou qui ont ouvert un périph local (ca inclut de l'opengl accéléré, par exemple) ne peuvent pas être déportés
              - les processus utilisant les threads ne peuvent pas migrer non plus. Donc on perd beaucoup de la transparence (puisque la plupart des progs paralleles sont faits avec des threads pour le smp)
              - il faut compiler un noyau avec smp, même sur des machines mono processeur
              - ca oblige à avoir une version bien précise du noyau
              - c'est en utilisant mosix que j'ai planté linux, jamais autrement (pricipalement si la machine fait du X en même temps).
              - si une machine du cluster tombe, les autres machines qui avaient des processus migrés sur cette machine ne pourront plus s'éteindre (ça bloque au moment où il envoie kill à tous les processus).
              - en utilisation "normale" du pc, le seul processus qui migrait était xfs. Les autres rien du tout.

              Dans les bont côtés
              - c'est vrai que c'est sympa de voir migrer les processus sans se fatiguer: si tu as écrit un programme en mpi et que tu veux pas t'embêter à coder la répartition de charge, tu en lances en gros 2* le nombre de cpu et tu les laisse se répartir ;)
              - c'est sympa aussi de pouvoir ajouter/enlever dynamiquement des machines au cluster
              - on peut controler la migration de processus à la main
              - il y a le "mfs", mosix file system, qui permet de voir les fs des autres machines, sans faire de nfs ;)
              - enfin c'est pratique pour frimer avec mtop genre "j'ai plein de cpu" ;)

              Maintenant, tout ca ne s'applique peut-être plus à openmosix, mais je sais que la plupart des inconvénients sont toujours là.

              A la fin, je m'en servais plus que pour compiler du code (mais maintenant avec distcc j'ai laissé tomber !).
    • [^] # Re: Clustering avec Linux

      Posté par  . Évalué à 1.

      il y a un article sympa sur openmosix sur linuxfrench.net

      tu y trouveras pas mal d'infos
  • # Re: Clustering avec Linux

    Posté par  (site web personnel) . Évalué à 1.

    y'a la distribution Clic de mandrake mais qui n'a pas OpenMosix il me semble.

    Sinon, on m'a parlé "d'openPPS" mais impossible de trouver son site web qui est un répartiteur de charge. Cela serait plus efficace que mosix lorsqu'il y a beaucoup d'IO.

    Mais il faut voir que OpenMosix a beaucoup évolué par rapport à Mosix, il me semble qu'il propose maintenant un nouveau système de fichier pour améliorer les IO.

    "La première sécurité est la liberté"

    • [^] # Re: Clustering avec Linux

      Posté par  . Évalué à 1.

      il s'agit d'openPBS (http://www.openpbs.org(...) ) qui est une gestion de file de processus avec priorité et règle. Il est généralement couplé à Maui qui augmente les capacités de répartission de charges.

      Les commandes sont envoyées via un script, ou une console interactive sur une file avec des propriétés (durée de temps de calcul max, nbre/type de cpu disponible, memoire dispo, ...) correspondantes à celles demandées. Le processus est alors envoyé sur une machine du cluster qui dipose de ces propriétés ou mis en attente si il n'y a pas de machine prete.

Suivre le flux des commentaires

Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.