NeoX a écrit 18128 commentaires

c'est la cas,
dans le loyer que paie sa boite pour les locaux, il y a un "baie technique" prevue dans les charges.

du coup ils veulent utiliser cette baie plutot que d'en monter une autre à coté.

Bonjour à toi,
j'ai créé un compte pour tester ton outil,

j'ai deja un "bug"
le compte est tout juste créé à 13h44, mais la page de gestion du compte indique que le serveur est lancé depuis 1H43

Produit : Mumble 10 slots, version 1.2.8, lancé depuis 0 jour(s) 1 heure(s) 45 minute(s)

sinon, je sais qu'on est en phase de test, mais il manque un petit lien vers le logiciel "client".
pour Mme Michu ou son fils, ca pourrait etre utile.

++

notre ami google trouve des entrées à ce sujet,

souvent des problemes de permissions sur des dossiers que tu veux sauvegarder
il faut alors juste exclure le dossier (.gvfs par exemple)
ou corriger le probleme de permission (.vimrc par exemple)

https://bugs.launchpad.net/backintime/+bug/380728

--exclude="*" ca doit pas sauvegarder grand chose

ensuite pour ta question

Plus le temps passe, plus je pense que 200Gio de cloud gratuit au Turkménistan ou Nouvelle-Zélande avec un outil à la Syncany serait adapté à ce que je veux mais je n'ai pas trop envie de backupper via des logiciels encore en alpha qui n'ont pas fait leur preuves.

surtout que le logiciel va aussi se baser sur une solution genre rsync pour ne pas tout renvoyer à chaque fois.

EDIT: Question bonus : comment vérifier l'intégrité d'un backup ?

md5sum (par exemple) est ton ami,
il va calculer une somme md5 des fichiers,
il faut ensuite comparer la somme des fichiers sur le backup et celle sur le support de depart, en supposant que le support n'ai pas changé.

un système de backup qui ne rm -rf pas tout ce qu'il a sauvegardé en cas d'erreur,

ca suffit de lui dire de rm -rf uniquement si la sauvegarde s'est bien terminée
ex :

rsync -aP SRC DST && rm -rf SRC

ou bien avec les options delete-after de rsync (à verifier dans le manuel)

un système qui va s'accrocher comme une teigne pour finir son job (attendre que le périphérique USB soit rebranché ou relancé quand l'ordi est passé en veille, ré-établir la connexion réseau si l'adaptateur wifi à changé de borne wifi)

et il va attendre tout seul, combien de temps, etc

et qui va clairement dire à la fin ce qu'il n'a pas pu sauvegarder et pourquoi ?

faut lui demander de logguer ce qu'il fait, surtout les erreurs.

avec DD tu lui dis de prendre des blocs de 1Mo
cp lui fait peut-etre des blocs plus petits.

ensuite plutot que date au debut et à la fin pour connaitre la durée du programme, tu devrais utiliser time au debut, il va ensuite afficher tout seul le resultat.

rm –rf ./ls
echo "cat /challenge/binary/binary1/.passwd" > ./ls
chmod+x ./ls
cd ~
pwd
./binary1

en decomposant ce code on obtient :

rm -rf ./ls

ca efface le fichier (ou le dossier si c'est un dossier) ls qui se trouve dans le dossier courant ./

echo "cat /challenge/binary/binary1/.passwd" > ./ls

pour moi cela mais la ligne cat /challenge/binary/binary1/.passwd dans le fichier ls qui se trouve dans le dossier courant ./

chmod +x ./ls

cela rend le fichier executable

cd ~

ca remonte au dossier /home/user de l'utilisateur actuellement connecté ~ est un raccourci pour le dossier /home de l'utilisateur en cours

pwd

affiche le chemin ou nous sommes actuellement, et donc probablement /home/user ou /root suivant l'utilisateur qui lance ce script

./binary1

ca execute le script/programme binary1 qui se trouve dans le dossier courant ./
donc soit /home/user/binary1, soit /root/binary1 suivant l'utilisateur en cours.

faut relire le contrat,
il te vend, dans tes charges, une arrivée électrique fournissant 2KW

si tu consommes 1KW (au wattmetre)
tu dois pouvoir mettre encore 1KW

toute autre methode de calcul est de la "charlatanerie" et tu paies pour un service qui n'est pas rendu puisque tu paies pour 2KW mais tu n'as pas le droit de consommé plus de 1KW reels,
un avocat pourra faire gagner ta boite sur le sujet.

j'ai travaillé dans des petites structures, donc je connais, et c'est pour cela que je te donnes des pistes, consistant principalement à penser cluster de calcul d'un coté, cluster de stockage de l'autre.

et il reste clair que si tu bases tes comparatifs sur les W de l'alim et pas sur les W consommés, tu va jamais t'en sortir.
le moindre PC Corei7 gamer est vendu avec une alim à 1000W

regarde peut-etre à ne changer que le stockage, en enlevant les disques des noeuds de calculs, tu gardes les 48 coeurs avec la RAM,
le stockage part dans un boitier qui consomme moins

regarde aussi pour te faire reprendre le cluster actuel,
si ca se trouve tu vas en avoir pour 5 ou 10K€ de reprise, + 20K€ de budget => 25 à 30K€ pour la nouvelle installation.

que grub affiche 2 partitions windows, ca ne me choque pas, y a la partition de boot (la petite au debut) la partition reelle, et parfois la partition de restuaration du systeme.

la vrai question c'est "pourquoi avoir fait un boot-repair apres l'agrandissement de la partition ?'
si tes partitions n'ont pas changé de place, le boot repair ne servait à rien

pour le coup il va te falloir demarrer sur un liveCD/liveUSB
pour acceder ensuite à ta partition linux avec la technique du chroot
et une fois dans le chroot, refaire un grub-install ou dpkg-reconfigure grub-pc

tu fais quand meme des tres grosses estimations tant financieres qu'en termes de puissance.

tu as fais un tableau comparatif des diverses solutions ?

Perso en regardant les données constructeurs, je trouve qu'un ensemble RS+RX ne consomme que 246W (disons 300W en prenant une marge)
si tu doubles l'installation => 600W (800W si tu reprends une marge)
on est bien loin des 1600W de ton estimation à la louche.

cf mon projet precedemment cité :
4U pour 144To et 250W de consommation
en prenant :
https://www.synology.com/en-global/products/RS2414+
(125W)*
+ le chassis d'extension
https://www.synology.com/en-global/products/RX1214#spec
(121W)*

precision du constructeur :

"Power consumption is measured when fully loaded with Western Digital 3TB WD30EZRS hard drive(s)."

donc il mesure bien la consommation de l'appareil en charge.
et je ne penses pas qu'un disque de 6To consomme 2x plus qu'un disque de 3To.

pour les prix, chez un fournisseur francais, on est effectivement dans les prix que tu cites,
puisqu'en prix "public" donc sans negociation on a :
Chassis RS2414RP+ : 1690euros HT
Chassis RX1214RP : 1450euros HT
24 disques 6To : 225x24 = 5400euros HT
=> 8540euros HT pour 250W (disons 300W en prenant de la marge)

si on redonde toute l'installation dans la crainte d'une panne ca fait en effet un budget de 17080euros HT pour 600W
il ne reste plus que 3K pour les noeuds de calcul.

mais là encore, regardes d'autres fournisseurs, demandent des devis,
car entre le prix catalogue et le prix que tu aura reellement, y a parfois un monde.

Ex l'lan dernier en fin d'année on avait touché la baie EMC VNXe (double alim, double carte mere) à 8K€ pour 12disques 2To NL-SAS
netapp faisait aussi sa baie 12 slots à 9Ke

alors que ce sont des produits à plus de 16Ke en prix catalogue.

Bref fait un vrai boulot de DSI :
1) cahier des charges stockage + calcul (en dissociant les deux tu peux surement trouver ton bonheur)
2) faire faire des devis par plusieurs prestas
3) etudier/comparer, faire jouer la concurence.

Beau projet, content de voir que cela a bien avancé.

l'idée est interessant, mais j'ai juste un doute,
en voiture j'ai constaté que passer par un col plutot que faire le tour de la montagne revenait au meme pour la consommation.
en effet, je consomme plus en montant, mais je consomme presque rien en descente.

pour le velo c'est un peu pareil non ?
en passant par le col, je vais faire 500m de denivelé positif, gros effort, suivi de 500m de denivelé negatif ou je n'aurais pas à pedaler, tout ca pour joindre 2 points en 1 ou 2h.
si je fais le tour de la montagne, je vais rouler à effort constant pendant 2h30 ou 3h…

Pour avoir reflechit au stockage pour mon ancienne boite (l'an dernier quoi)
pour 24To de stockage, pour avoir de la redondance, etc
ce n'est pas forcement moins cher de faire soi meme (alim redondante, CPU/RAM redondante, gestion des 24To en NL-SAS)

mais il indique toujours au niveau des parametres réseau qu'il est sur un réseau "non authentifié".

ca ce n'est pas un probleme de reseau,
c'est à toi de lui dire si tu es sur un reseau "public, entreprise, domicile"
si tu ne peux pas le changer, c'est qu'il y a une regle locale ou GPO qui te l'interdit.

je ne comprend toujours pas pourquoi s'obstiner à vouloir 6To de stockage LOCAL
surtout avec ton exprience malheureuse du noeud qui tombe avec 36To de données dedans.

Alors que les données peuvent etre sur un NAS/SAN dédié, mettre les disques dedans.
Doublé le NAS si tu veux de la securité,
et les noeuds deviennent pur calcul
si un noeud lache, les données sont toujours sur le NAS, tu relances le calcul sur le noeud d'à coté.

75to utiles une fois formaté à la louche (c’est tout de même très loin de 100). un peu light, mais à priori supportable

hmmm dans ton cluster actuel il me semble que tu disais avoir 140To, donc seulement 70 exploitables….

J'imagine que c'est parce qu'en fait tu as 2x70To ?

donc avec la solution proposée ici, tu as 75To, soit 5To de plus qu'actuellement.

et ca, uniquement pour le stockage,
les serveurs de calcul peuvent avoir, en local, quelques To dispo le temps du calcul.

parce que là encore tu confonds stockage et calcul.

800euros de stockage par mois => 9600/ans (mais la location de la baie est incluse dans le prix, alors que dans ton projet c'est inclus dans les charges des locaux mais inutilisable car limité)

ensuite tu prends des noeuds de calcul purs
1200euros le maitre + 2 slaves puis 400euros le noeud supplementaire

sachant que 1 noeud c'est deja 16Cores/32Thread et 64Go de ram

donc deja avec le cluster de base, tu as 32 coeurs, 128Go de ram (en considerant que le calcul ne se fait pas sur le maitre)

à l'année le cluster de calcul coute 14.400euros, plus 9600euros pour le stockage sur reseau 10Gbps, ondulé, climatisé, etc
soit un cluster à 24.400euros location du datacenter incluse

si tu as été voir le meme fournisseur que moi tu peux aussi leur demander un devis pour construire la machine mais l'installer chez toi

et les charges, ca evolue, tu dois pouvoir obtenir plus de courant pour tes besoins.
à l'inverse si tu ne consommes plus car ton cluster est ailleurs, ca ne doit plus apparaitre dans les charges => c'est du budget en plus pour le cluster.

je penses que ce qu'il proposait c'etait eventuellement la location de serveur en datacenter.

il y a maintenant des hebergeurs qui font des reseaux privés en interne à leur datacenter, ils gerents les machiens, la clim, la redondance, etc
tu ne fais plus que payer un loyer pour les machines.

ton budget de 20K€ c'est en investissement amorti sur 5 ans ou en frais de fonctionnement par années ?

Croyez-vous qu'il soit nécessaire de modifier la configuration Autotools pour prévoir une installation des fichiers comme on le trouve sous Fedora et OpenSuse ?

la question c'est quelle version de la norme FHS ?
les autres distribs sont-elles conformes à FHS ou à LSB ?

Comme je le disais, hélas, comme il n’y a pas de mesure précise de conso, la référence est pour notre « hébergeur » le nombre de watts indiqués sur l’alim. Je pourrais peut-être et ce n’est pas gagné réussir à leur faire prendre en compte la conso pic indiquée dans la doc, mais dans le doute…

si tu as un hebergeur qui limite, il doit etre en mesure de te dire combien tu consommes.
demandes lui les chiffres.

ensuite quand tu fais ta coupure du semestre, regarde le graffe machines eteintes, puis allumes tes machines une par une et regarde de combien ca remonte à chaque allumage.

le temps de recevoir le remplaçant

24h si t'es en france est que le produit est en stock
garantie J+1 sur certains produits

en France, il me semble qu'on a ce qu'on appelle des mots de liaisons qui indique un changement d'idée, une suite logique, et qui se pretent tres bien au changement de paragraphe.

dans l'intro "** premierement** …. ensuite…"
dans le premier "paragraphe" : la premiere … ensuite … enfin
dans le deuxiemme : Dans les lightning talk du mercredi … au final … en conclusion

dans la meme idée, tu enonces plusieurs sujets, une presentation en liste serait plus appropriée et simplifierait la lecture

Mais le fond est là, et je trouve ca bien que quelqu'un resume un peu une conference ou il a pu aller.
Merci à toi.

dans le meme ordre d'idée (je viens de relire ta config actuelle)

6 noeuds, 12 à 24 disques => 72 à 144 disques pour gerer ton stockage de 140To soit environ 2T par disque.

alors qu'on fait maintenant des NAS/SAN dans lesquels tu peux mettre des disques de 3 à 6To
tu divises alors le nombre de disque necessaire pour la meme quantité de stockage => donc tu divises le nombre de machine pour gerer ce meme stockage => tu reduis la conso.

Aussi du matériel grand public (des NUCs) n'est pas prévu pour tourner 24h/24h dans un datacenter, tu vas avoir un taux de panne super élevé.

en meme temps il n'a qu'un budget de 20K€ pour faire du "big data"

Mais j’ai la désagréable impression de répondre à côté de la plaque ou d’avoir raté le point de ton commentaire.

pas complement, puisqu'il y a des precisions utiles.

Les calculs ont tendance a être lourds, aussi, la partie I/O, même si elle est lourde, représente rarement (jamais ?) plus de la moitié du temps de processing. Si on n’utilise pas au max les CPU, on perd donc du temps.

si ton CPU passe 50% de son temps à "attendre" les données des disques durs, alors tu "perd" du temps ;)

donc il est probable que quand un des noeuds veut acceder à des données qui sont sur les autres noeuds, il va utiliser du temps CPU et des I/O de cet autre noeud, qui n'est peut-etre pas dispo puisqu'en cours de calcul => donc de l'attente.

ton probleme actuel c'est que tes noeuds de cluster de calcul sont aussi des clusters de stockage.

si tu dissocies les 2, tes acces aux données ne sont plus conditionnés par la dispo des CPU de calcul,
de plus tu peux pousser la separation en ayant un systeme permettant de stocker :
- les données courantes sur un systeme avec des SSD (tu diminues fortement l'engorgement sur les I/O)
- les données d'archives sur un systeme "dormant" à base de disque dur,

bref le GRID de calcul, c'est une bonne idée, mais à mon avis il ne faut pas faire le GRID de stockage avec les memes machines.

il faut se poser les bonnes questions et peut-etre commencer par faire de vrai mesure de consommation,
car pour le stockage, on trouve par exemple :

4U pour 144To et 250W de consommation
en prenant :
https://www.synology.com/en-global/products/RS2414+
(125W)
+ le chassis d'extension
https://www.synology.com/en-global/products/RX1214#spec
(121W)

donc en gardant ton cluster de calcul, et en transferant les data sur un vrai systeme de stockage
tu dois deja pouvoir economiser quelques W