Quelqu'un saurait-il pourquoi l'arbitre de mon volume Glusterfs (replica 3 arbiter 1) se rempli de données?
N'est-il pas censé stocker uniquement des fichiers vide?
Suite à une discussion avec mon copain Léo, je retombe sur ce tweet magnifique : https://twitter.com/leyrer/status/847816162557689857.
Je sais qu’en écrivant ici j’ai une audience assez érudite, mais sauvons l’humanité et rajoutons une couche :
Répète après moi : le RAID n’est pas de la sauvegarde !
On voit bien avec la photo que le gars pouvait avoir douze disques de redondance, ça ne lui sert plus à rien. Ça (...)
Parmi toutes les méthodes que j'ai testé (entre autre : mdadm, zfs, glusterfs, mhddfs), btrfs offre la méthode la plus simple de mise en place.
Voyons ensemble comment créer un JBOD avec btrfs.
Pour rappel un JBOD est un agrégat (une addition) de plusieurs disques. Btrfs accepte de commencer avec un seul disque et d'en ajouter par la suite.
Les méta-données sont dupliquées sur chaque disque, les données ne sont ni découpées (strip) ni dupliquées (mirror).
Le côté dommage est qu'au niveau du montage il y a un point of failure. En effet dans votre fichier /etc/fstab pour effectuer le montage vous devrez indiquer un seul des disques de la partition JBOD. Si ce disque plante la partition ne sera plus montable sans modifier le fichier /etc/fstab. (ndlr: initramfs ?)
En cas de défaillance d'un espace mémoire, les données présentes sur les autres espaces mémoire sont toujours accessible. Par contre les données sur le disque cassé sont bien entendu perdues.
Note : toutes les commandes suivantes sont à exécuter en tant que root.
Installez les pré-requis
apt install -y btrfs-tools
Listez les disques
fdisk -l
Créez la "partition" btrfs sur un ou plusieurs disques (vous pourrez en ajouter par la suite)
mkfs.btrfs -d single /dev/sdb /dev/sdc
Création du point de montage
mkdir /media/mountPoint
Montez la "partition" btrfs (vous pouvez choisir n'importe quel disque de la "partition")
mount /dev/sdb /media/mountPoint
Récupérez l'UID de n'importe lequel de vos disques participant à "la grappe"
blkid | grep "btrfs" | grep -E " UUID=\"([0-9a-z]{1,}[\-]{0,}){0,}\""
Éditez le fichier /etc/fstab
nano /etc/fstab
Adaptez puis ajoutez la ligne suivante
UUID=blablabla-uid-de-votre-disque-blablabla /media/mountPoint btrfs defaults,rw 0 0
Lancez la commande suivante
btrfs device add /dev/sdc /media/mountPoint
Lancez la commande suivante
btrfs device delete /dev/sdc /media/mountPoint
Bonsoir les gens,
En ce moment à mon taf, je suis en train de préparer un serveur pour un site distant (ROBO, Remote Office/Branch Office, comme on dit dans le marketing IT).
C'est une petite machine HP Proliant ML10 Gen9 bien sympathique, qui dispose de 2 HDD de 1 To (*).
Comme c'est de l'entrée de gamme, il n'y a pas de carte RAID hardware mais le chipset et l'UEFI fournissent de l'Intel Matrix Storage. Du fakeraid en somme. Très (...)
Bonjour, je suis à la recherche d'un boitier pour disque dur externe qui prendrait en charge au minimum 2 disques durs pour pouvoir faire du RAID 1 (redondance des données). Idéalement ça devrait prendre des disques 3,5 pouces et bien sûr être pris en charge par Linux sans bidouille particulière.
Pour le moment j'ai vu des boitiers de la marque Icy Box mais la prise en charge par linux semble nulle.
Bref, si vous en utilisez sous linux, vous avez (...)
Ce wiki traite de la partie serveur de GlusterFS pour la partie client voyez ce wiki : Monter un volume/répertoire GlusterFS sur Ubuntu/Debian
GlusterFS permet de créer des volumes/répertoires virtuels agrégeant un nombre X de serveurs. Pour cela GlusterFS crée des volumes (sorte de partition JBOD) à cheval sur les serveurs que vous stipulez lors de la création du volume et dispose d'un mode de redondance (replication) afin de lutter contre les pannes de stockage. Par défaut, sans réplication, gluster fait une sorte de raid0 (si vous uploader 10 fichiers sur un pool contenant deux Servers/Node, vous aurez 5 fichiers par server) (source). Vous pouvez utiliser l'argument stripe nombreDecoupage si vous souhaitez que les fichiers soient découpé avec leur data propre dispersée sur les différents stockages (le but étant d'augmenter les performances en lecture).
En une phrase, il permet de faire un cluster de stockage.
Note : vous pouvez créer un raid local sur plusieurs disques. Par contre vous ne pouvez hélas pas créer un raid gluster dans un autre raid/jbod gluster.
ndlr : simple et si possible imagé
_
_
Sur Ubuntu/Raspbian
sudo su
Sur Debian/Ubuntu minimal
su
apt-get install glusterfs-server attr
Note : si vous souhaitez installer une version spécifique de Gluster utilisez l'attribut --version=id_version par exemple :
apt-get install glusterfs-server --version=3.7.15-ubuntu1~xenial1
Pour connaître la version du package installé, entrez dans un terminal
apt-show-versions glusterfs-server
sudo chmod 777 /var/log/glusterfs/*.log
service glusterfs-server restart
_
_
Sur Ubuntu/Raspbian
sudo su
Sur Debian/Ubuntu minimal
su
Au choix :
apt-get remove glusterfs-server
apt-get purge --auto-remove glusterfs-server
rm -R /etc/glusterfs
rm -R /var/lib/glusterd
_
_
sudo gluster volume create NomVolume replica 2 transport tcp HOSTNAME_server1:/media/superPartition HOSTNAME_server2:/media/superPartition force
sudo gluster volume start NomVolume
Note : remplacez start par stop pour arrêter un volume (c'est un umount version gluster)
infos : Arbiter volumes and quorum options in gluster
(ndlr : à tester et corriger)
Le Nœud Arbitrer est chargé d'aider à élire un Noeud Maitre après une coupure réseau importante (split brain). Il est choisit automatiquement par GlusterFS parmi les Noeuds, il prend le troisième Nœud (bricks) et il n'est pas possible de le configurer/modifier (source).
Le paramètre replica doit être à 3 pour pouvoir utiliser un Arbitrer. Il faut donc au minimum 3 machines pour ce mécanisme.
Note : en raid1 (replica 2) lorsqu'une machine est absente tout est cassé. Ici (replica 3 arbiter 1) tant qu'au moins deux machines sur 3 de chaque séries sont connectées entre elles (peu importe lesquelles), tout continue de fonctionner.
sudo gluster volume create NomVolume replica 3 arbiter 1 transport tcp HOSTNAME_server1:/media/superPartition HOSTNAME_server2:/media/disque2 HOSTNAME_server3:/media/mon/path force
_
_
_
_
Note : Pour utiliser les commandes suivantes dans un script vous devez ajouter en fin de commande force --mode=script
sudo gluster peer probe HOSTNAME
HOSTNAME peut valoir l'IP, le nom de domaine ou tout path réseau valable d'un des server du cluster
Note : Une fois que le pool est établi, seuls les membres de confiance (trust) peuvent ajouter de nouveaux serveurs au pool. Un nouveau serveur ne peut PAS s'ajouter au pool, il doit être ajouté par le pool. (source)
sudo gluster peer detach HOSTNAME
HOSTNAME peut valoir l'IP, le nom de domaine ou tout path réseau valable d'un des serveurs du cluster
Note : Tout les volumes ouvert en commun entre ses pairs (peers) doivent être stoppé AVANT.
sudo gluster volume info
sudo gluster volume remove-brick nomBricks replica 1 HOSTNAME:/media/monDisk/monDossier force
sudo gluster volume delete nomBricks
sudo gluster peer detach HOSTNAME
HOSTNAME peut valoir l'IP, le nom de domaine ou tout path réseau valable d'un des server du cluster
Note : Tout les volumes ouvert en commun entre ses pairs (peers) doivent être stoppé AVANT.
sudo gluster volume add-brick NomVolume HOSTNAME:/media/maPartition
NomVolume => le nom du volume dans dans la grille GlusterFS
HOSTNAME => peut valoir l'ip, le nom de domaine ou tout path réseau valable d'un des server du cluster
/media/maPartition => le path où stocker les données sur le serveur
Exemple officiel : gluster volume add-brick VOLNAME NEW-BRICK
Source : http://www.gluster.org/community/documentation/index.php/Gluster_3.2:_Expanding_Volumes
sudo gluster peer status
sudo gluster volume info
sudo gluster volume remove-brick monVolume replica 2 HOSTNAME:/media/maPartition
NomVolume => le nom du volume dans dans la grille GlusterFS
replica 2 => le nombre de replication
HOSTNAME => peut valoir l'ip, le nom de domaine ou tout path réseau valable d'un des server du cluster
/media/maPartition => le path où stocker les données sur le serveur
Source : https://support.rackspace.com/how-to/add-and-remove-glusterfs-servers/
sudo gluster volume delete NomVolume
Note : ça ne supprime pas les fichiers.
Le volume doit être stoppé avant via
sudo gluster volume stop NomVolume
sudo ls /var/log/glusterfs/
sudo gluster volume set nomVolume auth.allow 192.168.1.2,192.168.*.1
nomVolume => le nom identifiant votre volume
192.168.1.2,192.168.*.1 => un exemple d'ip suivis d'un exemple de plage d'ip à autoriser
Note : Fonctionne aussi si le volume est en cours de fonctionnement.
Réponse : Le ou les fichiers sont ignoré par GlusterFS purement et simplement. Ils sont toujours accessible via le système de fichier du serveur mais pas via un quelconque volume glusterfs.
Réponse : Le ou les fichiers disparaissent jusqu'à ce que le volume soit démonté (umount), il ne semble rien leur arriver de malheureux. Lorsque le volume est démonté en cas d'écriture vers son point de montage, alors les données sont écrites sur le disque dur principal (système), ce qui peut être un problème pour certains usages (motion sur raspberry pi entre autre).
Réponse : les données sont envoyées/reçues vers les différents serveurs en même temps.
Réponse : Si vous êtes en raid1, il n'y a aucune perte de données et le service continue de fonctionner mode osef. Si vous êtes en JBOD/raid0 non stripping, le point de montage est toujours accessible et seules les datas présentent sur le bricks planté ne sont plus accessible. Il va de soit que si le disque dur en panne était le seul ou le dernier représentant d'un volume, le volume tombe aussi.
Impossible d'utiliser le nom de domaine depuis l'intérieur du réseau) pour ensuite les disséminer sur d'autres connexions sans changer la configuration ? (et sans utiliser Tor)
Réponse : Une solution est de configurer en utilisant un hostname, puis en modifiant le ficher /etc/hosts (infos) pour indiquer les IP locales des différents Nodes correspondant à chaque nom de domaine. Une fois que les machines quittent votre réseau local vous devez bien entendu allez supprimer les valeurs temporaires.
Réponse : Entrez une des valeurs suivantes pour voir se qu'il se passe : glusterfs
Réponse : Par défaut Non, mais vous pouvez activer le chiffrement par TLS (ex-ssl) en suivant ce tuto : GlusterFS Security.
Réponse : Par défaut Non. Une feature/extension (Doc - Features/disk-encryption) est en fin de conception afin de rendre gluster compatible avec le chiffrement côté serveur (disk encryption).
Réponse : 111 (portmap/rpcbind), 24007 (GlusterFS Daemon), 24008 (GlusterFS Management) et un port par volume/répertoire à partir de 49152. Si vous utilisez NFS alors les ports 38465, 38466 et 38467 sont aussi requis.
Source : Get started with GlusterFS - considerations and installation
Réponse : Non (!!!) Monter le volume devient impossible même en local (127.0.0.1) !
Réponse : replicate applique les modifications en temps réelle sur tout les Serveurs d'un Volume et lit les données sur X Serveurs en même temps. Geo-replication par contre fait des mises à jours régulières des modifications du système de fichier depuis un serveur Maître vers des serveurs Esclaves et ne lit les données que depuis le serveur Maitre.
Réponse : Il est automatiquement remplacé par un autre en cas de mirroring.
Réponse : le raid/jbod ne sera pas accessible tant que la machine ne sera pas connectée au réseau et ce même si le raid/jbod est uniquement local.
_
_
Bonjour à tous,
je viens demander votre aide plein de détresse, je viens de m'acheter un "Lenovo Ideapad 500S" sur le site de darty, malheureusement je n'ai pas réussi à booter sur ma clé usb avec l'iso de Solus, qui a pourtant réussi sur mon ancien pc.
Après quelques recherches google il semblerait que ça soit une histoire de la configuration du disque SSD qui est RAID plutot que AHCI… J'ai pas trouvé grande informations récentes et ça (...)
Bonjour,
Nous avons 3 disques identique de 4 To pour un serveur de fichiers "sécurisé". Nous souhaitons un maximum de sécurité vis-à-vis des défaillances matérielles. Chaque disque à été acheté chez un fournisseur différent. Nous ne souhaitons de pouvoir profiter que de 4 To, de sorte à favoriser la sécurité.
Quel configuration RAID sera optimale ?
En RAID 1, nous pourrions soit impliquer directement les 3 disques, ou n'en impliquer que 2 et placer le 3ème comme réserve (“spare”).
Je pense (...)
Avant-Propos :
Il est fortement conseillé d'utiliser un raspberry pi 2 au minimum (privilégiez le modèle 3). JBOD via mddfs n'est pas totalement stable, mais ZFS semble actuellement non utilisable sur Raspberry Pi. Si vous suivez ce tuto sur une machine dotée d'autre chose qu'un processeur ARM, privilégiez l'utilisation de ZFS.
Gluster vous permet en fonction du nombre de peers/nodes et du nombre de réplication de faire :
Bonjour à tous,
Je poste ici mon premier message car j’essaie depuis des mois de récupérer mes données stockées sur mon ReadyNas DUO (2 disques).
Je souhaitais réinitialier mon NAS tout en conservant mes données.
J'ai monter une première fois le second disque dans mon PC (sur lequel mes données sont dans sda3)mdadm --assemble --run /dev/md0 /dev/sda3
mount /dev/md0 /mnt/test
Toutes mes données sont là, je passe donc au formatage du disque 1 via la fonction FACTORY DEFAULT.
Et (...)
La version 0.6.3 de ZOL (ZFS On Linux) vient fraîchement d'être mise à disposition. Bien que n'ayant que peu communiqué (sur la liste de discussion en tout cas), depuis la dernière version sortie en août 2013, les développeurs du projet n'ont pas chômé puisqu'il y a eu près de 200 corrections de bugs et de nombreuses fonctionnalités ajoutées au projet avec notamment : la compatibilité pour les noyaux Linux <= 3.14, la comptabilité avec les ACL POSIX et un nouvel outil de supervision dédié le ZED daemon.
Bonjour,
Je me lance dans l'expérimentation de BTRFS dans une configuration RAID 1 et je ne suis pas sûr d'avoir bien compris certaines choses sur le RAID 1 et sur BTRFS.
Contexte :
J'ai choisi RAID 1 pour que la machine continue de fonctionner même si un disque complet flanche complètement. Et j'ai choisi BTRFS pour l'intégrité des données.
Configuration matérielle: 2 disques durs (sda et sdb)
Configuration logicielle :
Debian Testing avec un partitionnement sda1 "/" (BTRFS), sda2 "/home" (...)
Bonjour,
Quelqu'un sais comment voir si le raid hardware d'un dédié (içi online.net) est ok. Avec un raid software j'irai voir /proc/mdstat mais pour un raid hardware…
Cordialement,
Bonjour,
Je viens de faire l'upgrade de Kubuntu 13.04 à 13.10, ce soir, au premier redémarrage (puis au second, troisième,…) mon disque dur de stockage en FakeRAID NTFS monté sur /media/BIGRAID ne veut plus se monter (alors qu'il se monte sur mon Win7 en dualboot).
Au démarrage, l'OS semble ne pas le voir. il me parle d'un "type raid45"…
J'ai configuré ce RAID5 sur 12.04 à l'installation alors que les 3 HDD étaient formatés puis je suis passé d'upgrade en (...)