Forum général.cherche-logiciel Recherche d'une méthode de stockage réseau synchronisé multi-sites

Posté par .
Tags : aucun
1
23
nov.
2011

Salut tous,

Je cherche une solution me permettant d'archiver de manière "sécurisée" (confidentialité / disponibilité / redondance), synchronisée et performante des données entre plusieurs emplacements géographiques.

J'ai actuellement un réseau mesh openvpn, reliant plusieurs sites.
Chacun des sites dispose d'un disque réseau (Synology) redondé (ou non).
Tous sont connectés à Internet et reliés entre eux (VPN).
Certains sites ont une bande passante montante faible (ADSL gd public).

Je dispose d'un serveur dédié relié à ce réseau VPN (i.e. bande passante plus importante).

J'aimerais créer un espace de stockage sur chacun des disques réseau (et le serveur dédié), si un utilisateur dépose un fichier sur le disque réseau le plus proche, ce fichier est dupliqué automatiquement sur l'ensemble des espaces de stockages.

Si les utilisateurs se déplacent sur un autre site ils ont accès aux fichiers en "local", même en cas de coupure temporaire de l'accès réseau du site.
Les utilisateurs peuvent accéder via Internet au serveur dédié et aux fichiers situés sur ce dernier.

Je ne pense pas avoir vraiment besoin de suivi de versions, le fichier le plus récent peut écraser l'ensemble des fichiers ayant le même nom sur tous les espaces de stockage.
La synchronisation n'a pas à être instantanée, j'imagine bien une fois par heure vers le serveur central, l'ensemble des noeuds synchronisés sous 24h00.

Avez-vous des suggestions d'outils ou de script pouvant faire tout ça ? Je verrais bien la partie "intelligente" située sur le serveur dédié, l'accès aux NAS se faisant en NFS/FTP/SMB/autre via VPN.

Les fichiers sauvegardés seront principalement des documents administratifs, peut être quelques photos.

Dans l'ordre des priorités:
1- Redondance des données (se prémunir contre une/plusieurs panne(s)/incendie(s)/...), forte tolérance aux pannes (la perte de données n'est effective que quand 100% "noeuds" sont compromis)
2- Usage simplifié, aucun logiciels à installer sur les postes utilisateurs, indépendance vis à vis de l'O/S
3- Performance (i.e. contourner la faible bande passante de certains sites en stockant les données en "local").
4- Indépendance vis à vis de tout prestataire externe pour le stockage,

PS: le chiffrement n'est pas une contrainte tant que les ressources ne se retrouvent pas chez un prestataire externe.
PS2: Concernant la partie performance, l'idée est de ne pas synchronisée le fichier à chaque fois que l'utilisateur l'enregistre pour limiter la fréquence des échanges.

J'ai jeté un oeil aux solutions type dropbox, sparkleshare & co mais ça ne me semble pas répondre à ce que je cherche:
- Il faut installer un outil sur les postes clients
- Apparemment les données sont stockées sur les postes utilisateurs et sur un serveur central. De mon coté les données ne sont pas stockées sur les postes utilisateurs (mais sur le disque réseau) et j'aimerais éviter de tout stocker sur un serveur central.

Je ne sais pas si j'ai été très clair :)

Merci en tout cas pour vos avis et pistes éventuelles.

PS: N'imaginez pas une usine à Gaz, le réseau actuel est juste un petit réseau familial de 5 noeuds.

  • # p2p

    Posté par (page perso) . Évalué à 1.

    Une solution basée sur du p2p ?

  • # Tahoe-LAFS

    Posté par (page perso) . Évalué à 2.

    Tahoe-LAFS is a Free and Open cloud storage system. It distributes your data across multiple servers. Even if some of the servers fail or are taken over by an attacker, the entire filesystem continues to function correctly, including preservation of your privacy and security.

    https://tahoe-lafs.org/trac/tahoe-lafs

    Ce qu'il manque, un vrai connecteur fuse fonctionnel j'ai l'impression (qui permettrait ensuite le partage samba...)

    Sinon, il y a glusterfs qui a un mode de synchronisation asynchrone... mais il y a un maître dans ce cas là !

  • # rien de neuf

    Posté par (page perso) . Évalué à 0.

    Salut,

    Il y a 3 ans je cherchais la même chose et je n'ai rien trouvé de convenant.
    J'ai utilisé pendant quelques mois PowerFolder mais c'est du java! :(

    En attendant de trouve l'OUTIL, j'utilise des rsync.

    l'OUTIL:
    un système de type P2P pour permettre l'envoie de bout de fichiers au fil de l'eau avec un limite de bande-passante voir une planification.
    L'outil doit fonctionner sous Linux et Windows et utiliser n'importe quels types de Filesystem et vérifier l'arrivé de nouveaux documents.

    • [^] # Re: rien de neuf

      Posté par . Évalué à 2.

      unison, rsync couplé à inotify pour se declencher des qu'il y a un changement.

  • # rsync

    Posté par . Évalué à 2.

    Combien de site as-tu ?
    Hors solution p2p, il faudra certainement que tu ais un site considéré comme maître; pour faire A-rsync->B, A-rsync->C. Plus gérable que A-rsync->B, B-rsync->C à mon avis.

    Est ce que des données peuvent être modifiées à deux endroits entre deux synchronisation ?

    rsync gère de manière un peu brutale les conflits (delete, delete if newer).

    Si tu veux gérer plus explicitement les conflits, il faudrait envisager SVN : un par site avec une réplication pré-commit. Mais cela demande un copy sur le poste client et un processus moins transparent pour l'utilisateur.

    On peut peut être faire qqch de plus dynamique avec du inotify. Mais je doute que ce soit présent sur un présent sur un NAS.
    De même, un DRBD ne me paraît pas envisageable en multi-site.

    Si tu parviens à une solution n'hésites pas à la partager.

Suivre le flux des commentaires

Note : les commentaires appartiennent à ceux qui les ont postés. Nous n'en sommes pas responsables.