L'équilibrage de charge Utilisation, principe et solutions

Introduction L'équilibrage ou répartition de charge prend une importance particulière avec la montée en puissance des application web

Principes En anglais Load-Balancing Répartition des connexions à une machine vers un ensemble de machines Mis en oeuvre grâce à un boîtier d'équilibrage de charge

Objectifs Adaptation à la charge (Scalability) Amélioration des temps de réponse Augmentation de la qualité de service Tolérance de panne

Quelques solutions Linux LVS Haproxy Microsoft NLB Varnish

Premier cas de figure : DNS round robin Tourniquet DNS: à un nom DNS on associe plusieurs adresses (multiples enreg. A) Simple à mettre en oeuvre Peu de contrôle

Microsoft NLB Network Load Balancing Intégré à Windows serveur 2000/2003 Pas plus de 32 serveurs Répartition de charge calculée uniquement sur la charge réseau Serveurs situés dans le même sous-réseau

Microsoft NLB - suite Utilise une adresse MAC virtuelle pour l'ensemble des membre du cluster Mode unicast Chaque carte du cluster dispose de la même adresse MAC et IP : impossible de communiquer sans ajout de carte supplémentaire ou Mode multicast Chaque carte du cluster dispose de 2 adresses MAC => pb avec de nombreux routeurs et switch

Linux LVS/IPVS Linux Virtual Server Dans le noyau Linux depuis 2001 Solution éprouvée utilisée par Wikipedia, Clubic, ... Dispose d'un application d'équilibrage de charge de niveau 7 (KTCPVS) Solution généraliste pas limitée au seul http

Linux LVS/IPVS -2 supporte de nombreux algorithmes de répartition round-robin, weighted round-robin, least-connection scheduling, weighted least-connection, locality- based least-connection, locality-based least- connection with replication, destination hashing, source hashing, shortest expected delay, never queue. Synchronisation des information d'état

Schéma de principe

Les mode de fonctionnement * Tunnel Virtuel avec la NAT Tunnel Virtuel avec le TUN Tunnel Virtuel avec le Direct Routing

VS/NAT

VS/NAT Son principe de fonctionnement ne permet pas un grand nombre de serveurs (~10) Simple à mettre en oeuvre

VS/Tunneling

VS/Tunneling Permet un plus grand nombre de serveurs (~ 100) : charge élevée

VS/Direct Routing

VS/Direct Routing Permet un plus grand nombre de serveurs (~ 100)

Les modes de répartition de charge Round-Robin : répartition uniforme Round-Robin pondéré Machine la moins chargée Machine la moins chargée avec pondération

Le paquetage ipvsadm Permet de mettre en place un serveur LVS exemple : répartition Web en Round-Robin ipvsadm -A -t 207.175.44.110:80 -s rr ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.1:80 -m ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.2:80 -m ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.3:80 -m ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.4:80 -m ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.5:80 -m

HAProxy Dispositif d'équilibrage de charge pour TCP et les applications HTTP Solution stable et éprouvée S'adapte automatiquement à l'état des serveurs Fonctionne au niveau 4 ou 7 Gère les informations de session http Ne gère pas HTTPS Gère plusieurs dizaines de milliers de connexion

HAProxy – 2 Quelques fonctionnalités : Répartition sur la base d’un cookie existant, ou bien insertion de son propre cookie pour gérer l’affinité de serveur. HAProxy peut tester la disponibilité des serveurs, soit en établissant une connexion TCP, soit en adressant une requête HTTP. En mode HTTP, la vérification peut porter sur une URI particulière, qui teste tous les composants requis au bon fonctionnement.

HAProxy - 3 mode de répartition : round-robin (permutation circulaire), avec possibilité de permutation et de limitation du nombre de connexions par serveur. reconfiguration possible à chaud. statistiques temps-réel. HAProxy est généralement mis en œuvre couplé à heartbeat,

VARNSIH Varnish est un accélérateur web/proxy inverse Il est assez largement utilisé sur les sites dynamiques sur lequels il permet d'améliorer très sensiblement les temps de réponse (x 4 ou x5) Il permet d'effectuer de la répartition de charge (au niveau 7 applicatif) http://varnish-cache.org/

La haute disponibilité Le redirecteur LVS constitue un SPOF (Single Point Of Failure ou ressource critique ) et par là un risque de panne. On le double souvent par une deuxième machine reliée avec un heartbeat D'autre part, il est possible d'utiliser des logiciels (ldirectord, LVSM, keepalived, ...) qui vont tester le fonctionnement des serveurs et permettre de s'adapter dynamiquement à leur fonctionnement (ajout, suppression d'une machine, ...)

Les solutions UltraMonkey : LVS + heartbeat + ldirectord

Mise en oeuvre De nombreux tutoriel pour LVS/IPVS, Ultramonkey ou Haproxy sur howtoforge.com