Pilna poprawka na jedynym serwerze systemu zamówień oznacza przestój: każdy restart to przerwa, w której handlowcy widzą błąd zamiast formularza. Firma dokupiła już drugą maszynę, ale aplikacja nadal działa wyłącznie pod adresem pierwszej, bo nic nie mówi ruchowi, że istnieje alternatywa.
Tym brakującym elementem jest load balancer. Przyjmuje połączenia pod jednym adresem, rozdziela je między serwery i przestaje kierować ruch do tych, które nie odpowiadają, więc jeden z nich można wyłączyć bez przerwy dla użytkowników. Od warstwy, w której działa, zależy, czy będzie tylko rozdzielał połączenia, czy także czytał żądania, utrzymywał sesje i kończył szyfrowanie. Ta ostatnia rola czyni go częścią architektury bezpieczeństwa, a nie wyłącznie wydajności.
Czym jest load balancer i co dokładnie robi?
Load balancer to element sieci, który przyjmuje ruch kierowany do aplikacji i rozdziela go między kilka serwerów zaplecza według ustalonych reguł. Microsoft definiuje równoważenie obciążenia jako efektywne rozdzielanie przychodzącego ruchu sieciowego między grupę serwerów zaplecza (Microsoft Learn, „What is Azure Load Balancer?”). Klient zna tylko jeden adres, czyli wirtualny adres IP (VIP) albo nazwę DNS, która na niego wskazuje, i nie wie, który serwer obsłużył jego żądanie.
Przy każdym połączeniu albo żądaniu load balancer rozstrzyga trzy sprawy. Które serwery są teraz zdrowe? Który z nich powinien dostać ten ruch? Czy ten klient musi trafić tam, gdzie był poprzednio? Na pierwsze pytanie odpowiadają health checki, na drugie algorytm, na trzecie mechanizm utrzymania sesji.
Korzyści wynikają wprost z tego modelu. Awaria jednego z kilku serwerów oznacza mniejszą pulę, a nie niedostępną aplikację, serwer można zdjąć z puli na czas aktualizacji, a kolejny dołożyć bez zmiany adresu znanego użytkownikom.
Load balancer nie przyspiesza pojedynczego żądania i nie naprawi aplikacji, która zwalnia przez przeciążoną bazę danych. Jeśli wszystkie serwery korzystają z jednej przeciążonej bazy, drugi serwer aplikacji przeniesie wąskie gardło piętro niżej.
Czym różni się load balancer warstwy 4 od warstwy 7?
Load balancer warstwy 4 decyduje na podstawie adresów IP, portów i protokołu transportowego (TCP albo UDP), a load balancer warstwy 7 czyta żądania HTTP i HTTPS i może kierować ruch według ścieżki URL, nagłówków albo ciasteczek. Numeracja pochodzi z modelu OSI: warstwa 4 to transport, warstwa 7 to aplikacja.
Różnicę dobrze widać na dwóch usługach jednego dostawcy chmury. Azure Load Balancer działa w warstwie 4 modelu OSI i rozdziela przepływy TCP i UDP. Azure Application Gateway działa w warstwie aplikacji i, jak pisze Microsoft, w odróżnieniu od tradycyjnych load balancerów kierujących ruch po adresie IP i porcie decyduje na podstawie atrybutów żądania HTTP, takich jak ścieżka URL i nagłówek host (Microsoft Learn, „What is Azure Application Gateway?”). Żądania z /images mogą więc trafiać do innych serwerów niż żądania z /video.
Różnica ma też wymiar czasu. Dokumentacja NetScalera opisuje granularność równoważenia: dla HTTP i HTTPS serwer wybiera się osobno dla każdego żądania, niezależnie od połączeń TCP, dla protokołów opartych na TCP dla każdego nowego połączenia, a dla UDP dla pakietu, po którym przez ustalony czas trwa sesja (NetScaler, „Load balancing algorithms”). Load balancer L7 może więc rozłożyć żądania jednej przeglądarki między kilka serwerów, a L4 trzyma całe połączenie na jednym.
Wybór warstwy jest wyborem tego, ile load balancer ma widzieć. L4 nie zagląda w treść, więc nie potrzebuje certyfikatów aplikacji; Microsoft opisuje Azure Load Balancer jako równoważenie typu pass-through o bardzo niskich opóźnieniach. L7 daje routing po treści i reguły dla konkretnych ścieżek, ale przy HTTPS wymaga zakończenia TLS na load balancerze, czyli przechowywania tam kluczy prywatnych.
Najważniejsze:
- Warstwa 4 rozdziela połączenia po adresach i portach, bez wglądu w treść.
- Warstwa 7 czyta żądania HTTP i kieruje je według ścieżki, nagłówków albo ciasteczek.
- Routing po treści ruchu HTTPS oznacza odszyfrowanie go na load balancerze.
Jakimi algorytmami load balancer wybiera serwer?
Algorytm rozstrzyga, który ze zdrowych serwerów dostanie kolejne połączenie albo żądanie, a wybór zależy od tego, czy serwery są jednakowe i czy żądania trwają podobnie długo.
Round robin przydziela serwery po kolei. W opisie NetScalera wybierany jest serwer z początku listy, który po obsłużeniu połączenia przechodzi na jej koniec, a nginx stosuje tę metodę domyślnie, gdy nie wskazano innej (nginx, „Using nginx as HTTP load balancer”). Metoda sprawdza się, gdy serwery mają tę samą moc, a żądania są krótkie i podobne do siebie.
Wagi korygują nierówne serwery. W przykładzie z dokumentacji nginx serwer z wagą 3 dostaje trzy z każdych pięciu nowych żądań, a dwa pozostałe serwery po jednym (nginx).
Metoda najmniejszej liczby połączeń (least connections) kieruje ruch do serwera, który ma ich w tej chwili najmniej. Według dokumentacji nginx pozwala sprawiedliwiej rozłożyć obciążenie, gdy część żądań trwa dłużej, a w NetScalerze jest to algorytm domyślny (NetScaler). Warianty oparte na czasie odpowiedzi wybierają serwer, który odpowiada najszybciej.
Algorytmy haszujące liczą skrót z adresu źródłowego, docelowego URL albo innych pól i na tej podstawie przypisują serwer. Ten sam klient trafia wtedy w to samo miejsce, ale rozkład obciążenia zależy od rozkładu klientów: biuro wychodzące do internetu przez jeden adres NAT może w całości wylądować na jednym serwerze. Rozsądny punkt startu to least connections albo round robin, a zmiana algorytmu dopiero wtedy, gdy pomiary pokażą nierówne obciążenie.
Jak load balancer sprawdza, czy serwer działa?
Load balancer sprawdza stan serwerów za pomocą health checków, czyli testów, po których niezdrowy serwer wypada z puli, dopóki znów nie zacznie poprawnie odpowiadać. Azure Load Balancer używa do tego sond (health probes), żeby ruch trafiał tylko do zdrowych instancji (Microsoft Learn).
Testy aktywne load balancer wykonuje sam: od sprawdzenia, czy serwer przyjmuje połączenie na porcie, po żądanie HTTP z weryfikacją kodu i treści odpowiedzi. Strona produktu Radware Alteon wymienia health checki warstw 3, 4 i 7 z weryfikacją treści oraz własnymi skryptami. Testy pasywne obserwują prawdziwy ruch: nginx po nieudanej komunikacji z serwerem oznacza go jako niesprawny i przez pewien czas go omija. Parametr max_fails określa tam liczbę kolejnych nieudanych prób w czasie fail_timeout i domyślnie wynosi 1 (nginx).
Health check może sprawdzać nie to, co trzeba. Test portu potwierdzi, że serwer WWW przyjmuje połączenia, nawet gdy aplikacja za nim zwraca błąd 500, bo straciła połączenie z bazą, i load balancer dalej będzie kierował tam część użytkowników. Lepszy test wywołuje osobny adres aplikacji, który sprawdza jej zależności. Odwrotny błąd to test zbyt czuły, który przy chwilowym spowolnieniu zdejmuje z puli kilka serwerów naraz i przerzuca cały ruch na ostatni.
Jak utrzymać sesję użytkownika na wielu serwerach?
Sesję utrzymuje się na dwa sposoby: load balancer kieruje klienta zawsze do tego samego serwera (persystencja, sticky sessions) albo aplikacja trzyma stan sesji poza serwerem.
Persystencja to rozwiązanie po stronie load balancera. W nginx służy do niej metoda ip-hash: adres IP klienta jest kluczem, który wyznacza serwer, a żądania tego klienta trafiają tam zawsze, chyba że serwer jest niedostępny. Application Gateway oferuje powinowactwo sesji oparte na ciasteczku (Microsoft Learn), które rozróżnia użytkowników także wtedy, gdy wielu z nich wychodzi do internetu przez jeden adres.
Persystencja ma swoją cenę: rozkład obciążenia przestaje być równomierny, awaria serwera i tak kończy sesje, które na nim były, a przy wdrażaniu nowej wersji przypięci użytkownicy zostają na starych serwerach dłużej, niż zakłada plan. Dlatego nowe aplikacje lepiej projektować jako bezstanowe, z sesją w bazie albo we współdzielonej pamięci podręcznej, a persystencję zostawić dla aplikacji, których nie da się tak przebudować.
Kiedy firma naprawdę potrzebuje load balancera?
Firma potrzebuje load balancera wtedy, gdy aplikacja ma działać na więcej niż jednym serwerze: ze względu na dostępność, pojemność albo prace serwisowe bez przerwy dla użytkowników.
Sygnały są konkretne: aktualizacja wymaga okna serwisowego uzgadnianego z biznesem, awaria jednej maszyny wyłącza usługę dla klientów, certyfikaty TLS trzeba odnawiać na kilku serwerach osobno albo aplikacja ma działać z dwóch ośrodków.
Są też sytuacje, w których wystarczy mniej. Strona produktu Radware Alteon wprost wskazuje, że przy prostych aplikacjach wystarczy oprogramowanie w rodzaju nginx albo HAProxy, a w środowisku w całości chmurowym natywny load balancer dostawcy chmury.
Load balancer nie zastąpi przygotowania aplikacji: jeśli trzyma ona dane na lokalnym dysku serwera albo nie potrafi działać w kilku kopiach naraz, decyzja zaczyna się od rozmowy z jej zespołem, a nie od wyboru urządzenia. Sam load balancer, postawiony pojedynczo, też jest pojedynczym punktem awarii, dlatego w produkcji wdraża się go parami w trybie wysokiej dostępności. Tryby aktywny–zapasowy i aktywny–aktywny na przykładzie konkretnego produktu omawia artykuł o równoważeniu obciążenia w Radware Alteon.
Czym load balancer różni się od ADC, reverse proxy i GSLB?
Load balancer to funkcja, a ADC, reverse proxy i GSLB to rozwiązania, które ją zawierają albo przenoszą na inną skalę.
ADC (Application Delivery Controller) to load balancer, zwykle działający w warstwach 4 i 7, z dodatkowymi funkcjami. Strona produktu NetScaler (Citrix ADC) opisuje go jako rozwiązanie łączące równoważenie ruchu, zaporę aplikacyjną WAF i optymalizację aplikacji, a Radware Alteon jako kontroler z równoważeniem L4/L7, odciążaniem TLS i akceleracją. ADC jest punktem publikacji aplikacji, a nie tylko rozdzielaczem ruchu.
Reverse proxy przyjmuje żądania w imieniu serwerów i przekazuje je dalej. Każdy load balancer L7 jest w tym sensie reverse proxy, ale nie każde reverse proxy rozdziela ruch, bo bywa pośrednikiem przed jedną aplikacją; dokumentacja nginx opisuje równoważenie obciążenia jako część implementacji reverse proxy. Więcej o pośrednikach w ruchu: artykuł o serwerach proxy.
GSLB (Global Server Load Balancing) rozdziela ruch między ośrodki, a nie między serwery. Działa przez DNS: odpowiada na zapytanie adresem zdrowego ośrodka, a przy awarii podaje adres zapasowy, tak jak opisuje to strona produktu Radware Alteon. W chmurze Microsoftu podobną rolę pełni Traffic Manager, opisany w dokumentacji jako routing globalny oparty na DNS.
Jak load balancer wpływa na cyberbezpieczeństwo aplikacji?
Load balancer L7, który kończy TLS, jest miejscem, w którym ruch z internetu zostaje odszyfrowany przed dotarciem do aplikacji, dlatego dla cyberbezpieczeństwa jest jednocześnie szansą i celem.
Szansą, bo to pierwsze miejsce, w którym da się zajrzeć w treść żądań, zanim dotrą do aplikacji. Application Gateway łączy terminację TLS z integracją z zaporą aplikacyjną (WAF), a NetScaler według strony produktu łączy równoważenie ruchu z WAF w jednym rozwiązaniu. Zapora aplikacyjna analizuje żądania HTTP pod kątem ataków na aplikacje; zasady jej działania opisują artykuł o WAF i hasło WAF w słowniku.
Celem, bo urządzenie przechowuje klucze prywatne certyfikatów publikowanych aplikacji i widzi ich ruch jawnym tekstem, więc jego przejęcie daje napastnikowi więcej niż przejęcie jednego serwera. Interfejs administracyjny powinien być dostępny wyłącznie z sieci zarządzania, z uwierzytelnianiem wieloskładnikowym, a oprogramowanie urządzenia aktualizowane z tą samą dyscypliną co inne systemy brzegowe.
Po zakończeniu TLS ruch do serwerów może iść jawnie albo zostać ponownie zaszyfrowany; Application Gateway opisuje także szyfrowanie od końca do końca, aż do serwerów zaplecza. Jeśli segment serwerów nie jest odizolowany, jawny ruch za load balancerem przenosi ryzyko podsłuchu do wnętrza firmy.
Load balancer nie zastępuje też ochrony przed DDoS. Nawet w jednej chmurze Microsoft rozdziela te role: ataki w warstwach 3 i 4 zatrzymuje Azure DDoS Protection, a ataki w warstwie 7 WAF przy Application Gateway (Microsoft Learn).
Jak dobrać load balancer do aplikacji?
Dobór zaczyna się od aplikacji, a nie od produktu: od tego, jakim protokołem rozmawia, czy trzyma stan i gdzie ma się kończyć szyfrowanie.
| Pytanie projektowe | Wystarczy warstwa 4, gdy… | Potrzebna warstwa 7 albo ADC, gdy… | Sygnał ostrzegawczy |
|---|---|---|---|
| Jakim protokołem rozmawia aplikacja? | ruch to TCP albo UDP inny niż HTTP (bazy danych, poczta, VPN) | aplikacja jest webowa i ma kilka ścieżek albo domen pod jednym adresem | routing po treści planowany dla protokołu, którego load balancer nie rozumie |
| Gdzie ma się kończyć TLS? | szyfrowanie ma dochodzić do serwera bez przerwy | ruch ma sprawdzać WAF albo trzeba kierować go według URL | klucze prywatne na load balancerze bez planu ochrony interfejsu zarządzania |
| Czy aplikacja trzyma sesję na serwerze? | sesja jest poza serwerem albo całe połączenie obsługuje jeden serwer | potrzebna persystencja oparta na ciasteczku | persystencja po adresie IP przy klientach za wspólnym NAT |
| Jak sprawdzać zdrowie serwera? | wystarczy test portu, bo usługa jest prosta | trzeba sprawdzić odpowiedź aplikacji i jej zależności | health check, który przechodzi mimo błędów 500 |
| Ile ośrodków i środowisk? | jeden ośrodek albo jedna chmura | kilka ośrodków albo środowisko hybrydowe z GSLB | rekord DNS z kilkoma adresami bez sprawdzania stanu |
| Kto utrzymuje konfigurację? | reguły są nieliczne i rzadko się zmieniają | reguły zmieniają się razem z wdrożeniami aplikacji | brak właściciela konfiguracji i jej kopii zapasowej |
Odpowiedzi nie muszą być jednolite dla całej firmy: ten sam ADC może obsługiwać usługi TCP w warstwie 4 i aplikacje webowe w warstwie 7, każdą z własnymi regułami i health checkami. Forma wdrożenia to osobna decyzja. Strona produktu Radware Alteon wymienia urządzenie sprzętowe, maszynę wirtualną, chmurę i kontenery (z kontrolerem ingress dla Kubernetesa), a niezależnie od formy zespół musi utrzymywać konfigurację load balancera tak starannie jak serwery za nim.
Jak nFlo może pomóc we wdrożeniu load balancera?
nFlo dostarcza i wdraża kontrolery dostarczania aplikacji NetScaler (Citrix ADC) oraz Radware Alteon. Wdrożenie NetScalera prowadzimy w modelu projektowym: od analizy wymagań, przez konfigurację i integrację z istniejącą infrastrukturą, po szkolenie zespołu.
Analiza wymagań zaczyna się od pytań z tabeli powyżej. Radware Alteon ma sens tam, gdzie potrzebne są równoważenie L4/L7 z rozbudowanymi health checkami, GSLB między ośrodkami albo integracja z ochroną Radware DefensePro i AppWall, a NetScaler tam, gdzie równoważenie ruchu ma iść w parze z zaporą aplikacyjną.
Planujesz drugi serwer aplikacji albo wymianę kontrolera? Porozmawiajmy o architekturze, zanim zapadnie decyzja o sprzęcie.
Co jeszcze warto wiedzieć o load balancerach?
Czy load balancer zastępuje zaporę sieciową?
Nie. Load balancer rozdziela ruch, a zapora decyduje, jaki ruch może przejść. Moduł WAF w ADC chroni aplikacje webowe, ale nie przejmuje zadań zapory na brzegu sieci.
Czy przy dwóch serwerach warto wdrażać load balancer?
Tak, jeśli oba obsługują tę samą aplikację i liczy się dostępność albo aktualizacje bez przerwy. Warunek: jeden serwer musi udźwignąć cały ruch, gdy drugi jest wyłączony.
Czy DNS round robin może zastąpić load balancer?
Tylko częściowo. Zwykły DNS nie sprawdza, czy serwer działa, więc część klientów trafi pod adres maszyny, która nie odpowiada. GSLB łączy DNS z health checkami.
Czym jest wirtualny adres IP (VIP)?
To adres, pod którym load balancer publikuje aplikację. Serwery za nim można dodawać i wymieniać bez zmiany adresu znanego użytkownikom.
Co się dzieje, gdy awarii ulegnie sam load balancer?
Jeśli działa pojedynczo, aplikacja staje się niedostępna, choć serwery działają. Dlatego w produkcji stawia się parę albo klaster wysokiej dostępności, a w chmurze korzysta z nadmiarowości usługi zarządzanej, na przykład stref dostępności w Azure.
