Modern mimarilerinde artan trafiği karşılamak için mevcut kaynakları (CPU, memory) artırmak yerine yeni sunucu eklenmesi tercih edilmektedir. Mevcut kaynakları artırmak scale-up, yeni sunucular eklemekse scale-out olarak bilinir. Trafik sunucuların önüne konan bir yük dağıtıcı ile karşılanarak eşit oranda (veya belirli kurallara göre) asıl işi yapacak olan sunuculara dağıtılır.

Yük dengeleyiciler (LB — Load Balancer), yükü dağıttıkları sistemlerin sağlıklı olup olmadığını belirli aralıklarla kontrol ederek sağlıklı çalışmayan sunuculara trafiği yönlendirmekten imtina edebilirler. Bu sayede, yük dengeleyiciler sistemlerimizin ölçeklenmesini sağladıkları gibi yüksek erişilebilirliğini

(HA — High Availability) sağlamak için de kullanılırlar. Problemli sunucuya yeni istek gönderilmez ve kullanıcıların problemden etkilenmemesi sağlanır.

Ek olarak, yük dengeleyiciler sayesinde uygulama güncellemeleri sistemde kesintiye sebep olmadan yapılabilir. HA durumuna benzer şekilde, öncelikle güncellenecek sunucuya LB’nin trafik yönlendirilmemesi sağlanır. Uygulama, sunucu üzerinde güncellendikten sonra LB tekrar sunucuya trafiği yönlendirmeye başlar. Bu süreç bütün sunucular için tekrarlandığında uygulamanın versiyonu servis kesintisine neden olmadan yükseltilmiş olur.