로드밸런싱 개념 및 배포 방식

로드 밸런싱은 대규포 트래픽 처리의 핵심 기술이다. 서버에 가해지는 부하를 분산시켜 서비스의 안정성과 성능을 유지하는 역할을 한다.

 

로드밸런싱이란? 

로드 밸런싱은 들어오는 네트워크 트래픽을 여러 서버에 분산하여 단일 서버에 과부하가 걸리지 않도록 하는 기술이다.

 

 

 

로드밸런스가 등장한 이유

• 트래픽 이슈: 서버수를 늘린다.(수평적 확장)
• 안정적인 배포를 위한 필요성:
  
  1. 새로운 서버에 배포하는 경우: 새로운 서버에 애플리케이션을 배포하면 IP가 변경될 수 있다. 이러한 경우 로드 밸런서를 사용하여 고정 IP를 부여하면, 클라이언트는 IP 변경을 인지하지 않고 서비스를 이용할 수 있다.
  2. 기존 서버에 배포하는 경우: 기존 서버에 새 버전을 배포하면서 서버를 재시작해야 하는 상황이 발생할 수 있다. 이때, 로드 밸런서는 기존 서버의 트래픽을 다른 서버로 분산시켜 유저가 서비스를 중단 없이 이용할 수 있도록 한다.

---

 

로드밸런싱의 유형

 

로드 밸런싱은 주로 네트워크 계층에 따라 두 가지 유형으로 나뉜다: L4 로드 밸런싱과 L7 로드 밸런싱.

1. L4 로드 밸런싱 (네트워크 레벨 로드 밸런싱):
   • 네트워크 계층(Layer 4, 전송 계층)에서 로드 밸런싱을 수행하며, IP 주소와 포트 번호를 기반으로 트래픽을 분산한다.
   • L4 로드 밸런서는 클라이언트와 서버 간의 TCP 또는 UDP 연결을 기반으로 요청을 분산시킨다.
   • 장점: 빠르고 효율적이며, 다양한 프로토콜에 적용 가능하다.
   • 단점: HTTP 요청의 세부적인 내용을 분석하지 않으므로, 요청의 내용에 따라 트래픽을 세분화할 수 없다.
2. L7 로드 밸런싱 (애플리케이션 레벨 로드 밸런싱):
   • 애플리케이션 계층(Layer 7)에서 로드 밸런싱을 수행하며, HTTP, HTTPS와 같은 애플리케이션 프로토콜을 기반으로 트래픽을 분산한다.
   • L7 로드 밸런서는 요청의 URL, 헤더, 쿠키, 메서드 등을 분석하여 요청을 분배할 수 있다.
   • 장점: 트래픽을 보다 세분화하여 분산할 수 있으며, 고급 라우팅 기능을 제공한다.
   • 단점: L4 로드 밸런싱에 비해 성능이 낮을 수 있으며, 더 많은 리소스를 소모한다.

---

 

배포의 종류: Rolling / Canary / Blue-Green 방식

 

1. Rolling 배포

구버전 하나 죽이고 → 신버전 하나 살리고 → 반복

• 버전 간 트래픽이 섞이지 않는다
• Rolling with Additional Batches: 트래픽에 대한 기존 인스턴스 수 유지
• Immutable 배포 방식: 그룹(ASG, Auto Scaling Group)을 기준으로 구버전 / 신버전 구별 및 배포, 전환

 

 

2. Canary 배포

신버전 테스트 후 → 신버전 전체 전환

• 버전 간 트래픽이 섞임
• A/B테스트 → A안과 B안을 동시에 테스트 EX) 결제하기 버튼을 빨간색으로 혹은 파란색으로 테스트 → 한쪽 트래픽은 빨간색 버튼, 한쪽 트래픽은 파란색 버튼으로 노출 후 어떤 색깔의 버튼이 더 많이 눌리는지 로드밸런스와 결합해서 테스트 가능

 

 

3. Blue-Green 배포

그룹을 기준으로 구버전 / 신버전 구별

• 문제 발생 시 즉시 롤백이 가능
• 서버 버전을 구버전/신버전 둘 다 가지고 있어야해서 비용이 2배로 발생할 수 있음.

 

4. Canary + Blue-Green 방식을 합친 배포 사례

• 일부 빅테크 기업에선 Canary 배포 + Blue-Green 배포 두 전략의 장점만 합쳐 혼합으로 사용한다.

 

ℹ️참고

[ASAC 6기 강의자료]

https://reference-m1.tistory.com/211

[Etc] 배포 전략의 종류(롤링/블루 그린/카나리)

https://www.techtarget.com/searchitoperations/answer/When-to-use-canary-vs-blue-green-vs-rolling-deployment