서비스 개요

Load Balancer(로드밸런서)는 클라이언트의 요청 처리를 단일 서버에서 처리하지 않게 함으로써, 가용성과 응답시간을 최적화 할 수 있습니다. 로드밸런서는 Server의 부가 서비스로 제공되며, 고객이 사용 중인 서버를 Back-end로 지정할 수 있습니다.

서비스 특장점

Load Balancer 서비스 사용시의 이점
효율적인 부하분산
  • 클라우드 특징에 적합한 Architecture로 부하의 효율적인 분산을 통하여 네트워크 가용성 확보
  • 고성능을 요구하는 중/대형 고객 용이
안정성 확보
  • Load Balancer를 통한 이중화(Active-Standby) 구성으로 안정성 확보
  • 장애 발생에도 서비스 순단 없이 제공
고객 맞춤형 상품 구성
  • 고객사 네트워크 Throughput에 적합한 상품 선택으로 이용료 절감
손쉬운 운영/관리
  • 포탈 내에서 몇 번의 클릭으로 로드밸런서 서비스 구성 완료
  • 포탈을 통해 손쉽게 운영/관리 가능
LB 최대 세션 제한 기능
  • 로드밸런서 생성 시, 기본으로 rate limit 적용
  • LB 안정성 확보(최대 40만 세션)

구성도

Load Balancer(로드밸런서) 구성도

서비스 주요 기능

  • 멀티 포트 지원(1개 VIP에 여러개의 서비스 포트 설정)
    • Load Balancer는 하나의 VIP(LB IP)에 여러개 서비스 포트 사용 가능

    Load Balancer(로드밸런서) 구성도

  • Round Robin
    • 클라이언트의 요청을 단순하게 순서대로 순환을 하여 처리하는 방식
    • 응답 시간이 빠르고 구성이 단순한 장점
  • Hasing(Source IP, Source IP+Port)
    • client 의 Source IP 정보 또는 Source IP + Port 정보를 바탕으로 hash 한 결과 값을 토대로 로드밸런싱을 수행
    • 동일한 클라이언트의 요청은 동일한 back-end 서버에서 응답을 받도록 하고자 할 때 주로 사용
  • Least Response
    • 가장 빠른 Response Time(TTFB)을 제공하는 웹 서버로 로드밸런싱을 수행
    • back-end에 있는 가상 서버로부터 http(s) '200' 응답을 기준으로 TTFB 값을 계산 각 서버가 처리하는 데이터 양이 서로 상이한 서비스 환경에서 유리
  • Least Connection
    • 로드밸런서에 연결 된 back-end 서버 중 활성(Active)화 되어 있는 연결의 수를 계산하여 가장 적은 커넥션 수를 보유한 서버로 로드밸런싱을 수행
    • 일반적인 웹 서비스 제공 환경에서는 Least Connection 알고리즘이 최적의 성능을 제공

활용 사례

다수의 네트워크 트래픽 처리를 위한 Load Balancer 구성

고객 니즈

  • 네트워크 트래픽양이 많은 웹서버의 부하분산 필수 요구
  • 새로운 session에 대해서 즉각적으로 처리 가능

구성 방안

  • Load Balancer를 통해 부하분산 환경을 구성하고, Least Connection 알고리즘으로 최적 성능 제공

구성도

다수의 네트워크 트래픽 처리를 위한 Load Balancer 구성도

연관 상품

  • Server
    • 고품질의 클라우드 서버(CPU, Memory, Disk, Network)를 제공하는 서비스로 웹 인터페이스를 통하여 쉽고 빠르게 다양한 서버를 구성할 수 있습니다.
  • Storage
    • storage는 대용량 데이터 파일 및 미디어 콘텐츠의 간편한 저장 및 무제한 확장성을 제공하는 Cloud 스토리지 서비스 입니다.
  • enterprise security
    • 일반 클라우드에 비해 H/W 보안장비 기반으로 강화된 보안을 제공하는 기업특화 클라우드로, 기업 중요 시스템, 금융, 의료 등 높은 수준의 보안을 요구하는 분야에 더욱 적합합니다

제공 기능

제공 기능
구분 기존 로드밸런서(정액제) 신규 로드밸런서(종량제)
로드밸런서 Method
  • RoundRobin
  • SourceIPHash
  • SourceIPPortHash
  • LeastConnection
  • RoundRobin
  • SourceIPHash
  • SourceIPPortHash
  • LeastConnection
  • LeastResponse
모니터링
  • RoundRobin
  • 서버 상태 조회(UP/DOWN)
  • 순간 Client Connection
  • 서버 상태 조회(UP/DOWN)
  • Latency(TTFB)
  • 순간 Request counts
  • 순간 Client Connection
  • 순간 Server Connection
  • 순간 사용 대역폭(Mbps)
  • 트래픽 일별/주별 알람 설정
서비스 타입
  • HTTP
  • HTTP
  • HTTPS
  • TCP
  • FTP

비용 절감 효과

정액제 트래픽을 Full 사용 시 비교

정액제 트래픽을 Full 사용 시 비교
Mbps 정액제요금 종량제 요금제 정액제 대비 비율
100 240,000 208,800 87%
300 650,000 597,600 92%
500 1,000,000 986,400 99%

* 실제 사용량은 15% 미만으로 추가 절감 효과를 볼 수 있습니다.

주요 Q&A

  • Q로드밸런서를 생성할 때 제가 이용 중인 서버가 보이지 않아요
    • 포트포워딩된 server 만 로드밸런서에서 적용서버로 등록할 수 있습니다.
    • 로드밸런서는 공인 IP와 더불어 Server의 '네트워크' 항목에서 포트포워딩으로 개방된 서버만 적용할 수 있습니다.
  • Q로드밸런서에서 HTTPS, HTTPS(Bridge)는 어떤 종류이며, 어떤 차이가 있나요?
    • HTTPS는 SSL/TLS를 통해 맺어진 암호화 된 HTTP의 커넥션입니다.
    • HTTPS와 브릿지 모드는 '암호화 된 HTTP의 커넥션'을 어디에서 맺어 줄(SSL Termination) 것인지에 따라 차이가 있습니다.
  • QSSL/TLS 인증서는 언제 갱신할 수 있나요?
    • 만료일 1개월 전부터 만료일(만료시간체크)까지만 가능합니다.
    • 만료일이 지난 인증서는 사용 및 갱신이 불가능하며, 인증서를 계속 사용하시려면 신규발급을 받으셔야 합니다.
  • Q로드밸런서의 Max throughput과 Max session이 어느 정도인가요?
    • 타 고객과의 상호 영향도를 최소화 하기 위해 통상적으로 750Mbps~1.5Gbps/40만 세션 이하로 제어하고 있습니다.
  • Q로드밸런서의 헬스체크(health check) 주기가 어떻게 되나요?
    • 모든 로드밸런서의 헬스체크 주기는 아래와 같습니다.
      • Interval : 5 sec (HC Probe Packet을 보내는 주기)
      • Response Timeout : 2 sec (HC Probe를 보내고 server의 응답을 기다리는 시간)
      • Down time : 30 sec (Down된 server로 Prove Packet을 보내는 주기)
      • Retires : 3회 (Server Down이 되기위한 Probe Fail 횟수)