[용어] ECMP

ECMP

대규모의 서비스를 운영할때, 로드밸런서는 필수적으로 사용해서 분산 처리하고 있습니다.

기본적으로 로드밸런서는 L2 방식일 때 확장이 불가능합니다.

트래픽이 몰릴 때,  로드밸런서의 서버 사양을 올리는 Scale Up 작업을 진행합니다. 그러나 여기에서는 한계가 발생합니다

하드웨어가 아무리 좋아도, 계속 늘어나는 수천만건의 처리량을 따라갈 수 없습니다.

그러면 로드밸런서도 Scale out 방식을 이용하게 되면, 처리량이 늘때마다, 로드밸런서를 추가해주면 됩니다.

로드밸런서의 Scale out 방식을 이용하려면 ECMP + BGP 를 이용하면 됩니다.

 

1) ECMP (Equal-Cost Multipath)

ECMP 경로

- 네트워크에서 여러 경로를 사용하여 트래픽을 분산시키는 라우팅 기술

- 트래픽을 여러 경로로 분산시키고, 트래픽 로드밸런싱을 효과적으로 수행하여 대역폭 활용도를 높이고 네트워크 성능을 향상시킴

- 하나의 경로가 장애가 발생하더라도, 다른 경로를 통해 트래픽 전송 - 네트워크 가용성 향상

- 내부 네트워크에서 사용

- L3 계층인 라우터와 같은 네트워크 장비에서 지원

- OSPF(Open Shortest Path First) 나 BGP(Border Gateway Protocol)과 함께  사용

- 트래픽을 분산시키는 알고리즘 : Hash-based Load Balancing 

2) BGP (Border Gateway Protocol)

- AS 간에 라우팅 정보를 교환하고 네트워크 경로를 결정

- 라우팅 테이블 정보 교환 : AS 간 라우팅 테이블 정보 교환

- 경로 선택 : BGP에 수신된 여러 경로 중에서 가장 우선순위가 높은 경로 선택하여 최적 경로로 인식

- 인접한 AS 간 연결 : 인접한 AS 간의 TCP/IP 연결을 설정하여 라우팅 정보를 교환

- eBGP : BGP

   iBGP : OSPF / IS-IS / ...

 

그러면 로드밸런서 Scale Out 방식을 이용하는 방법으로는 ECMP와 BGP를 이용하면 되지만, 라우터는 상태를 저장하지 않기 때문에, 라우터가 문제가 발생하게 되어, 다른 라우터로 흐름이 변경이 되었을 때, 다르게 라우팅할 수 있으므로, 웹 연결같은 경우 사용하기 힘듭니다.

그래서 L4 - L7 + ECMP + BGP 를 이용합니다.

클라이언트가 L4에 향하게 되고, L4 가 제거되더라도, 동일한 정보들이 L7으로 향하기 때문에, 로드밸런서를 확장하더라도 대규모 서비스의 트래픽을 처리할 수 있습니다.

L4 - L7 + ECMP + BGP