언젠가 수많은 사용자가 서비스를 이용한다면 과연 이 서버가 감당할수 있을까?
서비스 플랫폼을 개발하며 반드시 고민해야하는 문제인 것 같다.
사용자가 증가하면 서버를 어떻게 확장해야할까?
1. 더 좋은 성능을 가진 서버로 업그레이드한다.
=> Scale Up
2. 서버를 여러대 설치하여 다수의 서버가 이를 처리하도록 한다.
=> Scale Out
🆙 Scale Up
Scale Up은 단어 뜻 그대로 수직적인 확장 방법을 의미한다.
서버에 CPU나 메모리 등을 추가하여 서버 자체의 성능을 증강시켜 처리능력을 향상시키는 방법이다.
Scale Up을 사용한 성능 향상의 장점
1. 단순히 서버의 장비를 추가하거나 교체하면 되기 때문에 구축 및 설계가 간단함
2. 별도의 컨트롤러나 네트워크 인프라 비용 등이 발생하지 않음.
3. 별도의 서버를 추가하지 않기 때문에 여러대의 서버를 관리하면서 발생할 수 있는 데이터 정합성 문제에서 자유로움
하지만.. Scale Up의 성능향상에는 한계가 있다.
1. 하나의 서버에는 추가할 수 있는 부품의 개수가 제한되어 있다.
2. 한정된 자원을 초과하여 성능을 향상시키기 위해서는 서버 자체를 변경해야 한다.
3. 매번 장비가 업그레이드 될 때마다 서버의 장비를 교체하는 것은 비용이라는 문제가 존재하기 때문에 지속적인 확장이 불가능하다.
4. 하나의 서버에서 모든 트래픽을 감당해야 하기 때문에 장애극복 기능이 현저히 떨어지게 된다.
여기서 가장 중요한 문제점은 마지막 항목이다. 아무리 서버의 성능을 향상시키더라도 하나의 서버에 트래픽이 집중되는 문제는 여전히 남아있다. 또한 서버를 하나만 사용한다는 것은 곧 서버가 다운되면 시스템 전체의 장애로 이어진다는 점. 때문에 해당 서버가 복구되기 전까지 정상적으로 서비스를 운영할 수 없는 상황이 발생한다.
↔️ Scale Out
Scale Out은 Scale Up과는 반대로 수평적인 확장을 의미한다. 서버 자체의 성능을 향상시키는 방법이 아닌 서버의 대수를 늘려서 성능을 향상시키는 방법이다.
Scale Out을 사용한 성능 향상의 장점
1. 필요에 따라 서버의 개수를 추가하거나 감소시킬 수 있기 때문에 확장이 유연함.
2. 여러대의 서버를 이용한 분산처리가 가능하기 때문에 특정 서버에 트래픽이 집중되어 부하가 발생하는 것을 분산할 수 있다.
3. 하나의 서버에 장애가 발생하더라도 다른 서버에서 서비스 제공이 가능하기 때문에 시스템의 가용성을 높일 수 있다.
Scale Out을 사용한 성능 향상의 문제점
1. 서버를 추가하는 복잡성 때문에 Scale Up 보다 유연한 확장이 가능하지만, 무한정으로 확장이 가능하지 않다.
2. 여러대의 서버를 관리하기 위한 설계와 구현이 복잡해지고 이에 따른 관리 비용 또한 증가하게 된다.
3. 서버의 개수가 늘어난 만큼 문제 발생의 잠재적인 원인 또한 증가할 가능성이 있다.
4. 서버 각각의 성능이나 안정성 면에서는 Scale Up 방식보다 뒤쳐질 수 밖에 없다.
5. 데이터 불일치 문제 (정합성)
Scale Out에서 고민해야하는 가장 큰 문제점은 바로 데이터 불일치 문제다.
만약 로그인된 사용자의 정보와 같은 특정 정보가 특정 서버에만 저장되어있다면
만약 로드 밸런서에 의해 사용자의 요청이 다른 서버로 매칭된다면 해당 서버에는 사용자의 데이터가 존재하지 않기 때문에 사용자는 다시 로그인을 시도해야 하는 상황이 발생한다.
Scale Up과 Scale Out 중 어떤 방식을 써야 할까?
데이터의 정합성을 요구하는 데이터베이스 서버나 금융거래와 같이 빠르고 정확한 처리가 필요하고 잦은 갱신이 발생하는 환경에서는 고성능의 Scale Up 방식이 적합하고,
메일 서버, 게시판 서버, 데이터 읽기 전용 애플리케이션, 웹 서버 등 높은 병렬성을 실현하기 쉬우며 데이터의 정합성 유지가 쉬운 환경에서는 Scale Out이 적합할 것이다.
내가 구현하려는 서비스 또한 쇼핑몰 서비스의 특성상, 평상시에도 많은 유저 트래픽이 발생하며 수 많은 거래 정보 요청들을 병렬적으로 처리해야한다. 또 특정 서버에 장애가 발생하더라도 정상적으로 서비스를 제공할 수 있어야 할 것이다.
이러한 점들을 고려했을 때 트래픽을 분산시켜줄 수 있고, 시스템의 신뢰성이 높은 Scale Out 방식이 적합할 것이라는 결론을 내렸다. 그럼 또 문제는,
사용자의 로그인 정보와 위치정보 등 특정 데이터를 반드시 필요로하는 서비스이기 때문에 Scale Out을 적용함으로써 발생할 수 있는 데이터 불일치 문제다.
다음 포스팅에서 이에 대한 해결책인 Sticky Session, Session Clustering, redis 에 대해 알아보도록 한다.
다음 글