대부분의 사람들은 서버 수를 늘리면 시스템 성능이 자연스럽게 좋아질 것이라고 생각합니다. 실제로 많은 서비스가 트래픽이 증가할 때 서버를 추가하는 방식으로 성능 문제를 해결하려고 합니다.
하지만 현실에서는 서버를 늘렸는데도 시스템이 더 느려지는 상황이 발생하기도 합니다. 이러한 현상은 특히 분산 시스템이나 대규모 서비스 환경에서 종종 나타납니다.
이번 글에서는 서버를 늘렸는데 오히려 시스템 성능이 떨어지는 이유와 구조적인 원인을 살펴보겠습니다.
서버 확장의 기본 개념
서버 확장은 보통 다음 두 가지 방식으로 이루어집니다.
수직 확장 (Vertical Scaling)
수직 확장은 기존 서버의 성능을 높이는 방식입니다.
예를 들어
- CPU 업그레이드
- 메모리 추가
- 디스크 성능 개선
이 방법은 비교적 단순하지만 서버 한 대의 한계가 존재합니다.
수평 확장 (Horizontal Scaling)
수평 확장은 서버 수를 늘리는 방식입니다.
예를 들어 다음과 같은 구조입니다.
사용자 요청
→ 로드밸런서
→ 서버1
→ 서버2
→ 서버3
이 방식은 대규모 서비스에서 널리 사용됩니다. 서버가 여러 대이기 때문에 더 많은 요청을 처리할 수 있기 때문입니다.
하지만 시스템 구조가 제대로 설계되지 않았다면 서버가 늘어나도 성능이 개선되지 않을 수 있습니다.
서버가 늘어났는데 느려지는 이유
서버를 추가했는데도 성능이 떨어지는 이유는 여러 가지가 있습니다.
로드밸런서 병목
수평 확장을 할 때 대부분 로드밸런서를 사용합니다.
로드밸런서는 들어오는 요청을 여러 서버로 나누어 전달하는 역할을 합니다.
하지만 로드밸런서 성능이 충분하지 않다면 다음과 같은 문제가 발생할 수 있습니다.
- 요청 처리 지연
- 트래픽 집중
- 일부 서버 과부하
이 경우 서버 수가 늘어나도 로드밸런서가 병목이 되어 전체 시스템 속도가 느려질 수 있습니다.
데이터베이스 연결 제한
많은 시스템에서 가장 중요한 자원은 데이터베이스입니다.
서버를 추가하면 데이터베이스에 연결하는 요청도 함께 증가합니다.
예를 들어 다음과 같은 상황이 발생할 수 있습니다.
서버 2대 → DB 연결 200개
서버 10대 → DB 연결 1000개
데이터베이스가 처리할 수 있는 연결 수를 초과하면 전체 시스템 속도가 느려질 수 있습니다.
결국 서버는 늘어났지만 데이터베이스가 병목이 되는 상황이 만들어집니다.
네트워크 통신 증가
서버가 많아질수록 서버 간 통신도 증가합니다.
예를 들어 다음과 같은 구조가 있을 수 있습니다.
API 서버
→ 인증 서버
→ 데이터 서버
→ 캐시 서버
서버가 많아지면 각 서버가 서로 통신하는 횟수가 늘어납니다.
이 과정에서 네트워크 지연이 발생하면 전체 시스템 속도가 느려질 수 있습니다.
세션 관리 문제
일부 시스템에서는 사용자 세션을 서버 메모리에 저장합니다.
이 경우 사용자가 처음 접속한 서버에 계속 연결되어야 합니다.
하지만 서버 수가 늘어나면 다음과 같은 문제가 발생할 수 있습니다.
- 세션 데이터 불일치
- 사용자 연결 문제
- 세션 복제 비용 증가
이 문제를 해결하기 위해 별도의 세션 저장소를 사용하는 경우도 많습니다.
분산 시스템 설계의 중요성
서버 수를 늘리는 것만으로 성능 문제가 해결되지는 않습니다.
중요한 것은 시스템 전체 구조입니다.
특히 다음 요소가 중요합니다.
- 로드밸런싱 구조
- 데이터베이스 확장 전략
- 캐시 시스템
- 네트워크 구조
이러한 요소가 제대로 설계되지 않았다면 서버가 늘어나도 성능이 개선되지 않을 수 있습니다.
확장 가능한 시스템 설계
확장 가능한 시스템을 만들기 위해서는 다음과 같은 전략이 필요합니다.
캐시 시스템 활용
데이터베이스 요청을 줄이기 위해 캐시 시스템을 사용할 수 있습니다.
예를 들어 자주 조회되는 데이터를 캐시에 저장하면 DB 부하를 줄일 수 있습니다.
데이터베이스 분산
대규모 서비스에서는 데이터베이스도 분산 구조로 운영합니다.
대표적인 방식은 다음과 같습니다.
- 읽기 전용 서버 분리
- 데이터 샤딩
- 분산 데이터베이스
이러한 방법을 통해 데이터베이스 병목을 줄일 수 있습니다.
서비스 구조 단순화
시스템 구조가 지나치게 복잡하면 확장이 어려워집니다.
서비스 간 의존성을 줄이고 단순한 구조를 유지하는 것이 중요합니다.
정리
서버 수를 늘리면 성능이 개선될 것이라고 생각하기 쉽지만 실제 시스템에서는 다음과 같은 이유로 성능이 떨어질 수 있습니다.
- 로드밸런서 병목
- 데이터베이스 연결 제한
- 서버 간 네트워크 통신 증가
- 세션 관리 문제
따라서 서버 확장은 단순히 서버 수를 늘리는 것이 아니라 전체 시스템 구조를 고려한 설계가 필요합니다.