웹사이트나 서비스에 갑자기 **트래픽(접속 요청)**이 폭증하면, 사용자들은 흔히 서버가 느려지거나 접속이 불가능해지는 현상을 경험합니다. 이는 서버가 처리할 수 있는 **하드웨어 자원(CPU, 메모리)**과 네트워크 용량이 한계에 도달하여 발생하는 현상이며, 마치 도로에 차가 한꺼번에 몰려 **교통 체증(병목 현상)**이 일어나는 것과 같은 이치입니다. 요청이 증가하는 속도에 비해 서버의 처리 속도가 느려지기 때문에 응답 시간이 길어지는 것입니다.
1. 서버 내부 자원의 고갈 (Resource Exhaustion)
서버는 한정된 자원으로 동시에 여러 요청을 처리해야 합니다. 트래픽이 늘어난다는 것은 서버가 수행해야 할 작업량이 기하급수적으로 증가한다는 의미이며, 이로 인해 서버의 핵심 자원들이 한계에 부딪히게 됩니다.
(1) CPU 부하 증가 (Central Processing Unit)
CPU는 서버에서 모든 계산과 로직을 실행하는 두뇌 역할을 합니다. 사용자의 웹 요청이 들어올 때마다 서버는 HTML 페이지를 생성하고, 데이터베이스를 조회하며, 보안 검증 등을 수행하는데, 이 모든 작업은 CPU 사이클을 소모합니다.
- 동시성 문제: 트래픽이 몰리면 CPU는 동시에 처리해야 할 작업(프로세스) 수가 급격히 늘어납니다. CPU는 작업을 빠르게 전환하며 처리(멀티태스킹)하지만, 동시 작업량이 많아지면 각 작업에 할당되는 시간이 줄어들어 전반적인 처리 속도가 느려집니다.
- 복잡한 연산: 특히 로그인 처리, 암호화/복호화, 복잡한 검색 쿼리 등 CPU 집약적인 요청이 많아지면 CPU 사용률이 100%에 도달하며 더 이상 새로운 요청을 처리하지 못하고 대기열에 쌓이게 됩니다.
(2) 메모리 부족 현상 (RAM Depletion)
**메모리(RAM)**는 CPU가 빠르게 접근할 수 있도록 현재 실행 중인 프로그램과 데이터를 임시로 보관하는 공간입니다.
- 세션/캐시 저장: 서버는 접속한 사용자 정보(세션 데이터), 자주 사용하는 데이터(캐시) 등을 메모리에 저장합니다. 사용자가 늘어나면 이 데이터들이 차지하는 메모리 공간이 증가합니다.
- 스와핑(Swapping): 메모리가 부족해지면 서버는 실행 중인 일부 데이터를 **하드디스크(HDD/SSD)**의 일부 공간(스와프 영역)으로 옮깁니다. 하드디스크는 메모리보다 훨씬 느리기 때문에, 이 스와핑이 자주 발생할수록 서버의 처리 속도는 치명적으로 저하됩니다.
(3) 디스크 I/O 병목 현상 (Input/Output Bottleneck)
서버가 데이터베이스에서 정보를 읽거나(Read) 쓰기(Write) 작업을 할 때 **디스크 I/O(입출력)**가 발생합니다.
- 과부하: 트래픽이 몰려 데이터 조회 요청이 급증하면, 디스크가 요청을 처리하기 위해 과부하에 걸립니다. 특히 물리적 디스크(HDD)를 사용하는 경우, 동시에 많은 요청을 처리하는 데 물리적 한계가 있어 요청들이 대기하게 됩니다.
2. 네트워크 및 연결 한계 (Connection Limits)
하드웨어 자원이 충분하더라도, 서버와 클라이언트 간의 연결(Connection) 자체를 관리하는 과정에서 병목 현상이 발생할 수 있습니다.
(1) 동시 연결 수 제한
모든 서버 소프트웨어(예: Apache, Nginx)나 데이터베이스 시스템은 안정적인 서비스를 위해 **동시에 처리할 수 있는 최대 연결 수(Max Connections)**를 설정해 둡니다.
- 대기열 형성: 트래픽이 이 최대 연결 수를 초과하면, 새로운 사용자 요청은 연결을 기다리는 **대기열(Queue)**에 들어가게 됩니다. 이 대기 시간이 길어질수록 사용자는 서버가 느리다고 느끼거나, 아예 “Connection Timeout” 오류를 받게 됩니다.
(2) 네트워크 대역폭 부족 (Bandwidth)
네트워크 대역폭은 한 번에 전송할 수 있는 데이터의 최대 용량을 의미합니다.
- 데이터 전송 포화: 트래픽이 늘어나면 서버가 사용자들에게 전송해야 할 데이터(이미지, CSS, HTML 파일 등)의 양도 많아집니다. 서버가 가입된 인터넷 회선의 대역폭을 모두 소진하면, 데이터 전송 속도가 느려져 응답 시간이 길어집니다. 이는 서버 자체의 처리 속도와 무관하게 최종 사용자에게 도달하는 속도를 저하시킵니다.
3. 데이터베이스 잠금 현상 (Database Locking)
웹 서비스에서 가장 중요한 병목 지점 중 하나는 **데이터베이스(DB)**입니다. 서버는 대부분의 요청을 처리하기 위해 DB에 접근합니다.
- 경쟁 조건: 여러 사용자가 동시에 같은 데이터를 **수정(Write)**하려고 할 때, DB는 데이터의 정합성을 유지하기 위해 해당 데이터에 **잠금(Lock)**을 설정합니다.
- 처리 지연: 잠금이 걸려있는 동안 다른 사용자의 요청은 이 잠금이 해제될 때까지 무기한 대기해야 합니다. 트래픽이 많아질수록 잠금 현상은 더 자주, 더 오래 발생하며 이는 전체 서비스의 속도 저하로 이어지는 주요 원인이 됩니다.
4. 해결책: 스케일링과 최적화
트래픽 폭증으로 인한 성능 저하를 해결하기 위한 기본적인 방법은 두 가지입니다.
- 수직 스케일링 (Scale Up): 현재 서버의 하드웨어 자원(CPU, 메모리) 자체를 더 좋고 강력한 것으로 업그레이드하는 방식입니다. 빠르지만 비용이 많이 들고 한계가 있습니다.
- 수평 스케일링 (Scale Out): 기존 서버와 동일한 서버를 여러 대 추가하여 요청을 분산시키는 방식입니다. 이 요청 분산을 위해 **로드 밸런서(Load Balancer)**라는 장비를 사용하며, 트래픽 분산과 안정성 확보에 가장 효과적입니다.
트래픽이 많아지면 서버는 한정된 자원의 압박을 받게 되고, 결국 대기 시간이 길어져 느려지는 것입니다. 서버 관리자들은 이러한 병목 현상을 최소화하기 위해 지속적인 캐싱 전략 도입과 쿼리 최적화 작업을 병행합니다.
