
들어가며
서버 한 대로 서비스를 운영할 때는 문제가 단순합니다. "느리다"거나 "죽었다" 정도만 걱정하면 됩니다. 하지만 트래픽과 데이터가 늘어나 서버가 여러 대로 확장되면 문제의 성격이 질적으로 달라집니다.
이 글에서는 분산 시스템이 무엇인지, 단일 서버 환경과 어떤 전제가 달라지는지, 그리고 현업에서 분산 시스템을 왜 어렵다고 말하는지 핵심을 정리합니다.
1. 분산 시스템이란
분산 시스템(Distributed System)은 네트워크로 연결된 여러대의 컴퓨터(노드)가 마치 하나의 시스템처럼 동작하도록 협력하는 구조를 말합니다. 사용자는 단일 서비스를 이용하는 것처럼 느끼지만, 내부에서는 수많은 노드가 네트워크를 통해 메시지를 주고받으며 작업을 처리합니다.
오늘날 우리가 접하는 대부분의 서비스 인프라가 여기에 해당합니다.
- 로드밸런서 뒤에 배치된 여러 대의 웹/애플리케이션 서버
- 샤딩(Sharding)이나 복제(Replication)로 구성된 데이터베이스
- 주문, 결제, 재고, 회원 서비스 등이 독립적으로 동작하는 마이크로서비스(MSA)
- Kafka 같은 메시지 브로커, Redis 클러스터 등
2. 왜 분산 시스템을 쓰는가
복잡도가 올라감에도 분산 시스템을 선택하는 이유는 명확합니다.
- 확장성(Scalability): 단일 머신의 하드웨어 한계를 넘어, 노드를 추가하여 처리량을 유연하게 늘릴 수 있습니다.
- 가용성(Availability): 일부 노드에 장애가 발생하더라도 다른 노드가 요청을 이어받아 서비스 전체가 중단되는 것을 막습니다.
- 지연시간(Latency): 사용자와 물리적으로 가까운 리전(Region)에 노드를 배치애 네트워크 응답 속도를 높일 수 있습니다.
- 조직 확장: 시스템 경계를 기준으로 팀별 서비스를 독립적으로 개발하고 배포할 수 있어 개발 속도가 빨라집니다.
3. 단일 서버와 무엇이 다른가
분산 시스템이 어려운 근본적인 이유는, 단일 서버 환경에서 당연하게 여겼던 전제들이 모두 깨지기 때문입니다.
| 구분 | 단일 서버 | 분산 시스템 |
| 데이터 공유 | 프로세스 내 메모리 공유 | 공유 메모리가 없으며 네트워크 메시지로만 통신한다 |
| 호출 결과 | 함수 호출은 성공하거나 예외를 던진다 | 요청이 성공했는지 실패했는지 알 수 없는 상태가 생긴다 |
| 장애 양상 | 전체가 죽거나, 전체가 멀쩡하다 | 부분 실패(Partial Failure)가 일상적으로 일어난다 |
| 시간 기준 | 시스템 시계가 하나뿐이다 | 노드마다 물리 시계가 다르며 완벽히 동기화 할 수 없다 |
핵심은 '부분 실패'와 '모호함'입니다.
단일 서버는 죽으면 차라리 알기 쉽습니다(Fail-Fast). 재시작하면 그만입니다. 반면 분산 시스템에서는 일부 노드만 느려지거나 응답을 멈추는 부분 실패가 발생합니다. 이때 "어디까지 처리됐고 어디서 멈췄는지 알 수 없는 모호한 상태"가 시스템 전반으로 퍼지면서 문제를 키웁니다.
(여기에 각 노드의 물리 시계 미세 오차인 Clock Skew까지 겹치면, 장애 시점에 어떤 이벤트가 먼저 일어났는지 순서를 확정하는 것 조차 까다로워집니다.)

예시: 결제 요청 타임아웃
주문 서비스가 결제 서비스를 호출했는데 3초 뒤 타임아웃(Timeout)이 발생했다고 가정해 봅시다. 이때 실제로 벌어진 상황은 세 가지 중 하나입니다.

- 네트워크 문제로 요청이 결제 서비스에 도달하지 못했다. (결제 안 됨)
- 결제는 정상 처리 됐는데, 돌아오는 응답 패킷이 유실됐다. (결제 됨)
- 결제 서비스에 부하가 걸려 아직 처리 중이다. (곧 결제됨)
문제는 호출한 쪽(주문 서비스)에서 이 세가지 상황을 구분할 방법이 없다는 것입니다. 실패한 줄 알고 무작정 재시도했다가는 중복 결제가 발생할 수 있습니다. 결국 이런 불확실성을 다루기 위해 멱등성(Idempotency) 키 같은 방어 설계가 필수가 됩니다.
4. 분산 컴퓨팅의 8가지 오류 (Fallacies of Distributed Computing)
1994년 Sym Microsystems의 엔지니어들이 정리한, 분산 시스템을 처음 설계할 때 흔히 빠지는 잘못된 가정들입니다. 30년이 지난 지금도 여전히 유요합니다.
- 네트워크는 신뢰할 수 있다 -> 패킷은 언제든지 유실되고 연결은 끊어집니다.
- 지연 시간은 0이다 -> 네트워크 호출은 메모리 접근보다 수만~수백만 배 느립니다.
- 대역폭은 무한이다 -> 큰 페이로드와 빈번한 N+1 호출은 곧바로 병목이 됩니다.
- 네트워크는 안전하다 -> 내부망이라도 암호화(TLS)와 인증, 인가가 필요합니다.
- 토폴로지는 바뀌지 않는다 -> 오토스케일링, 배포, 장애 복구로 노드 구성은 계속 변합니다.
- 관리자는 한 명이다 -> 서비스와 조직마다 인프라 정책과 배포 주기가 다릅니다.
- 전송 비용은 0이다 -> 데이터 직렬화/역직렬화 CPU 비용과 네트워크 트래픽 비용이 발생합니다.
- 네트워크는 균일하다 -> 노드마다 OS, 프로토콜, 라이브러리 버전이 제각각일 수 있습니다.
실무에서 분산 시스템을 설계한다는 것은 곧 이 가정들이 깨지는 상황에 대비한 방어 장치를 세우는 일과 같습니다.
| 깨지는 과정 | 실무 대응 설계 |
| 신뢰성 | 타임아웃(Timeout), 재시도(Exponential Backoff), 멱등성, 서킷브레이커 등 |
| 지연, 대역폭 | 로컬/분산 캐시, 메시지 큐를 통한 비동기 처리, 배치(Batch) 호출 등 |
| 토폴로지 변화 | 서비스 디스커버리(Service Discovery), 헬스체크(Health Check), 로드밸런싱 등 |
정리
- 분산 시스템의 본질적인 어려움은 부분 실패와 불확실성(성공 여부를 확신할 수 없음)에서 비롯됩니다.
- 네트워크가 언제든 실패하고 느려질 수 있다는 현실(8가지 오류)을 인정하는 것에서 견고한 설계가 시작됩니다.
- 타임아웃, 재시도, 멱등성, 캐시 같은 익숙한 기법들은 모두 이 불확실성을 다루기 위한 도구입니다.