👩💻 Join our community of thousands of amazing developers!
가상 면접 사례로 배우는 대규모 시스템 설계 기초 - 4장. 처리율 제한 장치 설계 4장. 처리율 제한 장치 설계 처리율 제한 장치? 클라이엍느 또는 서비스가 보내는 트래픽을 처리율을 제어하기 위한 장치 장점 : 자원 고갈 방지, 비용 절감, 서버 과부하 방지 1단계 문제 이해 및 설계 범위 확정 어디서 처리할 것인가 : 클라이언트 or 서버 서버에 두는 경우 처리율 제한 장치를 위한 미들 웨어를 적용 : 일반적으로 API gateway 컴포넌트에 적용 spring cloud gateway의 RequestRateLimiter (RedisRateLimiter code) 제어 기준 : IP주소, 사용자ID 또는 그 외 기준 환경 : 단일 or 분산 환경 처리율 제한 알고리즘 5가지 1. 토큰 버킷 (Token Bucket) 요청 당 하나의 토큰 사용. 만약 토큰이 없을 경우 해당 요청 버림(429 too many requests). 토큰은 일정 ...