horizontal Pod Autoscaling
수평적인 방향으로 새로운 pod이 생성되는 것이 HPA
When combining Horizontal Pods, you could incur a 7 minutes delay before new pods are created
Custom Metric(ex. RPS)으로 HPA 설정하기
쿠버네티스 환경에서 Custom Metric으로 오토스케일링 하는 과정을 설명합니다 쿠버네티스에서 기본으로 제공하는 HPA를 이용하면 pod의 CPU 사용량에 따라 자동으로 스케일 아웃되는 시스템을 쉽게 구축할 수 있습니다. 하지만 서비스의 성격에 따라 CPU 사용량 대신 다른 지표를 이용해 오토스케일링하는 것이 더 적합할 수도 있습니다. 이번 글에서는 custom metric을 정의하고 이를 이용해 HPA가 오토스케일링하도록 설정하는 방법을 공유하겠습니다.
https://tech.scatterlab.co.kr/kubernetes-hpa-custom-metric/

Architecting Kubernetes clusters - choosing the best autoscaling strategy
Published in June 2021 TL;DR: Scaling pods and nodes in a Kubernetes cluster could take several minutes with the default settings. Learn how to size your cluster nodes, configure the Horizontal and Cluster Autoscaler, and overprovision your cluster for faster scaling.
https://learnk8s.io/kubernetes-autoscaling-strategies


Seonglae Cho