A Performance Analysis on Auto Scaling Using Different Image Pulling Methods in Kubernetes
Korea Computer Congress (KCC 2023)
Summary
HPA가 scale-up을 요청해도 이미지 준비가 끝나야 새 파드가 요청을 처리할 수 있습니다. 이미지 사전 풀링 여부에 따라 scale-up 완료 시간이 얼마나 달라지는지 비교했습니다.
- Role
- 제1저자이미지 사전 준비와 오토스케일링 성능 연구
- Outcome
- 500MB 이미지와 HPA Threshold 30%, 50%, 70%에서 사전 풀링으로 스케일링 시간 각각 38.21%, 36.46%, 65.78% 감소.
scale-up 이후에도 필요한 이미지 준비 시간
HPA가 scale-up을 요청해도 대상 워커에 컨테이너 이미지가 없으면 원격 레지스트리에서 내려받아야 합니다. 부하가 높은 상태에서 이미지 풀링을 기다리면 과부하가 더 오래 이어질 수 있습니다. 이미지가 노드에 미리 준비돼 있는지에 따라 scale-up 완료 시간이 얼마나 달라지는지 측정했습니다.
이미지 준비 여부에 따른 scale-up 시간 비교
마스터 1대(Intel Core i9-10900K, DDR4 32GB, Ubuntu 20.04)와 워커 3대로 클러스터를 구성했습니다. php-apache 서비스에 wget으로 0.02초마다 HTTP 요청을 보내고 5분간 지표를 모니터링했습니다.
먼저 300MB, 500MB, 1GB 이미지의 단일 파드 생성 시간을 비교했습니다. 이어서 500MB 이미지와 CPU Threshold 30%, 50%, 70%에서 HPA 실험을 진행했습니다. 초기에는 워커 3대 중 한 노드만 이미지를 갖고 파드 1개를 실행하는 상태로 두고, 확장 때 이미지를 새로 내려받는 경우와 사전 풀링한 경우를 비교했습니다.
단일 파드 실험에서는 이미지 크기를 바꾸며 전체 실행 시간과 풀링 단계의 비중을 비교했습니다. HPA 실험에서는 이미지 크기를 500MB로 고정하고 Threshold와 이미지 준비 여부를 달리했습니다. 이미지가 커서 생기는 준비 지연과 확장 과정에서 나타나는 지연을 나눠 확인한 구성입니다.
Replica 수 결정과 파드 실행 사이의 준비 단계
HPA는 필요한 Replica 수를 결정하고, 스케줄러는 생성할 파드의 노드를 선택합니다. 이후 해당 노드에서 컨테이너 이미지 준비와 실행이 이어집니다. 따라서 scale-up 요청을 보낸 시점과 목표 파드 수가 실행되는 시점을 나눠 측정했습니다.
원격 레지스트리에서 이미지를 받아야 하는 노드는 준비 시간이 추가됩니다. 일부 노드에 이미지가 있어도 실제로 새 파드가 배치되는 노드의 상태에 따라 확장 시간이 달라질 수 있어, 이미지 준비 여부를 실험 조건으로 구분했습니다.
이미지 사전 풀링으로 줄어든 scale-up 시간
컨테이너 시작 시간에서 이미지 풀링이 차지하는 비중은 이미지가 로컬에 있을 때 평균 72.8%, 없을 때 98~99%였습니다. 이미지가 없으면 크기가 클수록 비중이 높아졌습니다. 로컬에 이미지가 있으면 크기와 관계없이 풀링 단계에 평균 2.12초가 걸렸습니다.
이미지가 없을 때는 scale-up 요청 후 목표 파드 수에 도달하기까지 60초 이상 걸렸습니다. 사전에 준비한 경우에는 목표에 더 빨리 도달했습니다. 500MB 이미지와 CPU Threshold 30%, 50%, 70%에서 스케일링 시간은 각각 38.21%, 36.46%, 65.78%, CPU 사용률은 각각 39.53%, 31.11%, 23.11% 줄었습니다.
낮은 Threshold로 일찍 확장을 요청하더라도 새 파드가 이미지를 준비하는 동안에는 기존 파드가 요청을 계속 처리해야 합니다. 이미지 사전 준비는 확장 결정 시점을 바꾸는 방법이 아니라, 결정 이후 필요한 처리 용량을 확보하는 시간을 줄이는 방법입니다.
원문은 실제 사용 패턴을 바탕으로 이미지를 미리 받아올 노드와 시점을 정하는 강화학습 스케줄링을 후속 과제로 제시했습니다. 이미지 준비 상태에 따라 확장 지연이 달라진 이번 실험을 바탕으로, 사전 풀링을 실제 운영 정책으로 연결하기 위한 다음 단계입니다. 제가 제1저자로 수행한 연구입니다.