Skip to content
← 논문으로
KIPS ACK 2023

A Performance Analysis of Pulling Rate Based on Image Layer Concurrency Level in Docker Environment for Cold Start Mitigation

Minwoo Kang, Donggyun Kim, Heonchang Yu, Jihun Kang

Annual Conference of KIPS (ACK 2023)

Summary

이미지 레이어를 더 많이 동시에 내려받는다고 항상 빨라지지는 않습니다. 이미지 크기와 레지스트리 위치, 동시 풀링 수를 바꾸며 소요시간을 비교했습니다.

Role
제2저자이미지 풀링 성능 분석
Outcome
10Mbps, 10개 레이어 조건에서 대부분 동시 다운로드 5~7개가 유리. 도쿄의 10MB 이미지에서는 동시성 증가에 따라 계속 개선되는 예외 확인.
Bar charts of image-pulling time versus concurrent image-layer count, for 10/100/500MB images from Tokyo, Bangkok, and Silicon Valley registries
지역별, 이미지 크기별 layer 동시 풀링 소요시간 (도쿄, 방콕, 실리콘밸리 registry)

콜드 스타트를 길게 만드는 이미지 다운로드

콜드 스타트는 서버리스 함수 실행에 필요한 컨테이너를 초기화하고 구동할 때 발생하는 지연입니다. 원격 레지스트리에서 이미지를 내려받는 이미지 풀링도 이 시간에 포함됩니다. 풀링 시간을 줄여 콜드 스타트를 완화할 수 있는지 살폈습니다.

Docker가 동시에 내려받는 이미지 레이어 수를 조정하며 풀링 속도를 비교했습니다. 동시 풀링 수를 기본값 3개에서 늘리면 더 빨라지는지, 이미지 크기와 레지스트리 위치에 따라 결과가 달라지는지 분석했습니다.

이미지는 여러 레이어로 나뉘며 Docker는 정해진 개수의 레이어를 동시에 내려받습니다. 따라서 이미지 전체 크기가 같더라도 동시 다운로드 설정에 따라 완료 시간이 달라질 수 있습니다. 이 연구에서는 함수 실행 전체보다 이미지 풀링 단계의 설정과 소요시간에 초점을 맞췄습니다.

이미지 크기와 레지스트리 위치에 따른 동시 풀링 비교

텐센트 클라우드의 서울 클라이언트와 도쿄, 방콕, 실리콘밸리의 사설 Docker 레지스트리로 실험 환경을 구성했습니다. 각 이미지는 레이어 10개로 만들고, 레이어당 1MB, 10MB, 50MB를 할당해 전체 크기를 10MB, 100MB, 500MB로 맞췄습니다.

모든 이미지의 레이어 수를 10개로 고정해, 같은 크기 조건에서는 동시 풀링 수만 달라지도록 했습니다. 레지스트리의 지역을 바꾼 비교는 같은 클라이언트에서 수행해 이미지 크기와 전송 경로의 영향을 나눠 살폈습니다.

Intel Xeon Cascade Lake와 Ubuntu 22.04, 대역폭 10Mbps 환경에서 동시 풀링 수를 1, 3, 5, 7, 9, 10개로 바꿨습니다. time docker pull로 소요시간을 측정하고, 매번 캐시를 지운 뒤 서로 다른 두 시간대에 각 10회 반복했습니다.

동시 다운로드가 빨라지는 조건과 개선이 둔화하는 구간

순차 다운로드에서는 한 레이어를 받는 동안 남는 대역폭을 다른 레이어가 활용하지 못할 수 있습니다. 여러 레이어를 동시에 받으면 그 여유를 활용할 수 있어, 원문에서는 순차 처리보다 짧아진 전체 풀링 시간을 이 관점에서 해석했습니다.

동시 작업 수를 늘려도 전송 경로의 대역폭 자체는 늘어나지 않습니다. 원문은 일정 수준 이후 개선이 작아지거나 느려진 결과를 대역폭 한계와 병목 가능성으로 해석했습니다. 가까운 레지스트리의 작은 이미지에서는 다른 경향이 나타나, 다운로드 시간만으로 비교한 이 실험에서는 이미지 크기와 지역별 결과를 함께 볼 필요가 있었습니다.

동시 풀링 수에 따라 달라지는 성능 개선 폭

10Mbps 환경에서는 여러 레이어를 동시에 받는 편이 순차 다운로드보다 빨랐고, 대부분 동시성 5~7개에서 유리했습니다. 그 이상에서는 개선 폭이 작아지거나 오히려 느려졌습니다.

다만 도쿄의 10MB 이미지에서는 동시성을 늘릴수록 계속 빨라졌습니다. 이미지 크기와 레지스트리 위치에 따라 결과가 달라, 동시 다운로드 수는 실제 배포 환경에서 측정해 정할 필요가 있었습니다.

평가 대상은 캐시를 지운 뒤 이미지 전체를 내려받는 데 걸린 시간입니다. 레이어 동시성 조정이 이 준비 단계를 줄일 수 있음을 확인한 결과로, 함수 초기화와 실행을 포함한 전체 콜드 스타트 시간의 감소율을 측정한 것은 아닙니다.