Method of horizontal pod scaling in Kubernetes to omit overregulation

Скорочена інформація про документ
dc.contributor.authorRolik, Oleksandr
dc.contributor.authorVolkov, Volodymyr
dc.date.accessioned2025-04-16T11:18:38Z
dc.date.available2025-04-16T11:18:38Z
dc.date.issued2024
dc.description.abstractThis paper describes the method of omitting the over-regulation effect that occurs under certain conditions by horizontal pod autoscaling microservices in the container application orchestration system Kubernetes. The effect was initially observed only for long-term HTTP WebSocket sessions, where it led to excessive use of computing resources, which reduced the efficiency of IT infrastructure management, and caused service failure. It was found that the overregulation effect is reproduced not only for connections with long-term HTTP sessions, such as HTTP WebSocket, but also for shorterterm REST HTTP sessions in case of increased delay in the metric collection cycle used for horizontal pod autoscaling. It is assumed that this effect happens due to the approach of implementing horizontal scaling controllers similar to the principles of proportional regulators in systems with negative feedback from the theory of automation and control. It is proposed to extend one of the methods used for optimizing the proportional controller to the problem consisting of reducing the time delay between scaling metrics collecting and upscale applied by the controller in Kubernetes. The applied method demonstrated its effectiveness, therefore, within the same methodology, an experiment was conducted on using the proportional-integral-differential controller for automatic horizontal scaling of pods. The results obtained showed why the proportional-integral-differential controller is not widespread among the overviewed Kubernetes solutions for horizontal automatic scaling. An assumption was made about the limitations of studying the downscaling process in Kubernetes due to the need to consider the quality of service when stopping pods and the need to collect indicator metrics using quality-of-service object management tools such as ISTIO.
dc.description.abstractotherВ статті представлено метод запобігання ефекту надмірного регулювання, що за певних умов виникає при автоматичному горизонтальному масштабуванні мікросервісів в системі оркестрації контейнерних застосунків Kubernetes. Ефект виявлено, спочатку, лише на тривалих HTTP сесіях WebSocket, на яких він призвів і як до надмірного використання обчислювальних ресурсів, що знизило ефективність управління ІТ-інфраструктурою, так і спричинило відмову сервісу. Виявлено, що ефект надмірного регулювання відтворюється не тільки для з’єднань із довгостроковими HTTP-сесіями як-то HTTP WebSocket, так і для більш короткотривалих REST HTTP сесій за умови збільшення затримки в циклі збору метрик, що використовувались для горизонтального автомасштабування. Зроблено припущення, що це пов’язано з підходом реалізації контролерів горизонтального масштабування схожим до принципів роботи пропорційного регулятора у системах з негативним зворотнім зв’язком з теорії автоматики і управління. Запропоновано вирішити проблему одним з методів оптимізації пропорційного регулятору, а саме зменшення часової затримки управління автоматичного масштабування в Kubernetes. Застосований метод продемонстрував ефективність, тому у межах тієї ж методології був проведений експеримент з застосування пропорційно-інтегрально-диференціального регулятору для автоматичного горизонтального масштабування подів. Отримані результати показали, чому пропорційно-інтегральнодиференціальний регулятор не поширений серед розглянутих рішень Kubernetes для горизонтального автоматичного масштабування, і зроблено припущення про обмеження дослідження зворотного до масштабування процесу згортання кількості реплік подів в Kubernetes через необхідність врахування якості обслуговування при зупинці подів і необхідності збору метрик індикаторів засобами управління об’єктами якості сервісу як то ISTIO.
dc.format.pagerangePp. 55-67
dc.identifier.citationRolik, O. Method of horizontal pod scaling in Kubernetes to omit overregulation / Oleksandr Rolik, Volodymyr Volkov // Information, Computing and Intelligent systems. – 2024. – No. 5. – Pp. 55-67. – Bibliogr.: 12 ref.
dc.identifier.doihttps://doi.org/10.20535.2786-8729.5.2024/315877
dc.identifier.orcid0000-0001-8829-4645
dc.identifier.orcid0009-0008-5325-0368
dc.identifier.urihttps://ela.kpi.ua/handle/123456789/73390
dc.language.isoen
dc.publisherNational Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute"
dc.publisher.placeKyiv
dc.relation.ispartofInformation, Computing and Intelligent systems, No.5
dc.subjectKubernetes
dc.subjectMicroservices
dc.subjectHorizontal Pod Autoscaling
dc.subjectProportional Regulation
dc.subjectCloud Computing
dc.subjectмікросервіси
dc.subjectгоризонтальне автомасштабування
dc.subjectпропорційне регулювання
dc.subjectWebSocket
dc.subjectхмарні обчислення
dc.subjectSLI
dc.subjectISTIO
dc.subjectінформаційні системи
dc.subjectсистеми управління
dc.subject.udc004.75
dc.titleMethod of horizontal pod scaling in Kubernetes to omit overregulation
dc.typeArticle

Файли

Контейнер файлів
Зараз показуємо 1 - 1 з 1
Ескіз
Назва:
55-67.pdf
Розмір:
1.25 MB
Формат:
Adobe Portable Document Format
Завантажити
Ліцензійна угода
Зараз показуємо 1 - 1 з 1
Ескіз недоступний
Назва:
license.txt
Розмір:
8.98 KB
Формат:
Item-specific license agreed upon to submission
Опис:
Завантажити

Зібрання

Information, Computing and Intelligent systems, No. 5