Adaptív AI alapú automatikus skálázás Kubernetesben
A Kubernetes konténer orchestrátort széles körben használják web alkalmazások felhő környezetben való telepítésére és futtatására. A rendszer nyújt egy automatikus skálázási funkciót a szolgáltatónak, a dinamikusan változó felhasználói igények kielégítésére. Az automatikus skálázási szolgáltatást sok paraméter segítségével lehet csak testreszabni, és a beállítások statikusak, függetlenül az érkező kérések dinamikájától, ezen felül a skálázási döntések reaktív és nem proaktív módon történnek. Azt tűzzük ki célul, hogy a felhő alapú webalkalmazások menedzsmentjét könnyebbé és hatékonyabbá tegyük. Bevezetünk egy trade-off paramétert amit a felhő alkalmazás szolgáltató tud állítani, amivel a neki megfelelő erőforrástúlfoglalási és az SLA sértési kompromisszumot tudja beállítani. Ezt követően tervezünk egy Kubernetes skálázási motort, ami a skálázási döntéseket a trade-off paraméter figyelembevételével hozza meg, és alkalmas a bejövő kérések változásainak kezelésére. Ebben a motorban több előrejelző módszer versenyzik egymással egy rövidtávú kiértékelő ciklusban annak érdekében, hogy mindig az a módszer érvényesüljön, amelyik a legjobban illik az aktuális forgalom dinamikájára. Az ajánlott trade-off paramétert és a több-előrejelzős skálázási motort szimulációkkal és mérésekkel is értékeljük, amihez saját magunk által gyűjtött webes forgalmat használunk, ezzel megmutatjuk, hogy az erőforrásfoglalás szolgáltatáshoz igazításával jelentős minőségbeli javulás érhető el. Arra a következtetésre jutottunk, hogy egyrészt a trade-off paraméter világosan kifejezi az erőforrás túl/alulfoglalás mértékét, másrészt, már néhány versengő előrejelző módszerrel a Kuberneteshez készített skálázási motorunkkal az alkalmazásunk signifikánsan kevesebb kérést vesztett kevéssel több erőforrás felhasználásával.
szerzők
-
Fodor Balázs
Mérnök informatikus szak, mesterképzés
mesterképzés (MA/MSc) -
Nagy Ádám Zsolt
Mérnök informatikus szak, mesterképzés
mesterképzés (MA/MSc) -
Dobreff Gergely
Mérnök informatikus szak, mesterképzés
mesterképzés (MA/MSc)
konzulensek
-
Dr. Sonkoly Balázs
egyetemi docens, Távközlési és Mesterséges Intelligencia Tanszék -
Dr. Toka László
egyetemi docens, Távközlési és Mesterséges Intelligencia Tanszék
