Improving container deployment latency in distributed edge infrastructures

Abstract

Novos serviços, como realidade aumentada e processamento de linguagem natural, necessitam de níveis de processamento e comunicação que não são alcançáveis com Computação em Nuvem. Novos paradigmas, como Multi-Access Edge Computing e Computação em Névoa, ou genericamente Computação na Borda, surgem como solução para atender os requisitos destas aplicações. Entretanto, este paradigma apresenta diversos desafios, como o rápido e contínuo provisionamento de aplicações distribuídas geograficamente em equipamentos heterogêneos na borda, muitas vezes com recursos limitados. Atualmente, existem algumas estratégias para diminuir o tempo de provisionamento de aplicações em infraestruturas baseada em contêineres. Entretanto, as especificidades de um cenário utilizando Computação na Borda e os diversos componentes presentes nestas topologias possuem questões que precisam ser otimizadas antes da larga adoção deste paradigma. Desta forma, esta tese apresenta as seguintes contribuições. Primeiro, é apresentado um simulador baseado em eventos para orquestração de contêineres na borda. Depois, são apresentadas três contribuições em diferentes componentes destas infraestruturas, um algoritmo de posicionamento utilizando comunidades fluidas para os repositórios de contêineres, uma nova prioridade para o kube-scheduler baseada na disponibilidade de rede e, por último, um novo escalonador com foco no nível de garantia no tempo total de instanciação de contêineres utilizando um algoritmo genético multiobjetivo.

New services, such as augmented reality and natural language processing, require some network and processing thresholds that aren’t possible with Cloud Computing. New paradigms near the end-user, like Multi-Access Edge Computing and Fog Computing, or generically speaking Edge Computing, emerged to bring these requisites to such applications. However, this new paradigm presents several challenges, such as the fast and continuous provision of applications on geographically distributed heterogeneous devices at the edge, often with constraint resources. Currently, there are few strategies to decrease application deployment time in container-based infrastructure. However, the specificities of an Edge scenario and the several components presents in these topologies have several points that need to be optimized before a large adoption of this paradigm. With that in mind, this thesis presents four main contributions. First, the development of an event-driven simulator to edge container orchestration. After, we give three contributions on distinct components, a fluid communities placement for the container registries, a new priority to the kube-scheduler based on the network availability, and a new Deployment SLA-driven scheduler using a multiobjective genetic algorithm.