Kubernetes assure sa scalabilité en s’appuyant sur Fastly

Le défi

En seulement 10 ans, Kubernetes est devenu un leader des technologies d’orchestration de conteneurs pour les environnements cloud. Pour les responsables de la maintenance de Kubernetes, cette croissance se traduit en une hausse des demandes sur le site Web de Kubernetes et d’autres services importants, comme les téléchargements de fichiers binaires. En 2023, le site de binaires de Kubernetes, dl.k8s.io, a distribué plus de 5 pétaoctets de binaires chaque mois. Afin de garantir la fiabilité, la rapidité et la distribution mondiale du système à une telle échelle, le groupe d’intérêts spéciaux d’infrastructure (K8s Infra SIG) a décidé de s’appuyer sur un CDN (réseau de distribution de contenu).

La solution

Le groupe d’intérêts spéciaux, qui comprend Arnaud Meukam, K8s Infra SIG co-chair et technical lead (Directeur technique et coprésident du GIS d’infrastructure K8s), a évalué plusieurs fournisseurs de CDN avant de choisir Fastly. "Nous avons remarqué que de nombreux organismes en open source migraient vers Fastly", explique M. Meukam. "Fastly est connue pour prendre en charge les projets en open source grâce à son programme Fast Forward (https://www.fastly.com/fast-forward/) et a fait ses preuves dans l’offre d’expériences numériques rapides et sécurisées."

Garantir la viabilité de Kubernetes au fil de sa croissance

Kubernetes est réputé pour la force de sa communauté, mais comme pour la majorité des projets en open source, l’envie d’aider des contributeurs dépasse considérablement le temps qu’ils peuvent y consacrer. Garantir la viabilité d’un projet en open source comme Kubernetes implique d’exploiter au maximum les ressources disponibles.

Une croissance de quelle envergure pour Kubernetes ? En 2022, Kubernetes était le premier outil d’orchestration de conteneurs pour 71 % des entreprises du Fortune 100, et un rapport Gartner estimait que d’ici 2027, plus de 90 % des entreprises mondiales exécuteraient des applications conteneurisées. Voici comment cela se traduit sur le site Web de Kubernetes : En 2024, le site a reçu en moyenne 90 millions de requêtes par mois, utilisant 1 Po de bande passante et générant 1,2 milliard de logs (journaux).

Rien d’inquiétant pour l’équipe de Kubernetes. "Nous sommes convaincus que Fastly nous aidera à assurer le fonctionnement continu de Kubernetes. Nous ne sommes pas inquiets à propos de la scalabilité", affirme M. Meukam.

Gagner en visibilité pour optimiser la distribution

Avant de choisir Fastly, l’infrastructure de Kubernetes était maintenue dans l’infrastructure Google et distribuée via un bucket GCS (Google Cloud Services). Cependant les nombreux contributeurs de Kubernetes ne travaillant pas pour Google manquaient de visibilité sur la bande passante et d’autres métriques. Migrer dl.k8s.io vers Fastly a permis à l’équipe de gagner une visibilité essentielle sur le trafic de l’un des domaines les plus utilisés du projet Kubernetes.

L’équipe de Kubernetes peut maintenant observer qui exploite les binaires, la provenance du trafic et les comportements du serveur d’origine. Elle peut ainsi garantir une distribution fiable à n’importe quel niveau du trafic et identifier les problèmes rapidement pour éviter qu’ils nuisent à l’expérience des utilisateurs. "Origin Inspector nous permet de suivre notre consommation de bande passante entre Fastly et GCS, en garantissant des coûts de sortie aussi réduits que possible," explique M. Meukam. "Nous avons récemment commencé à utiliser Alertes, qui nous aide à identifier les problèmes provenant du serveur d’origine et à les résoudre rapidement."

Garantir une expérience utilisateur fluide dans le monde entier

Les migrations à grande échelle peuvent être stressantes, mais, pour le plus grand bonheur de ses nombreux utilisateurs, la transition du projet Kubernetes vers Fastly s’est passée sans accroc. "Les utilisateurs se sont à peine rendu compte de notre migration vers Fastly, ce qui était notre objectif", explique M. Meukam. "Nous voulons pouvoir apporter des changements significatifs à notre infrastructure sans que les utilisateurs aient à le savoir ou à s’en préoccuper."

Maintenant que la migration est effective, les fichiers binaires Kubernetes sont au plus proche des utilisateurs. En passant d’un bucket GCS aux multiples points of presence offerts par le réseau de Fastly, Kubernetes peut assurer un service ininterrompu, même pour les utilisateurs dont les connexions internet sont de moindre qualité. "Notre priorité était de nous rapprocher de nos clients du monde entier en adoptant un CDN, et nous avons choisi Fastly principalement pour son réseau mondial", indique M. Meukam.

Principaux enseignements

Passer au CDN de Fastly a offert à Kubernetes la scalabilité et la fiabilité dont le système avait besoin pour garantir le fonctionnement continu de cette partie vitale de son infrastructure. L’équipe d’infrastructure de Kubernetes peut s’aider de la suite complète d’outils d’observabilité de Fastly pour optimiser le trafic, réduire au minimum les coûts de sortie et éviter toute interruption de service pour les utilisateurs.

"Travailler avec Fastly est un plaisir", indique M. Meukam. "Le traitement et la résolution de tout problème auquel nous avons fait face ont été très rapides, et l’équipe d’assistance s’est montrée très disponible pour nous aider à gérer tout doute concernant les informations de configuration. Nous sommes très heureux de notre collaboration avec Fastly."