Bending Spoons et la flexibilité de Fastly : 50 % de latence en moins et des économies considérables sur les frais de sortie

Bending Spoons est connue pour rendre possible l’impossible, en développant les technologies d’un portefeuille de produits numériques que près d’un milliard d’utilisateurs dans le monde apprécient.

Devant une telle diversité de produits, comme Evernote, l’une des meilleures applications d’amélioration de la productivité ou Remini, un outil de génération et d’amélioration de photos optimisées par IA, il était vital pour l’entreprise de trouver la plateforme Edge Cloud qui lui offrirait des processus robustes pour proposer des produits faciles d’utilisation et de première qualité.

Avec une base d’utilisateurs en hausse constante et une équipe chargée de gérer un nombre de produits croissant, trouver un partenaire expert en réseaux capable d’offrir des conditions compétitives et d’assurer un service fiable et performant indépendant du serveur d’origine pour les workloads (charges de travail) critiques est rapidement devenu la priorité.

Acquérir et transformer un produit technologique dans un portefeuille étendu peut se comparer à l’arrivée d’une voiture longtemps convoitée dans votre atelier : impossible de connaître l’ampleur réelle des travaux d’entretien et de réparation avant qu’un expert ouvre le capot pour l’examiner. Pour reprendre les mots de Davide Pedranz, Platform Engineer chez Bending Spoons : “Prenons l’exemple de Cabinet. Il s’agissait d’une petite plateforme dont nous n’avons acquis que les actifs : nous avons donc pu la repenser entièrement en quelques mois. Le cas d’Evernote était différent, car nous avions fait l’acquisition de l’entreprise entière et d’un produit bien plus complexe, qui existait depuis près de 15 ans. Nous avons dû faire face à près de 10 millions de lignes de code, que nous n’avons donc pas pu lire et réécrire du jour au lendemain.”

Des technologies de mise en cache et de load balancing (équilibrage de charge) à l’assistance aux entreprises, Bending Spoons cherchait à investir dans une plateforme assez performante pour prendre en charge tous ses cas d’utilisation et assez polyvalente pour soutenir ses projets de croissance et d’acquisitions futures.

Une pile de défis

L’acquisition régulière de produits exige une pile technologique capable de se développer à l’infini. Assurer une intégration simple et fluide représentait donc un autre défi de taille.

À ses débuts, Bending Spoons utilisait Google Cloud Platform (GCP).

Sa pile de base se composait de Cloud DNS pour gérer les enregistrements DNS (systèmes de noms de domaines), Cloud CDN (au besoin), d’un équilibreur de charge HTTP externe, de groupes d’instances gérés (VM, machines virtuelles) sur Compute Engine et de plusieurs bases de données (selon les cas d’utilisation). En plus de solutions de mise en cache utilisées en fonction des situations (généralement Redis), l’entreprise utilisait aussi GCS (Google Cloud Storage) pour stocker ses fichiers, Pub/Sub pour les communications asynchrones et BigQuery pour les tâches analytiques.

D’autre part, la “mission impossible” de Bending Spoons serait irréalisable sans ses “Spooners” dévoués et talentueux. Chaque équipe exécute sa propre infrastructure, et chacune d’entre elles s’aide d’une bibliothèque interne de composants d’infrastructure “opinionated”, soit des composants axés sur la facilité d’utilisation et une méthode guidée (rédigés sous la forme de modules Terraform). Cette configuration agile et flexible permet aux équipes de travailler rapidement et indépendamment, tout en garantissant des infrastructures résultantes suffisamment semblables.

Garantir une bonne intégration et une cohérence entre les différents outils et plateformes représentait un défi de taille, dont la complexité ne faisait que s’accroître au fil des acquisitions. Pour reprendre les mots de Davide : “Nous essayons de remanier ou reconcevoir l’infrastructure pour qu’elle s’aligne sur nos normes internes. Par exemple, après l’acquisition d’Evernote, nous avons entièrement repensé l’infrastructure de production (et le reste de l’infrastructure) en quelques mois.”

En acquérant Evernote, Bending Spoons a hérité de la plateforme Akamai. Elle était utilisée en partie pour la distribution de contenu, mais surtout pour ses fonctions de sécurité. Cependant, une nouvelle solution combinant l’actualisation du service sous-jacent et le déploiement de mesures d’atténuation plus intelligentes (rate limiting et tarpitting [répulsion] des requêtes) s’est avérée nécessaire.

Après avoir contacté les acteurs majeurs du secteur, Bending Spoons s’est tournée vers Fastly pour sa capacité à fournir des modules Terraform/IU plus intuitifs, à déployer les modifications de configuration plus rapidement et à proposer des primitives plus puissantes (comme le tarpitting, particulièrement adapté par rapport aux contraintes du back-end). “Nous savions que Fastly était considérée comme la nouvelle star du marché”, indique Davide, “et sa plateforme CDN avait l’air solide, alors nous l’avons essayée et beaucoup appréciée, puis nous avons trouvé des modèles commerciaux profitables pour les deux parties. Nous nous sommes dit : allez, c’est parti. Lorsqu’Akamai a découvert que nous souhaitions changer de partenaire, nous avons reçu une offre de remise de 10 %. Mais nous ne voulions pas jouer à ce petit jeu. Nous cherchions une plateforme performante et avons réalisé que Fastly dépassait Akamai sur tous les points.”

Fastly : testée et éprouvée

Bending Spoons souhaitait trouver un fournisseur respectant des critères essentiels, notamment en matière de configurations personnalisées, de fiabilité des services, de délai de déploiement des modifications de configuration, d’assistance de qualité pour Terraform, d’API (interfaces de programmation d’application) et de documentation.

Après la mise en place de modèles commerciaux raisonnables, l’équipe de Davide a testé des configurations pour les principaux cas d’utilisation des services devant être migrés vers Fastly : configurations VCL (Varnish Configuration Language) non triviales, monitoring (surveillance) avec Prometheus et logging (journalisation) avec BigQuery.

L’ensemble du processus s’est déroulé sans accroc, avec des négociations commerciales étendues sur une durée de trois à quatre mois, des démonstrations techniques pendant deux semaines et une migration des premiers services effectuée avant la signature du contrat.

Depuis sa mise en œuvre, le CDN (réseau de distribution du contenu) de Fastly est principalement utilisé pour deux fonctions : 

Le CDN. Les fichiers sont souvent des actifs statiques stockés sur GCS. Parfois, ils sont générés dynamiquement par des applications web et mis en cache en fonction des en-têtes Cache-Control fournis par le back-end. Pour mettre à jour ce type de contenu, Bending Spoons s’appuie sur des politiques de contrôle auxiliaire agressives grâce aux fonctionnalités puissantes d’invalidation du cache de Fastly.

La sortie. Pour cette configuration, Bending Spoons n’est pas intéressée parla mise en cache à la périphérie. L’entreprise cherchait plutôt à déployer le service VCL de Fastly pour distribuer le trafic depuis son fournisseur cloud vers l’Internet. 

Des résultats remarquables pour Remini 

En intégrant Fastly à l’ensemble de son portefeuille, Bending Spoons a constaté des résultats des plus remarquables pour Remini, un produit qui aide les utilisateurs à améliorer leurs photos et vidéos à l’aide de modèles d’IA exclusifs.

Une fois que l’IA a fait son œuvre, le client utilise une URL signée pour télécharger les images améliorées depuis GCS. C’est là que Fastly fait clairement la différence.Auparavant, l’image était téléchargée directement depuis GCS. Maintenant, les points d’URL signées redirigent vers un domaine personnalisé géré par Fastly, et Fastly récupère l’image de GCS pour la distribuer au client. La mise en cache est explicitement désactivée, car le contenu appartient à l’utilisateur.

Regardons ces résultats de plus près :

Davide nous explique que :

“Le contenu est envoyé de Google à Fastly aux États-Unis (en protégeant le serveur d’origine), puis le trafic transite par Amsterdam, pour atteindre l’Internet public en Inde. On pourrait s’attendre à une latence bien plus importante en passant d’Amsterdam à l’Inde qu’en effectuant la distribution de Google à l’Inde via leur réseau privé. J’ai été heureux de constater que ce n’était pas le cas grâce à Argo Smart Routing et au réseau performant de Fastly. C’était notre premier résultat. Après avoir résolu le problème de l’Inde, nous avons déployé le modèle dans le monde entier. Là encore, les chiffres nous ont impressionnés, avec une accélération de presque 50 % par rapport à notre système précédent.”

“Dans le deuxième graphique, ici”, ajoute Davide, “les résultats sont divisés par plateforme et on peut voir qu’à mesure que nous l’appliquons à davantage d’utilisateurs pendant l’étape de téléchargement (l’étape affectée par cette migration), la latence médiane de bout en bout pour télécharger une image depuis un bucket GCS est réduite d’environ 50 %.”

Les chiffres exacts des économies réalisables dépendront des accords commerciaux que vous avez avec votre fournisseur cloud. Le partenariat entre Fastly et Google offre des frais de sortie réduits en envoyant du trafic via Fastly depuis GCP. Selon le volume de trafic, il est possible de réaliser des économies importantes.

Paré pour le prochain projet

Le modèle d’acquisition de Bending Spoons continue sur sa lancée, avec WeTransfer comme prochain produit. S’il est trop tôt pour déterminer la contribution exacte de Fastly, la plateforme occupe déjà une place de choix dans leur trousse à outils. 

“Fastly est très flexible en plus de démontrer des performances impressionnantes”, affirme Davide. “Même en conservant l’ancienne approche VCL, Fastly permet de mettre en place des processus très utiles, qui ne sont pas disponibles avec des fournisseurs cloud traditionnels. La plateforme prend aussi en charge de nombreuses options de logging avec BigQuery, et nous pouvons extraire des métriques des services Fastly pour en assurer le monitoring dans Prometheus. Nous sommes certains que nous trouverons de nouvelles façons d’utiliser Fastly en interne pour notre plateforme et les produits que nous acquerrons ou lancerons à l’avenir.”