Uncachebares cachen und bei den Egress-Kosten ordentlich sparen

CHR vs. Origin Offload

Content Delivery Networks (CDNs) waren lange Zeit auf die Cache-Hitrate (CHR) fixiert. Um die beste Performance für Ihr Unternehmen zu erzielen und möglichst viel Geld zu sparen, sollten Sie aber unbedingt zwei wichtige Aspekte verstehen. 

1. Viele Unternehmen unterschätzen, wie viel Einfluss sie auf den Traffic in Richtung ihrer Origin-Server haben können – und welch enorme Einsparungen bei den Egress-Kosten sich bereits mit relativ „kleinen“ Verbesserungen beim CDN Caching erzielen lassen. 

2. Die CHR ist nicht immer der beste Maßstab für die Gesamtentlastung eines CDN. Sie misst die Anzahl der Anfragen, die ein Cache bearbeiten muss, berücksichtigt aber nicht die zu verarbeitende Datenmenge. Eine Messgröße, die sich auf die tatsächliche Entlastung in Bytes und nicht nur auf die Anzahl der Anfragen konzentriert, kann daher viel aussagekräftiger sein.

Einsparungen bei den Egress-Kosten mit einem besseren CDN

Der Egress-Traffic, also die Menge der ausgehenden Daten innerhalb der Origin-Infrastruktur, stellt für viele Unternehmen einen signifikanten Kostenfaktor dar. Seine Bedeutung für die Streaming-Branche und Unternehmen, die große Datenmengen zum Download bereitstellen, ist unumstritten. Aber tatsächlich spielt er in fast jeder Branche eine wichtige Rolle. Selbst wenn ein Großteil Ihres Traffics sehr dynamisch ist oder sich häufig ändert – einschließlich API Calls und andere Daten, bei denen Sie vielleicht denken, dass sie sich aus dem Cache bedienen lassen – könnten Sie wahrscheinlich viel mehr cachen und so Ihre Performance in puncto CHR und Origin Offload verbessern.

Werfen wir aber zunächst einen kurzen Blick auf die Miss-Rate, um zu verstehen, warum eine geringe Erhöhung des Origin-Offload den Origin-Server erheblich entlasten kann. Wenn der Origin Offload von 90 % auf 95 % steigt, sinkt die Miss-Rate von 10 % auf 5 %. Die Miss-Rate hat sich also halbiert. Da die Anfragen, die nicht aus dem Cache bedient werden können, vom Origin-Server bedient werden müssen, führt eine Halbierung der Miss-Rate im Umkehrschluss also auch zu einer Halbierung der Auslastung des Origin-Servers. Ausgehend von 100 GB Traffic, sorgt ein hervorragendes CDN für eine Entlastung um 95 %, sodass nur noch 5 GB auf Ihren Origin-Server treffen. Bei einem guten CDN beträgt die Entlastung nur 90 %, sodass 10 GB – also doppelt so viel – bei Ihnen ankommen.

Eine 5-prozentige Verbesserung der Performance beim CDN Offload kann also zu einer 50-prozentigen Entlastung Ihres Origin-Servers führen (siehe Abbildung)!

Sie können mehr cachen, als Sie denken (und damit eine große Wirkung erzielen)

Es gibt viele Gründe, warum eine erstklassige Edge-Cloud-Plattform samt CDN herkömmliche CDNs (selbst ziemlich gute) um Längen schlagen. (Wenn Sie mehr erfahren möchten, sprechen Sie mit uns!) Eine der einfachsten Möglichkeiten, um die Performance und die Entlastung des Origin-Servers zu verbessern, ist das Cachen dynamischer Inhalte. API-Traffic ist ein hervorragendes Beispiel für Inhalte, die in vielen Branchen als zu dynamisch gelten, um gecacht zu werden. Gerade in Bereichen wie SaaS, Finanzdienstleistungen, Reise- und Gastgewerbe, E-Commerce und Gaming gibt es Unmengen von APIs und dynamischen Inhalten, die nach dem traditionellen Verständnis als nicht cachefähig gelten. Es besteht also noch jede Menge ungenutztes Potenzial für so ziemlich alle Unternehmen, die im Internet tätig sind.

Instant Purge von Fastly ist ein hervorragendes Beispiel dafür, wie ein modernes CDN Ihnen Zugang zu erweiterten Funktionen bieten kann. Mit Fastly können Sie Inhalte weltweit in 150 ms bereinigen (Stand: 31. Dezember 2022). Das bedeutet, dass alle Inhalte, bei denen seltener als alle 150 ms aktuelle Versionen von Ihrem Origin-Server bereitgestellt werden, aus dem Cache bedient werden können. So bleiben überraschend wenige Anfragen pro Sekunde (RPS) übrig, die von Ihrem Origin-Server verarbeitet werden müssen. 

Die folgende Tabelle zeigt die prozentuale Entlastung für eine bestimmte API oder einen anderen Endpoint in Ihrer Infrastruktur, der Daten abruft. Grundlage sind die Häufigkeit, mit der die Daten aktualisiert werden (von alle 200 ms bis einmal täglich) und die Anzahl der Anfragen pro Sekunde an diesen Endpoint. Selbst mit Daten, die nur alle 200 ms aktualisiert werden, lässt sich also bei nur 10 RPS eine Entlastung um satte 50 % erzielen. Ein Großteil dieser Tabelle ist grün hinterlegt, was für eine 90-prozentige Entlastung steht. Angesichts dieses enormen Potenzials sollte jede API aus dem Cache bedient werden. Statistiken wie ein Return on Investment von 189 %, den Fastly Kunden bereits erzielt haben, beruhen größtenteils auf diesen Einsparungen bei den Egress-Kosten.

Grob überschlagen und in US-Dollar umgerechnet bedeutet dies folgende Vorteile für Ihr Geschäftsergebnis: Bei einer Entlastung um 90 % und Egress-Kosten von 0,05 US-Dollar pro GB lassen sich bei einer durchschnittlichen Anfragengröße von 1 MB und 5 RPS 120.000 US-Dollar pro Jahr einsparen. Wenn man bedenkt, dass sich diese Verteilung auf jede API und jeden anderen Teil Ihrer Infrastruktur erstreckt, der Anfragen beantwortet, wird schnell klar, dass eine zusätzliche Entlastung um 5 % zwar nach wenig klingt, aber erhebliches Einsparungspotenzial und eine Vereinfachung der Infrastruktur bedeuten kann.

Durch die starke Entlastung des Origin-Servers können Sie auch Ihre Origin-Infrastruktur verkleinern. So kann Ihr Unternehmen nicht nur erhebliche Einsparungen bei den Egress-Kosten erzielen, sondern auch ein besseres Nutzererlebnis bieten. Je mehr Inhalte Sie über Ihr CDN aus dem Cache oder von der Edge ausliefern, desto schneller reagieren Ihre Websites und Anwendungen. Dies hat unmittelbare Vorteile für das Nutzererlebnis, Ihre Umsatzchancen und Ihre Conversion-Rate – insbesondere im E-Commerce, im Reise- und Gastgewerbe und bei allen anderen Geschäftsmodellen, bei denen die Ladezeiten erfolgsentscheidend sind.

Wir blicken über den CHR-Tellerrand hinaus

Die CHR misst in welchem Verhältnis Anfragen vom Origin-Server bzw. vom CDN-Cache bedient werden. Dieser Wert ist zwar ein guter Indikator für die Performance Ihres Cache oder Ihres CDN, vermittelt aber kein vollständiges Bild. Der Origin-Offload kann dieses Bild abrunden. Er ist für die Effizienz Ihres Origin-Servers von entscheidender Bedeutung, da er das Traffic-Volumen verringert, das Ihr Origin-Server verarbeiten muss, sowie die Netzwerkkapazität, die erforderlich ist, um diesen Traffic an unser CDN zu übermitteln. Wenn Sie beispielsweise Ihre CHR verbessern, indem Sie Ihre kleinsten Anfragen vollständig aus dem Cache ausliefern, hat dies möglicherweise weniger Auswirkungen auf Ihre Origin- und Egress-Kosten als das Auslagern einiger weniger Anfragen mit sehr großen Datenmengen.

Anfragen und Egress-Traffic (gemessen in Bytes) sind die beiden Schlüsselkomponenten, wenn es um die Kapazitätsplanung Ihrer Origin-Infrastruktur geht. Eine höhere Cache-Hitrate bedeutet, dass mehr Anfragen von unseren Edge Caches bedient werden als von Ihrem Origin-Server, was eine erheblich geringere Latenz und schnellere Antwortzeiten Ihres Origin-Servers zur Folge hat.

Ein hoher Origin-Offload führt zu geringeren Infrastruktur- und Betriebskosten in Zusammenhang mit der Skalierung Ihres Origin-Servers für das Handling von Traffic-Spitzen. Die Verbesserung des Origin-Offload ist essenziell für eine effiziente Ressourcennutzung und gewährleistet ein unterbrechungsfreies Erlebnis für Ihre Endnutzer. Außerdem kommt es so zu einer Entlastung Ihrer Origin-Infrastruktur sowie weniger Engpässen und Serverausfällen.

Das nachfolgende Beispiel einer Website zeigt, was passiert, wenn man Shielding und Request Collapsing deaktiviert (siehe gestrichelte Linie). Hier sehen Sie, dass die CHR zwar im Wesentlichen wieder das gleiche Niveau erreicht wie vor der Deaktivierung des Request Collapsing, aber das vom Origin-Server ausgelieferte Traffic-Volumen deutlich ansteigt und auf diesem Niveau bleibt! Die Traffic-Entlastung hat sich verringert, obwohl sich an der CHR nicht viel geändert hat. Außerdem lässt sich eine Vervierfachung der Bytes beobachten, die ohne Origin Shielding und Request Collapsing vom Origin-Server abgerufen werden. Dies schlägt sich wiederum recht direkt in höheren Egress-Kosten nieder.

Wie die Grafik zeigt, erreicht die CHR mit Shielding Spitzenwerte im unteren 90-Prozent-Bereich, während der Origin Load deutlich unter 5 GiB/s bleibt. Ohne Shielding erholt sich die CHR nach anfänglichen Auswirkungen auf die CHR und den Origin Load auf knapp 90 %, während sich der Origin Load stabilisiert und im unteren 20-GiB-Bereich einpendelt, was etwa dem Vierfachen des Origin Load mit Shielding entspricht.

Das Entscheidende ist, dass erweiterte Funktionen wie ein besseres Request Collapsing oder Media Shielding (besonders wichtig beim Streaming!) eine erhebliche Entlastung Ihres Origin-Servers bewirken können, selbst wenn sich die unterschiedlichen CDN-Anbieter bei der CHR auf dem Papier nicht groß unterscheiden. Fastly kann hinter den Kulissen jede Menge Egress-Traffic und Bandbreite sparen, selbst wenn es sich dabei im Vergleich zur Gesamtzahl der verarbeiteten Anfragen nur um einen geringen Anteil an der Gesamt-CHR handelt.

Zusammenfassend lässt sich sagen, dass ein gutes CDN Ihre Kundenzufriedenheit verbessern kann, aber ein hervorragendes CDN darüber hinaus auch einen positiven Einfluss auf Ihr Geschäftsergebnis, Ihre Gewinnspanne und Ihren Unternehmenserfolg haben sollte. 

Der Fastly Vorteil

Fastly ist einzigartig aufgestellt, um Ihnen sowohl bei der CHR als auch beim Origin Offload unter die Arme zu greifen. Aufgrund unseres einzigartigen Ansatzes ist Fastly bestens aufgestellt, um Ihnen sowohl bei der CHR als auch beim Origin Offload unter die Arme zu greifen.

Wir haben das Hauptaugenmerk darauf gelegt, weniger, aber dafür leistungsfähigere POPs an strategischen Standorten rund um die Welt zu platzieren. Die hohe Dichte an leistungsstarken Points of Presence (POPs) ermöglicht es uns, mehr Inhalte aus dem Cache auszuliefern – statische und ereignisabhängige Inhalte inbegriffen. Wir nutzen die Edge Caches von Fastly für die Auslieferung dynamischer, statischer und häufig aufgerufener Inhalte. In Verbindung mit unserer überragenden Request-Collapsing-Technologie können Sie mit Fastly so bessere Offload-Raten erzielen.

Kunden erzielten nach dem Wechsel zu Fastly einen ROI von 189 %.[object Object] Klingt zu gut, um wahr zu sein? Ist aber wahr! Einer der vielen Gründe, warum solche Ergebnisse bei uns möglich sind, sind die hohen Einsparungen bei den Egress-Kosten im Vergleich zur Konkurrenz.

Fastlys CDN übertrifft herkömmliche CDNs um Längen: Erhalten Sie Echtzeitkontrolle, steigern Sie die Performance und entwickeln Sie Apps schneller auf der Edge – alles direkt in unserem globalen Netz. Neugierig geworden? Sprechen Sie mit uns

[object Object] Eine von Fastly in Auftrag gegebene und von Forrester Consulting durchgeführte Studie, erschienen im Juli 2023. Die Ergebnisse basieren auf einem fiktiven Durchschnittsunternehmen.