POP が多ければ多いほど良いとは限らない理由
Fastly での仕事において、もっとも興味をそそる部分のひとつは、「Fastly は従来のプロバイダーとどう異なるのか」といった質問に答えることです。このような質問に答えるのは非常に簡単です (少々長くなりますが、Fastly ではイベントドリブン型のコンテンツのキャッシュ、ご利用のサービスとのリアルタイムのインタラクション、既存のテクノロジースタックやワークフローへのシームレスな統合が可能です)。そして、特に多く聞かれる質問がひとつあります。
それは、「今まで使用しているベンダーの配信拠点 (POP) の数は Fastly よりも多いのに、どうして Fastly よりも速いということにならないのか?」というものです。
このような質問は、Fastly ネットワーク構築における独特のアプローチについてお客様に説明する機会を与えてくれるため、私たちにとっては、非常に嬉しいものです。分かりやす く解説するために、私は「コンビニ対スーパー」の例えをよく使います。
コンビニ対スーパー
従来の POP をコンビニと考えてみましょう。街角のいたるところにありますよね。近くにあるのですぐにたどり着けますが、生活必需品が中心で品揃えが非常に限られています。そのため、コンビニで手に入らなかった必要なアイテムをオンラインで注文し、その日の内に発送してもらうよう手配する必要があります (これは、キャッシュミスのせいでリクエストがオリジンサーバーに転送されるのと似ています)。または、少し離れたところにある大型スーパーに行くという手もあります (この場合「大型スーパー」は Fastly のパワフルな POP にあたります)。大型スーパーにたどり着くには、コンビニの場合よりも若干時間がかかるかもしれませんが、ショッピングリストにあるすべてのアイテムが見つかる可能性ははるかに高いです (ほぼ全てのオブジェクトがキャッシュされているため、キャッシュヒット率が高くなるのと同じ原理です)。
従来のベンダーが抱えるジレンマ
従来の CDN ベンダーは難しい状況に直面しています。彼らのアーキテクチャは、15-20年前に一般的だった条件に基づいて構築されているためです。このようなベンダーの名誉のために言うと、(ダイアルアップ接続が一般的だった当時) 一般家庭からインターネットバックボーンまでのレイテンシ (データ転送にかかる時間) は今よりもはるかに大きかったため、彼らが選んだネットワーク設計は理にかなっていたと言えるでしょう。大型の大容量 POP (スーパー) を使用した場合、ユーザーへのレスポンス時間が大幅に長くなるだろうと考えた従来の CDN ベンダーは、容量の小さな POP (コンビニ) を大量に配置するというアーキテクチャを採用したのです。その結果、これらのベンダーは現在、何十万もの小規模の独立したサーバーを世界各地で運用している状況に置かれています。その一方で、リクエストを戦略的に配置された大容量の POP に送信することで追加されるレイテンシはほんの数ミリ秒にまで短縮されています。小規模の POP は大量のコンテンツを保持できないため、多くのリクエストがオリジンに送信され、結果的に数百ミリ秒のレイテンシが追加発生します (エンドユーザーにとっては読み込み時間の増大に、CDN のユーザーにとってはハードウェアコストの増加につながります)。
このような小規模 POP をアップグレードするのは事実上不可能なため、従来のベンダーはネットワークのこ のような欠点をメリットとして謳っているのです。
Fastly の強み
Fastly は最先端のインターネットアーキテクチャがもたらすメリットを活用して構築されています。従来の CDN ベンダーから学び、根本的に異なるネットワークを構築したのです。多くの小規模なサーバー (コンビニ) を世界中にデプロイする代わりに、私たちは大容量のメモリを搭載したパワフルな POP (コストコスタイルの大型スーパー) を世界各地の接続性の高い場所に配置することで高いキャッシュヒット率を実現し、オリジンにリクエストを送信する必要性を大幅に削減しました。
キャッシュの規模が大きくなると、キャッシュされたデータを返すのにかかる時間が長くなるという印象をお持ちの方もいらっしゃるかもしれません。スーパーの例えに戻ってみましょう。確かに店舗の規模が大きいほど、必要なものを見つけるのにかかる時間が長くなります。
そこで、私たちは最新のソリッドステートドライブ (SSD) を使用しています。通常のハードドライブとは異なり、SSD は可動部分がなく、ドライブの大きさにかかわらず、コンテンツを探すのにかかるルックアップ時間は一定しています。例えるとすれば、大きなショッピングカートを押しながら、買い物リストのアイテムを一つひとつ探してスーパーを歩き回るというのではなく、必要なアイテムが全て集められ、スーパーのレジで買い物客に引き取られるのを待っているようなものです。これにより、ユーザーエクスペリエンスが加速するだけでなく、ハードウェアの数を減らしたり、ハードウェアの一部を他の目的に転用したりすることが可能になり、従来のソリューションに比べて Fastly では総保有コストを大幅に削減することができます。
これは単なる口先だけではありません。Fastly が誇る最先端のネットワーク設計を利用してお客様が実際にどのような成果を上げているか見てみましょう。
Drupal のキャッシュヒット率は70%から90%に向上し、サイトの読み込み時間が以前に比べて約2秒 (2.16秒から1.42秒に) 短縮しました。
Lonely Planet のキャッシュヒット率は20%から70%に改善し、オリジンへの負荷は350%減少しました。
Mavericks Invitational は、年次コンテストの期間中、平均99.9%のキャッシュヒット率を達成し、わずかなハードウェアで1秒当たり1万件のリクエストを問題なく処理しました。
Wanelo は、1年間にユーザーベースを1,000%拡大しながら、モバイルサービスのパフォーマンス向上、レスポンス時間の短縮、98%のキャッシュヒット率を達成しました。
Catch Digital は98-99%の高いキャッシュヒット率を記録し、新しいサービスの立ち上げに成功した後、25倍のトラフィックスパイクにも簡単に対応できました。
とは言え、私たちも市場の拡大と進化に伴い、世界各地の接続性の高い IXP (Internet Exchange Point) に戦略的に POP を