数百万の同時トラフィックをサポートし、Kuaishou + Alibaba Cloud ハイブリッドクラウドエラスティックスケジューリングシステムの背後にある技術的な実践を明らかにする

Kuaishou APPは、膨大な数のユーザーを抱える短編動画アプリケーションです。現在、 1日平均アクティブユーザー数は3億7,600万人、月間平均アクティブユーザー数は6億7,300万人、相互接続ユーザー累計数は311億人を超え、1日の総インタラクション数（いいね、コメント、リポストなどを含む）は80億回に達しています。このような大規模なユーザー規模とビジネス量をサポートするために、Kuaishou は複数の大規模データセンターと大規模なサーバー クラスターを構築し、毎日数億人のユーザーによるアクセスに対応しています。

Kuaishou のテクノロジーが直面している課題には、膨大なユーザー ベースによってもたらされる分散アーキテクチャの複雑さだけでなく、多数のユーザーが非常に高い同時性で購入に殺到するライブ ブロードキャスト ルームでのフラッシュ セールという、より大きな課題も含まれます。ライブストリーミングは、Kuaishouにとって最大の技術的課題をもたらすシナリオであり、Kuaishouのライブeコマースのフラッシュセールス活動は、同時実行性が高く、要件が極めて高いため、最も困難です。フラッシュセール中は、多数のユーザーが同時に Kuaishou の電子商取引プラットフォームにアクセスするため、システムの同時処理能力に非常に高い要求が課せられます。数億人のファンを抱えるビッグVのライブ放送ルームでのフラッシュセール期間中、単一のフラッシュセール商品の数は数百万に達する可能性があり、単一の商品に対するフラッシュセールの最大リクエストは1秒あたり100万回に達する可能性があります。注文トランザクションリンクシステムも、1 秒あたり 100 万の同時実行をサポートします。下の図からわかるように、有名人の生放送中にフラッシュセールが急増したとき、注文送信インターフェースのピークトラフィックは、1 日のレベルの 90 倍以上になりました。

極めて高い同時実行性を伴うフラッシュセールのシナリオに対応するため、Kuaishou は、下図に示すように、分散システム アーキテクチャ、負荷分散技術、キャッシュ技術、メッセージ キュー、サービス フロー制限キュー、ホットスポット キャッシュ最適化などの技術的手段を採用し、システムの同時処理能力とスケーラビリティを向上させました。データセンターの機能面では、サーバーの処理能力と信頼性が向上し、システムの安定性と可用性が確保されます。さらに、システムの監視と運用・保守を強化し、問題を迅速に特定・解決し、高いシステム可用性を確保しています。同時に、システムパフォーマンスを最適化し、ユーザーエクスペリエンスと満足度を向上し続けます。

大規模なプロモーションやフラッシュセールのピーク時にリソースが不足する問題を解決するために、Kuaishou は弾力性のあるコンテナ クラウド機能を確立しました。 Kuaishou のエラスティック コンテナ クラウド プラットフォームは、Docker ベースのプラットフォームに基づいています。ビジネス ニーズに応じてコンテナー インスタンスを自動的に拡張および縮小し、同時実行性が高くトラフィック量が多いシナリオでのビジネス ニーズを満たすことができます。 Elastic Container Cloud を使用することで、Kuaishou は大規模なプロモーションやフラッシュセール中にコンテナインスタンスを迅速に拡張し、トラフィックやリクエストの急増に対応できます。トラフィックとリクエストが減少すると、Elastic Container Cloud はコンテナ インスタンスを自動的に縮小してリソース コストを節約できます。この柔軟なスケーリング機能により、Kuaishou はビジネスの突然の変化に適切に対応し、システムの信頼性と可用性を向上させることができます。 Elastic Container Cloud は、Kuaishou が主要なプロモーションやフラッシュ セール中にエラスティック スケーリングの問題を解決するための強力なサポートを提供します。

図：自社構築したIDCリソースをフル活用したEコマースビジネスアーキテクチャ

ピークトラフィックに対処するため、Kuaishou Container Cloud Platform は Kuaishou IDC + Alibaba Cloudのハイブリッドクラウドアーキテクチャを構築し、専用回線を通じて両者間のネットワーク相互接続を開放し、 Alibaba Cloud の豊富な製品機能と弾力的な利点を活用して、ビジネスのために「ピークトラフィックを平滑化し、谷間のトラフィックを埋める」ことを実現しました。 Alibaba Cloud のコンピューティング リソースは、Kuaishou と同じ弾力性と在庫の利点を備えており、Kuaishou コンテナの弾力性と拡張性を強力にサポートします。これにより、ピーク時に適切に対処し、同時実行性が高くトラフィックが多いシナリオでのビジネス ニーズを満たすことができます。

パブリッククラウドリソースの拡張プロセスでは、対応するパブリッククラウド上の異なるアベイラビリティゾーンのリソースが、レイテンシと災害復旧ドメインに基づいてKuaishou内の異なるアベイラビリティゾーンに統合され、非高頻度アクセスキャッシュサービスが最初にパブリッククラウドデータセンターに拡張され、ビジネスパフォーマンスが最適化されます。単一のアベイラビリティ ゾーンに障害が発生した場合、アベイラビリティ ゾーンレベルでの迅速なトラフィック切り替えにより、ビジネスの回復を完了できます。同時に、業務の立ち上げ時間を短縮するために、パブリッククラウドデータセンターにイメージウェアハウスのキャッシュノードを設置しました。 P2P イメージダウンロードメカニズムと組み合わせることで、パブリッククラウド上のコンテナインスタンスの起動速度が大幅に向上しました。

図: 弾力性のあるハイブリッドクラウドリソースを使用した電子商取引ビジネスアーキテクチャ

ハイブリッド クラウド スケジューリング プラットフォームは、予算管理、コンテナ リソース操作、リソース配信などの複数のプラットフォームを接続することで、突然のビジネス トラフィックのコンピューティングパワー リソースの需要を満たすハイブリッド クラウドの弾力性のあるリソースを迅速に配信できます。全体的なプロセスを通じて、次のプラットフォーム機能が実現されました。

• 柔軟なクラウド サーバーリソースをコンテナー クラスターに迅速に統合します。100,000 個のコア コンピューティング リソースを 30 分以内に Kuaishou コンテナー クラウドに接続し、ビジネス可用性を実現できます。
• Kuaishou の自社構築データセンターとパブリック クラウド データセンターのリソースは、コンテナ クラスターを通じて統一的に管理されます。一貫したコンピューティング パワーが提供され、ビジネス側は基盤となるリソースの違いを意識する必要がありません。
• インテリジェントなリソース スケジューリング戦略: プラットフォームは、ホスティング リソース割り当て戦略を統合します。突発的なトラフィックによる業務拡張が必要となり、クラウドリソースの活用が優先されます。アクティビティが終了し、容量が減少すると、まずクラウド リソースが返され、ホストは自動的にオフラインになります。

図: ハイブリッドクラウドの弾力的なリソース配信プロセスの概略図

アリババクラウドは10年以上連続して天猫のダブル11の円滑な運営を保証し、深夜以降のトラフィックピークにも耐えてきたことが分かっている。 Alibaba のビジネスの100 %はAlibaba Cloud 上で実行されます。では、Kuaishou Container Cloud + Alibaba Cloud の組み合わせは、次の大きなプロモーションの試練に耐えられるのでしょうか?

2023年のビッグVプロモーションイベントでは、ビッグVフラッシュセールのピーク時のリソースコンピューティングのニーズに対応するために、Kuaishouのエラスティックコンテナクラウドは上記のシステムを迅速に使用してAlibaba Cloudに接続し、ピークリソースを拡張しました。総拡張レベルはCPUコア数万個に達し、オーダーのピークスループット容量は1倍に増加しました。フラッシュセール中、実際のピークトラフィックは 1 秒あたり 100 万リクエストに達しました。すべてのシステム指標は安定しており、システムは 100% 利用可能でした。アリババクラウドは快手大プロモーションのテストに合格し、快手トップVプロモーションの生放送をスムーズにサポートできます。下の図のピークリクエストは、Alibaba Cloud のエラスティックリソースによって処理されるピークコンピューティングリソースです。これにより、短期間での急激な弾性膨張とピーク後の急激な減少という問題が解決されます。ピーク、システムの安定性、高い同時実行性の要求に応じてシステムを迅速にスケールアップおよびスケールダウンする能力が向上するだけでなく、リソースの保持コストも大幅に削減されます。

【快手コンテナクラウド+アリババクラウド】の徹底した技術的組み合わせにより、【快手電子商取引ライブフラッシュセール】シナリオにおける初の大規模アプリケーションは、ピーク弾力性への対応における快手の弾力性コンテナクラウド機能の実際の効果を実証し、検証しました。また、これは、KuaishouがAlibaba Cloudを使用してリソースコストの優位性を解決し、将来的に容量を迅速に拡大および縮小するための強固な基盤を提供し、Kuaishouがライブeコマーステクノロジーのトレンドをリードするための強力なサポートを提供します。

快手はライブ電子商取引技術における継続的な革新とリーダーシップを発揮し、業界の発展と変革に重要な意義をもたらしました。快手電子商取引ライブ放送は、Elastic Container Cloud + Alibaba Cloudのハイブリッドクラウドモデルを使用してフラッシュセールに対応しており、これは快手自身にとって大きな意義があるだけでなく、業界全体にもプラスの影響を及ぼしています。ライブ電子商取引技術の開発トレンドをリードし、他の企業に参考とインスピレーションを提供してきました。今後も、技術の継続的な進歩に伴い、Kuaishou は引き続き技術的優位性を活用し、ユーザーにより良いショッピング体験を提供していきます。