Volcano Engine エラスティック コンテナ インスタンス: ノード中心のアーキテクチャからサーバーレス アーキテクチャに変換するための強力なツール

Kubernetes とコンテナ化テクノロジーが成熟するにつれて、ビジネス アプリケーションをクラウドに移行し、迅速かつ安定したビジネス開発をサポートするためにクラウド ネイティブ アーキテクチャを採用する企業が増えています。

クラウド コンピューティングが開発プロセスに深く浸透するにつれ、サーバーレス アーキテクチャの成熟により、クラウド ネイティブ テクノロジーは新たな段階に進みました。サーバーレスは、パブリック クラウドの弾力的なスケーリング、メンテナンス不要、高速アクセス機能を最大限に活用し、ユーザーの利用コストを大幅に削減し、ユーザーと企業がビジネス ロジックのみに集中して、真にアジャイルな開発を実現できるようにします。

Volcano Engine クラウド ネイティブ チームは、エンタープライズ ビジネス アプリケーションがサーバーレスという新しいクラウド ネイティブ コンセプトを真に実装できるように、コンセプト、システム設計、アーキテクチャ設計など、さまざまな側面で製品のアップグレードとイノベーションを推進し、サーバーレスの利点と価値を最大限に活用できるようにしています。

ノード中心のアーキテクチャからサーバーレスアーキテクチャへ

従来の Kubernetes アーキテクチャは一般的にノード中心であり、技術チームはクラウド サーバーなどのリソース ノードに基づいてクラスターを構築し、ノードを中心に運用および保守管理を実行する必要があります。

ビジネス規模が拡大し、ノード数が増加するにつれて、このアーキテクチャでは、主に次の点でコンテナ アプリケーションの展開と運用に多くの制限が生じるようになります。

1. 複雑なノードの運用と保守: ノードの構成と初期化、オペレーティングシステムの更新とアップグレード、セキュリティ管理、運用監視とログの収集と分析、障害回復、ネットワーク管理、ストレージ管理、容量の拡張と縮小、リソースの計画と割り当て、リソースコスト管理など、複雑で面倒なノードの運用と保守タスクを含むノードの管理と保守をユーザーが自分で行う必要があります。
2. リソース使用率が低い: 固定リソースがノード用に予約されています。実際のワークロードに必要なリソースが少なくても、ノード リソースの使用量を削減することはできません。ノード リソースの断片化率が高くなっています。さまざまなノードに分散されている未使用のリソースの中には、効果的に集約することが難しく、十分に活用できないものがあります。パフォーマンスのボトルネックを回避するために、リソースは過剰に割り当てられ、最大負荷に応じてリソースが計画されることがよくあります。実際の需要を予測することは困難であり、大量のリソースがアイドル状態になる可能性があります。
3. リソースの拡張が遅い: コンテナ アプリケーションではトラフィックが急増する可能性があり、負荷の増加に対応するために迅速に拡張する必要があります。従来のノード中心のアーキテクチャでは、コンピューティング リソースを拡張するには、多くの場合、新しいクラウド サーバー ノードの作成と構成が必要であり、このプロセスには数分かかることがあり、即時の拡張は実現できません。

Volcengine Container Instance (VCI) は、上記の状況に対応するために立ち上げられた新しいクラウドネイティブ ソリューションです。これは、ByteDance の長年にわたる社内クラウドネイティブ技術の蓄積から抽象化された、サーバーレスでコンテナ化されたコンピューティング サービスです。

Virtual Kubelet テクノロジーと Volcano Engine Container Service VKE のシームレスな統合により、Elastic Container Instance VCI はユーザーにエラスティック コンピューティングと Kubernetes オーケストレーション機能を提供し、第 2 レベルの起動、高同時実行の作成、サンドボックス コンテナのセキュリティ分離をサポートします。

Elastic Container Instances (VCI) は、サーバーレスとコンテナの利点を統合することで、効率的で信頼性が高く安全な運用環境を企業に提供し、ユーザーは基盤となるインフラストラクチャの管理と保守を気にすることなく、クラウドネイティブ アーキテクチャ アプリケーションの開発と実行に集中できます。また、実際の業務運営に必要なリソースに対してのみ料金を支払うため、企業はクラウド コストをより合理的に管理できます。

インフラストラクチャのメンテナンスは不要で、コンピューティングリソースの計画も不要です。

従来の自作 Kubernetes クラスターのアーキテクチャでは、コントロール プレーンであれデータ プレーンであれ、コンテナ グループ Pod の動作のキャリアとして、ノードが Kubernetes アーキテクチャの中核に配置されます。ノードのコンピューティング リソースが不足している場合は、ビジネス ワークロードの展開または拡張をサポートするために、ノードを追加してコンピューティング リソースを補充する必要があります。

クラウドでは、Volcano Engine Container Service VKE に代表されるさまざまなマネージド Kubernetes サービスが、ユーザーに代わって Kubernetes コントロール プレーンを管理・運用し、SLA 保証付きのマネージド サービスを提供します。ユーザーの実際の業務ワークロードを実行するデータプレーンについては、通常、稼働中のノードをユーザー自身で運用・保守し、業務のピーク時には事前に容量を拡大し、業務の谷時には容量を削減するなど、業務特性に応じてノードが提供するコンピューティングリソースを事前に計画する必要があります。

そのため、従来のノード中心の Kubernetes アーキテクチャでは、ノードの運用と保守に技術チームの多大な労力が必要になることがよくあります。同時に、リソースの事前計画とリソースコストの問題をどのようにバランスさせるかということも、 「きめ細かなクラウド利用」の時代に入って企業が考えなければならない問題となっています。

Elastic Container Instances (VCI) は、サーバーレスでコンテナ化されたコンピューティング サービスを提供します。各 VCI は、単一の Pod に対してのみ実行環境とコンピューティング リソースを提供します。ユーザーは、基盤となるノードの運用、保守、容量計画について心配する必要がありません。コンテナ アプリケーションをオンデマンドでデプロイするだけで済みます。 VCI を使用してコンテナ アプリケーションをデプロイする場合は、ノード中心のアーキテクチャと変わらないネイティブ Kubernetes セマンティクスを使用できます。

リソース レベルでは、Elastic Container Instances VCI は Volcano Engine コンピューティング インフラストラクチャをリソース プールとして使用し、さまざまなリソース タイプのコンテナ コンピューティング リソースを提供することで、ユーザーがビジネス ニーズに応じて柔軟に選択できるようにします。同時に、ユーザーはリソース容量計画の問題について心配する必要がありません。 VCI は膨大なコンピューティング リソースを提供するため、従来のノード中心のアーキテクチャでよく見られる Pod ドリフトや再スケジュールは発生しません。これらの問題は、サービスの中断、パフォーマンスの変動、データの不整合、スケジュールの遅延などの問題を引き起こします。

最後に、Container Service VKE と Elastic Container Instances VCI のシームレスな統合により、Kubernetes クラスター コントロール プレーンの完全な管理が実現されるだけでなく、サーバーレスの完全な管理、メンテナンス フリー、データ プレーンの安全な分離 (Elastic Container Instances VCI) がユーザーに提供されるため、Kubernetes インフラストラクチャにおけるユーザーの運用および保守コストが大幅に削減され、容量計画の複雑さが解消され、ユーザーは独自のビジネス アプリケーションにさらに集中できるようになります。

極めて柔軟で必要なものが手に入る

ダン・デシェン

Flexeraが「2022年クラウドの現状レポート」で公開した調査データによると、調査対象企業はクラウドコストの無駄が32%に達したと自己評価しました。 「コスト」は、3年連続で企業が最も懸念するクラウド利用上の課題の1つとなっています。 「洗練されたクラウド活用」が、ますます多くの企業から注目され始めています。ビジネス開発のニーズを満たしながらクラウドのコスト支出をいかに節約するかは、企業がクラウドを利用する際に解決しなければならない重要な課題となっています。

エラスティック コンテナ インスタンス VCI 製品設計は、企業の「クラウド コスト管理」の要求に重点を置き、実際に使用されたリソースの量に基づいて課金を精緻化することを重視し、複数の課金モデルをサポートし、企業がクラウドを真に有効活用できるように支援します。

洗練された課金: Elastic Container Instances (VCI) は、ユーザーのコンテナ グループ (Pod) によって実際に使用されたリソースに基づいて課金されます。課金対象となるリソースには、vCPU、メモリ、GPU などが含まれます。同時に、VCI インスタンスの課金期間はその実行期間、つまりコンテナ イメージのダウンロードから実行停止までのユーザーの Pod が使用した時間であり、秒単位の精度で、実際の使用量に基づいた課金が実現されます。

パッキング率の向上: クラウドネイティブ アーキテクチャでは、従来のコンピューティング リソースと比較して、エラスティック コンテナ インスタンスのもう 1 つの利点は、アイドル リソースが削減され、パッキング率が向上するため、ユーザーのコンピューティング リソースの使用コストが削減されることです。具体的には、Kubernetes クラスターが ECS を作業ノードとして使用する場合、Kubernetes に必要なシステム コンポーネントをノード上で実行する必要があるため、一部のコンピューティング リソースを予約する必要があり、一定の追加コストが発生します。 VCI をコンピューティング リソースとして使用する場合は、ビジネス ポッドで実際に使用されるリソースに対してのみ料金を支払う必要があります。

1. 例: 3 つのビジネス ポッドを実行し、それぞれの vCPU リソース要件は 16C、8C、8C です。
2. ECS の使用: 32C vCPU を搭載した ECS ノードが少なくとも 2 つ必要です (各ノードのシステム用にリソースを予約する必要があります)
3. VCI を使用する: ポッドと同じリソース、つまり 32 C コンピューティング リソースを持つ 3 つの VCI インスタンスを作成します (アイドル状態のリソースはありません)

多様な課金方法：現在、エラスティックコンテナインスタンスである VCI は従量課金制を正式にサポートしており、プリエンプティブインスタンス (スポット) 支払いモデルの招待制ベータテストを開始する予定です。さらに、リザーブドインスタンスやエラスティックリザーブドインスタンスなどの前払い支払いモデルをサポートする予定です。複数の支払いモデルを提供することで、ユーザーがコンピューティング リソースのコスト管理と予算編成をさらに最適化し、さまざまなビジネス シナリオに合わせて異なる支払いモデルを選択して、ビジネス リソースのニーズとクラウド コスト計画をより適切に調整できるようにしたいと考えています。

飛び出る

Elastic Container Instance (VCI) は、Volcano Engine のコンピューティング リソース インフラストラクチャを完全に統合してコンピューティング能力を提供し、さまざまな基盤ハードウェア機能に基づいてユーザーが選択できるさまざまなインスタンス仕様ファミリを提供します。これにより、差別化されたコンピューティング、ストレージ、ネットワーク パフォーマンスが提供され、さまざまなビジネス アプリケーションとサービス シナリオがサポートされます。

CPU 汎用仕様ファミリー: 汎用コンピューティング u1 や汎用 n3i など、バランスの取れた vCPU、メモリ、ネットワーク機能を提供し、ほとんどのシナリオでサービス要件を満たします。

GPU コンピューティング仕様ファミリー: GPU コンピューティング gni2 (NVIDIA A10 GPU グラフィックス カードを搭載)、GPU コンピューティング g1v (NVIDIA V100 GPU グラフィックス カードを搭載) など、大規模モデルのトレーニング、テキストと画像の生成、タスクの推論など、さまざまな AI コンピューティング シナリオでコスト効率の高い使用エクスペリエンスを提供できます。

最新の汎用コンピューティング u1 インスタンス ファミリは、動的なリソース管理のために Volcano Engine リソース プーリング テクノロジーとインテリジェントなスケジューリング アルゴリズムを活用しています。企業に安定したコンピューティング能力を提供し、さまざまなプロセッサとプロセッサ メモリの柔軟な割り当てをサポートします。 0.25C-0.5Gi、0.5C-1Gi、1C-2Giといった細かい小型仕様から、24C-48Gi、32C-256Giといった大型仕様まで取り揃えており、選択可能で、コストパフォーマンスが極めて高いです！

膨大なコンピューティング リソースの供給に支えられた VCI は、業界をリードする柔軟なリソース優先度スケジューリング戦略もユーザーに提供します。VKE と組み合わせることで、ユーザーはカスタム リソース ポリシー (ResourcePolicy) を使用して、ECS や VCI などのさまざまな種類のコンピューティング リソース プールに柔軟にスケジュールし、実際のビジネス シナリオに基づいて、パーセンテージしきい値、優先度制御、その他の戦略に従ってスケジュールと割り当てを実行できます。

つまり、ユーザーは ECS コンピューティング リソース プールと VCI コンピューティング リソース プールを組み合わせて、大規模な Volcano Engine コンピューティング リソースを活用できることになります。同時に、コンテナ クラスター内の Cluster Autoscaler 機能と VCI を組み合わせることで、コンテナ クラスター内でコンピューティング リソースを事前に申請していなくても、ユーザーはタイムリーに弾力性のあるリソースを取得し、ビジネス アプリケーションを効率的にサポートできます。

早くプレイ

オンライン ビジネスでは予測できないトラフィックのピークが発生するため、安定したビジネス運営とユーザー エクスペリエンスを確保することが重要です。ビジネス開発の重要な瞬間には、コンピューティング リソースを迅速に立ち上げ、ビジネス アプリケーションを迅速に有効にすることも非常に重要です。エラスティック コンテナ インスタンスも当然、これらのシナリオに適しています。

一方、Volcano Engine Elastic Container Instance (VCI) の弾力性により、数万の vCPU コンピューティング リソースの需要を数分で満たすことができ、ビジネスで必要なときに十分なコンピューティング リソースがすぐに利用できるようになります。トラフィックのピークが終了し、ビジネス ワークロードが減少すると、弾力性のあるコンピューティング リソースを迅速に解放してクラウド コストを節約できます。

一方、コンテナイメージのプルには長い時間がかかることが多く、大規模な Pod が同時に起動される場合は、さらに深刻になります。 Elastic Container Instances (VCI) は、コンテナ イメージの遅延読み込み (イメージのレイジー読み込み)、P2P コンテナ イメージ配信など、VKE が提供するさまざまなコンテナ イメージ高速化機能を備えているだけでなく、コンテナ イメージのキャッシュなどの独自の高速化機能も備えています。実際のテストデータによると、コンテナ イメージ キャッシュにより、コンテナ イメージの Pod (データ量 100G 以内) の全体的な起動時間を 10 秒以内に制御できるため、ユーザーの効率が大幅に向上し、クラウド コストが削減されます。

結論

Elastic Container Instance (VCI) は、2022 年の正式リリース以来、多くの大規模および中規模エンタープライズの顧客にサービスを提供しており、ByteDance の社内および社外のビジネス シナリオで実際に十分にテストされています。 Volcano Engine Cloud Native チームは、顧客サービスの経験に基づいて製品機能を継続的に磨き上げ、製品サービスの品質と安定性を継続的に向上させています。

1. エコシステム統合の面では、VCI は Kubernetes エコシステムとの統合を継続的に強化しており、Volcano Engine Container Service VKE とシームレスに統合できるため、顧客はクラウドネイティブ環境でコンテナ アプリケーションをより簡単に展開および管理できるようになります。
2. 分散コンテナイメージの起動を高速化する点では、VCI と Volcano Engine Image Repository CR などの製品が連携して Dragonfly アーキテクチャを改良し、VCI へのイメージ配信の効率と信頼性をさらに高めています。
3. VCI 独自のコンテナ イメージ キャッシュ アクセラレーション機能により、大規模な同時実行や大規模なコンテナ イメージのシナリオで Pod の起動が遅い、イメージ プルの成功率が低いといった問題がより適切に解決され、イメージ ウェアハウスへの負担が軽減されます。
4. コンピューティング リソース仕様の多様性の面では、VCI は 2023 年に、バックエンド サーバーの違いをシールドする Volcano Engine の独自開発 DPU フル オフロード アーキテクチャに基づく新しい汎用コンピューティング インスタンス n3i や、理論上無制限のリソース プールを備えた汎用コンピューティング インスタンス u1 など、より多くのオプション リソースをリリースしました。

Volcano Engine クラウド ネイティブ チームは、主に Volcano Engine パブリック クラウドおよび民営化シナリオにおける PaaS 製品システムの構築を担当しています。 ByteDance のクラウド ネイティブ テクノロジー スタックとベスト プラクティスにおける長年の経験を組み合わせることで、企業のデジタル変革とイノベーションの加速を支援します。製品には、コンテナ サービス、イメージ リポジトリ、分散クラウド ネイティブ プラットフォーム、関数サービス、サービス メッシュ、継続的デリバリー、可観測性サービスなどが含まれます。

VCI は 2024 年に向けて、サーバーレス Kubernetes 製品のアーキテクチャと形式を継続的に改善および調査し、メンテナンスフリー、コンピューティング リソース プランニングフリー、非常に弾力性のあるサーバーレス コンテナー化された製品とサービスをより多くの社内外の顧客に提供し、AIGC、バイオインフォマティクス サイエンティフィック コンピューティング、ソーシャル e コマースなどのビジネス シナリオにおけるさまざまな GPU と CPU に対する顧客のコンピューティング パワーのニーズをより適切にサポートします。