エッジ vs. クラウド: どちらの AI インフラストラクチャを選択すべきか?

エッジコンピューティングは最近ホットな話題です。近年最もエキサイティングな技術革新として称賛され、その変革力については多くの議論がなされてきました。

ますます強力になる AI/ML アルゴリズムが「インテリジェンス」を再定義し、より安価で強力な「エッジ」デバイスが利用可能になったことで、誇大宣伝はほぼ現実のものとなりました。しかし、エッジ コンピューティングの歴史を考えてみると、最近の関心から想像されるよりもはるかに古い歴史があることがわかります。

実際、コンピューティングとインテリジェンスは、ほとんどのアプリケーションで高帯域幅のネットワーク接続が事実上存在しなかった時代に、エッジで始まりました。 1990 年代後半でも、工場や現場に遠隔地に設置された重要な測定機器には、通常、受信したセンサー データを処理するための専用の計算能力が備わっていました。しかし、これらのデバイスのアルゴリズムは、「インテリジェンス」という点では初歩的なものに過ぎず、主に信号処理やデータ変換です。

クラウドベースのコンピューティングは、ネットワーク機能が向上し、接続性が高まった 2000 年代後半に普及し始めました。同時に、強力な人工知能アルゴリズムは、大量の構造化データと非構造化データから意味のある情報を引き出す手段として大きな注目を集めています。わずか 10 年で、クラウド AI は AI アプリケーションの主流の選択肢になりました。

ただし、クラウドへの移行には、データのアップロードとダウンロードのコスト、ネットワークの信頼性、データのセキュリティなど、いくつかの問題も伴います。同時に、手頃な価格でありながら強力なエッジ デバイスの登場により、エッジ コンピューティングにおける処理能力とコストまたはフットプリントのトレードオフは減少しています。今では、スマート アプリケーションを構築するための実行可能で魅力的な選択肢として、「エッジ コンピューティング」が再び検討されているようです。

エッジ AI とクラウド AI のどちらが優れているかという議論が激化する中、両方のフレームワークに精通している人はおそらく「状況による」と答えるでしょう。その理由は、エッジ インフラストラクチャとクラウド インフラストラクチャは競合するものではなく、補完的なフレームワークだからです。

どちらも、特に人工知能の開発と展開の基盤として、過去数年間で驚異的な発展と改善を遂げてきました。あらゆるテクノロジーの選択と同様に、選択は実際には特定のアプリケーション、つまり目標、価値推進要因、経済性、および電力、サイズ、接続性に関する制約によって決まります。したがって、適切なインフラストラクチャを構築する前に、クラウドとエッジ AI の長所と短所を理解することが重要です。

柔軟性、拡張性、導入の容易さを求める場合、クラウドベースの AI は魅力的な選択肢です。現在、ほとんどのクラウド サービス プロバイダーは、AI モデルのトレーニングと展開のための強力なフレームワークを提供し、事前のコミットメントや投資をほとんど必要としない従量課金制パッケージを提供しています。クラウドは事実上無制限のコンピューティングおよびストレージ オプションを提供するため、大規模な AI モデルに特に適しています。

しかし、これは、センサーや画像データの継続的な評価を必要とするリアルタイム アプリケーションにとっては扱いにくいオプションになる可能性があります。データをやり取りする必要があり、多大なコストがかかるからです。また、このデータ転送により、クラウドは、閉ループ制御や即時のアクションを必要とする低遅延アプリケーションにはほとんど適さなくなります。

一方、エッジ AI は、自動アラームや閉ループ制御のためのリアルタイム データ分析に適した選択肢です。エッジ インフラストラクチャではエッジ ハードウェアへの先行投資が必要ですが、運用コストはクラウドに比べて大幅に低くなります。

現在、NPU (ニューラル プロセッシング ユニット)、TPU (テンソル プロセッシング ユニット)、専用の AI アクセラレータを備えた SOC (システム オン チップ)、SoM (システム オン モジュール) など、さまざまなエッジ AI ハードウェア オプションが利用可能です。 AI 向けの低コストで低電力のハードウェアは活発に研究されている分野であり、より良い選択肢を提供できる可能性があります。一方、AI ベースの消費者向けアプリケーションは、かなり多様なエッジ デバイス (電話、タブレット、PC など) に対応する必要があり、エッジ展開は困難な見通しになる可能性があります。

その結果、エッジ インフラストラクチャは迅速なプロトタイピングに適さず、簡単に拡張できない可能性があります。 AI モデルの分散トレーニングの概念であるフェデレーテッド ラーニングでは、エッジでのトレーニングと展開が可能になりますが、十分なコンピューティング能力を必要とする大規模モデルのトレーニングには、依然としてクラウドが論理的な選択肢となります。

しかし、解決策はどちらか一方を選択する必要はありません。アプリケーションがマイクロサービスベースのアーキテクチャに移行すると、独自の特定のデプロイメント フレームワークを使用して、アプリケーションをより小さな機能、つまりマイクロサービスに分割できるようになります。したがって、クラウドとエッジのどちらかを選択するのではなく、特定のアプリケーションに対して両方を最適に使用することに重点を置くことができます。

たとえば、アプリケーションはクラウド上の迅速なプロトタイプから始まる場合があります。進化するにつれて、低レイテンシとリアルタイムの意思決定を必要とする機能はエッジに移行し、スケールと柔軟性を必要とする機能はクラウドに残すことができます。モデルのトレーニングや再トレーニングはクラウドで集中管理できますが、エッジでのフェデレーテッド ラーニングによってローカルで精度を向上させることができます。同様に、機密データはエッジで処理し、より一般的なデータはクラウドに移動できます。

組織、開発者、および実務者は、クラウドとエッジを別個の選択肢としてではなく、エッジからクラウドまでの連続体として、その間にさまざまなインフラストラクチャ オプションがあるものとして考えた方がよいでしょう。これには、運用エッジ、ネットワーク エッジ、モバイル エンドポイントなどのさまざまな種類のエッジと、プライベート クラウド、パブリック クラウド、クラウドレット、フォグ コンピューティングなどのネットワーク上のさまざまな種類の分散処理が含まれます。

複雑さは課題となる可能性がありますが、適切なテクノロジーの組み合わせを見つけることで、コストとリスクを最小限に抑えながら AI の価値を最大化するユニークな機会を組織に提供し始めることができます。