エッジコンピューティング (Edge ML) を 1 つの記事で理解しましょう。

エッジコンピューティングを使用してローカルデバイスでAIを有効にする

モノのインターネット (IoT) が成長するにつれて、クラウドネットワークは過負荷になり、企業はセキュリティなどの重要なクラウドコンピューティングの問題を無視するようになります。これらすべての問題の解決策は、ローカルデバイス「Edge ML」上で機械学習モデルを実行することです。

エッジコンピューティングは、スマートデバイスが機械学習とディープラーニングアルゴリズムを使用してデータをローカルで分析し、クラウドネットワークへの依存を減らすことを可能にするテクノロジーです。この記事では、エッジコンピューティングの動作原理と機能の理解に焦点を当てます。

まず、モノのインターネット (IoT) の概念とそれがエッジコンピューティングに与える影響を理解しましょう。

1. モノのインターネットとは何ですか?

モノのインターネット (IoT) は、事前定義されたプロトコルと情報検知デバイスを使用してあらゆるものをインターネットに接続する物理的なアイテムのネットワークです。このデバイスは、情報の共有と通信を通じて、インテリジェントな識別、位置決め、追跡、監視、管理を実現します。

インターネットはもはや単なるコンピュータネットワークではありません。それは、車両、スマートフォン、家電製品、玩具、カメラ、医療機器、産業システム、動物、人、建物など、さまざまな形やサイズのデバイスのネットワークに進化し、それらはすべて互いに接続され、すべての通信と共有情報は、インテリジェントな再編成、位置決め、追跡、セキュリティと制御、さらには個人のリアルタイムオンライン監視、オンラインアップグレードと進歩を実現するために、事前に定義されたプロトコルに基づいています。

モノのインターネット (IoT) は、無線および有線接続と独自のソリューションを通じて、環境内に遍在するさまざまなオブジェクトが相互にやり取りし、他のオブジェクトと連携して新しいサービスを作成し、共通の目標を達成できるという概念とパラダイムです。

2. エッジコンピューティングとは何ですか?

エッジコンピューティングはクラウドコンピューティングの拡張として登場し、クラウドサービスをエンドユーザーにより近づけています。エッジコンピューティングは、通常ネットワークのエッジに配置される処理、ストレージ、およびネットワーク機能を提供する仮想コンピューティングプラットフォームを提供します。

エッジサーバーは、端末デバイスにサービスを提供するデバイスです。これらは、IoT ゲートウェイ、ルーター、モバイルネットワークベースステーション、車内またはその他の場所にある小規模データセンターなどです。エッジデバイスとは、携帯電話、IoTデバイス、組み込みデバイスなど、エッジサーバーにサービスを要求する端末デバイスです。

エッジコンピューティングと AI を組み合わせることで、AI ベースのアプリケーションの主要な問題に対する解決策がもたらされます。この新しいインテリジェンスモデルは、エッジインテリジェンスと呼ばれます。エッジインテリジェンスとは、データのプライバシーとセキュリティを保護しながらデータの品質と速度を向上させることを目的として、データが収集される場所の近くでデータを収集、キャッシュ、処理、分析するシステムとデバイスのネットワークを指します。

従来のクラウドインテリジェンスでは、端末デバイスが作成または収集したデータをリモートクラウドにアップロードする必要がありましたが、エッジインテリジェンスはデータをローカルで処理および分析し、ユーザーのプライバシーを効果的に保護し、応答時間を短縮し、帯域幅リソースを節約します。

エッジコンピューティングを使用するタイミング

したがって、データを効率的に処理、保存し、それに基づいて行動することがより重要になります。セキュリティリスクを最小限に抑え、ビジネスプロセスを高速化するには、データを迅速かつ効率的に処理することが特に重要です。エッジコンピューティングは、帯域幅の使用率と通信の遅延を削減しながら、Web アプリケーションとインターネットデバイスを最適化しようとします。

たとえば、石油やガスの施設は遠隔地にあることが多いです。エッジコンピューティングは、処理を資産に近づけることでリアルタイム分析を可能にし、集中型クラウドへの高品質の接続への依存を減らします。

3. エッジコンピューティングはどのように機能しますか?

エッジコンピューティングの目的は、ネットワークのエッジにあるデバイス上でモデルを実行することです。その後、ML アルゴリズムはデバイス上でローカルに実行され、データを分析して使用可能な結果を生成するためにインターネット接続は必要ありません。全体のプロセスは 4 つの主要な部分に分けられます。

1. エッジキャッシュ

エッジキャッシングは、エッジデバイスとその周囲で生成されたデータや、インターネットから受信したデータを収集して保存し、エッジユーザー向けのスマートアプリケーションをサポートする分散データシステムです。エッジでは、データは分散されます。

監視機器やセンサーなどのエッジデバイスは環境データを収集します。このデータは適切な場所に保存され、インテリジェントなアルゴリズムによって処理および分析され、エンドユーザーにサービスが提供されます。

キャッシュはリクエストの冗長性に基づいています。エッジキャッシングでは、取得されたデータがスマートアプリケーションに送られ、その結果がデータが保存されている場所に送り返されます。冗長性は、タイプ冗長性、データ冗長性、計算冗長性に分けられます。

データの冗長性とは、インテリジェントアプリケーションへの入力が同一または部分的に同一である可能性があることを意味します。連続的に移動する視覚分析を考慮すると、連続するフレーム間には比較可能なピクセルが多数存在します。リソースが限られているエッジデバイスでは、キャプチャしたビデオを追加処理のためにエッジサーバーに送信する必要がある場合があります。キャッシュを使用する場合、エッジデバイスはさまざまなピクセルまたはフレームをアップロードするだけで済みます。エッジデバイスは、過剰な処理を最小限に抑えるために、繰り返しセグメントの結果を再利用する場合があります。

計算の冗長性とは、インテリジェントアプリケーションに必要な計算タスクが同じになる可能性があることを意味します。たとえば、エッジサーバーはエッジデバイスに画像認識サービスを提供します。同じ環境からの認識タスクは同一である可能性があります。たとえば、同じ場所にいる異なるユーザーからのオブジェクト認識タスクなどです。エッジサーバーは、以前に取得した認識結果をユーザーに即座にフィードバックできます。

キャッシュは、マクロおよびマイクロベースステーションとエッジデバイスの 3 つの場所に保存できます。素材にはポピュラーファイルとスマートモデルと呼ばれる2種類があります。マクロ基地局は、エッジインテリジェンスのエッジサーバーとしてよく使用され、データを保存するインテリジェントなサービスを提供します。

キャッシュの配信には、単一の基地局から配信する方法と、複数の基地局間の連携に基づいて複数の基地局から配信する方法の 2 種類があります。さらに、キャッシュの理想的な内容、つまり、データの冗長性に基づく内容と計算の冗長性に基づく内容が慎重に研究されています。マクロベースステーションやマイクロベースステーションと比較すると、エッジデバイスはリソースが少なく、モビリティが高い傾向があります。マクロ BS、マイクロ BS、エッジデバイスのストレージ容量は限られているため、コンテンツ置換の問題を解決する必要があります。

2. エッジトレーニング

エッジトレーニングは、エッジに保存されたトレーニングセットを使用して、すべての重みとバイアスの最適値、および隠れたパターンを学習する分散学習プロセスです。エッジトレーニングは、強力なサーバーやコンピューティングクラスターでの従来の集中型トレーニング方法とは異なり、通常は集中型サーバーやコンピューティングクラスターほど強力ではないエッジサーバーまたはエッジデバイスで実行されます。

このデバイスは、個別トレーニングと共同トレーニングの 2 つの方法でトレーニングできます。ソロトレーニングは他のデバイスからの支援なしに単一のデバイスで行われますが、コラボレーショントレーニングは多くのデバイスが連携して共有アルゴリズムをトレーニングする場合です。個別のトレーニングにはより多くのハードウェアが必要であり、それが利用できないこともあるため、既存の教材のほとんどは共同トレーニングの設計に重点を置いています。

エッジトレーニングは集中型トレーニングモードよりもはるかに低速ですが、集中型トレーニングモードでは強力な CPU と GPU により最短のトレーニングサイクルで良好な結果が保証されます。研究者の中には、エッジでのトレーニングを加速することに興味を持っている人もいます。トレーニングシステムのアーキテクチャに応じて、トレーニング加速作業は、個別トレーニング加速と共同トレーニング加速の 2 つのカテゴリに分けられます。

スタンドアロントレーニングは、単一のデバイス上で反復計算を通じて最適なパラメーターまたはモードを取得するクローズドシステムです。一方、共同トレーニングは複数のデバイスの連携に基づいており、更新のために定期的に接続する必要があります。更新の頻度と更新コストは、コミュニケーションの効率とトレーニングの成功に影響を与える 2 つの要素です。

この分野の研究は、主に、更新頻度とコストを削減しながら、モデル/アルゴリズムのパフォーマンスを維持する方法に焦点を当てています。さらに、共同トレーニングのオープンな性質により、悪意のあるユーザーによる攻撃に対して脆弱になります。プライバシーとセキュリティの問題に関する文献もいくつかあります。

3. エッジ推論

エッジ推論は、学習アルゴリズムをフォワードパスで使用して、エッジデバイスとサーバーの出力を計算する段階です。現在、ほとんどの AI モデルは強力な CPU と GPU を搭載したデバイスに展開することを目的としていますが、エッジ設定ではこれは実現可能ではありません。

モデルをエッジ環境に適したものにするには、ハードウェア要件を削減し、エッジ設定に自然に適合する新しいアルゴリズムを発明するか、既存のモデルを圧縮して推論中の冗長な操作を排除します。

新しい方法を構築する場合、コンピューターが最適なモデルを構築できるようにするアプローチ、つまりアーキテクチャ検索と、深さ方向に分離可能な畳み込みとグループ畳み込みを使用して人間が発明したアーキテクチャの 2 つのアプローチがあります。

現在のモデルは、モデル圧縮のために圧縮され、精度をほとんど損なうことなく、計算効率とエネルギー効率が向上した、より薄くて小さなモデルが作成されます。モデル圧縮技術には、低ランク近似、知識蒸留、圧縮層設計、ネットワークプルーニング、パラメータ量子化が含まれます。

4. Edgeのアンインストール

エッジオフロードは、エッジでのキャッシュ、トレーニング、推論などのコンピューティング機能を提供する分散コンピューティングパラダイムです。単一のエッジデバイスにエッジインテリジェンスアプリケーションをサポートする機能がない場合は、アプリケーションの責任をエッジサーバーまたは他のエッジデバイスに移管できます。エッジオフロードレイヤーは、他の 3 つのエッジインテリジェンスコンポーネントにコンピューティングサービスを透過的に提供します。オフロード戦略は、エッジ環境で利用可能なリソースの利用率を最大化することを目的としているため、エッジオフロードでは非常に重要です。

クラウドサーバー、エッジサーバー、エッジデバイスには、使用可能なコンピュータリソースが含まれています。デバイスからクラウド (D2C) へのオフロード、デバイスからエッジサーバー (D2E) へのオフロード、デバイスからデバイス (D2D) へのオフロード、およびハイブリッドオフロードが最も一般的に使用されているテクノロジーです。

D2C オフロードテクノロジーは、前処理操作をエッジデバイスに残し、残りのジョブをクラウドサーバーにオフロードすることを選択します。これにより、アップロードされるデータの量と待ち時間が大幅に削減される可能性があります。

D2E オフロードアプローチでは、同様の手順を使用して、遅延とセルラーネットワークへの依存をさらに削減します。

私たちは、IoT ガジェット、ウェアラブルデバイス、スマートフォンが連携してトレーニング/推論タスクを実行する、D2D オフロードアプローチのスマートホームシナリオに焦点を当てています。

ハイブリッドオフロードソリューションは、利用可能なすべてのリソースを最大限に活用し、最大限の適応性を提供します。

エッジコンピューティングアプリケーション

エッジコンピューティングは、ローカルまたはネットワークのエッジでデータを収集、処理、フィルタリング、分析するためにさまざまな分野で使用されています。エッジコンピューティングは次の領域で使用されます。

（１）ヘルスケア

エッジコンピューティングは、機械学習と自動化を活用してデータアクセスを支援します。患者ケアを改善し、健康上の問題を排除するために、医師の迅速な対応を必要とする問題のあるデータを特定するのに役立ちます。

患者の慢性疾患は、健康モニターやその他のウェアラブル医療機器を通じて監視できます。援助が必要なときにすぐに救急隊員に通知することで、命を救う可能性があります。さらに、外科用ロボットは、安全、迅速、かつ正確に支援を提供するために、データを即座に解釈できなければなりません。これらのデバイスが判断を下す前にデータをクラウドに送信することに依存している場合、結果は壊滅的なものになる可能性があります。

（２）建設

エッジコンピューティングは、主に建設業界の労働者の安全のために使用され、安全装置、カメラ、センサーなどからデータを収集して分析します。組織に職場の安全状況の概要を提供し、従業員が安全規制に準拠していることを保証します。

（３）広告

小売業向けのターゲットマーケティングとメッセージングは、フィールドデバイスで指定された人口統計情報などの重要な要素に依存します。この場合、エッジコンピューティングはユーザーのプライバシーを保護するのに役立ちます。保護されていないデータをクラウドに送信する代わりに、データを暗号化してデータソースを維持する場合があります。

（4）製造業

製造業では、エッジコンピューティングを使用して産業プロセスを監視し、機械学習とリアルタイム分析を使用して製品の品質を向上させ、製造エラーを検出しています。また、製造業務への環境センサーの組み込みも推奨されます。

エッジコンピューティングは、在庫コンポーネントとその耐用年数に関する情報も提供するため、生産者は運用や施設に関してより正確でタイムリーなビジネス上の選択を行うことができます。

（５）農業

エッジコンピューティングは、栄養密度と水の消費量を測定し、収穫量を向上させるために農業用センサーで使用されます。センサーは環境、温度、土壌の変数に関するデータを収集し、その影響を調査して農業の生産性を向上させ、最も好ましい気候条件下で収穫が行われるようにします。

（６）天然ガスと石油

エッジコンピューティングは、ガスや石油施設の安全性を監視するために使用できます。センサーは湿度と圧力を継続的に測定します。高速応答には適切なネットワーク接続が必要です。問題は、これらの施設のほとんどが、距離が遠く、接続性が限られている場所にあることです。

したがって、エッジコンピューティングをそのようなシステムまたはその近くに配置することで、接続性が向上し、継続的な監視機能が実現します。エッジコンピューティングでは、機器の問題をリアルタイムで検出することもできます。これらのセンサーは、電気自動車、風力発電システムなどを含むすべてのデバイスによって生成されるエネルギーを監視し、グリッド管理を使用してコストを削減し、効率的にエネルギーを生成するのに役立ちます。

自動運転車

自動運転車は横断歩道では直ちに停止しなければなりません。この判断をリモートサーバーに頼って行うのは不公平です。さらに、エッジテクノロジーを搭載した車は、事故、気象状況、交通、迂回に関するデータをリモートサーバーに送信するのではなく、車同士が通信できるため、より効率的にやり取りできます。エッジコンピューティングは有益です。

スマートオーディオシステム

スマートスピーカーシステムは、音声コマンドをローカルで理解して、簡単なコマンドを実行することを学習できます。インターネット接続がダウンしている場合でも、照明のオン/オフを切り替えたり、サーモスタットの設定を変更したりできます。

エッジコンピューティングの利点と欠点

1. 利点

1. 応答時間の短縮

前述したように、エッジデバイスまたはその近くにコンピューティングプロセスを展開すると、レイテンシを最小限に抑えることができます。

同じ建物内でのファイルの移動を検討してください。世界中のどこかにあるリモートサーバーと会話が行われ、その後、ファイルが受信されたとおりに返されるため、ファイルの交換に時間がかかります。ルーターはエッジコンピューティングを使用して職場全体にデータを転送し、遅延を大幅に削減します。同時に、多くの帯域幅が節約されます。

2. 費用対効果

エッジコンピューティングはサーバーリソースと帯域幅を節約し、コストを節約します。企業や家庭内の多数のスマートデバイスをサポートするためにクラウドサービスを導入すると、コストが増加します。一方、エッジコンピューティングは、これらすべてのデバイスのコンピューティング部分をエッジに再配置することでコストを削減する可能性があります。

3. データ保護とプライバシー

海外のサーバー間でデータを移動すると、プライバシー、セキュリティ、法的問題が発生します。ハイジャックされて悪意のある人の手に渡った場合、深刻な問題を引き起こす可能性があります。

エッジコンピューティングは、データルールのパラメータ内に留まりながら、データをソースに近づけます。機密データをクラウドやデータセンターに転送するのではなく、ローカルで処理できるようになります。したがって、データはローカルの敷地内で安全です。

（ii）デメリット

1. 保管とコスト

クラウドストレージのコストは削減されましたが、ローカル側では追加のコストが発生します。これは主に、エッジデバイスのストレージ容量の発展によるものです。エッジコンピューティングには、エッジデバイスとストレージをサポートするために既存の IT ネットワークインフラストラクチャを置き換えたり改善したりする必要があるため、コスト要因もあります。企業によっては、エッジネットワークへの移行コストが、従来の IT インフラストラクチャの構築と維持にかかるコストと同程度であると感じる場合があります。

2. データ損失

エッジコンピューティングの利点には危険も伴います。データの損失を最小限に抑えるには、システムを導入する前に十分に計画し、プログラムする必要があります。多くのエッジコンピューティングデバイスは、収集したデータを無駄に破棄することになっています。ただし、削除されたデータが重要な場合、データは失われ、クラウドでの分析は不正確になります。