エッジコンピューティングとエッジ AI とは何ですか?この2つの違いは何でしょうか?

AIチップはクラウドとエッジに分かれています。クラウド チップには高いパフォーマンスが求められますが、エッジ チップにはアプリケーション シナリオの数が多いため、環境とエネルギー消費に対する要件がさらに厳しくなります。実際、エッジ AI チップはもはやニッチな分野ではありません。 Google、Nvidia、Intel、Qualcomm、Huawei、Cambrian、Horizo​​n はいずれも、過去 2 年間にエッジ AI チップを発売しました。 AIチップをめぐる戦争はクラウドからエッジへと広がっています。

世界的なテクノロジー市場コンサルティング会社 ABI Research のデータによると、2025 年までにエッジ AI チップセット市場の収益は 122 億米ドルに達し、クラウド AI チップセット市場の収益は 119 億米ドルに達すると予想されています。エッジ AI チップセット市場はクラウド AI チップセット市場を上回ります。主任アナリストのリアン・ジェイ・スー氏は次のように述べています。「業界が発展するにつれ、企業はデータプライバシー、電力効率、低レイテンシー、強力なオンデバイスコンピューティングパフォーマンスに関連する問題に対処する必要性が高まり、エッジAIがその解決策となるでしょう。」今後 5 年間で、AI のトレーニングと推論はゲートウェイやさまざまなエッジ デバイス、さらにはセンサー ノードで実行されるようになると予想されています。では、エッジ AI とは一体何であり、どのようにして業界の問題点を解決できるのでしょうか?

1. エッジコンピューティングとエッジAI

近年、IoT デバイスの接続数は直線的な増加傾向を示しています。ガートナーは、2020年までに世界中のIoTデバイスの数が200億を超えると予測しています。同時に、デバイス自体もますますインテリジェント化しています。人工知能とモノのインターネットの実用化と統合により、人類社会は「あらゆるモノのインテリジェントな相互接続」の時代へと突入し、生成されるデータも爆発的に増加するでしょう。

過去 10 年間で、クラウド コンピューティングは、増大するデータ量によってもたらされるストレージと管理の問題をうまく軽減してきました。しかし、現在のネットワーク帯域幅の成長率は、データの成長率に比べてはるかに遅れています。ネットワーク帯域幅コストの低下率は、CPU やメモリなどのハードウェア リソース コストの低下率よりもはるかに緩やかです。同時に、複雑なネットワーク環境により、ネットワーク遅延の画期的な改善を実現することは困難です。したがって、従来のクラウド コンピューティングでは、応答時間とセキュリティに対する高い要件を満たすことができません。無人車を例にとると、高速で走行する車は数ミリ秒以内に反応する必要があります。データ転送やネットワークなどの問題によりシステム応答時間が長くなると、深刻な結果が発生します。

さらに、クラウド コンピューティングでは帯域幅不足の問題も発生しています。エッジデバイスによって生成される大量のデータがすべてクラウド コンピューティング センターに送信されると、ネットワーク帯域幅に大きな負担がかかります。たとえば、ボーイング 787 航空機は 1 秒あたり 5 GB を超えるデータを生成しますが、航空機と衛星間の帯域幅はデータのリアルタイム伝送をサポートするのに十分ではありません。つまり、クラウド コンピューティングなどの集中型のコンピューティングと処理方法だけに頼るだけでは、IoT 認識に基づくアプリケーションの運用や大量のデータ処理をサポートするには不十分です。このアプリケーションのコンテキストで、エッジ コンピューティングが誕生しました。クラウドコンピューティングの既存の集中処理モデルと組み合わせることで、クラウドセンターとネットワークエッジでのビッグデータ処理の問題を効果的に解決できます。

エッジ コンピューティングは、クラウド コンピューティングの補完および最適化です。クラウドコンピューティングが「クラウド」内で行われる集中型のビッグデータ処理であるならば、エッジコンピューティングは端末に近いエッジ側（携帯電話、スマート音声対話デバイスなど）でのビッグデータ処理として理解できます。多くの場合、エッジ コンピューティングとクラウド コンピューティングは共生関係にあります。鮮明な説明があります。クラウド コンピューティングとエッジ コンピューティングをタコの臓器に例えると、理解しやすくなります。自然界で最も知能の高い無脊椎動物であるタコは、「概念的思考」という能力を持っています。これは 2 つの強力な記憶システムと切り離すことはできません。 1つは5億個のニューロンを持つ脳の記憶システムであり、もう1つは8つの爪の吸盤です。つまり、タコの 8 本の足は考え、問題を解決することができます。クラウド コンピューティングはタコの脳のようなもので、エッジ コンピューティングはタコの小さな爪のようなものです。各クローは、特定のオブジェクトの近くにある小さなコンピューター ルームです。エッジ コンピューティングはデバイスとユーザーにより近くなります。

具体的には、エッジ コンピューティングにはいくつかの明らかな利点があります。

帯域幅: エッジ デバイスは生成された一時データの一部を処理するため、すべてのデータをクラウドにアップロードする必要がなくなります。価値のあるデータのみを転送すればよく、ネットワーク帯域幅への負荷とコンピューティングおよびストレージ リソースの需要が大幅に軽減されます。

レイテンシ: データ ソースに近いデータ処理により、システムのレイテンシが大幅に短縮され、サービスの応答時間が向上します。

経済的: アプリケーションにクラウドを使用することで帯域幅とレイテンシの問題を技術的に解決できる場合でも、エッジで計算を実行する方がコスト効率が高い場合があります。

信頼性: アプリケーションがクラウドを使用する場合、帯域幅と遅延の問題は技術的に解決できますが、クラウドへのネットワーク接続は常に信頼できるとは限らず、アプリケーションを常時動作させる必要がある場合があります。この場合、エッジ コンピューティングが役立ちます。たとえば、顔認識ドアロックの場合、ネットワーク接続が切断された場合でも、ドアロックが正常に動作するようにする必要があります。

プライバシー: クラウドを使用するアプリケーションでは、帯域幅、待ち時間、信頼性、経済的な問題が技術的に解決できる場合でも、プライバシー上の理由からローカル処理を必要とするアプリケーションが依然として多く存在する可能性があります。エッジ コンピューティングは、重要なプライバシー データの保存と使用のためのインフラストラクチャを提供し、データ セキュリティを向上させます。

エッジ コンピューティングは 2016 年から人気が高まっており、その優れた利点と将来の Internet of Everything のニーズを満たす能力により、世界的な注目を集めています。もちろん、エッジ コンピューティングは常に反復され、更新される概念です。さまざまなテクノロジーを統合することで、エッジ コンピューティングの中核は革新を続けることができます。例えば、人工知能やニューラルネットワークの応用により、「エッジAI」の実現も可能になっています。クラウド サーバーの広範なデータ コンピューティング能力のおかげで、人工知能と機械学習の分野で大きな進歩が遂げられ、困難なタスクを解決するためのより包括的な人工ニューラル ネットワークが開発されました。機械学習やニューラルネットワークトレーニングなどのネットワークアーキテクチャとツールが継続的に適応され、組み込みシステムとの互換性が確保されるにつれて、ますます多くの AI アプリケーションをエッジデバイス上で直接実行できるようになり、「エッジ AI」が話題になっています。

エッジ AI とは、ハードウェア デバイス上でローカルに処理され、ネットワーク接続なしでデータを処理できる AI アルゴリズムを指します。つまり、ストリーミングやクラウドへのデータ保存を必要とせずに、データ作成などの操作を実行できるということです。これらの目標を達成するために、エッジ コンピューティングは、データの発信元であるデバイス自体 (エッジ) でモデル推論と予測を実行しながら、クラウドでディープラーニングを通じてデータを生成できます。

現時点では、エッジ人工知能の標準アーキテクチャや統一アルゴリズムは国際的にはまだ確立されていないが、大手メーカーは関連分野の模索を始めている。 Google、Amazon、Microsoft などの従来のクラウド サービス プロバイダーは、エッジ AI サービス プラットフォームを立ち上げ、機械学習推論用の事前トレーニング済みモデルを端末デバイス上でローカルに実行することで、インテリジェント サービスをエッジにプッシュしています。さらに、冒頭で触れたHorizo​​n Rising Sun 3や、Google edge TPU、Intel Nervana NNP、Huawei Ascend 910やAscend 310など、さまざまなエッジAIチップが市場に登場しています。

2. エッジコンピューティングと5G

エッジコンピューティングと5Gは相互に補完し合う関係にあると言えます。

国際標準化機構3GPPは、5Gの3つの主要シナリオを定義しています。このうち、eMBBは3D/超高精細動画などの高トラフィックモバイルブロードバンドサービス、mMTCは大規模IoTサービス、URLLCは無人運転や産業オートメーションなど低遅延・高信頼性接続が求められるサービスを指します。 5G通信ネットワークはより分散化されており、URLLCおよびmMTCの超低遅延要件を満たすために、端末要求のローカル処理を実行するために、小規模またはポータブルなデータセンターをネットワークのエッジに展開する必要があります。したがって、エッジコンピューティングは 5G のコアテクノロジーの 1 つです。

エッジ コンピューティングは、5G の 3 つの主要なシナリオが直面する問題を解決できます。まず、エッジ コンピューティング デバイスは、新規および既存のエッジ デバイスに接続性と保護を提供します。第二に、5G はクラウドベースのアプリケーションに対してより優れた接続性とより低いレイテンシを提供しますが、データの処理と保存には依然としてコストがかかります。ハイブリッド エッジ コンピューティング/5G ソリューションはこれらのコストを削減します。最後に、エッジ コンピューティングにより、より多くのアプリケーションをエッジで実行できるようになり、データ転送速度と帯域幅の制限によって発生する遅延が削減され、ローカル データの予備分析が実行され、作業の一部がクラウドにオフロードされます。

一方、5Gとエッジコンピューティングは、ある程度は相互に補完し合います。一方では、5G自体の発展により、エッジコンピューティングの発展が直接促進されます。一方、5Gはモノのインターネットを促進するため、間接的にエッジコンピューティングの発展も促進することになります。

3. エッジAIのユースケース

エッジ AI は、トラフィック量が少なく、レイテンシが低く、プライバシーが強いなどの特性があるため、あらゆる分野で幅広い応用が期待されています。

スマートフォン

これはおそらく私たちが最もよく知っているエッジ AI デバイスです。 Siri と Google アシスタントは、音声 UI を駆動するテクノロジーであるため、スマートフォンにおけるエッジ AI の最適な例です。携帯電話の AI により、データ処理がデバイス (エッジ) 側で実行できるようになるため、デバイス データをクラウドに配信する必要がなくなります。これにより、プライバシーが保護され、トラフィックが削減されます。

スマートホーム

モノのインターネットの普及に伴い、スマート照明制御、スマートテレビ、スマートエアコンなど、ますます多くのスマートアプリケーションが家庭生活に導入されるようになります。これらのアプリケーションでは、家庭内に多数のセンサーとコントローラーを配置する必要があります。家庭データのプライバシーを保護するには、データ処理をエッジ コンピューティングに依存し、ほとんどのコンピューティング リソースを家庭の内部ゲートウェイに限定し、機密データの漏洩を防止する必要があります。エッジ AI を使用して屋内測位と住宅侵入検知を最適化し、クラウド コンピューティングよりも高い精度と低いレイテンシを実現します。例えば、Amazon EchoやGoogle Homeなどのスマートスピーカーが広く使われています。ユーザーのコマンドを受信し、サードパーティ（サービスまたは家電製品）と対話することで応答します。しかし、スマートスピーカーは音声認識、言語の意味理解、処理をクラウドに依存しているため、家庭内のデータプライバシーが漏洩する可能性があります。エッジ人工知能の応用により、これらの問題を効果的に解決できます。ホームエンターテインメントもエッジ AI の恩恵を受けるでしょう。ユーザー設定をクラウドにアップロードする必要はありません。システムはパーソナライズされたサービスを自ら推奨し、ユーザーに優れたエンターテイメント体験を提供します。

ドローン

ドローンは、危険でアクセスできない地域を探索するために飛行し、ユニークな方法で鳥瞰図を撮影することができます。ドローンの用途は、農業や鉱業などへの応用を含めて拡大しています。ただし、これらのデバイスは、収集したデータに応答するために「自宅に電話」できる必要があります。エッジ コンピューティングにより、ドローンはデータを検査し、リアルタイムでそれに応答できるようになります。例えば、百度スマートクラウドとMaifei Technologyは、ドローンにBIE-AI-Board（検出モデルと操作モデルを内蔵）を導入し、ハイパースペクトルカメラと可視光カメラを使用して作物情報データを収集し、それをBIE-AI-Boardにアップロードしています。次に、BIE-AI-Board は検出モデルをロードして作物の害虫や病気の位置とレベルを判断し、検出結果に基づいて操作モデルを呼び出して植物保護機械を制御し、植物保護操作を実行します。この解決策は現在、中国の多くの農地で導入されています。

スマート農業

農業も同様にエッジ AI の恩恵を受けるでしょう。ドローンの応用に加え、エッジコンピューティングをベースとした農業IoTを活用して精密農業を実現するアプリケーションもあります。たとえば、オーストラリアに拠点を置く農業テクノロジー企業 The Yield は、センサー、データ、AI を使用して、農家が天候、土壌、植物の状態について十分な情報に基づいた決定を下せるように支援しています。

公安

顔認識システムは、顔を学習することで個人を認識できる監視カメラの開発方向です。株式会社WDSは、エッジAIにより顔の特徴をリアルタイムに解析するAIカメラモジュール「Eeye」を2019年11月に発売しました。エッジコンピューティングの使用、つまりカメラ端末のコンピューティングおよび処理能力の強化により、搭載されている顔認識機能がクラウドサーバーに依存せず、時間のかかる画像のアップロードを回避し、多くの帯域幅リソースを節約できるようになります。さらに、ローカルデバイス上で直接顔認識を完了することで、認識プロセスを 1.5 秒に短縮できます。

リアルタイムビデオ分析も、エッジ AI の最も重要なアプリケーション シナリオの 1 つです。これまで、ビデオ分析は一般的にクラウドで実行されていましたが、トラフィック消費量の増加や遅延の増加などの問題がありました。エッジコンピューティングの発展により、ビデオ分析作業の一部をエッジノードに転送できるようになります。最後に、ビデオ キャプチャ デバイスは、ビデオのキャプチャ、圧縮、および画像/ビデオの前処理を担当します。エッジ層では、複数の分散エッジノードが相互に連携します。クラウドでは、エッジ ノードの分散モデル トレーニングはローカル ナレッジが限られているため十分にトレーニングされない可能性があります。エッジがサービスを提供できない場合、クラウドはグローバル ナレッジを活用してさらに処理し、エッジ ノードがトレーニング モデルを更新できるように支援します。

Tractica のレポートによると、2025 年までに AI エッジ デバイスの出荷台数は、世界中で 2018 年の年間 1 億 6,140 万台から 26 億台に増加すると予測されています。ユニット数で見ると、AI エッジデバイスのトップには、携帯電話、スマートスピーカー、PC/タブレット、ヘッドマウントディスプレイ、自動車用センサー、ドローン、消費者向けおよび企業向けロボット、セキュリティカメラが含まれます。ウェアラブル健康センサーや建物や施設のセンサーにも AI がさらに導入されるでしょう。

車両のインターネット

車両のインターネットは、車両を接続することで安全性と効率性を向上させ、交通事故を減らし、渋滞を回避します。初期の頃は、セルラー ネットワーク、エッジ コンピューティング、AI はすべて、車両のインターネットを実現するための独立したテクノロジーとして使用されていました。エッジコンピューティングは、車両のインターネット向けに高速データ転送や低遅延などのサービスを提供し、自動運転を可能にします。 AIはスマート交通のさまざまな分野で広く利用されています。これら 2 つの組み合わせにより、車両のインターネットのパフォーマンスがさらに最適化され、エッジ人工知能による正確な車両位置決め、ターゲット追跡、インテリジェントな認識と意思決定が実現します。

健康管理

ヘルスケアはデータ時代に入りました。健康意識の普及により、医療機器や端末はますます多様化しており、エッジ人工知能はスマート医療の分野でさまざまな応用シナリオを持つことになります。 1つ目は病院前救急医療です。緊急患者が病院に到着したり、2 つの病院間で転送されたりする場合、現在の救急医療サービスは主にクラウドで展開されますが、モバイル環境や異常気象の影響を受けやすく、制限されます。エッジ AI は救急車と病院間の双方向のリアルタイム通信チャネルを確立し、リアルタイムの自然言語および画像処理を可能にして、適時性と効率性を向上させます。 2つ目はスマートウェアラブルデバイスです。現在のスマート ウェアラブル デバイスは計算能力によって制限されており、データ収集の役割のみを果たします。スマートウェアラブル分野におけるエッジ AI の研究が進行中です。たとえば、バレンシア政治大学の研究者であるハイメ・アンドレス・リンカーン氏は、ウェアラブルデバイスにエッジ AI を導入して人間の感情を監視しています。将来的には、より軽量なインテリジェントアルゴリズムが端末上で実行され、健康データをリアルタイムで監視、分析、予測し、人々が自分の身体の状態をよりよく理解するのに役立つようになります。

スマートシティ

都市が拡大し続けると、データが地理的に分散され、遅延の影響を受けやすいデバイスの監視とインテリジェントな制御を提供するエッジ AI モデルが必要になります。エッジコンピューティングを通じてスマートシティの大規模インフラのコンピューティングとサービスをサポートすることで、端末デバイスの低遅延アプリケーションを実現し、高遅延要件のタスクをエッジノードに展開して実行できるようになります。 AIを通じて都市インフラを調整・配備し、公共安全、医療、都市管理、交通、スマートコミュニティなどの分野に適用することで、都市全体のリソースの最適活用を実現します。

たとえば、交通渋滞に関して、シンガポールはコネクテッド輸送ソリューションを通じて大きな輸送課題に対処してきました。インドの高度道路交通システム（ITS）は、交通量の急増に応じて高速道路の通行料金を増額できる電子道路課金システムの先駆的なシステムを形成しました。 ITS により、GPS 対応タクシーによるリアルタイムの交通情報の提供や公共交通機関の構造の統合も可能になり、バスの運行時間も正確になります。都市の衛生状態は、インターネットに接続されたゴミ箱や、廃棄物の収集と処分のための IoT 対応の車両管理システムの使用、またはゴミがコンテナの上部に達したことを自動的に感知し、ゴミを収集するよう市の衛生部門にすぐに通知するセンサー技術をスマート廃棄物コンテナに適用するなどのスマート テクノロジーを通じて改善することもできます。

製造業

産業製造分野では、AI とエッジ アプリケーションがスマート ファクトリーの開発においてますます重要な役割を果たすことが期待されています。インダストリー 4.0 モデルを推進力とする次世代のスマート ファクトリーでは、高度なロボット工学、機械学習テクノロジーをソフトウェア サービスや産業用 IoT に適用して、生産能力を高め、生産効率を最大化します。エッジ コンピューティングと AI は、ローカル センサーを使用して出力を制御および管理するため、効率が大幅に向上し、エラーが削減されます。エッジ システムは、数ミリ秒以内に入力に応答し、調整を行って問題を修正するか、生産ラインをシャットダウンして深刻な問題を防ぐことができます。

4. エッジAIの課題

過去 2 年間で、エッジ インテリジェンス業界のエコシステムは徐々に構築されてきましたが、良好な状況の裏では、エッジ インテリジェンスは依然としてさまざまな課題に直面しています。

まず、クラウド コンピューティング サービスの沈没により、一部のトラフィックがローカル エッジ インテリジェンス プラットフォームを直接通過するようになりました。従来のコアネットワークでは、コンピューティング、制御、セキュリティなどがすべてコアネットワーク内で完了します。エッジ インテリジェンス プラットフォームのトラフィックを課金および制御する方法については、調査が必要です。同時に、エッジインテリジェンスには、ワイヤレスアクセスクラウド、エッジクラウド、コンバージドクラウドへの展開など、実際のネットワークアーキテクチャにおけるさまざまな展開計画があり、異なるアーキテクチャが直面する問題も若干異なります。

第二に、エッジ インテリジェンスによって提供されるオブジェクトとシナリオは非常に多様です。エッジ インテリジェンス プラットフォームを多様なサードパーティ アプリケーションにどのように適応させるかも、現在直面している問題です。

3 番目に、ビジネスの断片化により、エッジ インテリジェンスは 1 つのシナリオまたは 2 つまたは 3 つのシナリオに展開される場合があります。展開機能全体の特性を明確に定義する必要があるだけでなく、俊敏かつインテリジェントな運用と保守を実行する方法も考慮する必要があります。

4番目に、人工知能をより効果的に導入し、エッジコンピューティングの全体的な利点を最大限に発揮させる方法を検討する必要があります。

5 番目に、エッジ インテリジェンス プラットフォーム内の OpenStack ベースのプラットフォーム管理サブシステムをさらに軽量化する方法を調整し、管理オーバーヘッドを削減するために、エッジ インテリジェンス プラットフォームにいくつかのマイクロサービス アーキテクチャを迅速に導入することを検討します。さらに、エッジインテリジェンスのビジネス運用モデル、展開場所、自己修復、自動スケーリングなどの問題も、さらに明確にし、解決する必要があります。

エッジ インテリジェンスはまだ開発の初期段階にありますが、コンピューティングの次の波として、通信業界、インターネット業界、および産業分野では、エッジ インテリジェンスが果たす重要な役割に大きな期待が寄せられています。エッジ インテリジェンスは、5G の 3 つの典型的なアプリケーション シナリオを実現するコンピューティング パラダイムとして、IT サービス環境とクラウド コンピューティング機能をモバイル ネットワークのエッジまで拡張します。クラウドインテリジェンスと連携し、さまざまな業界のデジタル変革を推進していきます。 5Gの普及により、近い将来、グローバルエッジAIサービスのコストが下がり、需要が増加すると考えています。