エッジコンピューティングと人工知能について知っておくべき7つのこと

エッジコンピューティングと AI はどのように連携するのでしょうか?エッジコンピューティングが AI に適しているのはなぜですか?ユースケースは何ですか? IT リーダーは知っておく必要があります。

[[326039]]

人工知能 (AI) は、プロセッサを必要とする認知タスクを実行するのに十分な計算能力を備えているため、何十年もの間データ センターで活用されてきました。時間の経過とともに、AI はソフトウェアに移行し、予測アルゴリズムによってこれらのシステムがビジネスをサポートする方法の性質が変化し、現在では AI はネットワークのエッジに移行しています。

「エッジ AI は、AI テクノロジーが IoT のエンドポイント、ゲートウェイ、その他のデバイスに組み込まれたときに実現します」と SAS の IoT 担当副社長 Jason Mann 氏は説明します。

「言い換えれば、エッジコンピューティングはデータとコンピューティングを相互作用のポイントに近づけるのです」と、レッドハットの最高技術戦略責任者であるEG氏は語った。エッジ AI は、スマートフォンやスマート スピーカーから自動車センサーやセキュリティ カメラに至るまで、さまざまなデバイスを動かす非常に現実的な (そして急速に拡大している) 現象です。

「AIはエッジコンピューティングで最も一般的なワークロードです」と、エッジ戦略に重点を置くIDCのワールドワイドインフラストラクチャプラクティスのリサーチディレクター、デイブ・マッカーシー氏は語った。 「IoT の実装が成熟するにつれて、生成時点でのリアルタイムのイベント検出に AI を適用することへの関心が高まっています。」

調査会社デロイトは、エッジ AI チップ (デバイス上で機械学習を実行または加速するために特別に設計されたもの) が今年世界中で 7 億 5,000 万個以上販売され、今後 4 年間でエンタープライズ市場が消費者市場よりも速いペースで成長し、年平均成長率は 50% になると予測しています。

コンサルティング会社Analysys Masonの調査レポートによると、今後3年間で企業はIT予算の平均30%をエッジコンピューティングに費やすことになるという。

IT リーダーがエッジ AI を自社のエンタープライズ テクノロジー ロードマップのどこに位置づけるかを検討する際、企業は IT 予算の平均 30% をエッジ コンピューティングに割り当てています。

1. 最初から始めることが重要

企業がまだエッジ ソリューションを実装していない場合、エッジ AI を直接適用することはできません。 「今日のほとんどの IT リーダーにとって、最初のステップは、エッジ コンピューティングとクラウド コンピューティング バックエンドを活用するソリューション アーキテクチャを構築することです」と、CompTIA のテクノロジー分析シニア ディレクター、セス ロビンソン氏は述べています。 「AI の統合は、エッジ ソリューションの規模を管理し、競争上の優位性を確立する上で重要なステップになります。」

2. エッジAIはクラウドベースのAIの限界に対処できる

レイテンシー、セキュリティ、コスト、帯域幅、プライバシーは、機械学習やディープラーニングのタスクに関連する問題の一部であり、エッジ AI (データ ソースに近い) によって軽減できます。たとえば、人々が Siri や Alexa、Google に質問するたびに、その音声の録音がエッジ ネットワークに送信され、そこで Google、Apple、Amazon などの企業が AI を使用して音声をテキストに変換し、コマンド プロセッサが回答を生成できるようになります。

エッジ コンピューティングがなければ、応答を待つ時間は当たり前になります。 「エッジ ネットワークにより、Doherty しきい値 (400 ミリ秒未満) 内で快適なユーザー エクスペリエンスを実現できます」と、PubNub の CTO 兼共同創設者である Stephen Blum 氏は述べています。 「Google、Apple、Amazonは、AIテクノロジーが質問に迅速に回答できるように、エッジコンピューティングに多額の投資を行っています。業界の大手企業と競争するために、他の企業はエッジAIの開発に投資する必要があります。」

3. 現在、AIワークフローの一部のみがエッジで実行されている

「今日のAIエッジ処理は、AIワークフローの推論部分をデバイスに移行することに重点を置いています」とOmdiaのアナリストは「エッジでのAI」と題したレポートで説明しています。

IDCのマッカーシー氏は、AIモデル自体は通常、履歴データセットを使用して中央データセンターまたはクラウドコンピューティングインフラストラクチャでトレーニングされると説明した。これらの AI モデルをエッジに展開して、現在のデータに対して推論を実行できます。

「基本的に、ある環境で訓練し、別の環境で実行することができます」とSASのマン氏は語った。 「機械学習のトレーニングに必要な大量のデータと計算能力はクラウドに適していますが、推論、つまり新しいデータでトレーニングされたモデルを実行することは、エッジでの実行に適しています。」

Omdia 氏は、推論、つまり新しいデータでトレーニングされたモデルを実行することは、エッジでの実行に適していると指摘しました。大規模な AI モデルを小さなハードウェア フォーム ファクターに圧縮できるモデル圧縮技術により、時間の経過とともに一部のトレーニングが限界に達する可能性があります。

4. エッジでのリアルタイム学習には時間がかかる

「リアルタイム学習により、AIはインタラクションごとに進化し、改善することができます」とPubNubのBlum氏は述べています。 「AIがリアルタイムで学習するには、マトリックス（AIの頭脳）がトレーニング中にユーザーのリクエストに応答できなければなりません。この課題により、ほとんどのネットワークではリアルタイム学習が不可能になります。」

しかし、これらの課題が克服されれば、より高度なエッジ AI アプリケーションへの扉が開かれます。

5. エッジAIには大量のデータが必要

「統計的に適切なモデルを構築するのに十分なデータがある場合のみ、プロセス全体が機能する」とIDCのマッカーシー氏は述べた。 「多くの企業は、過去のデータや期待される結果を得るためのデータのいずれの面でも、下限を満たしていません。」

6. データベースを整理することから始める

「ほとんどの組織は包括的なデータ管理手法を確立しておらず、こうした種類のデータセットを持っていません」とCompTIAのロビンソン氏は語った。 「また、現代の AI は以前のソフトウェア プログラムよりも確率に基づいています。間違った答えや意味のない答えを出すリスクが高く、トレーニング データが不完全であったり偏りがあったりすると、そのリスクはさらに高まります。企業は AI コンポーネントをすぐにインストールしてメリットを得るのではなく、まずはデータを徹底的に調べることから始めるべきです。」

同時に、マッカーシー氏は、業界の専門家は、データに基づく学習をビジネスロジックに置き換え、企業が AI を最大限に活用するのに十分な良質なデータを蓄積するまで、複数のデータストリームにリアルタイムで使用できると述べました。

7. クラウドからエッジまでのアーキテクチャは柔軟で将来を見据えたものでなければならない

「アーキテクチャを定義するときは、エンタープライズ規模で設計するようにする必要があります」と SAS のマン氏は言います。 「クラウドからエッジまでのアーキテクチャは、モデルの展開、時間の経過に伴うモデルの進化、安全な環境でのデータ転送をサポートする必要があります。」

マン氏は、長期にわたって持続的な価値を実現するための柔軟性を高めるために、チップセット、オペレーティング システム、クラウド プロバイダーに依存しないアーキテクチャを実装することを推奨しています。

「すべての問題がエッジ AI に適しているわけではありませんが、高度なユースケースが進化するにつれて、すべての IT インフラストラクチャとアーキテクチャはエッジ分析に対応できるように設計される必要があります」とマン氏は述べています。 「リアルタイムまたはバッチ処理で、必要な場所に分析を展開できる環境を用意することが重要です。」