エッジコンピューティングはどのようにしてモノのインターネットを実現するのでしょうか?

刃先が鋭くなってきました。人工知能 (AI) に関する議論を追っていくと、その開発を推進するテーマがいくつかあることに気付くでしょう。生成 AI は、大規模言語モデル (LLM) を使用して人間のような推論知能を導き出す能力があることで注目されていますが、モノのインターネット (IoT) のスマート デバイスへの AI の応用は、現在、導入の機が熟していると考えられています。

エッジとIoT

これは IoT 内のコンピューティングなので、「エッジ」コンピューティングと呼ばれます。 IoT とエッジという用語はしばしば同じ意味で使用されますが、IoT はデバイスが存在する場所であり、エッジ コンピューティングはデバイス上で行われる処理であることを明確にすることが重要です。さらに定義すると、IoT デバイスは通常、動作するためにインターネットに接続する必要がありますが、エッジ デバイスはライフサイクルの大部分で切断され、クラウド データ センターでの処理のために時折インターネットに接続されるだけです。

エッジ アプリケーション用のハードウェアを作成するには、特定のコンピューティング パフォーマンス、電力消費、経済状況を考慮した白紙の設計が必要です。こうした中核的な動向を念頭に置き、IT 業界はエッジ コンピューティングの改善に懸命に取り組んでいます。

モノのインターネットの規模

2030 年までに、スマートフォンからカメラ、スマートホームデバイスに至るまで、1,250 億を超える IoT デバイスがインターネットに接続されると予想されています。これらの各デバイスは分析用に大量のデータを生成し、その 80% はビデオと画像の形式になります。これまでのところ、IoT には大量のデータが存在することが知られていますが、クラウドに接続されていても、そのデータのごく一部しか分析されていません。

プライバシー、セキュリティ、帯域幅に関する懸念が高まるにつれ、データは IoT のエッジなど、ソースに近い場所で処理されるようになっています。では、AIはどのような役割を果たすのでしょうか?現在、AI テクノロジーは主にクラウド コンピューティング操作向けに設計されており、エッジ デバイスのようなコスト、電力消費、スケーラビリティの制限はありません。 AIエッジスペシャリストのAxelera AIはそれが役立つと考えています。同社のMetis AIプラットフォームは、高度なエッジAIネイティブのハードウェアおよびソフトウェアソリューションの開発に向けて今月早期アクセスを開始しました。

「Metis AI プラットフォームは、次世代のコンピューター ビジョン アプリケーションを開発する企業のニーズを満たす実用的なエッジ AI 推論ソリューションを提供します」と、Axelera AI の共同創設者兼 CEO である Fabrizio Del Maffeo 氏は述べています。 「AIネイティブの統合ハードウェアおよびソフトウェアソリューションは、実際の導入を簡素化し、ユーザーフレンドリーな開発および統合パスを提供します。PCIeカードやVision-Ready Systemsなどの業界標準のフォームファクターにより、ビジネスアプリケーションへのAIの統合が簡素化され、今日の市場ニーズに対応できます。」

データストリーミングテクノロジーとは何ですか?

このプラットフォームの中心となるのは、独自のデジタルインメモリコンピューティング（D-IMC）テクノロジーと「データフロー」テクノロジーを備えたRISC-VをベースにしたMetis人工知能処理ユニット（AIPU）です。 Maxeler Technologies は次のように述べています。「データフロー コンピューターは、アプリケーション内のデータの移動を最適化し、数千の小さな「データフロー コア」間の大規模な並列処理を活用することに重点を置いており、パフォーマンス、スペース、電力消費において桁違いの利点を提供します。」

Del Maffeo 氏とチームは、AIPU は既存のソリューションの数分の 1 のコストで、業界をリードするパフォーマンス、可用性、効率性を実現すると主張しています。このテクノロジーは、拡大する導入に合わせて拡張可能であり、同社の組み込みセキュリティ エンジンは暗号化によってデータと情報を保護し、機密性の高い生体認証データの安全性を確保します。

この技術は、AI アクセラレータ カード、AI アクセラレータ ボード、AI アクセラレーション ビジョン対応システムに統合されており、一般に公開されています。これにより、中小企業は導入を加速し、現場でのインストールを簡素化できます。 Metis AIPU を使用して開発された Voyager と呼ばれるクリックして実行するソフトウェア開発キット (SDK) は、人工知能をデバイスに統合するように設計された、コンピューター ビジョン アプリケーションと自然言語処理 (NLP) 用の使いやすくユーザー フレンドリなニューラル ネットワークを提供します。

「Voyager SDK は、開発者に Axelera AI の Metis AI プラットフォーム向けの強力で高性能なアプリケーションを迅速かつ簡単に構築する方法を提供します」と Del Maffeo 氏は説明します。 「開発者は、1 つ以上のディープラーニング モデルと複数の非ニューラルの前処理および後処理要素を含めることができるエンドツーエンドのパイプラインを、シンプルな YAML 構成ファイルで宣言的に記述します。SDK ツールチェーンは、Metis AI プラットフォーム パイプラインでモデルを自動的にコンパイルしてデプロイし、CPU、組み込み GPU、メディア アクセラレータなど、ホスト上の利用可能なコンピューティング要素に前処理および後処理コンポーネントを配布します。」

消費者として、私たちはコンピューティング能力がこのように急速に向上していることに最初は気づかないかもしれません。なぜなら、平均的なユーザーは、これらの操作が、標準的なバックプロパゲーション技術を使用して AI モデルを正確にトレーニングするために 32 ビット浮動小数点データを使用する機械学習ネットワークを伴うかどうかを考えることはないからです。

ここで理解しておくべき重要なことは、AI モデルは通常、強力で高価、大量の電力を消費するグラフィック プロセッシング ユニット (GPU) を使用してクラウド データ センターでトレーニングされ、過去にはこれらのモデルが同じハードウェア上で直接推論に使用されることが多かったということです。 Axelera AI の提案は、高い推論精度を実現するためにそのようなハードウェアはもはや必要なく、今日の課題はネットワークのエッジで実行される低コストで電力が制限されたデバイスにこれらのモデルを効果的に展開する方法であるということです。

エッジは今後もさらにスマートに、よりシャープに、そしてより大きくなっていくでしょう。私たちは、この新しいタイプのデバイス インテリジェンスを活用して最大限の効率で作業できるようにする必要があります。