1秒間に107万枚の画像を処理！ Alibaba Cloud が MLPerf 画像分類パフォーマンス記録を更新

アリババはシングルチップAIパフォーマンス記録を破り、再び世界トップのAI評価を獲得した。

北京時間4月22日、国際的に権威のあるAIベンチマークMLPerf™は、2021年の最新の推論テストリストを発表しました。画像分類パフォーマンステストでは、アリババクラウドのAuroraヘテロジニアスコンピューティングアクセラレーションプラットフォームが、一般的なGPUオープンルールとオフラインシナリオの下で1秒あたり107万8000枚の画像を処理し、これまでGoogleが保持していた世界記録を更新しました。これにより、画像認識や自動運転などのシナリオにおけるコンピューティング効率がさらに向上するとともに、汎用GPUコンピューティングプラットフォームで100万回を超えるパフォーマンステスト記録を達成したのも初めてとなります。

MLPerf は、機械学習ソフトウェアとハ​​ードウェアのパフォーマンスを測定する業界初のユニバーサル ベンチマークです。これは、チューリング賞受賞者のデイビッド・パターソン氏、テクノロジー企業、世界中のトップ大学によって2018年に開始されました。これは、AI パフォーマンスを評価するための業界で最も主流の標準の 1 つになりました。 MLPerf ベンチマーク アライアンスには現在、Google、Alibaba、Microsoft、Facebook、スタンフォード大学、ハーバード大学、トロント大学などの名門大学を含む 50 社を超えるメンバーが参加しています。

Aurora は、Alibaba Cloud が開発した異種コンピューティング アクセラレーション プラットフォームです。 GPUやASICなどのさまざまな異種AIチップと互換性があり、コンパイルされたコードを最適化し、異種チップの計算能力を深く探求して解放し、TensorFlow、Caffe、PAIなどの複数のディープラーニングフレームワークをサポートし、AIフレームワークとアルゴリズムのシームレスな移行と適応を実現できます。クラウドから端末まで、複数のシナリオでの迅速な展開をサポートし、AIアプリケーション開発の効率を大幅に向上します。 MLPerf の画像分類テストの最新バージョンでは、Aurora プラットフォームが画像分類ニューラル ネットワーク アーキテクチャを自動的に最適化し、ベンチマーク精度目標を確保しながら、標準 ResNet50 v1.5 の計算効率を大幅に上回ります。

Alibaba Cloud の異種コンピューティングの主任科学者であり、Aurora アクセラレーション プラットフォームの責任者である張衛鋒博士は、Aurora では基盤となるソフトウェア フレームワークに対して多くのコンパイル最適化が行われており、同じハードウェア構成でより高いパフォーマンスを実現できることを明らかにしました。 MLPerf 推論パフォーマンスのシングルカードテスト結果によると、Aurora アクセラレーション プラットフォームの自動最適化テクノロジを使用することで、NVIDIA の AI 専用 GPU A100 の推論パフォーマンスは同レベルのハードウェアよりも 80% 向上しました。他の AI アクセラレーション チップと比較して、パフォーマンスを 300% 以上向上させることができます。

これまで、メーカー各社はハードウェアを積み重ねることでパフォーマンステストのスコアを更新することに熱心でしたが、実際の運用に近いオープンシナリオでのパフォーマンスは不均一でした。 「高度に統合された特殊なAIチップには、シナリオに多くの制約があります。私たちは、AIアプリケーションの価値を最大限に引き出すために、より汎用的なソフトウェアプラットフォームを開発したいと考えています」と張衛鋒博士は述べています。 Aurora ヘテロジニアス コンピューティング アクセラレーション プラットフォームは、データ センターだけでなく、エッジやスマート ターミナルにも導入でき、自動運転、トラフィック ブレーン、ナンバー プレート認識、AI 音声アシスタントなどのビジネスやシナリオをサポートします。

自動運転を例にとると、車載コンピューターはカメラやレーダーの情報をリアルタイムに連携させ、運転環境を正確に認識し、それに応じて対応することができます。 「現在、高度な自動運転ソリューションには、10 台以上の視覚デバイスとレーダー デバイスが必要です。外部センサー データ処理がますます増加し、車両システムの計算能力に課題が生じています。Aurora プラットフォームのソフトウェアとハ​​ードウェアの共同自動最適化テクノロジを採用した後、オンボード コンピューターの処理速度は少なくとも 2 倍になり、運転環境をより速く認識できるようになり、自動運転の安全性が大幅に向上します。」張偉鋒博士はこう語った。

[[395079]]

現在、Aurora の異種コンピューティング アクセラレーション プラットフォームは、交差点検出や画像検索などのシナリオで広く使用されています。 Aurora 加速プラットフォームを採用した新世代の路側インテリジェント制御端末は、交通パラメータの検出精度を 99% まで高めることができ、交差点の交通効率を 20% 以上最適化するのに役立ちます。さらに、このプラットフォームは、柔軟な構成と弾力的なスケーリングを特徴とする Alibaba Cloud Elastic Compute Acceleration Instance EAIS を通じて外部サービスを提供しており、ユーザーにコスト効率の高いディープラーニング ソリューションを提供しています。