アリババクラウドがAIトレーニング効率を11倍向上できるFeiTianインテリジェントコンピューティングプラットフォームを発表

8月30日、アリババクラウドはフルスタックインテリジェントコンピューティングソリューション「飛天インテリジェントコンピューティングプラットフォーム」の正式リリースを発表し、2つの超大規模インテリジェントコンピューティングセンターを立ち上げ、パブリッククラウドとプライベートクラウドの両方のモードで、さまざまな科学研究、公共サービス、企業機関に強力なインテリジェントコンピューティングサービスを提供しました。コンピューティングリソースの利用率は3倍以上、AIトレーニング効率は11倍、推論効率は6倍向上します。

FeiTian インテリジェント コンピューティング プラットフォームは Alibaba 内で広く使用されており、DAMO アカデミーにおける最先端の AI および e コマース インテリジェント テクノロジーの開発をサポートしています。また、小鵬汽車、Deepin Technology、上海汽車、中国気象局、中国南方電力網などの機関や企業にもサービスを提供しており、自動運転、新薬研究開発、天気予報、産業エネルギーなどの産業をサポートし、AIトレーニングの効率を大幅に向上させています。

このプラットフォームは、Alibaba Cloud Panjiu インフラストラクチャをベースとした、統合コンピューティング パワーとビッグ データ AI 統合プラットフォームの総合ソリューションを提供するものと理解されています。 X86、GPU、ARMなどさまざまなチップタイプを搭載したサーバー上で実行でき、「1つのクラウド、複数のコア」を実現し、最大10倍のIO最適化と5倍の通信パフォーマンス最適化により、90％のキロカロリー並列コンピューティング効率を達成します。

グリーンテクノロジーの面では、FeiTian Intelligent Computing は、技術的排出削減、エネルギー構造の最適化、地域レイアウトの最適化、サプライチェーンの炭素削減、リソース利用の最適化という 5 つの側面で、コンピューティング能力単位あたりの炭素排出量を削減します。技術的な排出削減の面では、液体冷却、電源技術、インテリジェントな運用とメンテナンスによってエネルギー消費が削減され、PUE は 1.09 まで低下します。

同時に、開発者はプラットフォーム上でデータの保存、データガバナンス、データ分析、モデル開発、モデルのトレーニング、推論を実行できます。また、事前トレーニング済みのモデルや、音声、画像、自然言語処理、意思決定などの分野でのモデル機能も提供しており、開発者が AI アプリケーションの開発をより迅速に進められるよう支援します。

現在、このプラットフォームは 2 つの超大規模インテリジェント コンピューティング センターの構築をサポートしています。そのうち、張北インテリジェントコンピューティングセンターの建設規模は12
EFLOPS（1秒あたり1.2兆回の浮動小数点演算）のAIコンピューティング能力は、Googleの9 EFLOPSやTeslaの1.8 EFLOPSを上回り、世界最大のインテリジェントコンピューティングセンターとなります。ウランチャブインテリジェントコンピューティングセンターは、3EFLOPS（1秒あたり300京回の浮動小数点演算）のAIコンピューティング能力の構築規模を誇り、「東のデータと西のコンピューティング」プロジェクトの内モンゴルハブに位置しています。

Alibaba Cloud Intelligenceのグローバルセールス担当社長であるCai Yinghua氏は、インテリジェントコンピューティングは大規模であるだけでなく、環境に優しく、効率的で、産業的な実践も必要であると述べた。コンピューティングは大規模で複雑なシステムです。体系的なコア技術力がなければ、ハードウェアを積み上げてもコンピューティングパワーは生まれず、実際の産業価値も生まれません。

インテリジェント コンピューティングは汎用コンピューティングとは異なることが理解されています。 AI モデルをトレーニングするには膨大な量のデータが必要であり、データの移行、同期、その他のリンクに計算能力が消費されます。 1,000 カロリーを超える計算パワーの最低の計算パワー出力は、多くの場合、わずか 40% 程度です。これにより、インテリジェントなコンピューティング能力にかかるコストが高まり、産業の発展が制限されるようになりました。 Alibaba Cloud は体系的な技術革新を通じて、インテリジェントコンピューティングにおける損失の問題を解決し、1,000 カロリーの並列コンピューティングの効率を 90% 以上に向上させました。

たとえば、通信技術の面では、Alibaba Cloud は独自の高性能 Solar-RDMA ネットワークを使用して、エンドツーエンドの最小遅延 2 マイクロ秒を実現しています。 Alibaba Cloud が独自に開発したノンブロッキング通信技術と組み合わせることで、コンピューティングプロセス中のデータ交換速度を最大 5 倍に向上させることができます。同時に、自然空冷や液体冷却などのグリーンテクノロジーの適用により、インテリジェントコンピューティングセンターのエネルギー消費が削減され、PUE は 1.09 まで低下します。

AI開発レイヤーでは、Alibaba Cloudは統合されたビッグデータ+AIプラットフォームを提供し、開発と運用プロセス全体をサポートします。特にモデルトレーニングフェーズでは、分散トレーニングフレームワークが提供され、分散戦略を自動的に組み合わせて最適化できるため、トレーニング効率が 11 倍以上向上します。さらに、Alibaba Cloud は、アルゴリズム モデルに対して量子化、プルーニング、スパース化、蒸留などの操作を実行するワンストップの汎用推論最適化ツールをユーザーに提供し、推論効率を 6 倍以上に高めることができます。

少し前、小鵬汽車は飛天智能計算を基盤としてウランチャブに「福耀」智能計算センターを建設した。 600PFLOPSの計算能力を備えた中国最大の自動運転インテリジェントコンピューティングセンターであり、自動運転モデル​​のトレーニングを約170倍高速化します。 Haomo Autoは、FeiTian Intelligent Computingをベースに、128枚のカードで96%を超える並列効率を達成し、自動運転モデル​​のトレーニングコストを62%削減し、トレーニング速度を110%向上させ、モデルの反復サイクルを大幅に短縮しました。

ライフサイエンス分野では、Deepin Technology は FeiTian インテリジェント コンピューティング プラットフォームを導入した後、クラスター パフォーマンスの最適化を 100% 以上向上させ、分子動力学シミュレーションのトレーニング効率を 5 倍に向上させました。産業分野では、Zhiji Auto は高性能コンピューティングを使用して、産業シミュレーションの効率を 25%、インテリジェント運転トレーニングの効率を 70% 向上させ、新モデルの研究開発と市場投入を加速しました。山東徳州電力はAIを使用して検討と予測を行い、精度は98%で、時間は1時間から数分に短縮されました。

都市ガバナンスの分野では、四川省成益高速道路がデジタルツインを活用した車両と道路の協調最適化により事故率を60%削減しました。重慶水利集団は、リモートセンシングデータとシミュレーション推論を通じて、最大95％の水資源配分予測精度を達成しました。中国国家電網公司と中国気象局は、インテリジェントコンピューティング機能を活用して天気予報の精度と安定性を向上させました。

さらに、FeiTian Intelligent Computing は Alibaba の人工知能の実践もサポートしており、Alibaba AI の 1 日平均 1 兆回の呼び出しをサポートし、世界中の 10 億人にサービスを提供しています。そのうち、Pailitaoのトレーニング速度は200倍に向上し、10億枚の写真の完全なトレーニング時間は2.5か月から8時間に短縮されました。 DAMO Academy の大規模モデル M6 は、わずか 512 個の GPU を使用し、10 兆個のパラメータ モデルのトレーニングを 10 日間で完了しました。エネルギー消費量は、同じパラメータ スケールの GPT-3 のわずか 1% でした。