これらのプラットフォームと方法を参考にして、AIアプリケーションを迅速に実装できます。

最初の50年間がAIの潜伏期間であったとすれば、2017年は人工知能が本格的に普及する年です。さまざまなメーカーが独自に開発した AI アルゴリズムや、AI ベースのインテリジェントな探索と研究が画面いっぱいに表示されるなど、あらゆる分野で AI が見られるようになっています。人工知能技術が生活のあらゆる分野に浸透していることは否定できません。では、AI技術を実際に導入する上で、どのようなボトルネックが発生するのでしょうか？ディープラーニング ベースのフレームワークが数多く存在する中で、企業は自社に最適なものをどのように選択すればよいのでしょうか?

[[215185]]

12月9日に行われたUCloudの最終決戦では、AI技術の実用化に焦点が当てられました。高可用性の異種 AI コンピューティング プラットフォームの構築プロセス、AI 製品の処理とリリース方法、ディープラーニングのパフォーマンス最適化ツールと実装を共有することで、開発者に AI アプリケーションと製品を迅速に実装するための利用可能な方法と手段を提供しました。

美団の鼎学涛：美団のインテリジェント配送ネットワーク計画システム

美団宅配はすでに1日あたり数千万件の注文の配達を担当しており、数百万の商店と数千万のユーザーにサービスを提供しています。その中で、流通ネットワークの計画ツールや戦略をどのように確立するかが重要です。しかし、数百万人規模のネットワークを手動で調整することだけに頼るのは、非効率的でコストがかかるだけでなく、一貫性のない基準にもなります。美団の上級技術専門家である丁雪涛氏は、美団の配送ネットワークの全体的な設計と計画、小売業者の配送範囲の戦略とアルゴリズムの進化、地域計画戦略について詳細なプレゼンテーションを行いました。

[[215186]]

Meituan の配送ネットワーク全体の設計には、集荷範囲、配送範囲、配達範囲という 3 つのコアコンセプトが含まれています。ピックアップ範囲はフランチャイジーの影響範囲を表します。各販売業者は独立した配達チームに対応しており、影響範囲は配達員が荷物を受け取ることができる場所を指します。配達範囲の目的は、配達チームがユーザーに到達できるエリア全体を計画することです。配達範囲とは、販売者の配達範囲を指し、この配達範囲内のユーザーのみがその販売者を見ることができます。

では、Meituan は集荷と配達の範囲をどのように計画しているのでしょうか?美団は、ピックアップ範囲の計画において、効率、経験、公平性に基づいた世代分割計画を策定しました。つまり、クラスタリングと多目的最適化に基づいて、候補となるパーティション スキームが生成されます。反復的なフィードバックを通じて、生成された候補スキームがシミュレーション システムに入力され、実際の過去の注文ライダー構成を通じて配送プロセスがシミュレートされ、効率性と経験の評価レポートが得られます。

配送範囲の計画に関しては、美団はまず配送シナリオを通常配送範囲、悪天候範囲、オフピーク配送範囲、新規加盟店範囲などに分け、ブロック意思決定、ナビゲーションルート描画、中間指標、加盟店推奨、機械学習推定などのさまざまな技術的手段を使用して、さまざまなシナリオでの最適な配送範囲を分析します。

UCloud 宋翔: 商用AI プラットフォーム構築における課題と考察

その後、UCloudのシニアR＆DエンジニアであるSong Xiang氏が、UCloudがAI PaaS製品の開発で遭遇した問題や、AIプラットフォームの構築プロセスにおける課題と解決策を組み合わせ、高可用性の異種AIコンピューティングプラットフォームを構築する方法について参加者に詳しく説明しました。

[[215187]]

宋翔氏は、現在、業界には多くの主流の AI アルゴリズムとフレームワークが存在していると述べた。アルゴリズムには、VCG、LSTM、RestNet、Fast-RCNN などがあり、フレームワークには TensorFlow、Keras、Caffe、MXNet などがあります。その組み合わせはさらに魅力的です。では、複雑な組み合わせから適切なアルゴリズムとフレームワークを選択するにはどうすればよいでしょうか?宋翔氏は、AI プラットフォームの構築において考慮する必要がある 5 つの主要な要素として、アルゴリズムの互換性、プラットフォームのスケーラビリティ、クラスタリング、垂直拡張、使いやすさを挙げました。ユーザーは、これら 5 つの要素をベンチマークとして使用し、プラットフォーム構築の目的に応じて最も適切なアルゴリズムとフレームワークを一致させることができます。

UCloud は、上記の 5 つの要素に基づいて、AI トレーニングと AI オンライン サービスという 2 つのコア機能を含む独自の AI 基本プラットフォームを構築しました。下の図に示すように、最上層はトレーニング ログと TensorBoard フレームワークで、その次にグラフィカル インターフェイスが続き、主にいくつかの基本的なデプロイメント操作を実行します。右側は Python SDK インターフェースです。アクセス レイヤーの下には、プラットフォームのコアとなる AI トレインと AI サービスがあります。最下層はすべてのハードウェアとストレージ アクセスをカプセル化します。このプラットフォームはシンプルに見えますが、基本的には AI 商用プラットフォームの一般的な機能とインターフェースが含まれています。小さいながらも充実していると言えるでしょう。

AIプラットフォームの実装プロセスについて語る中で、宋翔氏は、AIフレームワークを構築する上で最も重要な2つのポイントは、プラットフォームの互換性と信頼性を確保することだと述べました。互換性の面では、UCloud はコンテナのカプセル化とデータ アクセスを使用して環境の分離を実現し、AI フレームワーク、依存環境、ハードウェア デバイス、および異なる機能を持つストレージを分離して、異なるモジュールで異なる機能を実現できるようにします。信頼性の実装に関しては、UCloud は主に負荷分散、リクエスト スケジューリング アルゴリズムの最適化、パフォーマンス監視、高可用性の展開を使用して、グローバルな弾力的な拡張を実現します。

UCloud が AI 基本プラットフォームに基づくパブリック イメージ ライブラリと SDK を GitHub 上でオープンソース化していることは注目に値します。ユーザーはオープンソース SDK を使用して、UCloud のオープンソース イメージ ライブラリを自分で適用できるイメージにパッケージ化できます。開発者はローカルイメージを使用することも、UCloud のオンライン サービスやトレーニング プラットフォームに配置することもできます。これらはすべて完全に互換性があります。興味のある学生は、より深い理解と実践のために、リンク https://github.com/ucloud/uai-sdk/ にアクセスすることもできます。

UCloud Fan Rong: AIを軽快にプレイする方法

AI サービスを製品化する過程では、基本的なリソースの管理、使用、パッケージ化などの問題がよく発生します。 AI製品開発の効率化と非中核事業の研究開発プロセスの簡素化は、企業が最も懸念する課題の一つです。 UCloud のシニア R&D エンジニアである Fan Rong 氏は、現場での実践的な演習を組み合わせて、AI 製品の製造とリリースを処理して開発時間とコストを節約する方法を詳しく説明しました。

開発者は、ローカルで AI を開発する前に、CPU と GPU のサポート、ディープラーニング フレームワークの準備、科学計算ライブラリの読み込みなど、基本的な環境を事前に構成する必要があります。基本的な環境構築が完了したら、開発作業を実施できます。下の図は、UCloud AI ローカル開発のプロセス全体を示しています。下層が基本環境の構成、上層の白いボックスがアプリケーションコード部分です。この部分では主に 2 つの問題を解決します。1 つはデータのトレーニング、もう 1 つはデータの予測です。一般的に言えば、予測ネットワークとトレーニング ネットワークは似ています。予測モデルと予測プログラムがローカルでのみ実行される場合は、Web サービス フレームワークを追加する必要があります。

アプリケーション コードの展開と構築のプロセスを簡素化するために、UCloud は、補助ツールのコード パッケージ化や自動展開ツールなど、いくつかのオープン ソース ツールとフレームワーク (上の図の青いフレームワークのすべてのコンテンツ) を提供します。開発者は、UCloud が提供する SDK でこれらを無料でダウンロードして使用することもできるため、導入の手間が大幅に軽減されます。

AI ローカルトレーニングは比較的安全ですが、リソースの拡張が遅い、マルチタスクの待ち時間が長い、パラメータの調整が難しいなど、リソースの適用と反復開発の面で一定の制限があります。 Fan Rong 氏は、AI Train の一部をクラウドで合理的に実装することで、クラウド リソースのオンデマンド アプリケーション、マルチタスクの並列処理、タスク パラメータの記録などのタスクを効果的に完了できると考えています。クラウドへのデータ移行に関しては、UCloud は比較的完全なツールと方法を提供します。ユーザーは、コードの書き換え、イメージのパッケージ化、トレーニング データのアップロード、タスクの開始という 4 つのステップで簡単にクラウドに移行できます。

Intel He Pujiang: ディープラーニングのパフォーマンス最適化ツールと実践

UCloud の 2 人の講師が、AI 実装のためのプラットフォームを構築するためのアイデアと方法を共有しました。 Intel の He Pujiang 氏は、高性能コンピューティング ライブラリ (MKL および MKL-DNN) とフレームワーク (Intel ディストリビューションの Caffe) の使用、注意事項、経験、および CPU ベースの効率的な RNN 設計と実装プロセスなど、ディープラーニングに基づくパフォーマンス最適化ツールと実践的な経験を共有しました。

[[215188]]

Intel Math Kernel Library (MKL) は、機械学習、科学研究、エンジニアリング、金融、設計などの分野で数学処理を高速化する、高度に最適化されたスレッドセーフな数学ルーチンと関数のセットです。また、密および疎な線形代数 (BLAS、LAPACK、PARDISO)、FFT、ベクトル演算、要約統計などのサポートも提供します。マルチコアと SIMD 命令の利点を最大限に活用するために、標準 API と高度に最適化された機能を備えています。

MKL とは異なり、MKL-DNN はオープンソースのディープラーニング フレームワークです。次の図は、推論に Intel MKL-DNN を使用するプロセスを示しています。このプロセスを実装する方法は 2 つあります。 1 つは、トレーニング済みのモデルをモデル コンバーターに直接入力し、topo.txt (ネットワーク トポロジ) を使用して Inference.cpp (初期化中に weights.bin を読み込む MKL-DNN ベースの推論コード) を生成することです。このロジックには、Intel 独自のネットワーク トポロジ モデルの中間表現が必要です。もう 1 つの方法は、topo.txt が生成された後に、単純なコード コンバーターを使用して軽量の InferenceFramework.cpp (topo.txt を解析して weights.bin を読み込むことができる軽量の推論フレームワーク) を実装することです。

Caffe は、明確で読みやすく、高速なディープラーニング フレームワークです。 Caffe の Intel バージョンもオープン ソース フレームワークです。 BAIR/BVLC Caffe をベースにしています。 Intel は、BAIR/BVLC Caffe に基づく一般的な検出ネットワーク (SSD など) のサポートを追加しました。同時に、マルチノードトレーニングと、CAFFE、MKL2017、MKLDNN の 3 つのエンジンもサポートします。 RNN の最適化に関して、He Pujiang 氏は、Intel が主に効率的な GEMM 実装、いくつかの小さな操作のマージ、要素レベルの並列操作、合理的なデータ配置、低精度表現に関する一連の改善を実施してきたことを紹介しました。最適化後、CPU のパフォーマンスは基本的に GPU よりも高くなるか、さらに大幅に高くなります。

最後に

この共有では、プラットフォーム、方法、ツールなど、さまざまな角度から、開発者が AI 製品をゼロから迅速に実装する方法を包括的に解釈し、説明しました。人工知能技術全体はまだ探索段階ですが、この共有から誰もが本質を吸収し、何かを得て、将来の発展の道に応用できると信じています。 UCanアフタヌーンティーサロン2017シリーズは、北京、上海、深セン、広州などの都市を巡った後、美しい杭州湖畔で完璧に終了しました。