GPU仮想化アプリケーションについてお話しましょう

NVIDIA と言えば、おそらくグラフィック カードを思い浮かべるでしょう。私の年齢の人々にとって、グラフィック カードといえばゲームの加速化です。大学時代、私はプロエボリューションサッカーをプレイしていました。 GeForce グラフィック カードを持っていたことは幸運でした。マザーボードに統合されたグラフィック カードと比較すると、その存在によって、ゲームの芝生がより青くなり、足元のサッカーがよりスムーズになる可能性があります。当時、Pro Evolution Soccer はサッカー監督のあらゆる夢を実現し、お金があればどんな選手でも買うことができました。ゴールキーパーはカシージャス、ディフェンダーは左からマルディーニ、ネスタ、テリー、サネッティ。ミッドフィールダーはヴィエラ、ファブレガス、ロナウジーニョ。フォワードはメッシ、アンリ、ロナウド。なんとクールなラインナップでしょう！

[[255178]]

人工知能の急速な発展により、グラフィック カードはもはやゲームと同義ではなく、「機械学習の心臓部」という高尚な名前が付けられています。ビジュアルコンピューティングの分野で絶対的なリーダー的地位にあるNvidiaは、3年間で市場価値を6倍に増加させました。私が初めて人工知能の分野に入ったとき、なぜグラフィック カードが「ディープラーニング」に依存するようになったのか理解できませんでした。多くの人が私と同じように混乱していると思います。簡単に言えば、GPU は主に計算能力に重点を置いています。数千のより小さいながらも効率的なコアで構成されており、並列コンピューティングを通じて複数の複雑なタスクを処理できます。

[[255179]]

CPU は、正式名称を中央処理装置といい、コンピューターの制御コアと計算コアであることはご存じのとおりです。主な機能はロジック制御とタスクスケジューリングです。したがって、CPU と比較すると、GPU は会社の CEO のようなもので、会社全体の業務と戦略を担当し、会社全体の仕事を調整します。 GPU は、強力な能力と、会社から割り当てられたタスクを迅速かつ過剰に完了する能力を備えた、部門の有能なリーダーです。

ディープラーニングは、人間の脳の神経系をシミュレートする分野であり、いくつかのルールと数学的なネットワークモデルを設定することで開発されます。その目的は、コンピューターが人間の脳のように世界を思考し、認識し、理解できるようにすることです。コンピュータ自体には思考能力がないため、コンピュータをトレーニングするには大量のデータが必要です。したがって、コンピュータ プロセッサには効率的な並列コンピューティング機能が必要ですが、これは主にシリアルでコア数が 2 桁の CPU では利用できません。したがって、GPU は数千のコアと効率的なコンピューティング機能を備えており、ディープラーニングとモデルトレーニングに最適な選択肢となっています。

私の会社も人工知能の分野に携わっており、GPU グラフィック カードの数は一定の規模に達しています。 Tesla の M40、P40、P100 などのグラフィック カードが使用されています。現在、これらのグラフィック カードは主にアルゴリズムとデモのトレーニングに使用されています。 GPU リソースを分散して活用するために Docker 仮想化を使用します。

まず、GPU を搭載したホストマシンに CUDA アーキテクチャ環境をインストールし、CUDA Tookit ダウンロード公式サイトにアクセスして、対応するバージョンをダウンロードします。インストールが完了したら、Caffe や TensorFlow などのフレームワークをサポートするディープラーニング フレームワーク専用に設計された GPU アクセラレーション ソリューションである DNN もインストールする必要があります。

基本環境をインストールしたら、nvidia が提供する nvidia-docker を使用して GPU の Docker 仮想化を行うことができます。公式ウェブサイトでは、これらのパッケージのインストール ソースのリストが提供されています。インストールは比較的簡単です。インストールが完了したら、

docker run --runtime=nvidia --rm nvidia/cuda nvidia-smi

Docker GPU コンテナの実行ステータスを確認します。

***learningtensorflow.com が提供する TensorFlow ベースのベンチマーク スクリプトを使用して、GPU と CPU の比較テストを実行できます。並列コンピューティングにおける GPU のパフォーマンスは CPU よりもはるかに優れていることがわかります。

上図に示すように、GPU の Docker 仮想化に基づく上記のソリューションでは、本質的には GPU リソースがワークスペース (つまり、コンテナ) にパッケージ化され、ワー​​クスペースがホスト マシン上で実行されます。この仮想化ソリューションは独立したトレーニングの問題を解決できますが、単一ポイントおよび依存性の問題もいくつかあります。まず、Workspace の動作は、本質的に孤立したホスト マシンの動作に依存します。第二に、Docker コンテナの正常な動作もワークスペースの存続を決定します。 3 つ目は、コンテナは Docker コマンドに従って生成されるため、柔軟な拡張には一定の制限があります。

上記の問題に直面して、GPU をクラウドに近づけるために別の仮想化ソリューションを採用できるかどうかを検討します。クラウド コンピューティングの発展により、アプリケーション シナリオを異機種コンピューティング アーキテクチャに発展させることが可能になりました。機械学習やディープラーニングの発展に伴い、GPU や FPGA などのプロフェッショナル コンピューティング チップの仮想化の需要も高まっています。これは、NVIDA が GRID K1 製品をリリースし、GPU 仮想化の成熟したアプリケーションとなった 2013 年にまで遡ります。 「仲介パススルーを備えた完全な GPU 仮想化ソリューション」と、スライス仮想化のための vGPU テクノロジー。 Nvidia は、スライシング仮想化コミュニティの促進において重要な役割を果たしており、独自の GRID 製品ラインで vGPU テクノロジを継続的に開発および更新しています。

仮想化テクノロジの最終的な目標は、スタッフが物理マシンで使用する場合と同じエクスペリエンスを提供することです。 NVIDIA GRID®VirtualPC (GRID vPC) および GRID®

GRID vApp は、NVIDIA® Tesla® GPU の実証済みのパフォーマンスに基づいて、すべてのユーザーの仮想デスクトップとアプリケーションを改善し、優れた生産性、セキュリティ、IT 管理性を実現します。仮想化ソフトウェアは Tesla GPU リソースをパーティション分割し、任意のアプリケーションを実行する複数の仮想マシン間で GPU を共有できるようにします。現在、GRID リリース バージョンは次のように GPU 仮想化をサポートしています。

基本的に、市場で主流の Tesla GPU モデルをサポートできます。

GRIDを使用してGPUを適用したホンダグループの事例を紹介します

Honda IT 部門は、GRID 管理プラットフォームを通じて物理 GPU M60 をスケジュールし、ユーザーのニーズに応じて適切な数の vGPU を提供します。また、単一のダッシュボードを通じて vGPU を管理し、各ユーザーが処理中のタスクを完了するのに十分なコンピューティング パフォーマンスを確保することで、より高いレベルの弾力的な拡張を実現できます。クラウド ストレージやクラウド コンピューティング リソースと同様に、GPU もオンデマンドで割り当てられます。

人工知能は第四次産業革命の主要技術です。ビッグデータと GPU ベースのディープトレーニングは、人工知能の発展の鍵となります。国も企業も、この世界的な波の中で技術革新を活用して自らの世界を創造すべきです。

https://v.youku.com/v_show/id_XNjY3MTY4NjAw.html

グラフィックス コンピューティング処理における GPU と CPU の違いを比較する非常に古典的なビデオです。