クラウド コンピューティングの時代において、ハードウェアが依然として重要な理由は何でしょうか?

カリフォルニア大学サンディエゴ校は、「クラウドファースト」戦略を採用し、3 台​​のメインフレームを廃止し、可能な限り多くのコンピューティング ワークロードをクラウドに移行し、オンプレミス ソフトウェアを廃止して、可能な限りサービスとしてのソフトウェアを採用しました。

「CIO はハードウェアの仕様よりもサプライチェーンのリーダーとしての役割を重視する必要があることに、私はずっと以前から気づいていました」と、カリフォルニア大学サンディエゴ校の CIO であるヴィンス・ケレン氏は語ります。 「当社のビジネス上の問題のほとんどにおいて、ハードウェアは問題ではありません。」

同じように感じている IT マネージャーが増えています。 60 年以上にわたり、金属とシリコンで作られたプロセッサ、メモリ、ストレージなどのコンポーネントが、コンピューターの可能性と限界を決定してきました。 IT 部門の中心的な役割は常にこれらの貴重な資産を保護し、最適化することであり、システム管理者と保守担当者がデータ センターの稼働を維持しています。

約 20 年前、仮想化テクノロジによってハードウェアの詳細が抽象化され、インフラストラクチャがソフトウェアによって管理される単一のエンティティになることができました。過去 10 年間で、クラウド コンピューティングによってこのプロセスがさらに進歩し、ハードウェアは顧客に代わって他の誰かが管理する抽象的なリソースになりました。

しかし驚くべきことは、クラウドが、すべてのコンピューターとクラウドの基盤となるチップから始まり、実際に大量の新しいハードウェア イノベーションをもたらしていることです。

「この時代はまさに半導体の黄金時代だ」と、プログラマブルロジック回路およびソフトウェア企業ザイリンクスの社長兼CEO、ビクター・ペン氏は、シリコンバレーの思想的リーダーのフォーラムであるチャーチル・クラブが最近主催した「シリコンのルネッサンス」イベントで語った。半導体メーカー、マイクロンのサンジェイ・メロトラ社長兼最高経営責任者（CEO）は「過去40年間でこれほどエキサイティングな時期はかつてなかった」と付け加えた。

しかし、それは単なるチップ以上のものです。クラウド インフラストラクチャ プロバイダーは、ハードウェアを、無限にスケーラブルなビルディング ブロックを介して低コストでデイジー チェーン方式で接続され、複雑なソフトウェアによって管理される商品として扱っているというのが一般的な認識です。 「IT 管理者にとって、インフラはペットのようなものだ。クラウド ベンダーにとって、クラウドは家畜だ」と、Wikibon のシニア アナリスト、Stu Miniman 氏は語る。

しかし、クラウドではソフトウェアだけでは解決できない厄介な問題も発生するため、クラウド プロバイダーはリモート インフラストラクチャの制限に対処するためにハードウェア ベースのソリューションに数十億ドルを投資することになります。

クラウド固有の遅延の欠点と、クラウド ストレージから大量のデータを転送する際に発生する遅延は、シリコンベースのネットワーク高速化への投資を促進する要因の 1 つです。クラウド コンピューティングによって推進されるモノのインターネットの台頭により、ネットワークのエッジでの新しい低電力デバイスの開発が進みました。

さらに、機械学習やディープラーニングなどのクラウドベースの AI テクノロジーの普及により、これらのアプリケーションの処理能力とメモリの需要を満たすためのハードウェア アーキテクチャへの投資が促進されています。

「ハードウェアの進歩がなければ、瞬時に起動するコンピュータ、スマートフォン、素晴らしいゲーム動画、超高速のインメモリデータベース、大規模なストレージシステムなど、私たちが当たり前だと思っているものは、制限されるか、法外に高価になるだろう」と、Pund-ITの主席アナリスト、チャールズ・キング氏は語った。

「私がここで働き始めて以来、ハードウェアは死んだと人々は言っていた」とウィキボンの主任アナリスト、デビッド・ベランテ氏は語った。 「今のところこの予測は実現していない。」

本質的には、ハードウェアが重要かどうかではなく、ハードウェアがどこで使用されるかが重要です。

ハードウェアの大規模な移行

その結果、ハードウェアに関する考慮事項は、ユーザーからバックエンド インフラストラクチャ (現在はクラウド) へと移行しつつあります。多くの IT マネージャーにとってはそれで問題ありません。

「当社の5カ年計画は、ほぼすべてをクラウドに移行することです」と、廃棄物管理、回収、リサイクル会社であるAdvanced Disposal ServicesのCIO、ダグ・サンダース氏は語った。 「ハードウェア面については心配したくない。」

20年のIT経験を持つこのベテランは、サーバーのインストール、調整、セキュリティ確保に全作業時間が費やされるだけでなく、最初の注文から最大3か月かかることもあると語った。 「IT が遅いとよく言われますが、その理由の 1 つはハードウェアです。」

ソフトウェア定義管理の魅力は非常に大きく、社内ハードウェアメーカーでさえ、クロック速度、CPUコア数、ストレージ容量などの仕様を重視するのではなく、利便性や管理の容易さなどの機能を強調するようになりました。

HPEのソフトウェア定義およびクラウドマーケティング担当ディレクターのローレン・ホワイトハウス氏は、ほとんどの顧客は車のシリンダー数やエンジンの大きさを気にしておらず、コンピューターにも同じことを望んでいると語った。 「彼らはコンピューターの管理はしたくないかもしれないが、成果は気にしている」と彼女は述べ、ハードウェア管理の細かい作業の多くを省くHPEのハイパーコンバージド製品とコンポーザブル製品の急速な成長を指摘した。

Dell が最近発表したクラウド プラットフォームは、「オンプレミス、エッジ、パブリック クラウド全体でよりシンプルで一貫性のある運用とソフトウェア インフラストラクチャを提供し、独自のアプローチを通じて顧客のハイブリッド クラウドのニーズを満たすのに役立ちます」と Dell EMC のサーバーおよびインフラストラクチャ システム製品管理担当シニア バイスプレジデントである Ravi Pendekanti 氏は述べています。

これは、これまでハードウェアのインストールと構成のために多数の技術者を雇用し、パフォーマンスの調整と使用率の最適化のために管理者を雇用していた IT 部門にとってメリットとなります。現在、これらの仕事は、サービス レベル管理、契約、クラウド スケジューリングなどの職種に置き換えられています。 Statista によると、世界の企業の IT 運用スタッフへの支出は、2015 年の 3,150 億ドルから 2026 年には 1,420 億ドルに減少すると予想されています。

研究室や学術機関などの高性能コンピューティング機器のユーザーの間でも、「ハードウェアに依存せず、仮想環境やコンテナで稼働することを好むエンジニアが増えています」と、ハイペリオン・リサーチの研究および技術担当副社長、ボブ・ソレンセン氏は語る。

何よりも素晴らしいのは、「IT マネージャーがラックを積み重ねたりボタンを押したりすることに時間を費やす代わりに、すべてをソフトウェアで管理できる」ことだと Wikibon の Miniman 氏は言う。

ムーアの法則の終焉

しかし、ハードウェアをユーザーに対して透過的にしたいという願望が、チップの背後で多くの作業を推進している。その理由の 1 つは、かつてコンピューターやサーバーを動かしていたコア技術が、以前ほど急速には進歩しなくなってきていることである。ディスク ドライブは数年前に理論上のパフォーマンスのピークに達し、フラッシュ ストレージの速度向上は収益減少の段階に達しました。

より根本的な問題は、マイクロプロセッサが開発上の障壁に直面していることです。 40 年以上にわたり、X86 アーキテクチャに基づくチップのパフォーマンスは 18 ～ 24 か月ごとにほぼ 2 倍に向上しており、これはムーアの法則として知られています。しかし、チップの小型化には物理的な限界があり、開発に時間がかかり、コストもかかります。

つまり、Google Cloud の機械学習インフラストラクチャのプロダクト管理担当シニア ディレクターである Damion Heredia 氏が述べたように、「ムーアの法則は死んだ」のです。

汎用マイクロプロセッサは「さまざまな種類のワークロードを実行するように設計」されていましたが、汎用マイクロプロセッサの成長が機械学習などの特殊なコンピューティングワークロードへと移行するにつれて、「CPU にはそれらの問題を解決する力がありません」。

つまり、コンピュータ業界は、数十年にわたる成長の勢いを加速させるためのイノベーションを他の場所で探さなければならないということです。 「ハードウェアは依然として重要だが、単に違うだけだ」とキング氏は語った。

その結果、機械学習ソフトウェアアプリケーションの実行に人気のグラフィックス処理装置 (GPU) の市場が急成長しました。 Global Market Insights によると、世界の GPU 出荷量は 2024 年までに年間 30% 以上増加し、収益は 800 億米ドルに達すると予想されています。

この市場のリーダーであるNvidiaの株価は、昨年10月の暗号通貨市場の暴落によって下落するまで、2年間で4倍に上昇した。しかしながら、長期的な見通しは依然として良好です。

「私たちが発信している重要なメッセージの一つは、ムーアの法則はほぼ終わり、CPUレベルのコンピューティング性能は頭打ちになったということだ」と、NVIDIAのエンタープライズおよびエッジコンピューティングソリューション担当シニアディレクター、ジャスティン・ボイタノ氏は語った。

マイクロプロセッサの重要性を軽視する

Nvidia や他の GPU メーカーは、マイクロプロセッサのパフォーマンスを重視せず、代わりにアーキテクチャが機械学習ワークロードの並列処理のニーズにどれだけ適しているかを強調する新しいハードウェア アーキテクチャを求めるクラウド ベンダーやシステム メーカーの需要に応えようとしています。機械学習のワークロードを処理するために特別に設計されたマシンは、ほとんどの作業を GPU にオフロードします。GPU はデータを並列処理して結果を CPU にフィードバックするため、CPU はそれほど高速である必要はありません。

一部のワークロードでは、このアプローチによりパフォーマンスが飛躍的に向上する可能性があります。先週マイクロソフトから10億ドルという巨額の投資を受けた人工知能の新興企業OpenAIは昨年、同社の最大規模の人工知能トレーニングで使用される計算能力が2012年から2018年の間に30万倍以上増加し、3.5か月ごとに倍増し、ムーアの法則の成長率をはるかに上回ると予測した。

GPUだけではありません。携帯電話で使用される低電力、縮小命令セットコンピューティングの Arm マイクロプロセッサも、IoT デバイスや AWS ECS インスタンスで新たな用途が見出されています。

インテルなどの企業も、ストレージのデータ保持特性と DRAM の速度の利点を組み合わせた新しいタイプのメモリである永続メモリに力を入れています。永続メモリはハイパースケールのシナリオに特に適しており、このテクノロジーはクラウド コンピューティングによってもたらされるハードウェアの優先順位の変化を示しています。 「これは革命的な技術になるだろう」とヴイエムウェアのクラウドプラットフォーム事業部門の最高技術責任者キット・コルバート氏は語った。

クラウドコンピューティング企業が、クラウドとの間で膨大な量のデータをやり取りする顧客のレイテンシやデータ転送の問題に対処しようとしているため、ネットワークハードウェアへの関心も高まっています。 「これはデータの移動に関するものであり、計算能力に関するものではない」とハイペリオン社のソレンセン氏は語った。 「データ移動問題を解決できるCPUが勝利するだろう。」

クラウドコンピューティングの3大巨人であるアマゾン、マイクロソフト、グーグルは、クラウドプラットフォームのパフォーマンスを向上させたり、人工知能開発などの特定の目的に合わせてサービスを調整したりするために、カスタムハードウェアに総額数十億ドルを投資してきた。クラウドプロバイダーは AI を愛しています。機械学習とディープラーニングのプロセスでは膨大な量のデータが消費され、提供できる限りの処理能力が消費されます。

人工知能チップ

Google はクラウド コンピューティング戦略を人工知能ワークロードの処理に重点的に取り組んでおり、この目的のために TPU と呼ばれるマイクロプロセッサ ファミリを設計しました。同社では、このファミリは GPU よりも低コストで高性能であると主張しています。

TPU のパフォーマンスは飛躍的に向上しており、これまでのところ X86 が直面している物理的な制限には遭遇していません。 Googleのエレディア氏は、2015年には多層ニューラルネットワークResNet 50でディープラーニングモデルをトレーニングするのに20万ドル以上かかったが、「今日ではそのコストはコーヒー1杯よりも安い」と語った。

他のクラウドプロバイダーもハードウェア戦争に加わっています。 Microsoft Project Olympus は、OCP 上に構築された Microsoft のクラウド プラットフォーム用の一連のサーバー ビルディング ブロックを作成するプロジェクトです。 AWS の ARM ベースの Graviton プロセッサは 2015 年に開発が開始され、現在では AWS EC2 インスタンスで人気を博しています。

「ハードウェアの特化により、レイテンシ、価格/性能、電力/性能が10倍向上しますが、長年にわたり、ほとんどのコンピューティングワークロードは汎用プロセッサ上に留まっています」とAWSの著名なエンジニアであるジェームズ・ハミルトン氏は最近のブログ投稿に書いています。 Amazon は、機械学習ワークロード専用に毎年 100 万個以上の専用チップをインストールしています。

Amazon の Nitro プロジェクトは、ハードウェアとソフトウェアを組み合わせて仮想化のオーバーヘッドを排除します。アマゾンは「AWS での使用のためだけに、毎年何百万個もの Nitro ASIC を消費している」とハミルトン氏は書いている。ネットワーク パケットのカプセル化/カプセル化解除、EC2 セキュリティ グループの実装、マイクロプロセッサ ルーティングのオーバーヘッドを除けば、このハードウェア構成はほとんどの IT 部門にとって実用的ではありません。

ザイリンクスのペン氏は、「ドメイン固有のアーキテクチャ」が人工知能やその他の要求の厳しいワークロードに対するソリューションとしてますます普及しつつあると述べた。

Intel も、2015 年に FPGA メーカーの Altera を 167 億ドルで買収し、最近では Nervana Systems、Omnitek BV、Movidius などの専用チップ企業を買収したことからもわかるように、専用プロセッサの必要性に気づいています。

しかし、これはマイクロプロセッサが死んだことを意味するものではありません。 IDC のデータによると、2018 年に Intel X86 ベースのサーバーの出荷量は世界で 15.4% 増加しましたが、その成長の大部分はクラウド サービス プロバイダーのニーズを満たしたことによるものです。

IoTの要素

DIP スイッチをいじったり、ディスク ドライブをホットスワップしたりする時代は終わりつつあるかもしれませんが、それは IT 部門がハードウェアに注意を払わなくなったことを意味するものではありません。 IoT の流行により何千もの新しいプラットフォームが導入され、それぞれの基盤となるハードウェアを考慮する必要が出てきました。

「すべてのIoTベンダーは独自のソリューションを持っており、ハードウェアに関しては、まだ非常に断片化された領域です」と、ノースカロライナ州ケアリー市の最高技術責任者、ピーター・ケネディ氏は語った。

ノースカロライナ州ケアリー市は、インフラをクラウドに移行しており、インフラの約 25% をハイパーコンバージド プラットフォームに移行していますが、スマート パーキング メーター、スマート水道メーター、水道システムのオピオイド センサー、さらにはネズミが罠にかかったときの電子アラートも導入しています。

ケーリー市にとって、レイテンシーとボリュームがクラウドでこの新しいデータをすべて処理する上での最大の障害であり、収集およびフィルタリング ポイントとして新しいエッジ デバイスをインストールする必要がありました。 「これは完全に異なるハードウェアであり、各ハードウェアは別々のデバイスであり、各ベンダーのハードウェアは異なり、標準は非常に新しいものです。」

彼にとって、「ハードウェアはこれまで以上に重要になった」。

アドバンスト・ディスポーザル・サービスのサンダース氏は、システム管理などの従来のITスキルは、この新しいクラスの機器には必ずしも当てはまらないと述べた。彼の会社は現在、安全性やコンプライアンスの監視などの目的で、6,000台以上のトラックにそれぞれ6台のカメラを搭載している。

「革新を起こし、新たな収益を生み出す方法を知っているチームが必要だ。それは机に座って87台のルーターを監視するのとは違う」と同氏は語った。幸いなことに、スマートデバイスがビジネスを変える大きなチャンスをもたらし、若い IT 人材がこの仕事に就くことになりつつあります。

クラウド プロバイダーは、クラウド スタックをエミュレートするオンプレミス インフラストラクチャを含む専用サービスとハードウェアを使用して、エッジ市場のさまざまな側面に対処していますが、今後 10 年間でデバイスの数が 10 倍近く増加すると予想されているため、IoT によってハードウェアが引き続き注目されると言っても過言ではありません。

その結果、IT 部門は大量のハードウェアに直面することになります...