クラウド vs. ローカル: 生成型人工知能が支配する将来の戦場はどちらになるでしょうか?

オリジナルリンク| https://wikibon.com/breaking-analysis-cloud-vs-on-prem-showdown-the-future-battlefield-for-generative-ai-dominance/

デビッド・ヴェランテ

法人顧客のデータは明確だが矛盾している。顧客の 94% が今年は AI への投資を増やすと回答しましたが、予算の制約により他の分野での投資が削減されることになります。さらに、生成 AI をどこで実行するかという問題になると、顧客はパブリック クラウドとオンプレミス/エッジ コンピューティングの間でほぼ完全に分かれます。さらに問題を複雑にしているのは、開発者らが、パブリック クラウドのエクスペリエンスは機能の豊富さとイノベーションのスピードの点で優れていると報告しているものの、知的財産の漏洩、コンプライアンス、法的リスク、コストなどの問題により、組織によるパブリック クラウドの使用が制限されるということです。

このレポートでは、大規模言語モデルの採用と市場の発展に影響を与える要因に関する最新のデータと考察を共有します。いつものように、最新の ETR データを共有し、リスクと価値実現までの時間のバランスを取る際にクライアントが直面する主要な問題を明らかにします。

企業のIT支出は依然として厳しい

下のグラフは、最新の ETR 支出スナップショットのデータを示しています。データには 1,777 人の上級 IT 意思決定者が含まれており、その購買力は 7,500 億ドルを超えます。

上級IT意思決定者は、2022年末までに予算が4～5％増加すると予想しています。しかし、1月までにその数字は4.1％減少し、今年はさまざまな時期に小さな増加があったにもかかわらず、依然として2.9％の増加にとどまり、当初の予想を大きく下回っています。

予算の制約によりトレードオフを強いられる

生成 AI の急速な発展により、組織は限られた予算の中で優先順位を再設定する必要に迫られています。昨年 Andy Thurai 氏と実施した分析でもお伝えしたように、AI の ROI はわかりにくいものでした。しかし、ChatGPT の流行により、取締役会はトップダウンで命令を下し、その結果、企業のテクノロジーへの支出の優先順位が変わりました。

上のグラフは、 ETR が追跡している業界を示しています。純スコアまたは支出の勢いは縦軸にあり、調査の人気は横軸にあります。 2022 年にはすべての業界が予算制約のプレッシャーを感じる中、主要セグメントの 1 つである AI は、 2022 年 10 月までに支出速度の最高水準である 40% の赤い破線を下回ります。AI支出は、11 月に ChatGPT が市場に参入して以来加速しています。しかし、予算は大きく変わっていません。

その結果、他の業界では圧縮が見られ、短期的には生成 AI に投資された資金が市場の他のセグメントに一定の希薄化効果をもたらすことが示唆されます。

AIへの支出は他の分野を上回る

先ほども述べたように、また以下のデータに示されているように、顧客の 94% が2023 年までにAI への支出を増やす予定であると報告しています。

顧客の大多数は支出の増加が10％以下であると報告しましたが、36％は支出が2桁増加すると答えました。

上級管理職の要求とリスク許容度との対立

上級管理職からは、生成型AI を「理解する」ようにというトップダウンのプレッシャーがかかっていますが、これは実行するのがさらに困難な緊急の課題です。次の図は、顧客が実稼働環境で生成 AI をどのように使用しているかを示しています。顧客の 34% は評価していないと回答しましたが、この数字は前四半期から大幅に減少しました。

いずれにせよ、実際の運用環境では、注目すべき点が 2 つあります。

1) ほとんどの人はまだ評価段階にあります。

2) ユースケースは非常に単純で、チャットボットが最も重要なアプリケーション領域であり、次にコード生成、テキスト要約、マーケティングコピーの作成が続きます。

組織はビジネスケースを真に理解し、ROI を決定する必要があると私たちは考えています。 ROI の最大の推進力は人件費の削減です。これを生産性の向上として分類することもできますが、最終的な目標は人的資源の必要性を減らすことです。これは必ずしも失業率が上昇することを意味するわけではなく、価値を生み出す主な原動力が人員削減になることを意味するだけです。これにより、雇用に必要なスキルが間違いなく変化するでしょう。

組織はGenAIのリスクを評価する必要がある

重要な課題は、上位レベルの勢いが存在する場合、展開に伴って多くのリスク問題がもたらされることです。以下のスライドは、アナリストのボブ・オドネル氏が経営する独立系分析会社 Technalysis が発表した新しい調査からの抜粋です。規制遵守、知的財産の漏洩、法的問題（著作権侵害など）、データとツールの品質など、 1,000 人の IT 意思決定者が懸念する最も重要なGenAI関連の問題を紹介します。

これらはすべて、AI の生成とその使用方法について慎重になる正当な理由です。

クラウドとオンプレミスのバランスを再考する

GenAI のリスクに対する懸念から、多くの組織は GenAI の展開をオンプレミスに維持すると述べています。

以下はETR のデータであり、組織がプライベート インフラストラクチャとパブリック インフラストラクチャ (パブリック クラウドまたはオンプレミス/エッジ展開) を同割合で報告していることを示しています。クラウドの魅力は最高のツールを備えていることですが、 Technalysis の調査で述べられている理由により、プライベート インフラストラクチャが人気のある導入オプションになると予想されます。

しかし、クラウドにはまだ利点があります。現在、大量のデータがクラウドに保存されています。ワークロードの 40 ～ 45% がクラウドで実行されており、来年には 50% になるかもしれません。以前の調査で報告したように、クラウドとオンプレミスは均衡に向かっており、クラウドは依然としてより速いペースで成長していますが、多くの従来のアプリケーションでは、クラウドに移行するビジネスケースはまだそれほど強力ではありません。クラウドの成長の大部分は、既存のクラウド ワークロードを基盤とした新しいアプリケーションや機能から生まれると考えています。

オンプレミスのワークロードは AI を導入する良い機会になりつつあり、 Cisco、IBM、Dell Technologies、HPE などの大手企業は機会を模索し、積極的に投資しています。

クラウドには依然として大きな利点がある

実際、開発者と話をすると、クラウドは AI の分野で非常に強力であるという点に大体同意します。ここでは、開発者からパブリック クラウドが満たしていると思われる 8 つのポイントを紹介します。これらの視点は、クラウドとオンプレミスのGenAI ソリューション間の機能のトレードオフを検討する際のお客様へのガイドとして役立つと考えています。

AI におけるイノベーションのペースは、Amazon SageMaker などの以前のツールに基づいて構築されます。統合の容易さと生産性の向上により、開発者は希望する結果をすぐに達成できます。コミュニティの皆様には、サンプルとして thecubeai.com にアクセスし、プライベート ベータ版にサインアップすることをお勧めします。私たちのチームは、オープンソースの LLM、MongoDB、ベクターデータベースとしての Milvus、その他のクラウドツールなど、AWS ですぐに利用できるツールを使用して、数週間でこのプラットフォームを迅速に構築しました。

お問い合わせいただいた内容によると、モデルのトレーニングには時間がかかりますが、 MVP（最小限の実行可能な製品）の開発時間は、通常のソフトウェア製品の開発サイクルのわずか10分の1です。

上記のポイント 4では、クラウド プロバイダーだけでなくサードパーティ プロバイダーからのモデル オプションの多様性の重要性を強調しました。

ポイント5 と 6 も重要です。つまり、LLM ベンダーが顧客データにアクセスできないように推論要求を分離できることです。豊富なセキュリティの提供も重要な要素です。たとえば、データが特定の領域内に留まるようにしたり、データ転送を暗号化したりする機能などです。

クラウドは、シリコンから AI ツールチェーンまでクラス最高のツール、最大限のデータベースの選択肢、ガバナンスの選択肢、ID アクセス、オープンソース ツールの可用性、豊富なパートナー エコシステムを提供します。

そのため、 HPE や Dell などの企業は LLM をサービスとして発表していますが、それがどの程度うまく行われているのか、またLLM を自社のソリューションに本当にシームレスに統合できるかどうかはまだ不明です。

ローカルで作業するとリスクが軽減され、完全に理にかなっています。しかし、既存企業が包括的なソリューションとエコシステム パートナー スタックを構築するには、多大な労力が必要です。

クラウド企業と既存企業の顧客支出動向の比較

クラウド ベンダーは、既存のエンタープライズ インフラストラクチャ プロバイダーよりもビジネス上の動機が強いです。クラウドの最適化、オンプレミスへの回帰、成長の鈍化などが頻繁に話題になっているにもかかわらず、データは明らかにクラウドベンダーを支持しています。

上記は、いくつかの潜在的な LLM リーダーのネット スコアの内訳を示す ETR データです。ネットスコアは支出速度の尺度です。新規顧客の割合を追跡します。それがライムです。濃い緑色は、昨年と比較して支出が 6% 以上増加したことを示します。灰色は支出が横ばいであることを示し、ピンクは支出が 6% 以上減少していることを示し、明るい赤は顧客を失ったことを示します。緑から赤を引くと、右側の棒グラフに表示される純スコアが得られます。

ネット スコアの右側には、市場の影響の代理指標となる調査の回答数が表示されます。ご覧のとおり、 AWS、Microsoft、Google のネットスコアはそれぞれ 51%、49%、34% で、N 値は 1,000 に近いかそれを超えています。

DELLとHPEを比較すると、市場影響力の点では、DELLの存在感は強く（Nが800を超えている）、HPEは483と高い。しかし、支出の観点から見ると、クラウドコンピューティングは依然として大幅に高い勢いを持っている。

いくつかの主要なデータプラットフォームを追跡する

以下に、Databricks、Snowflake、IBM、Oracle などの重要なデータ プラットフォーム名について同じデータを示します。 Databricks のネットスコアは非常に堅調な 60% で、Snowflake の市場影響力が大きいにもかかわらず、すでに Snowflake の 47% を上回っています。しかし、Databricks が徐々に Snowflake の伝統的な領域に近づいていることは明らかです。ご覧のとおり、IBM と Oracle のネット スコアはそれぞれ 10% と -1% と低くなっていますが、データセットには大量のデータがあります。

GenAI はいつ損益計算書に表示されますか?

GenAI を含む AI への支出は、2023 年後半に損益計算書に顕著な影響を及ぼし始めると予想しています。

AWS を例にとると、下の図は 2022 年第 1 四半期以降の AWS の収益成長率を示しています。第 3 四半期には減速が安定し、現在の予測に基づくと、AI の牽引と第 4 四半期の季節性により、第 4 四半期には成長が再加速すると考えられます。特に、GenAI によりコンピューティングとストレージの支出が増加し、データ プラットフォームと関連ツールへの追加支出が生み出されると予想しています。

この状況には、マクロ環境や大数の法則、競争など、いくつかのリスクがありますが、当社は現在、クラウドの最適化の最終段階にあり、新しいワークロードの有効化に向かっていると考えています。

GenAIの消費電力分布

John Furrier は theCUBE で頻繁にべき乗則について語っています。最後に、大規模言語モデルの修正されたべき乗分布を観察して結論とします。

べき乗分布は、2 つの量間の統計的な関係です。簡単に言えば、べき乗分布は80/20 ルールとして理解できます。たとえば、当社の売上の 80% は、製品ポートフォリオの 20% から得られています。下の図では、この概念を少し改良して、大規模な言語モデルを構築するのはほんの一握りの企業だけであると主張しています。ほとんどの LLM は X 軸の長い側に位置し、業界に特化しており、規模も小さくなります。

さらに、エッジの展開は複雑になり、レイテンシ、経済性、電力消費に対して非常に敏感になります。

ここで、いくつかの点を指摘したいと思います。

まず、エンタープライズ テクノロジーのイノベーションは依然として消費者規模によって推進されていると私たちは考えています。 PC チップ、検索エンジンやソーシャル メディアから得られるデータ能力、フラッシュ ストレージ、そして最近ではNvidia のゲームなどが、すべて消費者向けチャネルを通じて企業に導入されています。

大規模なクラウドおよび消費者ブランドが最大のモデル空間とモデルの継続的な運用を支配すると考えています。

Webとは異なり、Web では、べき乗曲線は幹のない真っ直ぐ下に向かう壁のようなものです (オレンジ色の線は Y 軸に沿っています)。 LLM セクターは引き上げられ、赤い点線で示されるように右上に移動すると考えています。これは、Snowflake や Databricks などのクラウド パートナーとともに、オープン ソースおよびサードパーティのツールがそのギャップを埋めると考えられる領域です。

Dell、 HPE、IBMなどのオンプレミスの主要プレーヤーは、LLM の多様性を活用し、それをクラウド コンピューティングと同じくらいシンプルで、特定のユース ケースに対してより制御され、よりコスト効率の高い方法で自社の市場モデルに展開できれば成功するでしょう。重要なのは、エンタープライズ AI には明確な ROI と経済的価値が必要であり、そうでなければプロジェクトは成功しないということです。

以前にも述べたように、私たちは主な価値は人員削減から生まれると考えています。

同時に、エッジ コンピューティングは、低コスト、低電力、高性能のシステム上に構築されたアーキテクチャによって支配されるようになると考えています。 ——Arm設計をベースにした大規模なものが多いです。たとえば、テスラとアップル。私たちは、エッジ コンピューティングの経済性が最終的に企業に浸透し、破壊的な力となると信じています。

10 年ほどかかるかもしれませんが、パーソナル コンピュータがメインフレームを破壊して以来、エンタープライズ IT の経済性は消費者規模によって推進されており、この波も例外ではないと考えています。 AI + データ + 規模の経済が、今後数年間で業界の基本構造を決定するでしょう。

どのような業界であっても、これは価値のある投資だと私たちは考えています。しかし、それを適用するには慎重かつ綿密な思考が必要です...