クラウドベースの生成 AI システムを実行するためのベスト プラクティス

翻訳者 |ブガッティ

レビュー |チョンロウ

何だと思う？クラウド コンピューティング カンファレンスは、現在、生成AIカンファレンスになっています。どうして？簡単に言えば、クラウド プロバイダーは、生成AI がクラウド サービスをさらに販売するための最良の方法であると考えています。

これは、ビジネスの世界がAI主導のエコシステムへと移行するにつれて、主にクラウド コンピューティング環境で起こっています。ここでは、一般的に最先端の生成AIシステム、スケーラビリティ、アクセシビリティ、コスト効率を見つけることができます。この旅に乗り出すにあたり、企業はこれらのシステムをどのように効果的に運用すべきでしょうか?どのようなベストプラクティスを考慮すべきでしょうか?

クラウドで生成AIについて学ぶ

つまり、生成AIモデルとは、入力データからパターンと構造を抽出して、新しい独自のコンテンツを生成するシステムです。このコンテンツは出力データであり、あらゆる種類の構造化情報または非構造化情報になります。

既存のスキーマの上に構築する場合、これはデータ操作の問題です。ただし、クラウドベースの生成 AI システムのパフォーマンスを決定するデータ入出力のパフォーマンスや、処理のはるかに頻繁な実行など、重要な違いがあります。

クラウドベースの生成AIシステムのプロセス

基本的なプロセスまたはベスト プラクティスのセットを定義することを検討してください。オペレーション担当者はチェックリストが大好きなので、ここでそのチェックリストを紹介します。

• システムを設計します。 AIとクラウド ソリューションは連携して拡張する必要があり、生成AIモデルはストレージとコンピューティング リソースを効率的に管理する必要があります。作成するアプリケーションでは、可能な限りクラウドネイティブ サービスを活用する必要があります。これにより、コスト効率が向上し、操作が簡素化されます。ここでDevOps が役立ち、開発チームと協力してコードを最適化します。

そもそもシステムが正しく設計されていれば、運用上の問題に対処する必要はない、というのがその考え方です。運用中に遭遇する問題のほとんどは、システムのコア設計に起因します。

• ゴミを入れればゴミが出る。 AI から意味のある出力を得るには、高品質で適切にフォーマットされたデータをシステムに入力する必要があります。 AI エンジンに送られるデータの管理、検証、保護は、これらのシステムからデータを収集するのと同様に重要です。この段階を自動化すると、トレーニング データを取り込む前にデータの品質を確認するなど、多くの時間を節約できます。生成AIによる幻覚のほとんどは、不十分で低品質なデータから生じていることがわかりました。
• 定期的に確認してください。生成AIソフトウェアは、インストールしたら忘れてしまうようなツールではありません。このテクノロジーでは、最初から定期的なパフォーマンスのチューニングと最適化が必要です。 AIの動的な性質により、パラメータが最良の運用結果をもたらすようにするためには継続的な監視が必要です。これは、システムを頻繁に、おそらく毎日調整することを意味します。
• 厳格なアクセス制御によりセキュリティ上の懸念に対処します。生成AIシステムはクラウド内にあるため、セキュリティにはデータの暗号化と定期的な監査が含まれる必要があります。コンプライアンスポリシーが確実に実施されるようにすることが最善であり、本番環境への展開中および展開後にそれらを自動化する必要があります。考え方としては、コンプライアンスとセキュリティ パラメータを処理するポリシーを広範に活用して、できるだけ多くの不安定性を別のドメインに配置することです。これは、パブリック クラウド上の生成AIシステムに特に当てはまります。
• システム障害アラームを設定します。使用パターンを注意深く監視し、定期的にメンテナンスを実行し、パッチと新しいリリースを最新の状態に保つことが重要です。自動化が再び機能し、負担が軽減され、効率が向上します。ただし、実装する必要がある変更の数に対応するには、可能な限り自動化する必要があります。

準備、狙い、発射！

まずシステムを正常に稼働させます。これは、デプロイメント前にコードを設計および変更することを意味します。多くの場合、企業は、パフォーマンスや安定性の問題を引き起こす設計上の欠陥を運用チームが修正し、システム全体の精度を確保できることを期待して、システムを一度に展開しようとします。クラウドベースの生成AIに対して「準備、発射、狙い」のアプローチを取る企業が多すぎます。この方法はコストがかかりすぎるだけでなく、大部分が回避可能な製造上の問題により、これらのシステムの価値も低下させます。

私たちは、第一世代のクラウドベースシステムを導入することでこの問題に正面から取り組み、多くの技術的問題を解決する意欲を持つべきです。これらのシステムがうまく機能しなくなった場合の影響ははるかに深刻です。私たちは問題を起こさないように努めています。そうしないと、手術中に問題がさらに深刻化するだけです。

原題:クラウドベースの生成 AI システムを運用するためのベストプラクティス、著者: David Linthicum