コンテナが AI を強化 - 360 プライベート クラウド コンテナ サービスにおける人工知能の実践

360プライベートクラウドコンテナサービスチームと人工知能研究所チームは協力して、クラウドでの機械学習の効率向上に関する徹底的な研究と実践を行い、「顔検出」「花スクリーン検出」「ポルノ検出」「ペット検出」「画像様式化」「テキスト認識」「インテリジェントクロッピング」など、さまざまなディープラーニングサービスを企業に提供しました。

以下では、主に実践に関わる「マイクロサービスゲートウェイとコンテナサービス」の技術を紹介します。

1. マイクロサービス アーキテクチャとは何ですか?

マイクロサービスは、ソフトウェアを構築するためのアーキテクチャとアプローチです。マイクロサービスでは、従来のモノリシック アプリケーションが、互いに独立した複数の小さなコンポーネントに分割されます。すべてのコンポーネントが 1 つのアーキテクチャに組み込まれる従来のモノリシック アプリケーション構築方法とは異なり、マイクロサービス アーキテクチャでは、すべての部分が互いに独立しています (異なる言語を使用でき、異なるチームが異なるサービス モジュールを開発できます)。協力して同じタスクを達成します。これらの各コンポーネントまたはプロセスはマイクロサービスです。まとめると、マイクロサービスの特徴は、より小さく、より速く、より強力であることです。

上記のマイクロサービスの説明は、あまり直感的ではないかもしれません。従来のモノリシック アプリケーション アーキテクチャとマイクロサービス アーキテクチャを比較すると、より直感的になります。

1. モノリシックアプリケーションアーキテクチャ

Web プログラム開発 (JAVA など) の初期の頃は、通常、プログラム全体が WAR ファイルにパッケージ化され、サーバーに直接デプロイされていました。

モノリシック アプリケーション アーキテクチャはテストとデプロイが簡単ですが、サービスのスケーラビリティ、信頼性、システムの反復、言語間プログラミング、チーム コラボレーションの点ではマイクロサービスほど便利ではありません。

2. マイクロサービスアーキテクチャ

モノリシック アプリケーション アーキテクチャのこれらの多くの欠点を解決するために (モノリシック アプリケーション アーキテクチャが悪いという意味ではなく、さまざまなビジネス シナリオに応じてさまざまなサービス アーキテクチャを選択する必要があるという意味です)、モノリシック アプリケーション アーキテクチャを複数の独立した小さなコンポーネントに分割することができます。このように、各チームは独自のテクノロジー スタックを使用して独自のコンポーネントを実装し、システムが反復されるときにアプリケーション全体の使用に影響を与えることなく独立して反復することができます。

2. マイクロサービス ゲートウェイが必要な理由は何ですか?

まず、APIゲートウェイとは何かを紹介します。 API ゲートウェイは、1 つ以上の内部 API サービスにアクセスするための単一の統合された API エントリ ポイントを提供できます。 API ゲートウェイは、多くの場合、負荷分散、アクセス頻度の制限、認証と承認、監視、キャッシュなどの機能を提供します。

API ゲートウェイを使用すると、内部サービスを外部ユーザーから隠すことができ、外部ユーザーが本当に必要とする API を公開することができます。外部からのアクセス頻度を制限したり、外部ユーザーに対して認証や承認を設定することができます。アプリケーションなどの全体的な安定性とセキュリティを確保するために、ゲートウェイ内のサービスは、必要に応じて関連プロトコル (REST API、GRPC) を介して通信できます。

3. マイクロサービスゲートウェイ（kong）の紹介

kong は、nginx_lua モジュールに基づいて作成された、可用性が高く、簡単に拡張できる API ゲートウェイです。 Kong は nginx をベースとしているため、複数の Kong サービス インスタンスを水平に拡張でき、フロントエンドの負荷分散構成を通じて各サーバーにリクエストを均等に分散して、大量のネットワーク リクエストに対応できます。

Kongゲートウェイの構成:

• Kong サーバー: 外部 API リクエストを受信する nginx ベースのサーバー。
• PostgreSQL: 運用データを保存するために使用されます。

また、Kong はプラグイン メカニズムを使用して機能をカスタマイズし、プラグイン セットは API 要求応答サイクルのライフ サイクル中に実行されます。プラグインは Lua で書かれています。

4. マイクロサービスゲートウェイとコンテナサービスの併用

この記事では、具体的な例を使用して、コンテナーにデプロイされたサービスがマイクロサービス ゲートウェイと組み合わせてどのように使用されるかを説明します。たとえば、顔検出、ペット検出、ポルノ識別サービスなどがあり、これらの個別のサービスを完全なアプリケーションエンティティに統合して、外部の世界に多機能サービスを提供しています。

• まず、コンテナ サービス プラットフォームに 3 つのサービス インスタンス (顔検出、ペット検出、ポルノ検出サービス) をデプロイします。そして、これらのサービスインスタンスの VIP を申請します。
• サービス登録が完了すると、管理側は 3 つのサービスをマイクロサービス ゲートウェイ (kong) に登録し、kong は登録情報を PostgreSQL データベースに保存します。また、さまざまな業務に応じて、認証認可、アクセス頻度制限、CORS などのプラグインを各サービスごとにプラグインの形で登録できます。
• サービス登録が完了すると、クライアントは承認されたユーザー トークンに基づいて、使用したいサービスにアクセスできるようになります。

この記事では、全体的なプロセスについて簡単に紹介するだけです。しかし、それぞれの部分はユーザーが深く理解する必要があります~~

関連記事:

• https://konghq.com/kong-community-edition/
• https://martinfowler.com/articles/microservices.html?spm=a2c4e.11153940.blogcont2764.12.61092766Awrptv
• https://github.com/Kong/コング
• https://www.redhat.com/zh/topics/microservices
• https://www.nginx.com/blog/introduction-to-microservices/

[この記事は、51CTOコラムニスト360 Technology、WeChatパブリックアカウント「360 Technology（id: qihoo_tech）」からのオリジナル記事です]

この著者の他の記事を読むにはここをクリックしてください