Kafka クラスターの構築

Kafka クラスターの構築

1. 背景

最近kafkaを勉強しています。 Mac 上で Kafka クラスターを構築する手順は次のとおりです。

2. ソフトウェアをインストールする

kafka は zookeeper に依存しているため、zookeeper をインストールする必要があります。 kafka は scala で書かれており、scala は jdk をベースにしているので、jdk をインストールする必要があります。

  • JDK、jdk8 以上が推奨されます。ここではjdkのインストールは省略します。
  • zookeeper、このマシン上に 3 ノードの zk 疑似クラスターを構築します。
  • Kafka は 3 ノードの Kafka クラスターをローカルに構築します。

3. インストール手順

1. 3ノードのzk疑似クラスターを構築する

ip クライアント接続ポート クラスタ選択インターフェース クラスタ アトミック ブロードキャスト インターフェース server.id ID ノード名の値。現在使用されていません。これは hosts ファイルで設定されます。

知らせ:

  • server.id の id 構成は、zoo.cfg 構成ファイルの dataDir 構成項目で指定されたディレクトリに myid ファイルを作成することによって指定されます。

1. Zookeeperインストールパッケージをダウンロードする

  1. https://mirror.bit .edu.cn/ apache /zookeeper/zookeeper-3.6.2/apache-zookeeper-3.6.2-bin.tar.gzを入手してください

2. 3つのコピーを解凍し、zookeeperディレクトリに配置します。

3. Zookeeper 構成ファイルを変更します。ここではzk01を例に挙げます。

  • confディレクトリのzoo_sample.cfgをzoo.cfgに変更します。

  • zoo.cfg設定ファイルを編集する

知らせ:

  • ここではzk01を例に挙げます。複数のサーバーがローカルで起動されるため、ポートを変更する必要があります。
  • 各サーバーの myid ファイルに対応する値は、異なっており、一意である必要があります。
  • dataDir のパスを変更する必要があります。
  • 残りの構成は、特定の状況に応じて変更できます。
  • 3つのzkノードを起動する

それぞれzk01/bin、zk02/bin、zk03/binディレクトリに入り、次のコマンドを実行します。

  1. ./zkServer.sh --config ../conf 開始 
  • zkクラスターに接続する
  1. ./zkCli.sh -server 127.0.0.1:2181,127.0.0.1:3181,127.0.0.1:4181

2. 3ノードのKafkaクラスターを構築する

知らせ:

  • broker.id の値は一意の数値である必要があります。

1. Kafkaをダウンロードする

  1. https://www.apache.org/dyn/closer.cgi?path=/kafka/2.6.0/kafka_2.13-2.6.0.tgz

2. 3つのコピーを解凍し、kafkaディレクトリに配置します。

3. server.properties ファイルを変更します。ここでは kafka01 を例に挙げます。

変更する必要があるプロパティ。ここでは、kafka01 を例として使用します。異なるインターフェースは特定の値を変更します。

4. 3つのkafkaノードを起動する

kafka01/bin、kafka02/bin、kafka03/binディレクトリに順番に入り、次のコマンドを実行します。

  1. ./kafka-server-start.sh ../config/server.properties &

5. カフカテスト

ここではkafka01を例として使用します

1. テーマを作成する

  1. bin/kafka-topics.sh --create --topic test-001 --replication-factor 1 --partitions 1 --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094  

2. トピック情報を表示する

  1. bin/kafka-topics.sh --describe --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic test-001  

3. 作成したトピックにメッセージを公開する

  1. bin/kafka-console-producer.sh --topic test-001 --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094  

4. トピックに公開されたメッセージを読む

  1. bin/kafka-console-consumer.sh --topic test-001 --from-beginning --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094  

この時点で、シンプルで使いやすい Kafka クラスターが構築されました。

<<:  PaaSとDevOpsが連携するとき

>>:  なぜ CAP が分配理論の基礎となるのでしょうか?

推薦する

クラウドコンピューティングの未来は大きく変わる

2 年前、Wired 誌に非常に目を引く記事が掲載されました。「クラウド コンピューティングの時代は...

Googleはインターネット接続サービスを提供するためにドローンを打ち上げる予定

Google は、今年中に発売予定の太陽光発電ドローン「Project Titan」を正式に発表する...

[WOTD] テンセント楊文兵:PaaS をベースにした自動運用保守システムを迅速に構築

[51CTO.com からのオリジナル記事] ご存知のとおり、運用と保守は実際には反復的な労働を必要...

Pinterestについての考察 Pinterestは興味グラフを構築したいと考えている

私は Pinterest に関するブログを 2 つ続けて書いてきました (リンク リンク)。そして今...

クラウドがチャットボットの体験をどのように変えるか

チャットボットの無限ループや繰り返しの質問にイライラしていませんか?これは顧客にとってよくある悩みで...

登録ロボットに対抗するため、AYH はユーザーの身元を確認するミニゲームを開始

多くのユーザーがこのような経験をしたことがあるでしょう。ウェブサイトのアカウントを登録する際に間違っ...

従業員全体のマーケティングは従業員にとって「足かせ」になっていませんか?いいえ、それは正しくありませんでした。

ショートビデオ、セルフメディア、インフルエンサーのためのワンストップサービスまず、一つの話をしましょ...

ラオ・ルオの商品プロモーションは3回の公演だけで人気が出るのでしょうか?

昨夜8時、羅永浩は予定通りDouyin生放送室に登場した。2回目の放送のデータが急激に落ち込んだ後、...

同じキーワードに対する異なるユーザーニーズの調査

中国文化は奥深く広大です。日常のやり取りやコミュニケーションの中で、1 つの単語に複数の意味があるこ...

メキシコ サーバー、zenlayer、30% オフ、メキシコ シティ データ センター、10Gbps 帯域幅、月額 622 ドルから

世界的に有名な IDC マーチャントである Zenlayer は、北米南部のメキシコに独自のデータセ...

Alibaba Cloudプライベートクラウドは、税関総署が世界で最もインテリジェントな税関を構築するのを支援します

10月12日、2017年杭州雲奇カンファレンスにおいて、アリババクラウドは、企業のデジタル変革のため...

akkocloud: 夕方のピーク時にクラッシュせず、Naifeのブロックを解除できるドイツのcn2 gia VPS(1Gbps帯域幅)の簡単なレビュー

市場にはドイツの cn2 gia 回線を備えた VPS は比較的少なく、1Gbps の帯域幅を提供す...

数万通りのトラフィック手法の鍵が明らかに

ウェブサイトを構築する過程で学び、実践したウェブサイトのトラフィックを増やすためのいくつかの方法をま...

インベントリ: 2022 年の信頼性の高いエッジ コンピューティング プラットフォーム

現代のテクノロジーが進歩し、即時の満足を求める人間の欲求を満たすにつれて、消費者は製品プロバイダーを...

CCTVの丑年春節祝賀会は初めて「クラウド」放送を採用

CCTV Newsのクライアントによると、2月1日、「2021年春節祝賀会」の初リハーサルが中国中央...