Kafka クラスターの構築

Kafka クラスターの構築

1. 背景

最近kafkaを勉強しています。 Mac 上で Kafka クラスターを構築する手順は次のとおりです。

2. ソフトウェアをインストールする

kafka は zookeeper に依存しているため、zookeeper をインストールする必要があります。 kafka は scala で書かれており、scala は jdk をベースにしているので、jdk をインストールする必要があります。

  • JDK、jdk8 以上が推奨されます。ここではjdkのインストールは省略します。
  • zookeeper、このマシン上に 3 ノードの zk 疑似クラスターを構築します。
  • Kafka は 3 ノードの Kafka クラスターをローカルに構築します。

3. インストール手順

1. 3ノードのzk疑似クラスターを構築する

ip クライアント接続ポート クラスタ選択インターフェース クラスタ アトミック ブロードキャスト インターフェース server.id ID ノード名の値。現在使用されていません。これは hosts ファイルで設定されます。

知らせ:

  • server.id の id 構成は、zoo.cfg 構成ファイルの dataDir 構成項目で指定されたディレクトリに myid ファイルを作成することによって指定されます。

1. Zookeeperインストールパッケージをダウンロードする

  1. https://mirror.bit .edu.cn/ apache /zookeeper/zookeeper-3.6.2/apache-zookeeper-3.6.2-bin.tar.gzを入手してください

2. 3つのコピーを解凍し、zookeeperディレクトリに配置します。

3. Zookeeper 構成ファイルを変更します。ここではzk01を例に挙げます。

  • confディレクトリのzoo_sample.cfgをzoo.cfgに変更します。

  • zoo.cfg設定ファイルを編集する

知らせ:

  • ここではzk01を例に挙げます。複数のサーバーがローカルで起動されるため、ポートを変更する必要があります。
  • 各サーバーの myid ファイルに対応する値は、異なっており、一意である必要があります。
  • dataDir のパスを変更する必要があります。
  • 残りの構成は、特定の状況に応じて変更できます。
  • 3つのzkノードを起動する

それぞれzk01/bin、zk02/bin、zk03/binディレクトリに入り、次のコマンドを実行します。

  1. ./zkServer.sh --config ../conf 開始 
  • zkクラスターに接続する
  1. ./zkCli.sh -server 127.0.0.1:2181,127.0.0.1:3181,127.0.0.1:4181

2. 3ノードのKafkaクラスターを構築する

知らせ:

  • broker.id の値は一意の数値である必要があります。

1. Kafkaをダウンロードする

  1. https://www.apache.org/dyn/closer.cgi?path=/kafka/2.6.0/kafka_2.13-2.6.0.tgz

2. 3つのコピーを解凍し、kafkaディレクトリに配置します。

3. server.properties ファイルを変更します。ここでは kafka01 を例に挙げます。

変更する必要があるプロパティ。ここでは、kafka01 を例として使用します。異なるインターフェースは特定の値を変更します。

4. 3つのkafkaノードを起動する

kafka01/bin、kafka02/bin、kafka03/binディレクトリに順番に入り、次のコマンドを実行します。

  1. ./kafka-server-start.sh ../config/server.properties &

5. カフカテスト

ここではkafka01を例として使用します

1. テーマを作成する

  1. bin/kafka-topics.sh --create --topic test-001 --replication-factor 1 --partitions 1 --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094  

2. トピック情報を表示する

  1. bin/kafka-topics.sh --describe --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094 --topic test-001  

3. 作成したトピックにメッセージを公開する

  1. bin/kafka-console-producer.sh --topic test-001 --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094  

4. トピックに公開されたメッセージを読む

  1. bin/kafka-console-consumer.sh --topic test-001 --from-beginning --bootstrap-server 127.0.0.1:9092,127.0.0.1:9093,127.0.0.1:9094  

この時点で、シンプルで使いやすい Kafka クラスターが構築されました。

<<:  PaaSとDevOpsが連携するとき

>>:  なぜ CAP が分配理論の基礎となるのでしょうか?

推薦する

#BlackFriday# limewave: 米国シアトルの VPS、年間 15 ドル、2G メモリ/2 コア (Ryzen)/30gSSD/10T トラフィック/1Gbps 帯域幅

Limewave は特別なブラックフライデー イベントを開始しました。2G メモリ、2 コア (RY...

Tuniu.com: インターネットのチャンスをつかみ、観光サービスを再構築し、インターネットリソースの利点を最大限に活用する

中国国家統計局が2013年2月に発表した2012年の統計公告によると、2012年の中国国内観光客数は...

ソフトデコレーションデザイン会社向けウェブサイト分析・最適化事例

自己紹介させてください。私の名前はボボです。SEO 業界で働き始めたばかりです。現在は、ウェブサイト...

企業にとってのクラウド コンピューティングの 10 のメリット

今日では、企業内のデータセンターはもはや人気がありません。もちろん、企業にはバックアップとしてデータ...

ピンドゥオドゥオの「100億補助金」攻防

「値下げを手伝ってください」というWeChatソーシャル分裂であれ、「C2M」による産業チェーンの再...

cloudiplc - ロシアのVPS、高速直接接続、39元/KVM/512Mメモリ/2Tトラフィック/極東ボリ

cloudiplc(上海旺源ネットワークテクノロジー株式会社)の最新ニュース:[1]海外VPSはすべ...

医療電子商取引B2Cは、量の増加はあっても利益が上がらないという問題に直面している。最も速い感染拡大には3年かかるだろう。

ナンドゥコミックス:チェン・ティン医薬品電子商取引B2Cは発展の過程でどのような困難に直面してきまし...

プロダクトサロン5:インターネット企業が海外進出する際に必須のコツ

プロダクトホームサロンの第 5 回セッションは、7 人のゲスト自身によってレビューされていません。 ...

UCloud CEO の Ji Xinhua 氏が「トップ 10 の革新的な経済人」賞を受賞

12月26日、「第51回クレジットカード新霊獣夜・中国(杭州)イノベーション経済人表彰式」が盛大に開...

深セン工科大学が世界選手権で金メダルを獲得。アマゾンクラウドテクノロジーは、学校と企業の協力による高技能人材の輸出を支援します

最近、深セン工科大学の教師である陳新元さんが、2022年技能五輪世界大会特別競技会のクラウドコンピュ...

国家工商行政管理局は、オンライン取引を規制し、オンラインストアが評判を騙し取ることを禁止する予定である。

新華網北京9月11日(記者:張暁松、王思北)国家工商行政管理総局は11日、「オンライン商品取引及び関...

Yaohe TechnologyがSmart Retailに登場し、新小売時代のマーケティングテクノロジーについて説明

月収10万元の起業の夢を実現するミニプログラム起業支援プラン2018年9月20日、上海ドラゴンドリー...

Wuyun.com は、ネットワーク セキュリティの脆弱性が多すぎるため、一時的に閉鎖されました。

昨日、ネットワークセキュリティの脆弱性を頻繁に公開していたWuyun.comが突然、システムを一時閉...

生放送週報4日目:越境EC業界がクラウド化して発展を加速

5月12日、Amazon Web Servicesと51CTOが共同で開始した毎週のライブ放送シリー...

vpsdime-$7/6g メモリ/4 コア/80g ハードディスク/2T トラフィック/2g ポート/3 データセンター

vpsdime は比較的強力なビジネスであり、backupsy は少なくともその強さの象徴であるため...