亚洲视频二区_亚洲欧洲日本天天堂在线观看_日韩一区二区在线观看_中文字幕不卡一区

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.430618.com 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

目錄
  • 安裝單個節點
  • docker-compose.yml 配置
  • 安裝集群環境
    • docker-compose.yml配置
    • 啟動kafka集群
  • 總結

    Docker是最受歡迎的容器引擎之一,軟件行業用于創建、打包、部署應用。本教程學習如何使用Docker搭建Apache Kafka。

    安裝單個節點

    安裝單節點Kafka代理需能夠滿足本地開發需求,我們首先學習單節點安裝。

    docker-compose.yml 配置

    使用Apache Kafka服務,首先需要啟動Zookeeper 服務。這可以通過在docker-compose.yml 文件配置依賴實現,但要確保Zookeeper服務總是在Kafka服務之前啟動,反之zookeeper最后停止。

    首先創建docker-compose.yml文件,增加兩個服務:zookeeper和kafka:

    version: '2'
    services:
      zookeeper:
        image: confluentinc/cp-zookeeper:latest
        environment:
          ZOOKEEPER_CLIENT_PORT: 2181
          ZOOKEEPER_TICK_TIME: 2000
        ports:
          - 22181:2181
      
      kafka:
        image: confluentinc/cp-kafka:latest
        depends_on:
          - zookeeper
        ports:
          - 29092:29092
        environment:
          KAFKA_BROKER_ID: 1
          KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181
          KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://kafka:9092,PLAINTEXT_HOST://localhost:29092
          KAFKA_LISTENER_SECURITY_PROTOCOL_MAP: PLAINTEXT:PLAINTEXT,PLAINTEXT_HOST:PLAINTEXT
          KAFKA_INTER_BROKER_LISTENER_NAME: PLAINTEXT
          KAFKA_OFFSETS_TOPIC_REPLICATION_FACTOR: 1
    

    Zookeeper服務監聽2181端口為Kafka提供服務,但對于運行在本機的客戶端,暴露的端口為22181.
    類似的,kafka通過端口29092暴露給主機應用,但實際上在容器中的端口9092。有KAFKA_ADVERTISED_LISTENERS屬性來配置。

    下面通過使用命令啟動容器、開啟kafka服務:

    $ docker-compose up -d
    Creating network "kafka_default" with the default driver
    Creating kafka_zookeeper_1 ... done
    Creating kafka_kafka_1     ... done
    

    下面通過nc命令嚴重兩個服務正在監聽各自的端口:

    $ nc -z localhost 22181
    Connection to localhost port 22181 [tcp/*] succeeded!
    $ nc -z localhost 29092
    Connection to localhost port 29092 [tcp/*] succeeded!
    

    另外,也可以檢查日志,當容器正在運行時驗證kafka服務是否啟動:

    $ docker-compose logs kafka | grep -i started

    可以看到Kafka服務已經啟動。

    最后可以使用Kafka Tool Gui 工具連接已安裝的Kafka服務:

    使用Docker搭建Apache Kafka環境的詳細過程

    安裝集群環境

    生產環境需要更穩定的環境,下面擴展 docker-compose.yml文件創建多節點集群環境:

    docker-compose.yml配置

    集群安裝需要zookeeper和Kafka有多個實例,下面為zookeeper和kafka增加多個服務:

    ---
    version: '2'
    services:
      zookeeper-1:
        image: confluentinc/cp-zookeeper:latest
        environment:
          ZOOKEEPER_CLIENT_PORT: 2181
          ZOOKEEPER_TICK_TIME: 2000
        ports:
          - 22181:2181
    
      zookeeper-2:
        image: confluentinc/cp-zookeeper:latest
        environment:
          ZOOKEEPER_CLIENT_PORT: 2181
          ZOOKEEPER_TICK_TIME: 2000
        ports:
          - 32181:2181
      
      kafka-1:
        image: confluentinc/cp-kafka:latest
        depends_on:
          - zookeeper-1
          - zookeeper-2
    
        ports:
          - 29092:29092
        environment:
          KAFKA_BROKER_ID: 1
          KAFKA_ZOOKEEPER_CONNECT: zookeeper-1:2181,zookeeper-2:2181
          KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://kafka-1:9092,PLAINTEXT_HOST://localhost:29092
          KAFKA_LISTENER_SECURITY_PROTOCOL_MAP: PLAINTEXT:PLAINTEXT,PLAINTEXT_HOST:PLAINTEXT
          KAFKA_INTER_BROKER_LISTENER_NAME: PLAINTEXT
          KAFKA_OFFSETS_TOPIC_REPLICATION_FACTOR: 1
      kafka-2:
        image: confluentinc/cp-kafka:latest
        depends_on:
          - zookeeper-1
          - zookeeper-2
        ports:
          - 39092:39092
        environment:
          KAFKA_BROKER_ID: 2
          KAFKA_ZOOKEEPER_CONNECT: zookeeper-1:2181,zookeeper-2:2181
          KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://kafka-2:9092,PLAINTEXT_HOST://localhost:39092
          KAFKA_LISTENER_SECURITY_PROTOCOL_MAP: PLAINTEXT:PLAINTEXT,PLAINTEXT_HOST:PLAINTEXT
          KAFKA_INTER_BROKER_LISTENER_NAME: PLAINTEXT
          KAFKA_OFFSETS_TOPIC_REPLICATION_FACTOR: 1
    

    必須要確保kafka服務名稱唯一,通過KAFKA_BROKER_ID 屬性設置。而且每個服務必須暴露唯一主機端口。雖然zookeeper-1 和 zookeeper-2 監聽2181端口,但對于主機端口分別為 22181 和 32181。類似的,kafka-1 和 kafka-2 services對應主機端口分別為 29092 和 39092。

    啟動kafka集群

    現在通過docker-compose命令啟動集群:

    $ docker-compose up -d
    Creating network "kafka_default" with the default driver
    Creating kafka_zookeeper-1_1 ... done
    Creating kafka_zookeeper-2_1 ... done
    Creating kafka_kafka-2_1     ... done
    Creating kafka_kafka-1_1     ... done
    

    啟動完成,使用Kafka Tool連接集群,地址通過逗號分割只讀多個zookeeper地址和端口:

    總結

    本文使用Docker技術創建單個Kafka節點和Kafka集群環境,并且使用可視化工具連接服務查看代理服務器的配置信息。

    分享到:
    標簽:搭建 服務器 環境 詳細 過程
    用戶無頭像

    網友整理

    注冊時間:

    網站:5 個   小程序:0 個  文章:12 篇

    • 51998

      網站

    • 12

      小程序

    • 1030137

      文章

    • 747

      會員

    趕快注冊賬號,推廣您的網站吧!
    最新入駐小程序

    數獨大挑戰2018-06-03

    數獨一種數學游戲,玩家需要根據9

    答題星2018-06-03

    您可以通過答題星輕松地創建試卷

    全階人生考試2018-06-03

    各種考試題,題庫,初中,高中,大學四六

    運動步數有氧達人2018-06-03

    記錄運動步數,積累氧氣值。還可偷

    每日養生app2018-06-03

    每日養生,天天健康

    體育訓練成績評定2018-06-03

    通用課目體育訓練成績評定