Docker로 kafka 구축

version: '3.6'

services:
  zoo1:
    image: confluentinc/cp-zookeeper:6.2.1
    container_name: cluster-zoo1
    hostname: zoo1
    ports:
      - "2181:2181"
    environment:
      ZOOKEEPER_CLIENT_PORT: 2181
      ZOOKEEPER_SERVER_ID: 1
      ZOOKEEPER_SERVERS: zoo1:2888:3888

  kafka1:
    image: confluentinc/cp-kafka:6.2.1
    container_name: cluster-kafka1
    hostname: kafka1
    ports:
      - "9092:9092"
    environment:
      KAFKA_ADVERTISED_LISTENERS: LISTENER_DOCKER_INTERNAL://kafka1:19092,LISTENER_DOCKER_EXTERNAL://${DOCKER_HOST_IP:-127.0.0.1}:9092
      KAFKA_LISTENER_SECURITY_PROTOCOL_MAP: LISTENER_DOCKER_INTERNAL:PLAINTEXT,LISTENER_DOCKER_EXTERNAL:PLAINTEXT
      KAFKA_INTER_BROKER_LISTENER_NAME: LISTENER_DOCKER_INTERNAL
      KAFKA_ZOOKEEPER_CONNECT: "zoo1:2181"
      KAFKA_BROKER_ID: 1
      KAFKA_LOG4J_LOGGERS: "kafka.controller=INFO,kafka.producer.async.DefaultEventHandler=INFO,state.change.logger=INFO"
    depends_on:
      - zoo1

위와 같은 yaml을 넣고 **docker compose up -d**를 입력하면 컨테이너들이 올라간다.

스크린샷 2024-01-31 오전 11.48.19.png


Kafka 컨테이너에 접속 후 명령어 입력

스크린샷 2024-01-31 오전 11.49.00.png

위 사진에 보이는 7c~ 어쩌구 적혀있는게 해당 컨테이너의 이름인데 이 이름을 사용해서 접속할 수 있다.

docker exec -it 7c65f3a89ad1 /bin/bash

이처럼 exec 명령어를 사용해서 컨테이너에 접속한다.


토픽 만들기

kafka-topics --create --topic topic이름 --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1

스크린샷 2024-01-31 오전 11.52.04.png

이렇게 명령어를 입력하게 되면 해당 topic이 생기는 것을 확인할 수 있다.

이때 replication-factor의 크기가 현재 브로커의 수보다 크면 안 된다.

why?