728x90

kafka 설치는 이전 강의를 확인해주세요!

https://novice-engineers.tistory.com/28

 

[BigData] kafka - 개발자의 연봉 상승을 위한 공부 (설치)

빅데이터 하면 빠질 수 없는 스킬 중 하나인 kafka를 다뤄보는 시간을 갖도록 하겠습니당! 1. java JDK 설치 (요건 설치되어 있다고 생각하고 넘어가겠습니다) 2. Kafka 설치 2-1: kafka tgz 파일 설치 위 슬

novice-engineers.tistory.com

 

이번 실습은 간단하게 문자 input, output을 확인해 보겠습니다.

1. config 설정

0123456
config 설정

1. C:\[kafka버전] 이동 -> 우클릭 -> 새로 만들기 -> 폴더 -> data 디렉토리 생성

2. data 디렉토리 더블 클릭 -> 우클릭 -> 새로 만들기 -> 폴더 -> kafka 디렉토리 생성 (똑같이 zookeeper 디렉토리 생성)

3. C:\[kafka버전]\config 이동 -> zookeeper.properties 파일을 메모장에 끌어 오기

4. C:\[kafka버전]\data\zookeeper 경로 복사 -> zookeeper.properties 의 "dataDir=path" -> path 부분에 복사한 경로 붙여 넣고 저장 (Ctrl + F 누른 후 dataDir 찾으시면 빨리 찾을 수 있어요!)

5. C:\[kafka버전]\config 이동 -> server.properties 파일을 메모장에 끌어 오기

6. C:\[kafka버전]\data\kafka 경로 복사 -> server.properties의 "log.dirs=path" -> path 부분에 복사한 경로 붙여 넣기(4번과 동일한 방법으로 진행하시면 됩니다!)

7. server.properties의 "zookeeper.connect=localhost:2181"를 "zookeeper.connect=0.0.0.0:2181"로 변경 후 저장

 

2. 실습

01
zookeeper, kafka 실행

1. zookeeper 서버 시작

- C:\[카프카버전]\bin\windows 디렉토리 이동 -> zookeeper-server-start.bat ../../config/zookeeper.properties 입력

(반드시 zookeeper 먼저 실행해주세요)

../../config/zookeeper.properties 부분은 저희가 위에서 설정한 값을 반영해 주기 위해서입니다.

 

2. kafka 서버 시작

- 새로운 cmd창 열기 (위 cmd창 끄면 안 돼요!!!) -> kafka-server-start.bat ../../config/server.properties 입력

../../config/server.properties 이유는 위와 동일합니다! (1과 마찬가지로 cmd창 끄면 안 돼요!!!) 

 

3. topic 생성

토픽 생성

1. topic 생성

- 새로운 cmd창 열기 -> kafka-topics.bat --create --topic test_topic --bootstrap-server localhost:9092 입력

 

2. 생성한 topic 확인

- 새로운 cmd창 열기 -> kafka-topics.bat --describe --topic test_topic --bootstrap-server localhost:9092 입력

 

4. 프로듀서 & 컨슈머 실행 & 확인

01
프로듀서 & 컨슈머 실행 & 확인

1. 프로듀서 실행

kafka-console-producer.bat --topic test_topic --bootstrap-server localhost:9092 입력

 

2. 컨슈머 실행

새로운 cmd창 열기 -> kafka-console-consumer.bat --topic test_topic --from-beginning --bootstrap-server localhost:9092 입력

 

3. 확인

프로듀서 cmd창에서 글 입력 후 컨슈머 cmd창 확인

728x90
728x90

빅데이터 하면 빠질 수 없는 스킬 중 하나인 kafka를 다뤄보는 시간을 갖도록 하겠습니당!

 

1. java JDK 설치 (요건 설치되어 있다고 생각하고 넘어가겠습니다)

 

2. Kafka 설치

2-1: kafka tgz 파일 설치

0123

위 슬라이드와 똑같이 진행해주세요.

 

2-2: tgz 파일 압축 풀기

0123

1. win키(Ctrl옆에있는키입니다)+R누르고 cmd 입력 -> cmd열기

2. 다운로드 경로로 이동 ( 경로 모르시는 분들은 3번째 슬라이드 참고하세요! )

3. tar -zxvf [카프카버전]  입력

4. 압축 푼 디렉토리 확인

 

2-3: 실행 확인

실행 확인

1. cd [카프카버전]  : 카프카 디렉토리 이동

2. cd bin  : bin 디렉토리 이동

3. cd windows  : windows 디렉토리 이동

4. kafka-topics.bat  : 실행 확인

 

2-4: path 설정

012345

1. cmd 새로 열어서 kafka-topics.bat 명령어 날려보기 (오류나는게 정상입니다)

2. 2-3에서 압축 푼 [카프카버전] 디렉토리를 C드라이브(로컬디스크) 밑으로 이동 시켜주세요!

( 이동 안 하면 나중에 실행할 때 오류가 발생합니다!)

3. cd [카프카버전]/bin/windows 이동

4. echo %cd% 입력 후 경로 복사

6. win키 누르기 -> "환경"입력 -> 엔터

6. 4에서 복사한 경로 환경 변수에 넣어주기 (5번째 슬라이드 참고하세요)

7. 명령어 날리고 확인

 

다음 장에서 실습 진행해 보도록 하겠습니다!

728x90
728x90

1.4.5부터 Sqoop은 암호화될 암호를 저장하는 JKS 사용을 지원하므로 암호를 파일에 일반 텍스트로 저장할 필요가 없습니다.

Java KeyStore를 사용하여 달성할 수 있습니다.

 

1. 명령어: hadoop credential create Alias–provider jceks://hdfs/저장경로/패스워드파일명.jceks

Ex) hadoop credential create web.pass -provider jceks://hdfs/user/test/TEST_PASSWORD.jceks

 

2. Password 입력 (2)

 

728x90

+ Recent posts