社内se × プログラマ × ビッグデータ

プログラミングなどITに興味があります。

Hadoop

Docker で centos 7 をベースに Hadoop(version3.1.3) コンテナ作成したときの問題

Docker で centos 7 をベースに Hadoop(version3.1.3) コンテナ作成してみました。 ただ作成してみたものの、使いづらいと感じている面があります。 理由1 systemctlを使ったサービスの自動起動を行うには、コンテナ起動時に/sbin/initを指定しなければなら…

hadoop namenode スタート直後は hdfs コマンドが動かない ?

Hadoop の構築スクリプトを作っています。 namenode を起動した後に、必要なディレクトリ hdfs 上に作成するため、以下のようにスクリプトを記述。 /usr/hdp/2.6.2.0-205/hadoop/sbin/hadoop-daemon.sh start namenode hdfs dfs -mkdir -p /user/my_dataとこ…