- Spark v.2.1.1
- Hive v.2.2.0
- Zeppelin v.0.7.2
docker node update --label-add disk=ssd <host-id>
docker node update --label-add disk.type=hive-metastore <host-id>
Обратите внимание на секцию constraints
hive-metastore-postgresql:
image: dmitryzagr/hive-metastore-postgresql:2.2.0-hadoop2.8.1-java8
hostname: hive-metastore-postgresql
volumes:
- hive-metastore-postgresql_data:/var/lib/postgresql/data
deploy:
placement:
constraints:
- node.role == worker
- node.labels.disk == ssd
- node.labels.disk.type == hive-metastore
Запуск hadoop кластера
git clone https://github.com/DmitryZagr/docker-spark-hive-zeppelin.git
cd docker-spark-hive-zeppelin
docker stack deploy -c docker-stack.yml hadoop
Запуск сервисов мониторинга
docker stack deploy -c docker-stack-monitor.yml monitor
Развертывание сервисов через *.yml файлы Типы labels в swarm