Cassandra

Cluster Cassandra "formation" dans un environnement virtualisé "Gitpod" :

Notre cluster de démonstration contiendra 4 noeuds en tout :

• 2 noeuds sur le Datacenter 1
• 2 noeuds sur le Datacenter 2

Rappel pour retrouver les environnements éventuellement précédemment instanciés dans Gitpod : https://gitpod.io/workspaces

# Pour afficher les workspaces déjà instanciés si besoin de faire du ménage :

Affichage du répertoire courant dans Gitpod :

pwd

Affichage :

/workspace/Cassandra

Création des répertoires utiles :

sudo mkdir -p /workspace/Cassandra/cassandra
sudo chown gitpod:gitpod -Rf /workspace/Cassandra/cassandra

Modification des droits pour pouvoir ensuite mapper et servir de "sas" avec le conteneur que l'on lancera :

sudo chmod 777 -Rf /workspace/Cassandra/

Regardons les images docker cassandra disponibles en ligne dans docker hub :

• Exemple d'images docker disponibles de cassandra :

  docker search cassandra 
  

• Exemple :

  NAME                                                        DESCRIPTION                                     STARS     OFFICIAL
  cassandra                                                   Apache Cassandra is an open-source distribut…   1521      [OK]
  bitnami/cassandra                                           Bitnami container image for Cassandra           50        
  bitnami/cassandra-exporter                                                                                  0  
  ...	
  ...      
  litmuschaos/cassandra-client                                                                                0         
  apache/cassandra-jenkins-k8s                                Cassandra Jenkins K8s                           0         
  cloudsuite/cassandra                                                                                        0         
  google/apigee-cassandra-backup-utility                      Apigee cassandra backup utility container im…   0         
  google/apigee-cassandra-client                              Apigee cassandra client container images        0         
  google/apigee-cassandra                                     Apigee cassandra container images               0         
  k8ssandra/medusa                                            Backup and restore services for Apache Cassa…   1         
  k8ssandra/cass-management-api                               Datastax Management API for Apache Cassandra™   1       
  

On lance 1 fois un container nommé ici "cassandra" qui monte le répertoire Gitpod local "/workspace/Cassandra" comme étant le répertoire "/tmp" dans le conteneur :

cd /workspace/Cassandra

docker run --name cassandra -d --mount src="$(pwd)",target=/tmp,type=bind  cassandra:4.1

On vérifier que le conteneur "cassandra" est bien en exécution (donc pas en statut "exited") :

docker ps -a 

Si anomalie, on regarde les logs du contener en erreur :

docker logs cassandra 

On se connecte sur le container nommé cassandra en exécution :

docker exec -it cassandra bash

Et on copie les fichiers de paramètrage de cassandra qui nous serviront plus tard de modèle :

cp -r /etc/cassandra /tmp/

On vient de récupérer le répertoire /etc/cassandra du container cassandra :

Le répertoire /tmp du container correspond également au répertoire "cassandra" de notre workspace

et il contient la configuration du serveur cassandra qui nous servira de modèle ensuite.

On ressort du container :

exit

On crée maintenant -par recopie- les répertoires qui serviront de modèle pour les 4 cassandra01/02/03/04 :

(cela nous permettra de les customiser simplement à volonté si besoin) :

ls cassandra
sudo chown gitpod:gitpod -Rf cassandra
sudo chown gitpod:gitpod -Rf /workspace/Cassandra/cassandra
sudo chmod 777 -Rf /workspace/Cassandra/cassandra

ls cassandra 

cp -r cassandra/ cassandra01/
cp -r cassandra/ cassandra02/
cp -r cassandra/ cassandra03/
cp -r cassandra/ cassandra04/

sudo mkdir -p cassandra01data
sudo mkdir -p cassandra02data
sudo mkdir -p cassandra03data
sudo mkdir -p cassandra04data

sudo chmod 777 -Rf /workspace/Cassandra/cassandra

Et on supprime notre container qui nous a servi juste à récupérer le modèle de départ :

docker ps -a 

docker stop cassandra

docker rm cassandra

docker ps -a 

Et on supprime notre répertoire modèle :

sudo rm -Rf cassandra/

On va regarder le contenu du fichier docker-compose.yml qui va donner les caractéristiques du cluster cassandra qui va être créé avec docker

Ce cluster Cassandra est composé de 4 noeuds cassandra01/cassandra02/cassandra03/cassandra04 répartis sur 2 Datacenters :

On notera -au passage- dans le fichier docker-compose.yml la façon de vérifier que le conteneur cassandra est bien opérationnel :

cd /workspace/Cassandra
cat docker-compose.yml 

• 2 exemples de méthodes possibles ici :

  test: ["CMD-SHELL", "[ $$(nodetool -h 127.0.0.1 -pw cassandra -u cassandra statusgossip) = running ]"]

  ou, si "nc" est installé dans l'image docker :

  test: ["CMD", "nc", "-z", "127.0.0.1", "9044"]

• On pourra vérifier que notre fichier local "docker-compose.yml" fait bien référence à ces emplacements : /workspace/Cassandra/cassandra0x avec x = 1 2 3 4

On lance maintenant le cluster :

docker compose up -d

• Pour lister l'image récupérée :

docker images

• Attendez quelques minutes que les conteneurs démarrent

On contrôle le bon démarrage (plusieurs minutes) :

docker ps -a

Affichage :

CONTAINER ID   IMAGE           COMMAND                  CREATED          STATUS                    PORTS                                                                                    NAMES
c23b99e54a65   cassandra:4.1   "docker-entrypoint.s…"   51 seconds ago   Up 14 seconds (healthy)   7000-7001/tcp, 7199/tcp, 9042/tcp, 9160/tcp, 0.0.0.0:9045->9045/tcp, :::9045->9045/tcp   cassandra-cassandra04-1
2e4b65478df2   cassandra:4.1   "docker-entrypoint.s…"   51 seconds ago   Up 27 seconds (healthy)   7000-7001/tcp, 7199/tcp, 9042/tcp, 9160/tcp, 0.0.0.0:9044->9044/tcp, :::9044->9044/tcp   cassandra-cassandra03-1
b4e6794c7415   cassandra:4.1   "docker-entrypoint.s…"   51 seconds ago   Up 39 seconds (healthy)   7000-7001/tcp, 7199/tcp, 9042/tcp, 9160/tcp, 0.0.0.0:9043->9043/tcp, :::9043->9043/tcp   cassandra-cassandra02-1
06f21e6a9cba   cassandra:4.1   "docker-entrypoint.s…"   51 seconds ago   Up 51 seconds (healthy)   7000-7001/tcp, 7199/tcp, 9160/tcp, 0.0.0.0:9042->9042/tcp, :::9042->9042/tcp             cassandra-cassandra01-1

Affichage des logs d'un conteneur :

docker logs cassandra-cassandra01-1 

Affichage des logs d'un conteneur en s'intéressant au message qui confirme un bon démarrage :

docker logs cassandra-cassandra01-1  | grep 'jump'

Une fois le 1er conteneur du cluster bien démarré, vous aurez :

docker logs cassandra-cassandra01-1 | grep 'jump'

Affichage :

 INFO  [main] 2024-01-11 15:39:05,574 StorageService.java:3084 - Node /172.22.0.2:7000 state jump to NORMAL

On se connecte à un des 4 conteneurs cassandra :

docker exec -it cassandra-cassandra01-1  bash     

On peut y lancer une commande pour voir le statut du cluster :

nodetool status 

On sort du conteneur :

exit

Pour le 2nd conteneur :

docker logs cassandra-cassandra02-1  | grep 'jump'

Affichage :

INFO [main] 2024-01-11 15:39:54,752 StorageService.java:3084 - Node /172.22.0.3:7000 state jump to NORMAL

Pour le 3ème conteneur :

docker logs cassandra-cassandra03-1  | grep 'jump'

Affichage :

INFO [main] 2024-01-11 15:39:22,650 StorageService.java:3084 - Node /172.22.0.4:7000 state jump to NORMAL

Pour le 4ème conteneur :

docker logs cassandra-cassandra04-1  | grep 'jump'

Affichage :

INFO [main] 2024-01-11 15:40:00,208 StorageService.java:3084 - Node /172.22.0.5:7000 state jump to NORMAL

---

On vérifie finalement que le cluster est opérationnel également au sens "service cassandra" :

Surveillance d'un cluster Cassandra dans Docker :

nodetool est un programme en ligne de commande qui offre un large choix sur la façon d'examiner le cluster, de comprendre son activité et de le modifier.

nodetool permet d'obtenir des statistiques sur le cluster, de voir les plages de token maintenus par chaque nœud et les diverses tâches de gestion

(ex. : déplacement de données d'un nœud à un autre, la mise hors service de nœuds, la réparation de nœuds, etc.)

Utilisation de nodetool : On peut utiliser la commande "nodetool status" sur n'importe lequel des nœuds pour voir l'état des nœuds du cluster :

---

docker exec -it cassandra-cassandra01-1 nodetool status 

Affichage :

Datacenter: Nord
================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load        Tokens  Owns (effective)  Host ID                               Rack      
UN  172.18.0.3  104.33 KiB  16      50.5%             ea257e07-3ad3-4971-a0d3-eb5d97bfa07c  Winterfell
UN  172.18.0.2  109.4 KiB   16      49.2%             4742bcf7-15eb-4229-a6e4-b97ad18201b4  Winterfell

Datacenter: Terres-de-la-Couronne
=================================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load        Tokens  Owns (effective)  Host ID                               Rack      
UN  172.18.0.4  104.34 KiB  16      50.2%             1d591df1-796e-4f03-8628-935d3fc7cb1f  Port-Real 
UN  172.18.0.5  104.35 KiB  16      50.2%             a497f085-ed67-40a0-a3d6-8c9b87b81e64  Port-Real 

---

Fin du lancement du cluster Cassandra 4 noeuds

---

On installe "netstat" présent dans le package net-tools :

sudo apt-get install net-tools

Affichage des services en cours d'écoute sur les ports 904* :

netstat -l | grep 904

Affichage en retour :

tcp        0      0 0.0.0.0:9043            0.0.0.0:*               LISTEN     
tcp        0      0 0.0.0.0:9042            0.0.0.0:*               LISTEN     
tcp        0      0 0.0.0.0:9045            0.0.0.0:*               LISTEN     
tcp        0      0 0.0.0.0:9044            0.0.0.0:*               LISTEN    
tcp6       0      0 [::]:9043               [::]:*                  LISTEN     
tcp6       0      0 [::]:9042               [::]:*                  LISTEN     
tcp6       0      0 [::]:9045               [::]:*                  LISTEN  
tcp6       0      0 [::]:9044               [::]:*                  LISTEN

La commandes "nodetool info" apporte des informations complémentaires :

docker exec -it cassandra-cassandra01-1 nodetool info

Affichage :

ID                     : f4539d5f-6e29-417a-b2c2-f59d72101120
Gossip active          : true
Native Transport active: true
Load                   : 75.19 KiB
Generation No          : 1692971004
Uptime (seconds)       : 702
Heap Memory (MB)       : 87.96 / 251.00
Off Heap Memory (MB)   : 0.00
Data Center            : dc1
Rack                   : rack2
Exceptions             : 0
Key Cache              : entries 11, size 984 bytes, capacity 12 MiB, 104 hits, 122 requests, 0.852 recent hit rate, 14400 save period in seconds
Row Cache              : entries 0, size 0 bytes, capacity 0 bytes, 0 hits, 0 requests, NaN recent hit rate, 0 save period in seconds
Counter Cache          : entries 0, size 0 bytes, capacity 6 MiB, 0 hits, 0 requests, NaN recent hit rate, 7200 save period in seconds
Network Cache          : size 8 MiB, overflow size: 0 bytes, capacity 15 MiB
Percent Repaired       : 100.0%
Token                  : (invoke with -T/--tokens to see all 16 tokens)

On lance une session en terminal de commande sur un des noeuds :

docker exec -it cassandra-cassandra01-1 bash

On investigue un petit peu sur certains paramètres d'un des noeuds cassandra :

cd /opt/cassandra/conf

ls

cat cassandra-env.sh

cat cassandra.yaml

cat cassandra.yaml | grep endpoint_snitch

• Noter :

  endpoint_snitch -- Set this to a class that implements

  endpoint_snitch: GossipingPropertyFileSnitch

-> Ce paramètre est adapté au déploiement sur plusieurs Datacenters : GossipingPropertyFileSnitch

   cat cassandra-rackdc.properties 

• Noter les informations sur le rack et le DC auquel le noeud est rattaché

• On regarde l'emplacement du répertoire qui contien les "data" du noeud : /etc/cassandra/data

  ls /etc/cassandra/data 
  

Affichage :

    commitlog  data  hints  saved_caches

On ressort du container :

exit

Pour voir les détails sur quel noeud possède quelle partie des tokens, on utilise la commande nodetool ring :

docker exec -it cassandra-cassandra01-1 nodetool ring

Affichage en retour :

Datacenter: Nord
==========
Address          Rack        Status State   Load            Owns                Token          
172.18.0.3       Winterfell  Up     Normal  104.33 KiB      50.45%              -8981644946389424378  
...
...
172.18.0.5       Port-Real   Up     Normal  104.35 KiB      50.19%              8724035788859790933       
172.18.0.5       Port-Real   Up     Normal  104.35 KiB      50.19%              9150322290140920323                 

Warning: "nodetool ring" is used to output all the tokens of a node.
To view status related info of a node use "nodetool status" instead.

Utilisons maintenant le client en ligne de commande "cqlsh" :

docker exec -it cassandra-cassandra01-1 cqlsh

Affichage :

Connected to formation at 127.0.0.1:9042
[cqlsh 6.1.0 | Cassandra 4.1.3 | CQL spec 3.4.6 | Native protocol v5]
Use HELP for help.

Affichage des keyspaces existants dans le cluster cassandra :

DESCRIBE KEYSPACES;

Affichage :

cqlsh> DESCRIBE KEYSPACES;

system       system_distributed  system_traces  system_virtual_schema
system_auth  system_schema       system_views 

On ressort de la session CQL :

EXIT;

Affichage :

cqlsh> EXIT

Pour arrêter le cluster :

docker compose down

Have fun!