[TUTO] Monitoring réseau (Telegraf + InfluxDB 1.8 + Grafana)

[MilesTEG1]

@bruno78
J'ai mis à jour de la version 6.2.3-25426 Update 3 à la version 6.2.4-25554.
Mais je crois avoir compris d'où venait le problème... qui m'a révélé un autre problème...
C'est en voyant les volumes de influxdb que j'ai eu la puce à l'oreille... pourquoi y a-t-il ces deux volumes supplémentaires faisant mention d'une version 2 de infludb...

Je vais voir dockerhub pour voir ce qu'il en est de la configuration de infludb avec un docker-compose. Et je vois qu'ils parlent de choisir de mettre à jour en V2 ou de garder une v1.x... Heu WTF ! Une V2 ? Je tourne avec depuis longtemps ou pas ???
C'est là que je vais voir les logd de Watchtower qui tourne tous les matins pour mettre les conteneurs à jour.
Ça fait depuis 2 jours que je n'ai pas eu de ses nouvelles, j'ai pensé bêtement qu'il n'y avait rien à mettre à jour (ça lui est déjà arrivé...), et donc dans les logs de ce dernier je vois qu'il y a des erreurs pour envoyer les notifications emails... 
Et là, ça fait tilt : j'ai changé le mot de passe de mon compte gmail associé et j'ai supprimé toutes les connexions existantes à mon compte ainsi ce qui a supprimé tous les mots de passe applications créés, dont celui pour Watchtower...
Du coup je n'ai pas eu les notifications de mise à jour matinales que je consulte pour voir ce qui a été mis à jour... Et je n'ai donc pas vu passer la MAJ d'influxDB...

J'ai donc passé le :latest de l'image d'influxdb en :1.8 et j'ai recréé les conteneurs.

Et tadaamm, ça refonctionne :

 

Conclusion : faites gaffe si vous mettez à jour vos conteneurs 😮 Ne passez pas sur la v2 d'influxdb !

@.Shad. À quand une modification du tuto pour utiliser la V2 de influxDB ? 😛

 

 

 

Modifié le 25 février 2021 par MilesTEG1

[.Shad.]

Bien vu !

Je vais juste préciser qu'il ne faut plus mettre latest.
Je suis bien content d'update mes images juste une fois par semaine. 😄 

il y a 13 minutes, MilesTEG1 a dit :

@.Shad. À quand une modification du tuto pour utiliser la V2 de influxDB ? 😛

Soon™

Plus sérieusement, très peu probable, j'ai parcouru rapidement leur github, le système est relativement différent en terme de configuration (dans le sens mieux), mais ça ferait retoucher beaucoup trop, donc ce tutoriel restera opérationnel pour les versions 1.X.

[bruno78]

@MilesTEG1 content que tu ais trouvé le problème ..... c'est aussi une des raisons pour lesquelles je ne fais pas mise à jour automatique des dockers .... (j'ai eu des soucis il y a quelques mois avec une maj. Telegraf ....)

Mon plus gros soucis avec InfluxDB, c'est la consommation mémoire ... Si la V2 améliore ce point, j'irai peut-être voir ... ??

[MilesTEG1]

J’avoue que c’est l’un des conteneurs qui le consomme le plus de ram.

Après dans mon cas j’ai 12Go de ram donc ça va j’ai de la marge 😊

 

si jamais il y avait une nouvelle version du tuto j’ai peur que les données acquises avec la v1 ne soient pas récupérables...

apres tant que ça marche avec la v1.8, c’est bon.

mais il se peut qu’un jour telegraf ou grafana ne veuillent plus fonctionner avec.

[oracle7]

Bonjour,

Je viens de découvrir les derniers échanges  en me connectant alors que j'allais créer un post pour le problème rencontré.

Heureusement, @MilesTEG1 nous a donné la solution. MERCI à lui.👏👍🤗

Chez moi cela se présentait par l'impossibilité de se connecter en interne à une base données avec l'erreur suivante :

# docker exec -it influxdb influx -username admin -password admin
Error: unknown shorthand flag: 'u' in -username
See 'influx -h' for help

Comme je suis actuellement à fond sur le monitoring de la Livebox4, c'était plus que gênant pour moi.

En fouillant un peu la toile je me suis aperçu que cela relevait d'un problème d'authentification lié à Influxdb v2.x ce qui m'a fait tiquer. puisque comme vous tous je tourne avec influxdb v1.8.

J'ai aussitôt été voir le log de watchtower. Là, j'ai constaté qu'effectivement une mise à jour de l'image de influxdb vers la v2.0.4 était intervenue il y a 18 heures. Je n'y ai pas vraiment prêté attention pensant qu'il y aurait une compatibilité ascendante, donc que c'était normal quelque part.

Mais que nenni, le système de connexion d'influxdb est foncièrement différent d'après la doc. Et j'allais donc questionner @.Shad. pour bénéficier de ses lumières avisées mais c'est inutile maintenant vu que j'ai la réponse. Effectivement en supprimant "latest" pour "1.8" tout est revenu dans l'ordre. Ouf !!!! 😥

Il y a 3 heures, .Shad. a dit :

mais ça ferait retoucher beaucoup trop, donc ce tutoriel restera opérationnel pour les versions 1.X.

C'est à dire ? Ce n'est pas que la partie connexion où il semble maintenant (j'ai juste survolé la doc) qu'il faut obtenir un token spécifique en lieu et place des -username -password utilisé jusquà présent ?

Et aussi juste modifier la partie telegraf pour utiliser les "[[outputs.influxdb_v2]]" en lieu et place des "[[outputs.influxdb]]" utilisés présentement.

Il y a plus qui justifierait la complexité annoncée ?

Désolé d'insister mais je rejoins @MilesTEG1 , un petit addendum spécifique serait de bon aloi et très apprécié, vu que la v1.8 risque fort d'être dépréciée à court ou moyen terme et là on sera vraiment "coincés", non ?

@.Shad. Ton avis STP ?

Cordialement

oracle7😉

[.Shad.]

Mon avis je l'ai donné. 😛

Je ne compte pas le faire évoluer pour l'instant, j'ai pas mal de choses laissées sur le côté sur lesquelles je prévois de travailler avant.

Par definition, la 1.8 est déjà dépréciée.

Hormis le système de token, il y a maintenant un fichier de configuration. Et pour écrire un tutoriel, il faut déjà maîtriser le sujet qu'on traite. Donc que j'ai réussi à mettre en place le nouvel InfluxDB.

Je pense que vous êtes tout à fait capables de vous en sortir seuls. 😉

 

[oracle7]

@.Shad.

Bonjour,

Pas de soucis, je comprend parfaitement. J'aurais essayé ...😛

Lorsque j'aurais moi aussi une minute, je recreuserais la chose avec mes maigres moyens et connaissances ... Effectivement, on doit pouvoir en sortir quelque chose avec la doc influxdb (qui est bien faite et complète au demeurant) même si ce n'est pas évident de prime abord. Et puis il y aura bien aussi un "sachant" ici qui pourra nous débloquer ou nous expliquer si besoin.

Cordialement

oracle7😉

[bruno78]

@oracle7@.Shad.,

j'ai commencé à regarder le sujet .... c'est du lourd !

J'en suis "simplement" à l'authentification, .... et au final je tombe sur

If you already have Telegraf installed on your system, make sure it's up to date. You will need version 1.9.2 or higher.

Or en docker, la dernière version de telegraf est la 1.17.3 ....

Donc pour le moment c'est un peu bloqué ....

Bruno78

[MilesTEG1]

@bruno78

1.9 << 1.17 

😁

Donc c’est bon 😉

[bruno78]

@MilesTEG1 😮  je vais me refaire un café ...... !!!!

[bruno78]

@.Shad., @oracle7, @MilesTEG1,

après une journée de lutte acharnée, je viens de monter un premier graphe via telegraf > Influxdb V2 > grafana  ...

Un bon conseil, ne soyez pas trop pressés d'y passer. Quelle galère ! Bon on sent que la peinture n'est pas sèche.

• côté influxdbv2, je n'ai pas réussi en docker à le faire causer avec telegraf. Donc j'ai fait une installation sur une VM ubuntu.
• côté grafana, ben comment dire : pour construire les graphes, il faut passer par le scripting "Flux". Aie Aie Aie . Tout à réapprendre !

Donc pour le moment c'est bien prise de tête !

Côté Docker ce n'est pas prêt, pour grafana le support de "Flux" n'est annoncé qu'en Beta, .... ca risque de bouger encore.

A noter par contre qu'il y a un constructeur de requete "Flux" sur Influxdb_v2 lui-même.

Bonne soirée.

Bruno78

[MilesTEG1]

Hmmm, merci pour ce retour pas très encourageant.
Mieux vaut donc rester sur une version 1.8 😛 

[Jeff777]

Je viens de découvrir le problème. Hier j'avais toujours la version 1.8 je me sentais épargné. Et ce soir patatras...du rouge partout et No data. Merci à @MilesTEG1 d'avoir donné la solution. Tant que ça marche comme cela ça me convient.

[MilesTEG1]

Dites, vu que mon 920+ et mon routeur sont H24 allumés, j'ai mis leur deux IP dans le fichier de configuration de telegraf.
J'ai remis en route le vieux 214play, mais il risque d'être éteint la plupart du temps.
Est-ce judicieux de mettre son IP dans le même fichier conf de telegraf ? 
Ou bien vaut-il mieux faire une autre instance ? (ce qui me poserais soucis car je ne saurais pas vraiment configurer le reste...)

@oracle7 AU fait si tu as besoin de beta-testeur pour le monitoring de la LB4, fait moi signe 😉 

[.Shad.]

Tutoriel mis à jour pour refléter les changements concernant InfluxDB.

[bruno78]

C'est bon, ça marche en Docker 🙂 avec InfluxDB_v2. Mais encore beaucoup de points à explorer .....

 

[Jeff777]

il y a 34 minutes, bruno78 a dit :

Mais encore beaucoup de points à explorer .....

On est pas pressés 😉

[MilesTEG1]

Il y a 2 heures, Jeff777 a dit :

On est pas pressés 😉

C'est clair.
Cela dit, je veux bien voir à quoi ressemble ton dashboard @bruno78😉 

[bruno78]

@MilesTEG1, voir les dashboards en début de discussion page 1. Ils n'évoluent pas.

Influxdb est le maillon du milieu : les sources (telegraf ou autres) sont les mêmes, et au niveau de l'affichage c'est le même grafana. Pour le moment je recrée les dashboards à l'identique et j'apprends à me servir d'Influxdb2.

Pour le moment, outre le langage de script différent, j'ai rencontré quelques problèmes de typage de données : int() versus float() versus boolean() versus string(), alors que la source telegraf est strictement la même. De plus, le constructeur de requêtes est sur l'interface GUI d'influxdb2, pas encore sur grafana, ce qui oblige à faire un peu de gymnastique entre les 2.

Apparemment, côté grafana/influxdb docker, ils vont sortir un moyen de migrer de influxv1 vers influxv2 .... ça risque d'être l'usine à gaz.

Dans une deuxième phase, et c'est là le plus intéressant, je regarderai ce que l'on peur faire de plus avec de nouvelles fonctionnalités d’influxdbv2 ... mais ça ce sera après 🙂.

bruno78

[.Shad.]

Merci de dégrossir le travail, je t'avoue que je n'ai pas le temps de m'y pencher pour le moment.

Pour les nouveautés, elles sont surtout l'air de se situer au niveau de la visualisation directe des métriques depuis InfluxDB : https://www.influxdata.com/blog/introducing-the-next-generation-influxdb-2-0-platform/

Il faut reconnaître que ça claque quand même. 😉
Ils insistent aussi sur le fait qu'on peut créer des tâches pour travailler directement sur les métriques stockées.

Je pense que ça vaudra le coup d'y passer, je pense commencer à y regarder d'ici quelques semaines.

[bruno78]

@.Shad. effectivement, ce sont les 2 axes repérés.

Je me suis d'abord dit : "on peut se passer de grafana".  Presque .. il manque des fonctionnalités de customisation des graphes, plugins, .... . Mais c'est vrai que cela fait hésiter. Si ils font un effort de ce côté là, on devrait pouvoir se passer de Grafana. Mais si on a d'autres sources (Loki par exemple), je ne sais pas comment influxdb2 va le gérer ... ou pas.

Et il y a les "tasks". mais là je n'ai pas regardé du tout.

Pour l'instant je galère (mais ce n'est pas avec Influxdb) avec le dashboard Freebox, que j'ai essaie de faire passer directement du Python vers Influxdb, sans passer par telegraf ....

[Jeff777]

Bonjour @bruno78 

il y a 41 minutes, bruno78 a dit :

Pour l'instant je galère (mais ce n'est pas avec Influxdb) avec le dashboard Freebox, que j'ai essaie de faire passer directement du Python vers Influxdb, sans passer par telegraf ....

Est-ce que ceci pourrai résoudre mon problème de perte du dashboard? Je n'ai pas gardé ta solution avec un container sur mesure car je voulais pouvoir conserver la possibilité de mise à jour. Donc je réinstalle Python à chaque fois mais ce n'est pas souvent (seulement lorsqu'il y a une MàJ du firmware de la box).

 

[bruno78]

@Jeff777 oui je me souviens bien de ta problématique.

2 solutions pour utiliser directement le python : soit un container sur mesure (que tu as déjà testé mais tu veux garder la possibilité de mise à jour), soit se passer de docker et utiliser directement le Python du DSM , sachant que sur DSM7 le python est intégré de base, mais il faudra quand même rajouter des modules spécifiques .... je ne sais pas alors ce qui se passera lors d'une mise à jour DSM ?

Pour le moment je suis reparti sur une solution docker et image personnalisée (et je butte sur un stupide problème de crontab dans le container .... mais ce n'est pas le sujet). Si je n'y arrive pas ou si trop contraignant, j'essaierai quand même la solution d'utiliser le python du DSM.

[MilesTEG1]

@oracle7 @.Shad. @bruno78

Je viens de voir que pour mon 214Play qui n'a que 1 Go de RAM, les valeurs sont pas tout à fait correctes avec la formules que vous aviez donné il y a quelques pages/semaines/mois 🙂

L'unité choisie dans grafana pour afficher le graph, c'est kilobytes.

Y a t-il moyen d'avoir des valeurs qui se rapprochent davantage de la réalité ?

 

Par aquis de conscience, je suis aller voir ce que me donnait un htop :

Pourquoi indique-t-il 699M de mémoire ? Où sont passés les presque 300M manquants ?

[.Shad.]

Sur mon DS118, ça marche bien :

Pour l'unité, tu as loupé quelques échanges, il faut supprimer le 0.954, c'est en fait le coefficient de conversion de kibibytes à kilobytes, voir mon explication il y a quelques pages.

Pour moi le measurement "memTotalReal" ne prend pas en compte la mémoire réservée que tu vois dans ton moniteur de ressources.

Modifié le 4 mars 2021 par .Shad.