Partage
  • Partager sur Facebook
  • Partager sur Twitter

Acquisition et traitement de données en SQL

Base relationnelle ou en séries temporelles ?

    27 juin 2019 à 16:02:21

    Bonjour à tous,

    Dans le cadre d'un projet d'acquisition de données, j'ai un système qui récupère un grand nombre de données temporelles (valeurs de capteurs analogiques ou numériques) et les stocke sur une base mySQL (je suis obligé d'utiliser mySQL à ce niveau).

    Les données sont répliquées sur deuxième base, sur un serveur de stockage (par réplication mySQL) et peuvent être affichées sur Grafana.

    La première base est ensuite nettoyée automatiquement tous les x jours.

    Ma question est la suivante :  est ce que je peux remplacer ma deuxième base mySQL par quelque chose de plus adapté et performant ? Je constate deux problèmes actuellement :

    - Difficulté d'affichage et temps d'exécution des requêtes lorsque la quantité de données à afficher devient importante

    - Erreur de réplication lorsque j'ai eu une défaillance sur mon système d'acquisition, coupure électrique par exemple.

    J'ai vu que les bases de données en séries temporelles étaient plus légères et rapides, et cela me semble plus adapté pour mon application. Serait-il possible de mettre en place une BDD en série temporelle qui viendrait récupérer en temps réel les données de ma première base mySQL ?

     J'ai tenté de mettre en place InfluxDB et Telegraf, mais ce dernier n'a pas l'air de pouvoir executer des requêtes SQL, seulement récupérer des données système... mais ce genre de fonctionnement m’intéresse.

    Qu'en pensez vous ? 

    Merci !

    -
    Edité par tlehir-k 27 juin 2019 à 16:32:30

    • Partager sur Facebook
    • Partager sur Twitter
      30 juin 2019 à 11:40:37

      Bonjour,

      Je ne connais pas trop les TSDB mais ton idée paraît cohérente. Le truc que je ne comprend pas c'est pourquoi utiliser Telegraf entre MySQL et InfluxDB. Ne peux-tu pas directement interroger MySQL avec InfluxDB ou exporter les données MySQL dans un format importable par InfluxDB ?

      K

      • Partager sur Facebook
      • Partager sur Twitter
        9 juillet 2019 à 11:26:32

        Merci pour ta réponse :) De ce que j'ai compris, InfluxDB ne récupère des données que via Telegraf.

        Mon problème a un peu changé, je ne suis plus obligé d'utiliser mySQL nulle part mais j'aimerais bien savoir si on peut mettre en place une réplication entre deux InfluxDB. Il faudrait qu'une première base puisse stocker des données récentes (7 jours d'acquisition par exemple), et qu'une autre base garde en mémoire un historique complet. Avec mySQL c'est faisable mais est ce que ça l'est avec InfluxDB ?

        Il faut surtout que la première base puisse faire office de stockage "tampon" et qu'une coupure internet de quelques heures entre les deux bases ou une coupure de courant sur la base tampon ne cause pas une perte de données

        -
        Edité par tlehir-k 9 juillet 2019 à 11:28:18

        • Partager sur Facebook
        • Partager sur Twitter

        Acquisition et traitement de données en SQL

        × Après avoir cliqué sur "Répondre" vous serez invité à vous connecter pour que votre message soit publié.
        × Attention, ce sujet est très ancien. Le déterrer n'est pas forcément approprié. Nous te conseillons de créer un nouveau sujet pour poser ta question.
        • Editeur
        • Markdown