Partage
  • Partager sur Facebook
  • Partager sur Twitter

Architecture base avec des millions d'entrée

Sujet résolu
    14 septembre 2011 à 22:35:14

    Bonsoir,

    Voila je vais probablement passer pour un gros Zero, mais j'ai l'habitude et je prend ça comme un compliment :)

    Je vais bientôt avoir besoin de développer une application en PHP qui va devoir insérer en bdd un très grand nombre d'url (plusieurs dizaines voir centaines de millions) or je n'ai aucune idée sur comment m'y prendre et ou chercher pour trouver des informations sur ce type d'architecture.

    J'ai donc commencé par regarder l'architecture de la base de Piwik (un Google Analytics Open Source) mais apparemment il semble loguer toutes les actions des visiteurs dans une seule et unique table (piwik_log_link_visit_action).

    Est-ce que quelqu'un aurait une piste ou une idée sur comment aborder ce type de problématique ?

    Merci d'avance
    • Partager sur Facebook
    • Partager sur Twitter
    Anonyme
      14 septembre 2011 à 22:45:41

      Il faut juste bien penser ta base/tes tables ; pour info des centaines de millions d'entreés c'est rien par rapport aux bases de données d'entreprise telles que Google par exemple.
      • Partager sur Facebook
      • Partager sur Twitter
        14 septembre 2011 à 22:56:13

        A priori les tables vont contenir peu de champs.

        Il y a t-il un moyen de peupler une bdd rapidement sans faire une boucle for avec un $i<10000000 ?? Ce serait pour faire des tests.
        • Partager sur Facebook
        • Partager sur Twitter
        Anonyme
          14 septembre 2011 à 23:02:51

          Oui, tu peux le faire à la main...
          • Partager sur Facebook
          • Partager sur Twitter
            14 septembre 2011 à 23:54:13

            Un brin d'ironie dans ta réponse MicroJoe ou je me trompe ?
            • Partager sur Facebook
            • Partager sur Twitter
            Anonyme
              14 septembre 2011 à 23:59:49

              Non c'était bien de l'ironie :D
              Ben que voudrais tu faire qui soit plus rapide qu'une boucle ?
              • Partager sur Facebook
              • Partager sur Twitter
                15 septembre 2011 à 8:46:07

                Justement c'est pour ça que je posai la question ... parce que je ne sais pas s'il existe une méthode plus rapide. A raison de 100 000 INSERT à la minute il me faudrait 16h pour peupler ma table avec 10 millions d'entrées. D'où ma question.

                Bref j'ai fait des test avec 10 millions d'entrées et c'est de l'ordre de la milliseconde, donc à priori pas besoin d'opter pour une architecture spécifique.

                Je marque le sujet comme résolu.
                • Partager sur Facebook
                • Partager sur Twitter

                Architecture base avec des millions d'entrée

                × Après avoir cliqué sur "Répondre" vous serez invité à vous connecter pour que votre message soit publié.
                × Attention, ce sujet est très ancien. Le déterrer n'est pas forcément approprié. Nous te conseillons de créer un nouveau sujet pour poser ta question.
                • Editeur
                • Markdown