Partage
  • Partager sur Facebook
  • Partager sur Twitter

la rétro-propagation des réseaux de neurones

Sujet résolu
    3 janvier 2022 à 11:19:39

    Bonjour :D

    je débute en science des données, j'essaye de comprendre la rétro-propagation 

    c'est ce que j'ai compris, est ce que c'est correct ?

    merci

    • Partager sur Facebook
    • Partager sur Twitter
      5 janvier 2022 à 1:36:29

      Je n'y connais rien, mais j'ai trouvé ceci, en espérant que ça va t'aider:


      https://www.theses.fr/1993PA066200

      • Partager sur Facebook
      • Partager sur Twitter

      Le Tout est souvent plus grand que la somme de ses parties.

        8 février 2022 à 12:31:32

        Oui c'est bien ça, mais il y a moyen de beaucoup simplifier l'expression en la découpant en plusieurs parties.

        Cette forme est aussi beaucoup plus performante au niveau algorithmique puisqu'on calcul l'erreur d'une couche en fonction de l'erreur de la couche suivante (la couche vers la droite) c'est pour ça que ça s'appelle la "rétro-propagation" du gradient.

        Bien sur il y a moyen de découper davantage pour optimiser encore plus le temps de calcul :

        Et on peut même expliciter la plupart des dérivées, par exemple

        Ou alors en remarquant que W n'est connecté qu'au premier nœud de la couche (l-2) donc que

        J'espère que je n'ai pas fait d'erreur, si quelqu'un en voit une n'hésitez pas à me corriger.

        -
        Edité par WatashiGaKita 8 février 2022 à 14:07:19

        • Partager sur Facebook
        • Partager sur Twitter
          10 février 2022 à 13:13:06

          Merci énormément WatashiGaKita !!!
          • Partager sur Facebook
          • Partager sur Twitter
            17 mai 2022 à 15:22:33

            Aux éventuels futurs mystifiés de la retro-propagation...

            Je vous conseille cette vidéo "Backpropagation calculus | Chapter 4, Deep learning" de 3Blue1Brown :

            https://www.youtube.com/watch?v=tIeHLnjs5U8

            ainsi que l'intégralité des cours d'Andrew Ng sur c***<$%$ HACK DU MODERATEUR interdit de citer un concurrent d'OOC sur ses propres forums>***.com

            -
            Edité par ChristopheNaciri 17 mai 2022 à 15:22:44

            • Partager sur Facebook
            • Partager sur Twitter
              11 juillet 2022 à 17:14:06

              Oui la playliste sur les réseaux de neurones de 3Blue1Brown est excellente
              • Partager sur Facebook
              • Partager sur Twitter

              la rétro-propagation des réseaux de neurones

              × Après avoir cliqué sur "Répondre" vous serez invité à vous connecter pour que votre message soit publié.
              • Editeur
              • Markdown