problème de disparition du gradient
- Domaines
-
- mathématiques
- intelligence artificielle
- Dernière mise à jour
Définition :
Phénomène survenant dans les réseaux de neurones récurrents, par lequel les données ayant un faible gradient tendent à perdre de plus en plus d'importance, jusqu'à devenir négligeables, à mesure que de nouvelles données ayant un gradient plus élevé sont traitées.
Note :
Le problème de disparition du gradient empêche l'apprentissage du réseau de neurones artificiels et survient notamment lors de l'utilisation d'un algorithme de descente de gradient ou d'un algorithme de montée de gradient.
Termes privilégiés :
- problème de disparition du gradient n. m.
- disparition du gradient n. f.
- problème de la disparition du gradient n. m.
- problème de l'évanescence du gradient n. m.
Traductions
-
anglais
Auteur : Office québécois de la langue française,Termes :
- vanishing gradient problem
- vanishing gradient