human
Veuillez expliquer ce qu'est une "machine Boltzmann restreinte"
gpt
Une machine de Boltzmann restreinte (RBM) est un réseau neuronal artificiel stochastique génératif qui peut apprendre une distribution de probabilité sur son ensemble d'entrées.
Les RBM ont été initialement inventés sous le nom d'Harmonium par Paul Smolensky en 1986,
et a pris de l'importance après que Geoffrey Hinton et ses collaborateurs aient inventé pour eux des algorithmes d'apprentissage rapide au milieu des années 2000. Les RBM ont trouvé des applications dans la réduction de la dimensionnalité,
classification,
filtrage collaboratif, feature learning,
modélisation de sujet
et même de nombreuses mécaniques quantiques du corps. Ils peuvent être formés de manière supervisée ou non, selon la tâche.
Comme leur nom l'indique, les RBM sont une variante des machines de Boltzmann, avec la restriction que leurs neurones doivent former un graphe bipartite :
une paire de nœuds de chacun des deux groupes d'unités (communément appelées unités "visibles" et "cachées" respectivement) peut avoir une connexion symétrique entre eux ; et il n'y a pas de connexions entre les nœuds au sein d'un groupe. En revanche, les machines Boltzmann "sans restriction" peuvent avoir des connexions entre des unités cachées. Cette restriction permet des algorithmes de formation plus efficaces que ceux disponibles pour la classe générale des machines Boltzmann, en particulier l'algorithme de divergence contrastive basé sur le gradient.
Les machines Boltzmann restreintes peuvent également être utilisées dans des réseaux d'apprentissage en profondeur. En particulier, des réseaux de croyances profondes peuvent être formés en "empilant" des RBM et en ajustant éventuellement le réseau profond résultant avec une descente de gradient et une rétropropagation.