Modèles du neurone biologique
Les différents modèles de neurones à impulsions peuvent être divisés en différentes catégories : les modèles mathématiques les plus détaillés sont les modèles de neurones biophysiques (également appelés modèles de Hodgkin-Huxley) qui décrivent la tension membranaire en fonction du courant d'entrée et de l'activation des différents canaux ioniques. Plus simple mathématiquement, les modèles d'intégration-et-tir décrivent la tension membranaire en fonction du courant d'entrée et prédisent les impulsions sans description des processus biophysiques à l'origine du potentiel d'action. Des modèles encore plus abstraits prédisent uniquement les impulsions de sortie (mais pas la tension membranaire) en fonction de stimulation pouvant provenir d'une entrée sensorielle ou pharmacologique.
Réseau neuronal à capsules
Deux types de couche de capsules peuvent être dénombrés. Le premier type, nommé PrimaryCaps propose des capsules procédant à des opérations de convolutions et qui ont ainsi pour but d'extraire des motifs complexes et leurs attributs à reconnaître dans l'image passée en entrée du réseau. Le second type, nommé DigitCaps, termine le réseau et effectue des opérations semblables à une couche entièrement connectée et produit en sortie un nombre de vecteur égal au nombre de classe que le réseau doit reconnaître étant donné que le vecteur ayant la plus grande norme représente la classification de l'image d'entrée.