« La partie difficile est la hiérarchie de la mémoire , c'est beaucoup plus difficile que la simple parallélisation , et c'est la clé » , précise-t-il . « La partie difficile est la bande passante d'interconnexion , l'organisation des communications . » « Nous n'avons pas trouvé la bonne façon de modéliser le mouvement des données » , ajoute-t-il . « La majorité du travail consiste à gérer les données - la partie difficile de l'optimisation des compilateurs consiste à gérer les données de manière efficace . » Plus précisément , « la localisation des données est super importante » , insiste-t-il , ce qui signifie qu'une opération fonctionne sur certaines données et , « si tout va bien , ces données reste dans la couche de mémoire la plus proche , ou peut-être dans le cache quelque part » . L'ampleur du problème augmente avec certains types de deep learning , comme les réseaux de neurones graphiques , utilisés dans les systèmes de recommandation pour , par exemple , une application de commerce . « Il y a une similitude au niveau du noyau , nous parlons de la multiplication matricielle , de la convolution , mais ensuite il y a une diversité lorsque vous allez au-dessus de cela » , indique Wei Li . « Dans les systèmes de vision par ordinateur , il peut y avoir des millions d'images à traiter , mais quand on passe aux graphiques , la quantité de données est énorme . » Chaque personne connectée à chaque autre , comme dans un réseau social , représente des défis qualitativement différents pour le traitement . « Si vous pensez à LinkedIn et ses milliards de personnes - ce sont des milliards et des milliards de nœuds - ce sont vraiment de grosses données . » Une bibliothèque Intel appelée BigDL , qui peut automatiquement restructurer un réseau neuronal développé sur un seul nœud pour le faire évoluer vers des milliers de nœuds , a été adoptée par de grandes entreprises telles que MasterCard . Le géant des licences de processeurs Arm a mis en œuvre oneAPI dans la conception de ses processeurs . « Arm utilise en fait la même interface OneAPI , et c'est l'un des principaux contributeurs à notre OneDNN » , indique Wei Li .