Benhaoua Mohamed Kamel Université d’Oran E-mail: kbenhaoua@gmail.com 3/27/2017 Networks-on-Chip Benhaoua Mohamed Kamel Université d’Oran E-mail: kbenhaoua@gmail.com IP ? 25/01/2011

3/27/2017 PLAN Pourquoi les NOCs ? Caractéristiques des NOCs NoC Eléments de base NOC Modèle Quelques NOCs Academiques Limites des NOCs Conclusion

3/27/2017 Pourquoi les NOCs De plus en plus de fonctionnalités sont introduites dans un mème système ce qui conduit a la mise en communication d’un grand nombre de bloc fonctionnels Les liens de communication n’évoluent pas a la meme vitesse et deviennent un goulot d’etranglement Solutions de communication actuelles telles que le bus partagé trouve leurs limite en terme de bande passante et d’extention a mesure que le nbre d’élements communicants augmente . Cette structure est la plus utilisé de nos jours mais ne semble pas s’adapter aux application futures C’est dans ce contexte que le concept des réseaux sur puce (NOC) a vu le jour

Pourquoi les NOCs Point-to-point 3/27/2017 Pourquoi les NOCs Point-to-point Connexion fixe entre un maître et un esclave, ou éventuellement avec un point intermédiaire. • Shared-Bus Plusieurs noeuds qui partagent le même ensemble des fils. • Bus hiérarchique Bus classique ayant un bridge permettant la connexion de plusieurs sous-systèmes.

3/27/2017 Pourquoi les NOCs NOC : ce paradigme d’interconexion inspiré des réseaux informatique classiques offre une structure de communication évolutive , flexible et propose des solutions efficaces au problèmes d’integration complexes des systèmes sur puce . • Les NoCs introduisent la notion des transferts concurrents (parallélisme), dʼoù une plus importante bande passante • Les NoCs sont flexibles et scalables: ๏ en fonction de nombre de noeuds dans le système et des performances exigées, on peut adapter le NoC pour une application données ๏ augmentation de nombre des noeuds dans le système

3/27/2017 Pourquoi les NOCs • NoCs offrent la qualité de service (garanties sur la latence bande passante) et sont donc particulièrement bien adapté aux applications temps-réel qui visent une exploitation optimale du matériel. NoCs sont plus efficaces au niveau de la puissance consommée, comparé aux solutions traditionnelles (notamment les bus; les connexions point à point seront toujours plus efficaces à tout point de vue, mais au détriment dʼun coût important en développement et en surface). • Actuellement on estime que pour un SoC à partir dʼune dizaine de noeuds, lʼemploi des NoCs est plus rentable au point de vue énergétique.

Pourquoi les NOCs Evolution 3/27/2017 Pourquoi les NOCs Evolution • La première implémentation dʼun réseau sur puce en 1987: PROPHID par (Philips Research) - circuit pour la télévision numérique. Les différents composant sont interconnectés à lʼaide dʼun crossbar . • En 2000: une architecture à commutation par paquets - SPIN. • Puis quelques références clefs annonçant lʼarrivée définitive des NoC (2001): ๏ W.J. Dally et B. Towles. “Route packets, not wires : On-chip interconnection networks”. Dans Design Automation Conference, pages 684–689, 2001. ๏ L. Benini et G. De Micheli. “Powering networks on chips”. Dans ISSS, pages 33–38, 2001. • Depuis: pas mal de développement dans le domaine, en recherche et en solutions (très) concrètes pour le monde industriel. • Le sujet est toujours dʼactualité...

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs La topologie de réseau • La topologie dʼun réseau défini le nombre et la disposition des NIs et des routeurs, ainsi que le réseau dʼinterconnexion. Exemples des topologies de réseau • 2D maillé La plus utilisé Facile a implémenté • Tore 2D maillé possédant la particularité d’un repliement des bords extérieurs sur eux-mêmes Complexe a implementé • Anneau Facilement intégrable Non extensible

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs Composants de base • Network Adapter / Interface (NA, NI) Connexion IP - NoC. En fonction de l'implémentation plusieurs IPs per NI ou plusieurs NI per routeur. • Routeurs/Switches (R) Reçoit des paquets sur ces ports dʼentrées et les transmet sur ces ports de sortie. • Liens Connexions de type point-to point entre les noeuds et les NI, le NI et les routeurs, et entre les routeurs. Routeur NI Lien IP W IP: Intellectual Property

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs Routeur Le rôle principal d’un noeud de routage est d’acheminer les données d’une source à une destination. Il est constitué de :  Files d’attente pour stocker les paquets qui transitent dans le réseau,  Un commutateur qui connecte les files d’entrées aux ports (ou files) de sortie,  Une unité de routage et d’arbitrage qui assure la fonction d’aiguillage et gère les situations de conflits

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs Modes de commutation stratégie d’allocation des différentes ressources du réseau sur puce afin d’acheminer des données Deux modes de commutation sont utilisés dans les NOC Commutation de Circuit établir un circuit dédié au sein du réseau pour chaque paire émetteur/récepteur garantit une large bande passante augmente les performances du système (taille importante) très pénalisant en termes de ressources car celles-ci sont réquisitionnées tout au long du transfert Commutation de Paquets découper un message en plusieurs paquets avant d’être envoyé un paquet est décomposé en plusieurs FLITs Chaque flit est stocké dans une file d’attente puis transmis sur la voie appropriée meilleur partage des éléments du réseau (les voies sont libérées dés qu’un flit est envoyé) réduit la latence et améliore les performances du système

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs Modes de commutation Les modes de commutations de paquets les plus utilisés dans les réseaux sur puce sont :  Store and Forward (Stocker et propager): avec cette stratégie, tous les flits constituant un paquet sont stockés avant d’être transmis. Le but de ce stockage est le contrôle des paquets envoyés.

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs Modes de commutation  Wormhole (Trou de ver) : ce mode de commutation réduit la latence du système car il n’exige pas que tout le paquet soit stocké avant d’être envoyé. Dés qu’une voie est libre, un flit est transmis au routeur destinataire.

Caracteristiques des NOCs 3/27/2017 Algorithme de Routage définit le chemin que doit emprunter un paquet pour atteindre sa destination. Il doit éviter les situations d’interblocage tout en optimisant l’utilisation des liens de communications Routage déterministe les chemins sont définis et utilisés indépendamment de l’´etat actuel du réseau ne prend pas en compte la charge actuelle des routeurs et des liens de réseau lors des décisions de routage Routage adaptatif Les décisions de routage sont prises en fonction de l’´etat actuel du réseau (la charge du réseau, la disponibilité des liens). Par conséquent, le trafic entre une source et une destination change ses chemins de routage avec le temps.

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs Les techniques de routage Routage Ordonné X-Y L’algorithme XY est un algorithme déterministe et garantit toute situation de blocage (deadlock) . Les flits sont routés d’abord dans la direction X ensuite dans la direction Y. Si un saut est utilisé dans le NoC par un autre paquet, le flit reste bloqué dans le routeur (buffers) jusqu’à ce que le chemin soit libéré.

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs Routage West-First Ce type de routage impose que le paquet émis soit transmis tout d'abord dans la direction Ouest (si cette direction est nécessaire), ensuite, de manière adaptative, dans les directions Est, Nord ou Sud. Routage Negative-First le paquet se déplace d’abord dans les directions négatives seulement (S et W), puis dans les directions positives seulement (N et E)

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs Contrôle de Flux ensemble de mécanismes qui évitent la surcharge du réseau et régulent le trafic . des signaux de requêtes et d’acquittement sont utilisées par les routeurs Handshake routeur envoie une donnée, il est en attente d’un acquittement qui lui permet de reprendre ses transactions. Ce mécanisme est simple à mettre en place mais il nécessite au moins deux cycles d’horloges pour effectuer un transfert. Ceci augmente la latence du système et dégrade ses performances

Caracteristiques des NOCs 3/27/2017 Caracteristiques des NOCs Contrôle de Flux Credit-Based les données sont envoyées jusqu’à ce que les files d’attente du routeur récepteur soient saturées. Lorsque celles-ci se libèrent, le routeur l’indique en envoyant le signal « Credit » La complexité des signaux échangés augmente la consommation de l’énergie simple à implémenter et il améliore les performances (en termes de bande passante et de débit) du système car les transferts de données ne nécessitent qu’un seul cycle d’horloge.

NOC Eléments de base Notion de paquet 3/27/2017 NOC Eléments de base Notion de paquet • Paquet : la plus petite quantité dʼinformation routée. • Un paquet est généralement structuré: ๏ FLow control unITes - Flits La plus petite quantité dʼinformation (le plus petit morceau de message) pour lequel on peut définir un flow control. ๏ PHysical flow control unITs - Phits En fonction de la taille de flit et de la largeur des liens, plusieurs cycles peuvent être nécessaires pour transmettre un flit. Un phit représente donc la quantité dʼinformation que lʼon peut transmettre en un cycle (typiquement un flit a le même nombre de bits que de fils dans un lien).

NOC Eléments de base Structure dʼun paquet • Header 3/27/2017 NOC Eléments de base Structure dʼun paquet • Header Transporte lʼinformation nécessaire au transport de paquet (généralement un seul phit). • Payload Indique la charge utile dʼun paquet (contient les données transportées) qui peut être de taille variable. Décomposé en flits, eux même décomposé en phits. • Tail Indique la fin de paquet (généralement un seul phit). Un paquet Instructions Entête (Header) mot mot Flit mot Charge utile (Payload) Phit mot mot Queue (Tail)

NOC Modèle Modèle des NoCs en couches 3/27/2017 NOC Modèle Modèle des NoCs en couches • Physical layer - Couche physique Défini la structure physique et les protocoles nécessaires pour établir la communication au niveau des liens entre les différents routeurs. • Switching layer - Couche de commutation Utilise la couche physique pour implémenter le mécanisme de transmission de données à travers le réseau (échange de données entre les différents routeurs). • Routing layer - Couche de routage Sʼoccupent de la décision (arbitrage): quels ports de sortie doivent être connectés à quels ports dʼentrée de façon à établir une connexion, et ceci dans un environnement concurrent (un port de sortie peut être demandé par plusieurs ports dʼentrée).

Quelques NOC Académiques 3/27/2017 Quelques NOC Académiques SPIN (Scalable Programmable Integrated Network)LIP6- 2000 Commutation de paquet topologie en arbre latence limité extensible reduit le nbre de routeur controle de flus based-credit sur des liens bidirectionnels ANOC (Asynchronous NOC) LETI Ce réseau a été utilisé pour construire un système sur puce qui a la possibilité de gérer les besoins des applications de télécommunications performance en terme de latence et debit grille 2D commutation de paquet wormhole

Quelques NOCs Académiques 3/27/2017 Quelques NOCs Académiques QNOC (Quality of service NOC) l’institut technologique du Technion (Israël) topologie 2D suporte des échanges synchrones ou asynchrones commutation de paquets de type wormhole. HERMES topologie maillée 2D commutation de paquets Wormhole Un buffer sur les ports d’entrée un arbitrage de type « Round-Robin » un algorithme de routage gérant les conflits permettent d’éviter les situations d’interblocage dans ce réseau

Limites des Réseaux sur Puce 3/27/2017 Limites des Réseaux sur Puce Cohérence des caches Fiabilité Ordre des communications Conception

3/27/2017 Conclusion Il existe plusieurs réseaux sur puce universitaires. Cependant, aucune solution n’a été commercialisée. Ceci est dû à la complexité du processus de conception et le coût qu’il présente.