Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 1 Xun ZHANG, Séminaire 18.nov Temperature-Power Consumption Relationship and Hot-spot Migration for FPGA-based System Xun Zhang, Pierre Leray SUPELEC/IETR, Rennes, France Signal, Communication and Embedded Electronics Team supported by Motorola Foundation

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 2 Xun ZHANG, Séminaire 18.nov Outline 1.Context & Motivation 2.Power consumption & temperature 3.Die temperature measurement 4.Architectural changes 5.Future Works

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 3 Xun ZHANG, Séminaire 18.nov Outline 1.Context & Motivation 2.Power consumption & temperature 3.Die temperature measurement 4.Architectural changes 5.Future Works

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 4 Xun ZHANG, Séminaire 18.nov  3% of the world-wide energy is consumed by the ICT infrastructure which causes about 2% of the world-wide CO 2 emissions [1]  ICT carbon footprint is comparable to the world-wide CO 2 emissions by airplanes or one quarter of the world-wide CO 2 emissions by cars. [1] Context & Motivation (1)  CO 2 reduction at two levels:  To reduce the ICT emission itself  Use ICT to reduce emission of other human activities (transport, tele- working, e-commerce,…..)

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 5 Xun ZHANG, Séminaire 18.nov Context & Motivation (2)

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 6 Xun ZHANG, Séminaire 18.nov Influence from CR environments

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 7 Xun ZHANG, Séminaire 18.nov Outline 1.Context & Motivation 2.Power consumption & temperature 3.Die temperature measurement 4.Architectural changes 5.Future Works

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 8 Xun ZHANG, Séminaire 18.nov Power Dissipation Minimize I leak by: –Reducing operating voltage –Fewer leaking transistors –Reduce transistor leakage Minimize I switch by: –Reducing operating voltage –Less switching cap –Less switching activity Total Power Dissipation Total Power Dissipation Dynamic Power Dissipation Static Power Dissipation Total Power Dissipation Total Power Dissipation Switching Power Dissipation Switching Power Dissipation Leakage Power Dissipation Leakage Power Dissipation I leak I switch

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 9 Xun ZHANG, Séminaire 18.nov Dynamic Power dissipation Dynamic power – Average dynamic power (logic gate) Dynamic power is relatively insensitive to temperature C wire  C diff αα  C L : load capacitance  α: switching activity  f: system frequency

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 10 Xun ZHANG, Séminaire 18.nov Static Power Dissipation(cont.) Static power –Leakage components Sub-threshold leakage (I sub ) Gate direct-tunneling leakage (I gate )  Gate DrainSource I sub I gate Static power relates directly to temperature

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 11 Xun ZHANG, Séminaire 18.nov Effect of Die temperature Lifetime –Exponential degradation Static power –Exponential increase Circuit delay Simulation on Virtex-5 FPGA plate-formMTTF vs Junction temperature

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 12 Xun ZHANG, Séminaire 18.nov Outline 1.Context & Motivation 2.Power consumption & temperature 3.Die temperature measurement 4.Architectural changes 5.Future Works

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 13 Xun ZHANG, Séminaire 18.nov Temperature and Power consumption Max. Temp. is produced during running time Max.Temp. determines cooling system’s performance

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 14 Xun ZHANG, Séminaire 18.nov Ring-oscillator T’=2Nτ’ T=2Nτ τ =T(N/2C)/K

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 15 Xun ZHANG, Séminaire 18.nov Easy to place Low power consumption Few logic resource Thermal identification Matlab ∑2Nτ 51-inverter ring oscillator 2^ MHz

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 16 Xun ZHANG, Séminaire 18.nov Impact of temperature Total FPGA die temperature Local peak temperature

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 17 Xun ZHANG, Séminaire 18.nov Local thermal characteristic (1)

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 18 Xun ZHANG, Séminaire 18.nov temperature on different sensor position Local heat propriety Local thermal characteristic (2)

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 19 Xun ZHANG, Séminaire 18.nov Local thermal characteristic (3)

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 20 Xun ZHANG, Séminaire 18.nov Local thermal characteristic (4)

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 21 Xun ZHANG, Séminaire 18.nov Dynamically Architectural changes…

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 22 Xun ZHANG, Séminaire 18.nov Hots-pot migration  Two identify PEs;  Alternate function on different switching frequencies; 1 Hz, ½ Hz, and 1/3 Hz  Thermal sensor placement;

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 23 Xun ZHANG, Séminaire 18.nov Result

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 24 Xun ZHANG, Séminaire 18.nov Thermal sensor value

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 25 Xun ZHANG, Séminaire 18.nov summary Thermal sensor design and implementation Temperature-Power relationship studying Possibility to reduce Hotspot effect by using Dynamic Partial Reconfiguration

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 26 Xun ZHANG, Séminaire 18.nov Outline 1.Context & Motivation 2.Power consumption & temperature 3.Die temperature measurement 4.Architectural changes 5.Future Works

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 27 Xun ZHANG, Séminaire 18.nov Thermal management for SoC Design  Thermal information helps to build a thermal modelling  location  working frequency  power consumption  ….  Thermal information helps to build a thermal modelling  location  working frequency  power consumption  …. Time T °C T0T0 Max. Temperature Configuration contraint Configuration rate =f(T0, Pconfig)

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 28 Xun ZHANG, Séminaire 18.nov Software management policies Hardware management policies Software management policies Hardware management policies Thermal management for SoC Design Dynamic time part: make a decision to apply one of the predefined sets found in part one. For required system performance and power economics; make a decision to choose a location to apply hotspot migration Design-time part: Optimal set of frequencies, parallelism levels for the PE for different working condition

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 29 Xun ZHANG, Séminaire 18.nov Future work

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 30 Xun ZHANG, Séminaire 18.nov Hierarchical configuration scenario for homogenous MP area PE1 Thermal Sensor C2 Busy T PE2 Thermal Sensor C2 Busy T PE3 Thermal Sensor C2 Busy T PE4 Thermal Sensor C2 Busy T C1  Migrating Hotspot  Guarantee performance  Easily to identify PE location with NoC  Overhead of configuration  Circuit Parameters : Frequency, voltage,...  The most efficient solution  Decease performance Ring topology

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 31 Xun ZHANG, Séminaire 18.nov Configuration scenario Valve of hotspot migrating process –Free choosing at alarm level e.g.: T(1..0)=11 –Interrupts function and copy date from the queue –Locally makes decision without communication with central controller –Add updated status of cluster to central controller Cluster 1 Cluster k

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 32 Xun ZHANG, Séminaire 18.nov Exemple of queue of thermal information Thermal sensor checks remarkable temperature information and sent alarm info with computing data ID Computing date T(1..0) Temperature status 00 idle 01 lowest occupy 10 middle occupy 11 Hotspot ID_Cluster ID_PE

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 33 Xun ZHANG, Séminaire 18.nov Thermal issues in FPGAs will grow as more and more hard blocks are added to the FPGA fabric; A reduction of few degrees in die temperature could have a high impact on the lifetime, reliability and leakage power of the device, but also cooling system; Our Digital thermal sensor has shown a flexibility solution to identify local thermal propriety; Potential ability to use Dynamic Partial Reconfiguration; Tutorial : thermal sensor implementation; Summary

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 34 Xun ZHANG, Séminaire 18.nov Thank you for your attension ?

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 35 Xun ZHANG, Séminaire 18.nov Detailed configuration scenario C2: response hot alarm from PE (operator) and check situation of the others PE in the same cluster. Give an order to do hotspot migrating inside cluster Require hotspot at higher level C1: started by requirement of C2. Check situation of the others cluster in the system Decide hotspot migrating between cluster (entire cluster) Require circuit parameters modification at the highest level C0: started by requirement of C1 Partial Frequency scaling or others strategies

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 36 Xun ZHANG, Séminaire 18.nov Configuration process ID Computing dateT(1..0)

Green Workshop – 06 November 2009 IETR - INSTITUT D’ÉLECTRONIQUE ET DE TÉLÉCOMMUNICATIONS DE RENNES Une grande école d’ingénieurs au cœur des sciences de l’information, de l’énergie et des systèmes 37 Xun ZHANG, Séminaire 18.nov Future works Configuration scenario development Comparing with others methods