Stochastic application models for energy management in multicore systems

Abstract

Bu tezde bilgisayar sistemlerinde son zamanlarda önemli bir sorun olarak ortaya çikanenerji yönetimi ele alinmistir. Es zamanli islere bölünmüs, yari gerçek zamanli uygulamalarave dinamik voltaj ayarli, çok çekirdekli sistemlere odaklanilmistir. Önerilen teknikler yazilimve donanimin önceden belirlenmis oldugunu kabul etmektedir.Ilk olarak, basit örnekler araciligiyla is yüklerinin istatistiksel özelliklerinin enerjiyönetimi ile olan iliskileri incelenmistir. Bu örneklerden elde edilen çikarimlar dogrultusundais yüklerinin istatistiksel özelliklerini barindiran çesitli rastsal modeller gelistirilmistir. Burastsal modeller hem is yüklerinin degiskenlik bilgisini hem de is yükleri arasindakikorelasyon bilgisini barindirabilmektedir. Bu modeller, gerçek uygulama yürütümlerindenalinan is yükü verileri kullanilarak olusturulmustur. Her bir model, is yüklerinin zamanlamakisitlarina uyulmasina olasiliksal garanti saglayarak sistemin enerji harcamasini enküçükleyenbir enerji yönetim stratejisi önermektedir. Bu stratejiler matematiksel olarak formüle edilmiseniyileme modellerinden elde edilmekte; degiskenlik ve korelasyon bilgilerini barindiranrastsal modellerden yararlanmaktadir. Formüle edilen eniyileme problemlerini çözmek için ikifarkli çözüm yöntemi sunulmustur. Eniyileme problemleri gerçek zamanda çözülmedigi içinönerilen stratejiler uygulamaya hesaplama yükü getirmemektedir.Tezde sunulan modelleme ve eniyileme teknikleri, popüler bir çokluortam uygulamasiolan MPEG2 video kodçözücüsüne tatbik edilmistir. Yapilan deneyler, bu uygulamanin isyükleri arasinda kayda deger degiskenlikler ve korelasyonlarin oldugunu ortaya koymaktadir.Rastsal modellerden elde edilen enerji yönetim stratejileri literatürde bulunan iki yaklasimlakarsilastirilmistir.

In this thesis, we address the energy management problem that has become animportant concern for computing systems. We concentrate on dynamic voltage scalingenabled multicore systems running soft real-time applications that have been decomposedinto concurrent tasks.We first illustrate on simple examples that how energy management ignorant ofthe statistical nature of task workloads can be significantly suboptimal or not properlyfulfill timing constraints. Based on this observation, we propose stochastic models whichcapture the variability of, and correlations among the workloads of tasks. The stochasticmodels are constructed using the workload data collected from actual application runs.Each stochastic application model suggests an energy management policy whichminimizes the average energy consumption of the system while satisfying the timingconstraints according to the application's tolerance to deadline misses. These policies,which exploit the variability and the correlation information captured by the stochasticapplication models, are obtained by novel optimization formulations. To solve theformulated optimization problems, we present two solution techniques. Our energymanagement policies introduce negligible overhead at runtime, since the associatedoptimization problems are solved offline.We show on a popular multimedia application, MPEG2 video decoding, that therecan be significant variability in and correlations among the workloads of tasks. Using thesame application, we demonstrate how stochastic application models can be constructedand then present experimental results. We compare our energy management policies withtwo other approaches proposed in the literature.