Memristif nöromorfik sistem hesaplamaları ve uygulamaları

Abstract

Canlı vücudundaki nöronlar arası haberleşme ve koordinasyon sinaps yapıları aracılığı ile gerçekleşmektedir. Bu sinaps yapılarının modellenmesi için literatürde birçok farklı yaklaşım mevcuttur. Bu tez çalışmasında sinaps yapılarını modellemek için önerilen ve literatürde mevcut yaklaşımlardan biri olan Ani Zamana Bağımlı Plastisite (Spike-Time-Dependent-Plasticity, 'STDP') öğrenme kuralı ile memristör sinaps yapılarının benzerliklerinin incelenmesi amaçlanmıştır. Ardından, STDP öğrenme kuralını ve memristör sinaps yapılarını ilişkilendiren nöromorfik sistemlerin gerçek zamanlı uygulamaları için donanım gerçekleştirimleri konusu üzerine yapılan çalışmalar irdelenmiş ve alternatif bir donanım gerçekleştirimi yapılmıştır.Bu kapsamda; öncelikle memristör elemanının tanımı, tarihçesi, genel uygulama alanları gibi temel bilgiler verilmiştir. Ardından memristör elemanının modellenmesi için literatürde mevcut olan üç farklı voltaj kontrollü memristör modeli incelenmiş ve bu modellerin temel karakteristikleri nümerik simülasyon sonuçlarından yararlanılarak analiz edilmiştir. Nöronların davranışlarını, fizyolojik yapılarını ve bilgi transfer mekanizmalarını matematiksel denklemlerle tanımlayan biyolojik nöron modelleri, nöral ağ yapıları oluşturmak için sıklıkla kullanılmaktadır. Biyolojik nöron modellerinin her birinin kendine özgü avantaj ve dezavantajı bulunmaktadır. Bu yüksek lisans tez çalışması kapsamında ağ yapılarına geçiş sürecinde; basit matematiksel tanımlamalara sahip olan ve nöron dinamiklerini başarılı bir şekilde taklit eden FitzHugh-Nagumo (FHN) ve Hindmarsh-Rose (HR) nöron modellerinin kullanımı tercih edilmiştir.STDP öğrenme kuralı ve memristör sinaps yapıları arasındaki benzerliğin incelenmesi amacıyla, öncelikle FHN ve HR nöron çiftleri elektriksel sinaps tanımlaması kullanılarak birleştirilmiş ve bu basit ağ yapısındaki kuplajlı nöronların cevapları nümerik analizlerle elde edilmiştir. Ardından, bu nöron çiftleri elektriksel sinaps tanımlaması yerine bir STDP plastisite modeli ile birleştirilmiş ve bu ağ yapısındaki kuplajlı nöronların cevapları da nümerik analizlerle elde edilmiştir. Daha sonra, memristör elemanının modellenmesi için literatürde mevcut olan üç farklı matematiksel tanımlama sinaps ifadeleri yerine kullanılmıştır. FHN ve HR nöron çiftleri bu üç farklı memristör ifadesi ile birleştirilmiştir. Memristör tanımlamasının kullanıldığı bu kuplajlama işlemi sonucunda elde edilen nümerik sonuçlar; klasik sinaps yapıları ile elde edilen önceki sonuçlarla karşılaştırılarak yorumlanmıştır. Bahsedilen bu kuplajlama işlemleri sonrasında nöronların hücre zarı potansiyel cevaplarının birbirleri ile uyumlu olduğu gözlemlenmiştir. Son olarak, bir memristör modeli kullanılarak kuplajlanan HR nöron çiftinin, programlanabilirlik ve yeniden yapılandırılabilirlik özelliği ile nöromorfik gerçekleştirim çalışmalarında kullanılan Alan Programlanabilir Kapı Elemanı (Field Programmable Gate Array, 'FPGA') elemanı ile donanım gerçekleştirimi yapılmıştır. Böylece nümerik simülasyon çalışmaları ile ilişkilendirilen STDP öğrenme kuralı ve memristör tabanlı sinaps yapıları kullanılarak kuplajlanan nöron çiftlerinin FPGA tabanlı donanım doğrulaması da başarılı bir şekilde gerçekleştirilmiştir.Anahtar Kelimeler: Ani Zamana Bağımlı Plastisite (Spike-Time-Dependent-Plasticity, 'STDP'); memristör; sinaps; kuplaj; FitzHugh-Nagumo nöron modeli; Hindmarsh-Rose nöron modeli; nöromorfik sistem; Alan Programlanabilir Kapı Elemanı (Field Programmable Gate Array, 'FPGA')

Communication and coordination between neurons in the living body takes place through synapse structures. There are many different approaches for modeling these synapse structures in the literature. In this thesis, it is aimed to examine the similarities of the memristor synapse structures with the Spike-Time-Dependent-Plasticity ('STDP') learning rule, which is one of the approaches available in the literature and has been proposed for modeling synapse structures. Then, the studies on hardware implementations for real-time applications of neuromorphic systems that relate STDP learning rule and memristor synapse structures have been examined and an alternative hardware implementation has been done.In this context, first of all, basic information such as the definition, history, and general application areas of the memristor element are given. Then, three different voltage-controlled memristor models, which are available in the literature, have been examined for the modeling of the memristor element and the basic characteristics of these models have been analyzed by using the numerical simulation results.The biological neuron models, which describe the dynamical behaviors, the physiological structures and the information transfer mechanisms of the real neurons with mathematical equations, are often preferred to create neural network structures. Each of these biological neuron models has own their advantages and disadvantages. Within the scope of this master's thesis, the usages of the FitzHugh-Nagumo (FHN) and the Hindmarsh-Rose (HR) neuron models, which have simple mathematical descriptions and mimic neuron dynamics successfully, have been preferred in the process of transition to network structures.In order to examine the similarity between the STDP learning rule and the memristor synapse structures, first of all, the FHN and the HR neuron pairs have been combined by using the electrical synapse identification, and the responses of these coupled neurons in this simple network structure have been observed by the numerical analysis. Then, these neuron pairs have been combined with a STDP plasticity model instead of the electrical synapse identification, and the responses of these coupled neurons in this network structure have also been obtained by the numerical analysis. Then, three different mathematical definitions, which are available in the literature, for modeling of the memristor element have been used instead of the synapse expressions. The FHN and the HR neuron pairs have been combined with these three different memristor expressions. After this coupling process in which these memristor identifications have been used, the obtained numerical results have been interpreted by comparing with previous results obtained with the classical synapse structures. After these coupling processes, it has been observed that the cell membrane potential responses of these coupled neurons are compatible with each other. Finally, the hardware implementation of the HR neuron pair that is coupled by using a memristor model has been realized by the Field Programmable Gate Array (FPGA) device, which is used in neuromorphic implementation studies with its programmability and reconfigurability feature. Thus, after associating with the STDP learning rule and the memristor-based synapse structures by the numerical simulation studies, the FPGA-based hardware validation of these coupled neuron pairs has also been implemented successfully.Keywords: Spike-Time-Dependent-Plasticity (STDP); memristor; synapse; coupling; FitzHugh-Nagumo neuron model; Hindmarsh-Rose neuron model; neuromorphic system; Field Programmable Gate Array (FPGA)