Spilne based neural networks

Abstract

ÖZETSPLINE TABANLI YAPAY SİNİR AĞLARIHikmet DalkılıçBu tez ile, Catmull-Rom spline fonksiyonları ve B-spline fonksiyonlarıuyarlanabilir aktivasyon fonksiyonları olarak, yapay sinir ağı modelleri olan ÇokKatmanlı Ağlara,Elman ağlarına ve Yerel Geri Beslemeli ağlara uygulandı.Bu uygulamalardan oluşturduğumuz 5 yeni yapay sinir ağı modeli için öğrenmealgoritmalarının çıkarımları yapıldı. Bu yeni modeller sırasıyla ?UyarlanabilirCatmull-Rom Spline Aktivasyon Fonksiyonlu Çok Katmanlı Ağlar?, ?UyarlanabilirB-Spline Aktivasyon Fonksiyonlu Çok Katmanlı Ağlar? , ?Uyarlanabilir Catmull-Rom Spline Aktivasyon Fonksiyonlu Elman Ağları?, ?Uyarlanabilir B-SplineAktivasyon Fonksiyonlu Elman Ağları?, ?Uyarlanabilir Catmull-Rom SplineAktivasyon Fonksiyonlu Yerel Geri Beslemeli ağlar?, ve son olarak ?UyarlanabilirB- Spline Aktivasyon Fonksiyonlu Yerel Geri Beslemeli ağlar? diye adlandırılır.Ağların performansı xor problemi kullanılarak ölçüldü ve sonuçları birbirleriylekarşılaştırıldı. Yapay sinir ağlarını oluşturulması ve performanslarının ölçülmesi içinSBNN adında PHP 4 programlama dilin ile yazılmış web tabanlı bir yapay sinir ağısimilatörü geliştirildi.Anahtar Kelimeler: Spline ağları, spline aktivasyon fonksiyonları, Uyarlanabiliraktivasyon fonksiyonları, Uyarlanabilir Catmull-Rom spline aktivasyonfonksiyonları, Uyarlanabilir B- spline aktivasyon fonksiyonları, SBNN.iv

ABSTRACTSPLINE BASED NEURAL NETWORKSHikmet DalkılıçIn this thesis, we applied the Catmull-Rom splines and B-splines to the neuralnetworks models, which are Multi Layer Perceptrons, Elman Networks, and LocallyRecurrent Neural Networks, as adaptive activation functions. We derived thelearning algorithms for the five new neural network models, which we proposed.This new models are called ?Multi Layer Perceptrons with Adaptive B- SplineActivation Function?, ?Elman Networks with Adaptive Catmull-Rom SplineActivation Function?, ?Elman Networks with Adaptive B- Spline ActivationFunction?, ?Locally Recurrent Neural Networks with Adaptive Catmull-Rom SplineActivation Function?, ?Locally Recurrent Neural Networks with Adaptive B- SplineActivation Function?. We measure the performance of these networks on the xorproblem and compare the performance of them for this problem. To simulate thenetworks and to compare their performances we developed a web-based neuralnetwork simulator written in PHP 4 called SBNN.Keywords: Spline networks, spline activation functions, adaptive activationfunctions, Adaptive Catmull-Rom spline activation functions, Adoptive B- splineactivation functions, SBNN.iii