Novel clustering methods for neurofuzzy systems design

Abstract

Bu tezde, bulanık sinir ağlarının tasarımında eniyilenmiş parametreleri olan yeni kümeleme yöntemleri geliştirildi. Benzetilmiş Tavlama eniyileme (BT) yönteminin değiştirilmiş hali ile Çıkartımlı Kümeleme (ÇK) yöntemi bulanık sisteme uyarlanarak, eniyilenmiş bulanık kural tabanı, eniyilenmiş parametreler ve en önemli girişleri seçen bulanık sınıflandırıcı (BTÇKBS) türetildi. Farklı eniyileme senaryolarını göstermek amaçlı BTÇKBS-Tip1, Tip2, Tip3 ve Tip4 olmak üzere dört farklı sınıflandırıcı geliştirildi. Her bir BTÇKBS tip sınıflandırıcı bazı benzer özellikler taşımasına rağmen, Tip4 de melez bir özellik seçmede geliştirildiği için sınıflandırıcı daha iyi bir sınıflandırma performansına sahiptir. İki yeni Bulanık Sinir Ağı tabanlı Sınıflandırıcı (BSS), BSS1 ve BSS2 olarak ortaya konuldu. Her iki sınıflandırıcının ağ mimarilerinin kurulmasında Kaybedeni Cezalandırıcı Rekabetçi Öğrenme (KCRÖ) tabanlı kümeleme yöntemi kullanıldı. Yeni bir KCRÖ tabanlı hata geri yayılma öğrenme algoritması BSS2'nin parametrelerinin ayarlanması için geliştirildi. Kural uyum mekanizması BSS2'nin öğrenme sürecine dâhil edilerek hem parametrelerin hem de sınıflandırıcı yapısının öğrenme sürecinde dinamik olarak değiştirilmesi sağlandı. Bazı sınıflandırma problemlerinde test edilerek ortaya konan sınıflandırıcıların, yakın zamandaki çalışmalardaki benzer diğer sınıflandırıcılarla karşılaştırıldığında daha iyi bir sınıflandırma başarısına sahip olduğu bulundu

In this thesis, novel clustering methods with optimized parameters in order to have NeuroFuzzy inference systems design are developed. A modified version of Simulated Annealing (SA) optimization and Subtractive Clustering (SC) techniques are adapted to Fuzzy System to form a fuzzy classifier (SASCFC) in order to obtain optimum fuzzy rule base, parameters and to find out most important inputs. Four distinct classifiers namely SASCFC-Type1, Type2, Type3 and Type4 are derived in order to form different optimization scenarios. Although there are some similarities in each type of SASCFC, Type4 has best classification performance because a hybrid feature selection algorithm is also developed in Type4. Two new NeuroFuzzy Classifiers (NFC) are proposed as NFC1 and NFC2. Initial structures of both classifiers are set up via Rival Penalized Competitive Learning (RPCL) based clustering. A new RPCL type gradient descent training algorithm is also proposed for the NFC2. Rule adaptation mechanism is embedded into training of the NFC2 that both parameters and structural optimization performed twice which enables to change the structure of classifiers by adding new rules and deleting unnecessary rules in training phase dynamically. It is found that the proposed classifiers, which are tested on some benchmarks problems, have good performance in comparing to their counterparts in recent literature