Performance analysis of stacked generalization

Abstract

Yığılmış Genelleme Algoritması (YG), bağımsız sınıflandırıcıları sıradüzensel bir mimari altında birleştirerek performanslarını arttırmayı amaçlayan bir topluluk öğrenme tekniğidir. Bu çalışma, iki ana bölümden oluşmaktadır. İlk bölümde, Yığılmış Genelleme tekniğinin performansı, bağımsız sınıflandırıcıların performansına ve eğitim kümesinin içeriğine göre analiz edilmiştir. İkinci Bölümde, Meta-Bulanık Verim Değerleri (Meta-FYV) olarak adlandırılan, yığılmış genelleme için yeni bir algoritma geliştirilmiştir.İlk bölümde, YG'nin performans kazancını garanti edecek iki hipotezi sunulmuş ve doğruluğu bir dizi kontrollü deney ile sınanmıştır. Deneysel analizlerde, bireysel sınıflandırıcıların performansından daha yüksek performansa ulaşmak için YG'nin öğrenme tekniği incelenmiş ve bağımsız sınıflandırıcılar ile YG'nin performansı arasındaki ilişki araştırılmıştır. Eğer, eğitim kümesindeki örnekler en az bir alt-katman sınıflandırıcı tarafından doğru sınıflandırılırsa, YG'nin genelleştirme performansının bağımsız sınıflandırıcı performanslarına göre arttığı gösterilmiştir. İkinci olarak, herhangi bir alt katman sınıflandırıcı tarafından doğru sınıflandırılamayan parazit örneklerin etkisi incelenmiştir. Herhangi bir alt katman sınıflandırıcı tarafından doğru sınıflandırılamayan örnekleri elemenin YG'nin genel performansını geliştirdiği gösterilmiştirİkinci bölümde, YG'deki ard arda bağlama işlemi matris cebri ve geometrik veri analizi ile incelenmiştir. Öznitelik uzaylarının ve mimarinin analizine dayalı altı teorem oluşturulmuş ve ispatlanmıştır. Son olarak, deneyler, hem Corel verikümesi üzerinde hem de sentetik olarak üretilen verikümesi üzerinde, yüksek başarımlı bilgisayar kümesinde, parallel programlama teknikleri kullanılarak gerçekleştirilmiştir.

Stacked Generalization (SG) is an ensemble learning technique, which aims to increase the performance of individual classifiers by combining them under a hierarchical architecture. This study consists of two major parts. In the first part, the performance of Stacked Generalization technique is analyzed with respect to the performance of the individual classifiers and the content of the training data. In the second part, based on the findings for a new class of algorithms, called Meta-Fuzzified Yield Value (Meta-FYV) is introduced.The first part introduces and verifies two hypotheses by a set of controlled experiments to assure the performance gain for SG. The learning mechanisms of SG to achieve high performance are explored and the relationship between the performance of the individual classifiers and that of SG is investigated. It is shownthat if the samples in the training set are correctly classified by at least one base layer classifier, then, the generalization performance of the SG is increased, compared to the performance of the individual classifiers. In the second hypothesis, the effect of the spurious samples, which are not correctly labeled by any of the base layer classifiers, is investigated.In the second part of the thesis, six theorems are constructed based on the analysis of the feature spaces and the stacked generalization architecture. Based on the theorems and hypothesis, a new class of SG algorithms is proposed.The experiments are performed on both Corel data and synthetically generated data, using parallel programming techniques, on a high performance cluster.