Özellik seçimi problemleri için polihedral konik fonksiyonlar temelli çözüm yaklaşımı

Abstract

Bu çalışmada makine öğrenmesinin önemli dallarından biri olan özellik seçimi problemleri için çok yüzlü konik fonksiyonlar temelli bir gömülü yöntem önerilmiştir. Çok yüzlü konik fonksiyonlar algoritması, özellikle dışbükey örtüleri ayrık olmayan kümeler için geliştirilmiş ve literatürde yayımlanan çalışmalarla da sınıflandırma alanında çok yüksek başarılar elde ettiği gösterilmiştir. Bu çalışmanın amacı özellik seçimi problemleri için de çok yüzlü konik fonksiyonların kullanılmasını içeren bir algoritma geliştirilmesidir. Hiperdüzlemlerle ayırma teorisine dayanan klasik algoritma, özellik seçimi durumunu da içerecek şekilde yeni bir amaç fonksiyonu ve durdurma kriteri tariflenerek tekrar düzenlenmiştir. Çok yüzlü konik fonksiyonlar kullanılarak oluşturulan yeni amaç fonksiyonu sayesinde eş zamanlı bir şekilde hem özellik seçimi hem de sınıflandırma yapılabilmektedir. Ortaya konulan yeni algoritma, literatürde iyi bilinen güncel veri kümeleri üzerinde test edilmiş ve elde edilen sonuçlar yorumlanarak bilinen diğer yöntemlerle karşılaştırılmıştır. Ayrıca öğrenci başarı tahminlemesi problemine dair bir veri kümesi kullanılarak açıklayıcı bir örnek sunulmuştur.

In this study, an embedded method based on polyhedral conic functions has been proposed for feature selection problems, which is one of the important branches of machine learning. The polyhedral conic functions algorithm is a supervised classification algorithm developed for separating the sets which of convex hulls are intersect. It is reported on different studies in literature that PCF algorithm gives competitive classification accuracies. The purpose of this study is to develop an algorithm that includes polyhedral conic functions for feature selection problems. The classical algorithm based on the separation theory has been rearranged by defining a new objective function which includes a feature selection term and a new termination criteria. Thanks to the new objective function both feature selection and classification can be performed simultaneously. The proposed algorithm is applied to solve classification problems on some well known real world data sets and compared with other well known classifiers. Finally, an illustrative example is presented using a student performance data set.