Bağımsız bileşenler analizi ile çoklu bağlantı sorununa bir yaklaşım

Abstract

Tez çalışmasında ilk olarak, çok değişkenli istatistiksel bir yöntem olmasına rağmen istatistikte pek fazla bilinmeyen daha çok mühendislik alanında kullanılan Bağımsız Bileşenler Analizi konusu ayrıntılı bir şekilde ele alınmış ve konuyla ilgili kısıtlı Türkçe literatüre katkıda bulunulmuştur. İkinci olarak ise çoklu doğrusal regresyon analizinde sık karşılaşılan sorunlardan biri olan ve varsayım bozulumlarına neden olarak regresyon modeli üzerinde olumsuz etkilere sebebiyet veren çoklu bağlantı sorununa, Bağımsız Bileşenler Analizi ile yeni bir çözüm önerisi getirilmiştir. Böylece analizin mevcut kullanımlarının yanı sıra farklı amaçlar için de bir araç olarak kullanılabileceği gösterilmiştir. Bu bağlamda, çoklu bağlantı sorununun çözümünde kullanılan Temel Bileşenler Regresyonu ve Kısmi En Küçük Kareler Regresyonu gibi yanlı regresyon yöntemlerinin işleyişine benzeyen, Bağımsız Bileşenler Analizi'ne dayalı yeni bir yöntem geliştirilmiştir. Yöntemde, literatürden farklı olarak çoklu doğrusal regresyon analizine dahil edilecek bağımsız bileşenlerin seçiminde, entropi alanındaki bir kavram olan ortak bilgi miktarının kullanımı önerilmiştir. Geliştirilen yöntemin performansı, yapay ve gerçek veriler üzerinde ayrı ayrı değerlendirilmiştir. Sonuç olarak, tez kapsamında önerilen Bağımsız Bileşenler Analizi'ne dayalı yöntem ile çoklu bağlantı sorununa çözüm sunulabileceği, regresyon analizindeki açıklanan (bağımlı) değişken için diğer yanlı regresyon yöntemlerine göre daha düşük hata miktarı ile tahmin ve öngörü yapılabileceği ve ayrıca regresyon katsayılarının daha düşük standart hatalar ile tahmin edilebileceği belirlenmiştir. Anahtar Kelimeler: Bağımsız Bileşenler Analizi, Temel Bileşenler Analizi, Regresyon Analizi, Çoklu Bağlantı Sorunu, Temel Bileşenler Regresyonu, Bağımsız Bileşenler Regresyonu, Shannon Entropisi, Ortak Bilgi Miktarı.

In the first part of the thesis, although it is a multivariate statistical method, Independent Components Analysis which is mostly used in the engineering field, which is not known much in statistics, has been discussed in detail and has been contributed to the limited Turkish literature.Secondly, a new solution was proposed by Independent Components Analysis to the multicollinearity problem, which is one of the most common problems in multiple linear regression analysis, which caused the assumption distortions and caused negative effects on the regression model. Thus, it has been shown that the analysis can be used as a tool for different purposes in addition to its current uses. In this context, a new method has been developed based on Independent Components Analysis, which is similar to the operation of biased regression methods such as Principal Components Regression and Partial Least Squares Regression used to solve multicollinearity problem. The novel contribution of this method to the literature is that the use of mutual information, a concept in the field of entropy, is proposed in the selection of independent components to be included in multiple linear regression analysis. The performance of the developed method was evaluated separately on artificial and real datasets.As a result, it was determined that the proposed method based on Independent Components Analysis can be used to solve the multicollinearity problem, estimation and prediction can be made with lower error amount than other biased regression methods for the explained (dependent) variable in the regression analysis, and regression coefficients can be estimated with lower standard errors.Keywords: Independent Components Analysis, Principal Component Analysis, Regression Analysis, Multicollinearity Problem, Principal Component Regression, Independent Component Regression, Shannon Entropy, Mutual Information.