En küçük kareler ve en küçük mutlak sapmalar yöntemlerinin simülasyon verileri ile karşılaştırılması

Abstract

Regresyon analizi değişkenler arasındaki fonksiyonel ilişkileri araştırmak için en yaygın bilinen ilişki şeklidir. Regresyon analizi çözümü için kullanılan en temel ve yaygın yöntem En Küçük Kareler (EKK) yöntemidir. Ancak aykırı değer varlığında EKK'nin kullanılması regresyon parametre tahminleri üzerinde negatif bir etkiye sahip olmaktadır. Bu nedenle elde edilen sonuçlar yanıltıcı olabilmektedir. Bu amaçla aykırı değer varlığında daha tutarlı ve etkin sonuçlar elde edebilmek amacı ile çalışmada sağlam regresyon yaklaşımlarından biri olan En Küçük Mutlak Sapmalar Yöntemi (EKMS) üzerinde durulmuştur. Bu çalışmada 3 farklı model alınarak, EKK ve EKMS yöntemleri kullanılarak her bir model için aykırı değer olması ve olmaması durumunda, farklı örneklem büyüklüğü ile farklı hata varyansları için veri türetilerek MSE (β ̃), MSE (β ̂), MSE (β ̂_m) ve MAE değerleri bakımından karşılaştırılmıştır. Özellikle aykırı değer varlığı ile yeterince büyük alınan örneklemlerde EKMS yönteminin EKK'den daha iyi sonuç verdiği görülmüştür. Bununla birlikte aykırı değer olmaması durumunda da EKMS yönteminin EKK'e göre dikkate değer daha kötü sonuçlar vermediği gözlenmiştir.

Regression analysis is the most widely known relationship to study functional relationships between variables. The most basic and widely used method for Regression analysis solution is Least Squares Method (OLS). However, OLS use in the presence of outliers is having a negative effect on the regression parameter estimates. Therefore, the results obtained can be misleading. Thus, in order to obtain more consistent and effective results in the presence of an outlier, the main emphasis in the current study is put on one of the robust regression approaches, Least Absolute Deviation Method (LAD).In this study, on the basis of three different models, by generating data via the least squares method and the LAD for different error variances with different sample sizes in cases of both the presence and absence of an outlier for each model and these data were compared in terms of MSE (β ̃), MSE (β ̂), MSE (β ̂_m) and MAE values. Especially in the presence of outliers in large enough samples better results were obtained from the least squares method. However, in the absence of outliers, it was observed that the least squares method do not yield considerably worse results than OLS.