İstatistiksel model seçiminde Bayesci yaklaşımlar ve Bayes faktörü

Abstract

Gerçek hayatı betimlemek amacıyla yapılan istatistiksel modelleme çalışmalarında, artan ileri teknoloji ve metotlardaki gelişmeler sayesinde, verideki bilgiyi yeterli miktarda açıklayabilen alternatif modeller oluşturabilmek mümkün olmuştur. Dolayısıyla mevcut birbirine rakip modellerin karşılaştırılması, bir başka deyişle ?en iyi? model seçimi için yeni metotlar geliştirmek, istatistiksel veri analizinde çok aktif bir konudur.Model seçimi pek çok istatistiksel problemde karşımıza çıkmaktadır: iç içe geçmemiş regresyon modelleri kıyaslaması, parametrik aile seçimi, çoklu değişim noktası problemi, bilinmeyen sayıda bileşenli karma model bunlara örneklerdir. Bu problemleri çözmek için, Bayesci prensiplere dayalı önerilen yöntemler arasında sonsal model olasılığı ve bununla ilişkili Bayes faktörü en önemli araç olarak kullanılmaktadır.Bu çalışmada, istatistiksel model seçiminde Bayesci yaklaşımlardan Bayes faktörü tüm yönleriyle incelenmiş, hipotez testlerinde ve eşlenik önsel kullanımıyla model seçiminde uygulamaları gösterilmiştir. Bayes faktörünün analitik olarak hesaplanmasının mümkün olmadığı durumlarda ise bu hesabı yapabilmek için, MCMC (Markov Zinciri Monte Carlo) yöntemlerinin avantajlarını kullanan, uygulaması pratik olan Carlin ve Chib yöntemi tanıtılmıştır.Bir başka Bayesci yaklaşım, BIC (Bayesci Bilgi Ölçütü), Bayes faktörünü yaklaşık olarak hesaplamaya olanak vermesi nedeniyle bu çalışmaya dahil edilmiştir. Ayrıca, Bayes faktöründen tamamen farklı prensipte çalışan ve son dönemlerde pek çok uygulamada sıkça kullanılan DIC (Sapma Bilgi Ölçütü) ayrıntılı olarak anlatılmıştır. Bir yarı-parametrik modelleme olan kuantal modellemenin literatürdeki ünlü bir örneğinin ilk defa bu çalışmada ortaya çıkardığı iki model, Carlin ve Chib yaklaşımıyla hesaplanan Bayes faktörü ve bilgi ölçütlerinden BIC ve DIC kullanılarak karşılaştırılmıştır.

In Statistical modelling studies with the aim of describing real life, increasing developments of advanced technology and methods has made it possible to construct alternative models that can explain sufficiently the information from data. Therefore, developing new methods for the comparison of available competing models: in other words for choosing ?the best? model, is a very active subject in statistical data analysis.Model selection appears in many statistical problems: the comparison of non-nested regression models, the choice of parametric family, multiple change-point problem, mixture models with unknown number of components are examples. To solve these problems, the posterior probability of the model and the associated Bayes factor are used as the most important tool among the proposed methods based on Bayesian principles.In this study, all aspects of Bayes factor, one of the approaches to statistical model selection are examined and also applications of this method in hypothesis testing and model selection with the use of conjugate prior are illustrated. When it is not possible analytically compute Bayes factor, Carlin and Chib method, taking advantage of MCMC (Markov Chain Monte Carlo) methods and application of which is practical, is introduced for this calculation.Another Bayesian approach, BIC (Bayesian Information Criterion), is included in this study because of it being made it possible to calculate Bayes factor approximately. In addition, DIC (Deviance Information Criterion) which works completely in different principle than Bayes factor and is commonly used in many applications recently is described in detail. Two models that are created by the famous example of quantal modelling, a semi-parametric modelling, in the literature are for the first time in this study compared by means of Bayes factor calculated using Carlin and Chib approach and information criterions of BIC and DIC.