Comparative investigation of selective attention in visual recognition

Abstract

KISA ÖZET Bu çalışmada, elyazısı rakamların seçici dikkate dayalı optik tanınmasıyla ilgileniyoruz. Paralel tanıma yöntemleri girdinin bütününü bir defada işlerler. Seçici dikkate dayalı tanımada, girdinin parçaları belli önemlilik ölçütlerine uyarak seri olarak işlenir. Seçici dikkatin doğal olabilirliği ve yararlılığı savunulmuştur. Seçici dikkate dayalı bir tekniğin taşanım ayrıntılı olarak açıklanmıştır. Böyle bir tanıma tekniği üç paralel teknikle birlikte karşılaştırmalı olarak uygulanmıştır. Paralel teknikler hata geri yayma yöntemine dayalı olup, bunların ikisi öğreticisiz bir ön aşama kullanan melez öğrenme yöntemleridir. Böylece, çalışma paralel ve dikkate dayalı tanıma tekniklerinin işleyiş ve başarılarının karşılaştırılması için bir görüş açısı vermektedir. Uygulamada, aşağıdan-yukarıya önemlilik ölçütü hesaplanırken, en önemli bileşenler çözümlemesi yöntemiyle elde edilen öznitelikler kullanılmıştır. Girdi ile sınıf ve sınıf ile bakılacak yer arasındaki ilişkileri saklayan uzun erimli bellekler doğrusal hata geri yayma ağlarıyla öğrenilmiştir. Kısa erimli bellekler unutmaya ya da yanal bağlantılara dayalıdır. Basan, paralel tekniklerden düşük olmakla birlikte benzer bir seri tekniğe yakındır. Tanıma, girdinin dörtte birinden azanı işleyerek gerçekleştirilmiştir. Sistemin eksik yanlan ve olası iyileştirmeler de tartışılmıştır.

IV ABSTRACT In this study we deal with selective attention based optical recognition of handwritten digits. Parallel recognition schemes process the entire input at once. In selective attention based recognition, parts of the input are processed in series according to certain saliency criteria. A case is made for the plausibility and usefulness of selective attention. Design of a selective attention scheme is explained in detail. Such a recognition scheme is implemented comparatively with three parallel schemes. Parallel schemes are based on backpropagation, two of them being hybrid schemes using a prior unsupervised stage. The study hence gives a perspective to compare the operation and performance of parallel and attentional recognition schemes. In the implementation, features obtained through principal components analysis are used as basis for bottom-up saliency computation. Long-term memories storing input-to-class and class-to-saccade-location relationships are learned using linear backpropagation networks. Short-term memories are based on forgetting or lateral connections. Performance is worse than that of the parallel schemes but close to that of a similar serial system. Recognition is achieved by looking at less than one fourth of the input. Deficiencies of the system and possible improvements are also discussed.