REGRESYON ANALZ

Regresyon analizi, aralarnda sebep-sonu ilikisi bulunan iki veya daha fazla deiken arasndaki ilikiyi belirlemek ve bu ilikiyi kullanarak o konu ile ilgili tahminler (estimation) ya da kestirimler (prediction) yapabilmek amacyla yaplr. Doada birok olayda sebep sonu ilikisine rastlamak mmkndr. rnek: Sebep Gelir Ya Gbre Yem miktar alma sresi Sonu Harcama Boy Verim St miktar Alnan not

Bu analiz tekniinde iki (basit regresyon) veya daha fazla deiken (oklu regresyon) arasndaki iliki aklamak iin matematiksel bir model kullanlr ve bu model regresyon modeli olarak adlandrlr.Aada basit regresyon analizi anlatlmtr.

Basit regresyon modeli Y=+X+ eklinde bir baml ve bir de bamsz deiken ieren bir modeldir. Burada Y; baml (sonu) deiken olup belli bir hataya sahip olduu varsaylr. X; bamsz (sebep) deikeni olup hatasz lld varsaylr. ; sabit olup X=0 olduunda Ynin ald deerdir. ise regresyon katsays olup, Xin kendi birimi cinsinden 1 birim deimesine karlk Yde kendi birimi cinsinden meydana gelecek deime miktarn ifade eder. ; tesadfi hata terimi olup ortalamas sfr varyans 2 olan normal dal gsterdii varsaylr. Bu varsaym parametre tahminleri iin deil katsaylarn nem kontrolleri iin gereklidir.

Parametrelerin (Katsaylarn) Tahmini Bir regresyon modeli oluturulurken genelde en-kk kareler ve en bykolabilirlik ( maximum likelihood) teknikleri olarak bilinen iki yaklamdan birisi kullanlr. Eer hata teriminin normal dalm gstermesi eklinde bir varsaym varsa en byk olabilirlik, hata

www.fikretgultekin.com

teriminin dal ile ilgili herhangi bir varsaym sz konusu deilse en-kk kareler teknii kullanlarak parametreler tahmin edilir.1 En-kk kareler teknii kullanlarak parametrelerin nasl tahmin edildiini rnek bir veri grubu zerinde ksaca zetleyelim.

Boy(cm) (X) 9 15 6 24 32

evre(cm) (Y) 5 6 4 12 19

Tabloda verilen X ve Y deikenlerine ait be gzlem ifti, koordinat eksenlerine yerletirildiinde elde edilen serpme diyagramnn ekil (a)daki grafik elde edilir.

(a)

(b)

ekil (a)da verilen noktalar temsil eden regresyon dorusu oluturulursa ekil (b) elde edilir. Uydurulan regresyon dorusu ile gzlem noktalar arasndaki fark hata () olarak isimlendirilir. Regresyon dorusuna ait parametreler yle tahmin edilmelidir ki; doru ile gzlem noktalar arasndaki fark (hata) en az olsun. Bunu salayacak teknik ise en-kk kareler tekniidir.

Regresyon Analizi ki deiken arasndaki korelasyonun matematiksel ifadesini tespit etmek iin yaplan analiz. Bu matematiksel ifadeye de regresyon denklemi diyoruz.

http://www.mku.edu.tr/genel/fakulte/ziraat/zootekni/personel_veri/suat/Bolum_9.pdf

www.fikretgultekin.com

Regresyon denklemi genel ifadesi: Y` = a + bX X: seilen bamsz deikenin deeri Y`: seilmi X deerine iin tahmin edilen Y deeri a: dogrunun Y ekseni kestii noktann deeri b: dorunun eimi a ve b: regresyon katsaylar Regresyon analizi Bir kriter deikeni ile bir veya daha fazla sayda tahmin deikenleri arasndaki ilgiyi saysal hale dntrmede kullanlan istatistiksel analizdir. Regresyon analizi esas olarak deikenler arasnda ilikinin niteliini saptamay amalar. Tahmin deikeni olarak bir deiken kullanlrsa basit regresyon, tahmin deikenleri olarak iki veya daha fazla deiken kullanlrsa oklu regresyon analizinde sz etmek mmkndr. Ama her tahmin deikenininin kriter deikenindeki toplam deimeye olan katksnn saptanmas ve dolaysyla tahmin deikenlerinin dorusal kombinasyonunun deerinden hareketle kriter deerinin tahmin edilmesidir. 2 rnek: Tketicilerin gelir dzeyleri ile A malnn satlar arasndaki ilikinin dorusal olduu varsaylarak iki deiken arasndaki iliki matematiksel olarak gsterilebilir. ki ya da daha ok deiken arasnda iliki olup olmadn, iliki varsa ynn ve gcn inceleyen korelasyon analizi ile deikenlerden birisi belirli bir birim deitiinde dierinin nasl bir deiim gsterdiini inceleyen regresyon analizi salk bilimlerinde ok kullanlan istatistiksel yntemlerdir.3 Regresyon analizi, bilinen bulgulardan, bilinmeyen gelecekteki olaylarla ilgili tahminler yaplmasna izin verir.Regresyon, baml ve bamsz deiken(ler) arasndaki ilikiyi ve dorusal eri kavramn kullanarak, bir tahmin eitlii gelitirir.Deikenler arasndaki iliki belirlendikten sonra, bamsz deiken(ler)in skoru bilindiinde baml deikenin skoru tahmin edilebilir. Baml Deiken (y) Baml deiken, regresyon modelinde aklanan ya da tahmin edilen deikendir. Bu deikenin bamsz deiken ile ilikili olduu varsaylr. Bamsz Deiken (x) Bamsz deiken, regresyon modelinde aklayc deiken olup; baml deikenin deerini tahmin etmek iin kullanlr.
2 3

a x

http://www.frekans.com.tr/tr_analizler.html http://www.toraks.org.tr/mse-ppt-pdf/Kenan_KOSE3.pdf

www.fikretgultekin.com

 Deikenler arasnda dorusal iliki olabilecei gibi, dorusal olmayan bir iliki de olabilir. Bu nedenle, salm grafii yaplmadan (iliki yok/dorusal iliki var/dorusal olmayan iliki var) ve deikenler arasnda korelasyon varlna rastlanmadan regresyon analizine karar verilmemesi gerekir. Bu bilgiler dorultusunda, tek/ok deikenli dorusal regresyon analizlerinin yan sra, tek/ok deikenli dorusal olmayan regresyon analizleri de mevcuttur.

(a) (+) ynl Dorusal iliki

(b) (-) ynl Dorusal iliki

(c) Dorusal Olmayan iliki

(d) iliki Yok

Baml deiken ile bamsz deiken arasndaki dorusal ilikiyi aklayan tek deikenli regresyon modeli aadaki gibidir: Y = a + bx Burada; y = Baml deikenin deeri a = Regresyon dorusunun kesiim deeri (Sabit deer) b = Regresyon dorusunun eimi x = Bamsz deikenin deerini gstermektedir.

www.fikretgultekin.com

rnek :Kardiyoloji kliniine bavuran erkek hastalar zerinde yaplan bir aratrmada, yas(x) ve kolesterol(y) deikeni arasndaki korelasyondan yola klarak kurulan regresyon modeli aadaki gibi elde edilmitir: Y=3,42+0,326x Bu modele gre, yastaki bir birimlik artsn, kolesterol deerinde 0.326 birimlik bir arta neden olaca, yeni doan bir erkein (X=0) kolesterol deerinin ise 3.42 olaca sylenebilir.Kurulan bu modele gre, 50 yasnda bir erkein kolesterol deerinin ne kadar olacan tahmin edebiliriz. X=50 iin : Y=3,42+0,326*(50)=19,52 50 yasnda bir erkein kolesterol deerinin 19.52 olaca sylenebilir.

Tek Deikenli Ve ok Deikenli Regresyon Analizi

Regresyon analizi baml deiken ile bir veya daha ok bamsz deiken arasndaki ilikiyi incelemek amacyla kullanlan bir analiz yntemidir. Bir tek bamsz deikenin kullanld regresyon tek deikenli regresyon analizi, birden fazla bamsz deikenin kullanld regresyon analizi de ok deikenli regresyon analizi olarak adlandrlr. Regresyon analizi ile ; baml ve bamsz deikenler arasnda bir iliki var mdr? Eer bir iliki varsa bu ilikinin gc nedir? Deikenler arasnda ne tr bir iliki vardr? Baml deikene ait ileriye dnk deerleri tahmin etmek mmkn mdr ve nasl tahmin edilmelidir? Belirli koullarn kontrol edilmesi durumunda zel bir deiken veya deikenler grubunun dier deiken veya deikenler zerindeki etkisi nedir ve nasl deiir? gibi sorulara cevap aranmaya allr.4 Tek Deikenli Regresyon Analizi Tek deikenli regresyon analizi bir baml deiken ve bir bamsz deiken arasndaki ilikiyi inceler. Tek deikenli regresyon analizi ile baml ve bamsz deikenler arasndaki dorusal ilikiyi temsil eden bir dorunun denklemi formle edilir. ok Deikenli Regresyon Analizi inde bir adet baml deiken ve birden fazla bamsz deikenin bulunduu regresyon modelleri ok deikenli regresyon analizi olarak bilinir. Regresyon analizi,birok alanda veri analizi iin bavurulan nemli bir istatistiksel teknik olup deikenler arasndaki ilikiyi aklamak iin kullanlr.Ksaca regresyon analizi

http://istatistikanaliz.com/regresyon_analizi.asp

www.fikretgultekin.com

,baml bir deiken ile baml deiken zerinde etkisi olduu varsaylan bamsz deiken(ler) arasndaki ilikinin matematiksel bir model ile aklanmasdr. Basit dorusal regresyon analizinde bir baml ve bir bamsz deiken sz konusu iken,oklu dorusal regresyon analizinde ise bir baml deiken varken iki ya da daha fazla bamsz deiken vardr ve her iki analizde de deikenler arsnda dorusal bir iliki vardr.Ayrca baml ve bamsz iki deiken arasnda erisel bir iliki var ise deikenler arasndaki iliki erisel regresyon modeli ile aklanr. Korelasyon analizinde,deikenlerin baml ve bamsz deiken olarak belirlenmesi hesaplamalarn sonucu asndan nemli deilken,regresyon analizinde ise deikenlerin hangisinin baml hangisinin bamsz deiken olduunu tespit etmek ok nemlidir. rnein ,ithalat ve ihracat yapan bir iletmenin karllk dzeyini iletmenin bulunduu lkedeki dviz kurlar etkileyebilir.O halde,iletmenin karllk dzeyi baml(y),lkedeki dviz kurlar ise bamsz(x) deiken olarak ele alnmaldr.5

Tek Deikenli Regresyon Analizi Tek deikenli regresyon analizi bir baml deiken ve bir bamsz deiken arasndaki ilikiyi inceleyen analiz tekniidir.Bu analizle baml ve bamsz deikenler arsndaki dorusal (lineer) ilikiyi temsil eden bir doru denklemi formle

edilmektedir.Korelasyon analizinde olduu gibi ,regresyon analizinde zerinde durulan iliki,deikenler arasndaki dorusal ilikidir.Bu dorunun hesaplanmas ise en kk kareler metodu yardmyla yaplmaktadr. Regresyon analizi sonularnn yorumlanmasnda birok aratrmac ve renci tarafndan ciddi hatalar yaplmaktadr.En yaygn hata,regresyon analizi sonularnn yorumlanmasnda,x bamsz deikeninin y baml deikenine sebep olduu eklindeki yorumdur.Bamsz deikenlerin baml deikendeki deiimi aklyor olmas

sebepsellii gerekli klmaz.Baka bir ifade ile,baml ve bamsz deikenler arasnda (pozitif ve negatif) bir ilikinin olmas her zaman bamsz deiken(lerin) baml deikenin sebebi olduu sonucunu dourmayacaktr. ki deiken arasnda bir ilikinin olabilmesi iin sebepsellik art deildir.likinin sebebi belki de iki deikenin nc bir deikenle olan ilikilerinden kaynaklanyor olabilecei gibi,sz konusu iliki tamamen tesadfi olarak da ortaya km

Bilimsel Aratrma Sreci ve SPSS ile Veri Analizi , SPSS 12.0 for Windows , Ayhan URAL,2005

www.fikretgultekin.com

olabilir.Sebepsellik ile ilikiselliin ayn eyler olmad unutulmamaldr.Regresyon analizi deikenler arasndaki ilikinin yaps ve derecesi ile ilgilenmektedir. ok Deikenli Regresyon Analizi Bir baml deiken ve birden fazla bamsz deikenin yer ald regresyon modellerine ok deikenli regresyon analizi denir.ok deikenli regresyon analizinde bamsz deikenler e zamanl olarak (ayn anda) baml deikendeki deiimi aklamaya almaktadr.Hesaplama ve yorum bakmndan tek deikenli regresyon analizine benzemektedir.ok deikenli regresyon analizinin yorumu tek deikenli regresyon analizine benzemektedir.Ancak baz farkllklar vardr.rnein,tek deikenli regresyon analizindeki karl oklu regresyon katsays R (multiple R) olarak ifade edilmektedir.oklu regresyon katsays R,bir baml deikendeki deiim ile ezamanl(ayn anda) ele alnan birden fazla bamsz deikendeki deiim arasndaki ilikinin derecesini gstermektedir.Daha basit bir ifade ile , baml deiken ile birlikte ele alnan bir grup bamsz deikendeki deiimin ilikisinin (korelasyonunun) bir gstergesidir. ok deikenli regresyon analizi sosyal bilimlerin birok dalnda kullanm alan bulmaktadr.Pazarlama,sosyoloji ve psikoloji gibi bilim dallarnda davransal hareketlerin belirlenmesinde,ekonomide zaman serisi tr ekonomik deikenleri etkileyen faktrlerin tespiti ve gelecee ynelik projeksiyonlarnda(tahmininde) kullanm alan bulmaktadr.

oklu Regresyon Analizi Modelleri Basit regresyon analizinde baml ve bamsz deiken arasndaki ilikiler analiz ediliyordu.Baz durumlarda ise;incelenen bir baml deikeni birok bamsz deiken etkileyebilir.Bir baml deikeni birok bamsz deikenin etkileme durumlarna ksa rnekler verelim.Okuldaki bir rencinin baarsn,zekas,alma resi,alma ortam,aile ortam vs.gibi birok faktrler etkiler.Bir hastann iyileme sresini ald ilalarn dozu,ya,cinsiyeti,hastaln arlk derecesi gibi birok faktrler etkiler. oklu regresyon analizinden olumlu sonu alnabilmesi iin,baml ve bamsz deikenlerin saysal olarak ve ayn lm birimiyle llmesi iyi sonular

verebilir.Snflandrma ve aralkl lmlerle,ve hele lm birimleri de deiik olursa,iyi yorumlanabilir sonular alnamaz.nk niteliksel zellikler saysal olarak gsterilse bile,mesela zengine 1 yoksula 0 kodu verildiinde,1 ile 0 arasndaki farkn gerekte zengin ile yoksul arasndaki fark gsterip gstermedii tartlabilir.Zenginle yoksul arasndaki fark 0

www.fikretgultekin.com

ile 1 arasndaki fark gibi deil,0 ile 20,30,50 arasndaki fark gibidir.te yandan meslek gruplarn,mezun olunan okullar,cinsiyeti kodlamann hibir anlam yoktur. Bamsz deikeni seerken de ,kendi aralarnda yksek korelasyona sahip bamsz deikenlerden sadece birisinin alnmas yoluna gidilmelidir.Mesela,kiinin ya,meslekteki kdemi,ald cret ayr deikenlermi gibi grnmelerine ramen,aslnda her de birbiriyle sk skya balantldr.oklu regresyon analizinde byle deikenlerden sadece biri seilmelidir.Bunun iin de analize balamadan btn deikenlerin korelasyon matrisine bakp,aralarnda yksek korelasyon alanlardan biri seilmelidir. oklu regresyonda bazen hangi bamsz deikenin daha nemli olduunu ve baml deikeni daha ok etkilediini bilmek gerekir.Bunun iin nce korelasyonlara

bakarz.Yksek korelasyon,daha gl dorusal ilikiyi gsterir.kinci yol,bamsz deikenin baml deikeni,bir kez ikili deiken formlnde bir kez de ikili ,bir kez de oklu regresyon iinde nasl etkilediine bakmaktr. oklu Regresyon Metodlar Enter metodu :Bamsz deikenleri bir blok olarak tek admda girilip deerlendirildii metod. leri Doru Seim Metodu (Forward selection) :Baml deiken ile en yksek pozitif veya negatif korelasyonu olan bamsz deiken ilknce seilir.Daha sonra girilen deikenin katsaysnn 0 olduu hipotezi F testi ile yoklanr.Burada elde edilen F deeri,SPSSin ngrlen F deerleri ile karlatrlr.SPSSin iki F lt vardr. 1. F deeri sizin belirleyeceiniz minumum bir F deeri ile karlatrlr.( F-toenter,FIN ).Normal ayar 3,84tr.(Bunu ayar yeri Linear regression penceresinden options anahtar ile geilen pencerede Use F Value ksmndadr. 2. F istatistii ile balantl ihtimalin ayarlanmas (Porbability of F-toenter,PIN).Bunun normal ayar da 0,05tir. Eer elde edilen F deeri bu ltlere eit veya kkse,o bamsz deiken regresyon deerlendirmesine alnr ve seim ileri doru devam eder;yoksa ilem orada durdurulur. Bir deiken seilip ileme alndnda,geride kalan bamsz deikenlerle baml deiken arasndaki korelasyonlara baklr ve en yksek korelasyona sahip bamsz deiken bir sonraki aday olur.Bu ,ayn zamanda en geni F deerine sahip deikenin de seimi olur.

www.fikretgultekin.com

Geriye Doru Eleme ( Backward Elimination ) Metodu :leri doru seimin tersine,burada nce btn bamsz deikenler seilir;sonra sra ile belli ltlere gre eleme yaplr.SPSS ; eleme iin iki lt koymaktadr. 1. Deikenin formlde kalabilmesi iin en kk kareler F deeri ( F-toremove,FOUT ).Normal ayar 2,71dir. 2. En byk F ihtimali (Probabability of F-to-remove,POUT).Bunun normal ayar da 0,10dur. lk nce en kk ksmi korelasyon katsaysna sahip deiken incelenir.ngrlen

deerlerden,byk deere sahip deiken elenir. Adm Adm Seme (Stepwise Selection) Metodu :lk olarak bamsz deiken seilir;eer bu ileri doru semedeki- FIN veya PIN gereklerini yerine getirirse ikinci deiken seilir;yoksa ilem orada biter.kinci deiken olarak en yksek ksmi korelasyona sahip deiken alnr.Seimler yksek korelasyondan de doru yaplr.Bamsz deikenler ltlere uyarsa regresyon analizine balanr.lk deiken seildikten sonra Adm Adm seme,ileri doru semeden farkllar.lk deikenin,geriye doru elemedeki gibi FOUT veya POUT ltlerine uyup uymad kontrol edilir.Yani adm adm semede,hem ileri doru seme hem e geriye doru eleme ilemleri yaplr.6 oklu Dorusal Balant Basit regresyon analizindeki tm varsaymlar oklu regresyon analizinde de geerlidir.Bu varsaymlar hatrlarsak baml deiken x1 tesadfi bir deikendir ve normal dalm gstermektedir.Tahmin hatalar tesadfidir ve normal dalm gsterirler.Hatalar birbirinden bamszdr.(otokorelasyon yoktur.) .Her bamsz deikenin deerlerine ait olan baml deiken deerlerinin alt setleri varyanslar birbirine eittir.(eit varyansllkhomoscedasticity).oklu regresyon analizinde bu varsaymlara bir drdncs

eklenmektedir.Bu varsaym bamsz deikenler arasnda basit dorusal ilikilerin olmamas eklinde ifade edilebilir.Bamsz deikenler arasndaki basit dorusal korelasyon katsaylarnn 0 veya 0a ok yakn olmas art eklinde de aklanabilen bu varsayma,istatistikte oklu Dorusal Balant (Multicollinearity) olmama durumu ad verilmektedir.7

6 7

Bilimsel Aratrmalarda Bilgisayarlarla statistik Uygulamalar,SPSS for Windows,Prof.Dr.Mustafa ERGN Uygulamal Regresyon Ve Korelasyon Analizi,Do.Dr.Neyran ORHUNBLGE, . letme Fakltesi

www.fikretgultekin.com