Regresyon ve Korelasyon Analizi

Dr. Suat ŞAHİNLER 2 .Regresyon Analizi Doç.

Suat ŞAHİNLER 3 . Bu kısımda anlaşılması daha kolay olduğu için basit regresyon analizi anlatılmıştır.Dr. aralarında sebep-sonuç ilişkisi bulunan iki veya daha fazla değişken arasındaki ilişkiyi belirlemek ve bu ilişkiyi kullanark o konu ile ilgili tahminler (estimation) ya da kestirimler (prediction) yapabilmek amacıyla yapılır.Regresyon Analizi Regresyon analizi. Doç. Örnek: Sebep Sonuç Gelir Harcama Yaş Boy Gübre Verim Yem miktarı Süt miktarı Çalışma süresi Alınan not Bu analiz tekniğinde iki (basit regresyon) veya daha fazla değişken (çoklu regresyon) arasındaki ilişki açıklamak için matematiksel bir model kullanılır ve bu model regresyon modeli olarak adlandırılır. Doğada birçok olayda sebep-sonuç ilişkisine rastlamak mümkündür.

bağımlı (sonuç) değişken olup belli bir hataya sahip olduğu varsayılır.Regresyon Analizi Basit regresyon modeli Y=α+βX+ε şeklinde bir bağımlı ve bir de bağımsız değişken içeren bir modeldir. tesadüfi hata terimi olup ortalaması sıfır varyansı σ2 olan normal dağılış gösterdiği varsayılır. Bu varsayım parametre tahminleri için değil katsayıların önem kontrolleri için gereklidir. ε. α. bağımsız (sebep) değişkeni olup hatasız ölçüldüğü varsayılır. Doç. sabit olup X=0 olduğunda Y’nin aldığı değerdir. Burada Y. β ise regresyon katsayısı olup.Dr. X’in kendi birimi cinsinden 1 birim değişmesine karşılık Y’de kendi birimi cinsinden meydana gelecek değişme miktarını ifade eder. X. Suat ŞAHİNLER 4 .

hata teriminin dağılışı ile ilgili herhangi bir varsayım söz konusu değilse en-küçük kareler tekniği kullanılarak parametreler tahmin edilir. En-küçük kareler tekniği kullanılarak parametrelerin nasıl tahmin edildiğini örnek bir veri grubu üzerinde kısaca özetleyelim. Suat ŞAHİNLER 5 . Boy(cm) (X) 9 15 6 24 32 Çevre(cm) (Y) 5 6 4 12 19 Doç. Eğer hata teriminin normal dağılım göstermesi şeklinde bir varsayım varsa en büyük olabilirlik.Regresyon Analizi Parametrelerin (Katsayıların) Tahmini Bir regresyon modeli oluşturulurken genelde en-küçük kareler ve en büyük olabilirlik (maximum likelihood) teknikleri olarak bilinen iki yaklaşımdan birisi kullanılır.Dr.

Regresyon doğrusuna ait parametreler öyle tahmin edilmelidir ki. Uydurulan regresyon doğrusu ile gözlem noktaları arasındaki fark hata (ε) olarak isimlendirilir. Suat ŞAHİNLER 6 . Y 20 16 12 8 4 0 0 5 10 15 20 25 30 35 X Y 20 16 12 8 4 0 0 5 10 15 20 25 30 35 X (a) (b) Şekil (a)‘da verilen noktaları temsil eden regresyon doğrusu oluşturulursa Şekil (b) elde edilir. doğru ile gözlem noktaları arasındaki fark (hata) en az olsun.Dr. Bunu sağlayacak teknik ise en-küçük kareler tekniğidir Doç. koordinat eksenlerine yerleştirildiğinde elde edilen serpme diyagramının Şekil (a)’daki grafik elde edilir.Regresyon Analizi Tabloda verilen X ve Y değişkenlerine ait beş gözlem çifti.

Y = α + βX i + ε ⇒ ε = Y − α − βX i olur. HKT’nı en küçük yapabilmek için yukarıdaki ifadenin önce α‘ya göre türevini alıp sıfıra eşitleyerek ∂∑ ε i =1 n 2 i ∂α =0⇒ ∂ ∑ (Y − α − β X i ) 2 i =1 n ∂α =0 n ⇒ nα + β ˆ ˆ ∑X i =1 n i = ∑ Yi i =1 (Normal denklem 1) 7 Doç.Regresyon Analizi Yukarıda verilen basit regresyon modelinden e çekilirse yani. Burada hata teriminin tüm gözlemler için kareleri alınır ve toplanırsa (Hata Kareler Toplamı (HKT). ∑ε i =1 n 2 i = ∑ (Yi − α − β X i ) 2 i =1 n olur.Dr. Suat ŞAHİNLER . En-küçük kareler tekniğinde.

ˆ β= ∑X Y i =1 n i =1 n i i − (∑ X i )(∑ Yi ) / n i =1 i =1 2 i n n ∑X − (∑ X i ) 2 / n i =1 n = Sxy Sxx Doç. Suat ŞAHİNLER 8 .Regresyon Analizi daha sonra da β’ya göre türevini alıp sıfıra eşitleyerek ∂∑ ε i =1 n 2 i ∂β =0⇒ ∂ ∑ (Y − α − βX i ) 2 i =1 n ∂β n n =0 n 2 ˆ ˆ ⇒ α ∑ X i + β ∑ X i = ∑ X i Yi i =1 i =1 i =1 (Normal denklem 2) şeklinde normal denklemler olarak isimlendirilen iki bilinmeyenli iki denklem elde edilir.Dr. Normal denklemlerin iki bilinmeyenli denklerin çözümünde kullanılan değişik yöntemlerden birisi kullanılarak çözümü yapıldığında.

Dr.Regresyon Analizi ve ˆ α= ∑Y i =1 n i n ˆ −β ∑X i =1 n i n ˆ = Y − βX eşitlikleri elde edilir. Suat ŞAHİNLER 9 . Böylece. Bu eşitlikler ile regresyon doğrusu denkleminde yer alan ve HKT’nı en az yapacak parametreler tahmin edilir. en-küçük kareler regresyon doğrusu denklemi ˆ ˆ ˆ Y = α + βX i Doç.

Dr.α/2 olup burada. x ~ t n -2.Korelasyon Analizi Regresyon Katsayısının Önem Testi: Hipotezler Ho: β=0 Hı : β≠0 Kullanılacak test istatistiği t= ˆ β −β S βˆ 2 S y. S βˆ = S xx = [ S yy − ( S xy ) 2 / S xx ] /(n − 2) S xx Doç. Suat ŞAHİNLER 10 .

ters yönlü ve tam bir ilişki varsa -1 değerini alır. ilişkinin olmadığı durumda 0. Değişik şekillerde hesaplanan ve değişik amaçlar için kullanılan Pearson korelasyon katsayısı.Korelasyon Analizi Korelasyon Analizi İki değişken arasındaki ilişkinin derecesini ve yönünü belirlemek amacıyla kullanılan istatistik yöntemlerden birisidir. tam ve kuvvetli bir ilişki varsa 1. Değişkenlerin bağımlı veya bağımsız olması dikkate alınmaz. kısmi korelasyon katsayısı gibi farklı isimler alan korelasyon katsayıları vardır. Suat ŞAHİNLER 11 . Bunlardan Pearson korelasyon katsayısı r ile gösterilir ve n ⎛ n ⎞ X iYi − ⎜ ∑ X i ∑ Yi ⎟ / n ∑ i =1 i =1 ⎝ i =1 ⎠ r= = 2 2 n n n n ⎛ ⎞⎛ ⎞ ⎜ ∑ X 2 − ⎛ ∑ X ⎞ / n ⎟⎜ ∑ Y 2 − ⎛ ∑ Y ⎞ / n ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ i =1 i ⎝ i =1 i ⎠ ⎟⎜ i =1 i ⎝ i =1 i ⎠ ⎟ ⎝ ⎠⎝ ⎠ n S XY S XX SYY formülü ile hesaplanır.Dr. Canonical korelasyon katsayısı. Doç. . Korelasyon katsayısı -1 ile +1 arasında değişen değerler alır (-1≤ r ≤+1). Katsayı.

noktaların dağılımına göre korelasyon katsayısının alabileceği değerler Şekilde gösterilmiştir. Doç.Korelasyon Analizi Aralarındaki ilişkinin derecesi araştırılan değişkenlere ait gözlemler serpme diyagramında incelendiğinde.Dr. Suat ŞAHİNLER 12 .

Dr. Ara değerler için katsayı değerlendirirken. 0.75-1 arasında ise kuvvetli ilişki vardır denilmektedir. Fakat az sayıda. 10-15 gözleme dayanan değerlendirmelerde korelasyon katsayısının 0. Populasyona göre normal sayılacak kadar bir gözlem sayısı alınarak bakılmış gözlem grupları için genellikle.49 arasında ise korelasyon zayıf. 0.74 arasında ise orta derecede.Korelasyon Analizi Korelasyon katsayısının yorumunu. çoklu korelasyon analizi yapmak da mümkündür. Suat ŞAHİNLER 13 . tam değerler dışında ara değerler için yapmak oldukça güçtür. Doç. Basit korelasyon analizinden söz edilebileceği gibi.25'e kadar düşmüş bir korelasyon katsayısı bile anlamlı sayılabilmektedir. 0-0. örnek gözlem sayısı (n) oldukça önemlidir. Çok fazla gözleme dayanan değerlendirmelerde 0.71 üstünde olması beklenir.5-0.

α/2 t= Sr olup burada.Dr.Korelasyon Analizi Korelasyon Katsayısının Önem Testi: Hipotezler Ho: ρ=0 Hı : ρ≠0 Kullanılacak test istatistiği r−ρ ~ t n -2. Suat ŞAHİNLER 14 . 1− r 2 S r= n−2 Doç.

Dr. Boy(cm) (X) 9 15 6 24 32 Çevre(cm) (Y) 5 6 4 12 19 XY 45 90 24 288 608 X2 81 225 36 576 1024 Y2 25 36 16 144 361 Doç. Balığın boyu ile vücut çevresi arasındaki ilişkinin doğrusal bir ilişki olduğunu varsayarak a) Bu ilişkiyi açıklayan regresyon modelini oluşturunuz ve regresyonun önem testini yapınız b) Korelasyon katsayısını hesaplayarak önem testini yapınız. Suat ŞAHİNLER 15 .Regresyon ve Korelasyon Analizi Örnek: Bir balık türü için balığın boyu(cm) ve vücut çevresine (cm) ait değerler aşağıdaki gibidir.

Suat ŞAHİNLER 16 .57 * = −0.8 1942 − 86 2 / 5 ˆ ˆ α = Y − βX = 46 86 − 0.57 462.8 = = 0.604 + 0.604 5 5 Böylece. en-küçük kareler regresyon doğrusu.Regresyon ve Korelasyon Analizi Çözüm: (a) Boy(cm) (X) 9 15 6 24 32 86 Çevre(cm) (Y) 5 6 4 12 19 46 n n XY 45 90 24 288 608 1055 X2 81 225 36 576 1024 1942 Y2 25 36 16 144 361 582 ˆ β= ∑X Y i =1 n i =1 n i i − (∑ X i )(∑ Yi ) / n i =1 i =1 2 i ∑X − (∑ X i ) 2 / n i =1 n = 1055 − 86 * 46 / 5 263.57 X i Doç. ˆ Y = −0.Dr.

Suat ŞAHİNLER 17 .Regresyon ve Korelasyon Analizi Regresyon Katsayısının Önem Testi: Hipotezler Ho: β=0 Hı : β≠0 α=0.8 i =1 ⎝ i =1 ⎠ Doç.0.0.57 − 0 = 7.31 > t5-2.8 ⎛ n ⎞ 2 S yy = ∑ Yi − ⎜ ∑ Yi ⎟ / n = 582 − 46 2 / 5 = 158.01 t= ˆ β −β S βˆ = 0.8] /(5 − 2) = = 0.8) 2 / 462.Dr.0779 RED edilir.01/2=t3.005=5.0779 462.8 − (263. S βˆ = [ S yy − ( S xy ) 2 / S xx ] /(n − 2) S xx n 2 [158.841 olduğundan Ho 0.

005=5. Bir diğer ifade ile balığın boyu arttıkça.0.1333 Sr 1 − 0. Suat ŞAHİNLER > t5-2.01/2=t3.973 − 0 0.8 S XX SYY Balığın boyu ile çevresi arasında % 97. Korelasyon Katsayısının Önem Testi: Hipotezler Ho: r=0 Hı : r≠0 α=0.Dr.3’lük pozitif bir ilişki vardır.299 2 0.8 S XY = = 0. 18 .0.8 *158.Regresyon ve Korelasyon Analizi Çözüm (b): Korelasyon katsayısı.973 5−2 Doç. r= 263.841 olduğundan Ho RED edilir.973 r−ρ t= = = = 7.973 462.01 0. çevresi de artmaktadır.

Suat ŞAHİNLER 19 .(kg) 5 7 9 10 8 6 11 Verdiği Süt Miktarı (kg) 12 18 19 22 20 13 25 Doç. a) Bu ilişkiyi açıklayan regresyon modelini oluşturunuz ve regresyonun önem testini yapınız b) Korelasyon katsayısını hesaplayarak önem testini yapınız.Dr.Regresyon ve Korelasyon Analizi Örnek: İneğin günlük yediği yem(kg) ile verdiği süt(kg) arasında bir ilişki olup olmadığını araştırmak amacıyla yapılan bir denemeden elde edilen veriler aşağıdaki gibir. Yem Miktarı.

Sign up to vote on this title
UsefulNot useful