Erkan Özata

Regresyon Analizi
 Regresyon analizi bağımlı bir değişken (Y) ile bir veya
daha fazla açıklayıcı değişken (X1, X2, .....,Xk)
arasındaki ilişkiyi açıklamak ve değerlendirmek ile
ilgilidir.

 Açıklayıcı (bağımsız) değişkenlerin sabit veya bilinen

değerlerine bağlı olarak açıklanan (bağımlı)
değişkenin ortalama değerini tahmin etmeye veya
öngörmeye çalışırız.

Dr. Erkan Özata

Regresyon Analizi
 Açıklanan değişken =f (açıklayıcı değişken(ler))

 Ortalama Değer Sabit veya bilinen değer

Dr. Erkan Özata

Regresyonla ilgili önemli noktalar
 Regresyon analizi bir neden sonuç ilişkisini ifade
etmez.
β1 + β 2 X t + ut
Yt =
X neden Y sonuç değildir
 Regresyon analizi ile korelasyon analizi birbirine
karıştırılmamalıdır.
Değişkenlerin ele alınış biçimleri farklı

Dr. Erkan Özata

Örnek

Dr. Erkan Özata

Örnek
 60 tane hanehalkından oluşan bir hayali topluluk ele
alıyoruz.
 Bu aileleri ilgilendiren gelir tüketim ilişkisini ortaya
koymaya çalışıyoruz.
 10 tane gelir grubu oluşturup buna bağlı olarak 60
hanehalkının haftalık tüketim harcamalarını
gözlüyoruz.

Dr. Erkan Özata

Örnek
 K0şulsuz ortalama tüketim
7272/60 = 121,20 E(Y) = 121,20
Ailelerin gelir durumunu hiç dikkate almadık.

 Koşullu ortalama tüketim

Veri bir gelir grubunda haftalık tüketim
harcamalarının hesaplanması
E(Y|X=80)=65
E(Y|X=100)=77
Dr. Erkan Özata
Regresyon Analizi
 Regresyon bir koşullu ortalamadır.
 Bilinen haftalık gelir rakamlarını kullanarak
hanehalklarının ortalama tüketim harcamalarını
tahmin etmek istiyoruz.
 Koşullu ortalamaları birleştirdiğimizde ana kütle
regresyon doğrusunu elde etmiş oluruz.

Dr. Erkan Özata

Regresyon Doğrusu

Dr. Erkan Özata

Regresyon Doğrusu
 E(Y|X=80) = 65 Regresyon doğrusu üzerindeki 1. nokta
 E(Y|X=100)=77 Regresyon doğrusu üzerindeki 2. nokta
 -------------
 -------------
 E(Y|X=260)=173 Regresyon doğrusu üzerindeki son nokta
 Bu noktaları birleştirerek ana kütle regresyon
fonksiyonunu (PRF) elde ederiz.

Dr. Erkan Özata

Ana kütle regresyon fonksiyonu
 Olasılıklı olmayan biçimi
) β1 + β 2 X 2
E (Y | X i=

PRF’de β1 ve β 2 ye regresyon katsayıları veya

parametreleri adı verilir.
β1 Sabit terim veya kesişme terimi
β 2 Eğim katsayısı
Bu ilişkinin tamamına ana kütle regresyon fonksiyonu,
regresyon modeli ya da kısaca regresyon diyoruz.

Dr. Erkan Özata

Ana kütle regresyon fonksiyonu
 Stokastik (olasılıklı biçimi)
=Yi E (Y | X i ) + ui β1 + β 2 X i + ui
Yi =

 Ailelerin geliri artarken ortalama tüketim harcamaları

da artar. Ancak bireysel bir ailenin tüketim harcaması
gelir düzeyi artarken artmayabilir.

Dr. Erkan Özata

Stokastik hata terimi
 Xi gelir düzeyi veri iken bir ailenin tüketim harcaması
o gelir düzeyinde tüm ailelerin ortalama tüketim
harcamalarının yani koşullu beklenen değerin
etrafında kümelendiğini görürüz.
 Beklenen değer etrafında Yi’nin sapması aşağıdaki
gibidir.
ui =
Yi − E (Y | X i ) veya Yi =
E (Y | X i ) + ui

 Burada ui pozitif veya negatif değerlen alan

gözlenemeyen tesadüfi bir değişkendir. Teknik olarak
stokastik hata terimi olarak bilinir.
Dr. Erkan Özata
Örnek
 Bireysel tüketim harcamaları X=80 için şöyle
yazılabilir
Y1 = β1 + β 2 (80) + u1
55 = E=
(Yi | X i ) E (Y | X i ) + E (ui | X i )
Y2 = β1 + β 2 (80) + u2
60 =
Y3 = β1 + β 2 (80) + u3
65 = E (ui | X i ) = 0
Y4 = β1 + β 2 (80) + u4
70 =
Y5 = β1 + β 2 (80) + u5
75 =

Ana kütle regresyon fonksiyonunun olasılıklı olan ve

olasılıklı olmayan kısımları arasında bir ilişki yoktur.

Dr. Erkan Özata

Doğrusallık
1) Fonksiyonel ilişkide yer alan değişkenler açısından
) β +β X
E (Y | X = Doğrusal fonksiyon değil
2
i 1 2 i

2) Eşitlikte yer alan parametreler açısından

E(Y|Xi)’nin β ların doğrusal bir fonksiyonu olması

Dr. Erkan Özata

Doğrusallık
Hem parametrelerde hem de
) β1 + β 2 X i
E (Y | X i=
değişkenlerde doğrusal

) β1 + β 2 X i2
E (Y | X i= Parametrelerde doğrusal, değişkenlerde
doğrusal değil

) β1 + β 2 X i
E (Y | X i= Parametrelerde doğrusal değil,
değişkenlerde doğrusal

Doğrusal ana kütle regresyon fonksiyonundaki doğrusallık,

parametrelerde doğrusallığı ifade eder.
Dr. Erkan Özata
Hata terimi eşitlikte neden yer alır
1) Modelde ihmal edilen, yani modelde olması gerekip
de modele dahil edilmeyen değişkenler olması
2) Verilerin bulunamaması
3) Değişkenlerdeki ölçüm hataları
4) İnsan davranışlarının doğasında yer alan tesadüfilik
5) İlişkiyi ifade eden fonksiyonel biçimin yanlış
seçilmesi

Dr. Erkan Özata

Örnek Regresyon Fonksiyonu
 Gerçek yaşamda ana kütle parametrelerini bilmek gibi
bir şansımız çoğu zaman olmaz.
 Ana kütle parametreleri ile ilgili bilgi elde etmek için
örnek regresyon fonksiyonunu (SRF) kullanırız.
Yi =+
b1 b2 X i + ei Olasılıklı Biçimi

Yˆ=
i b1 + b2 X i Olasılıklı Olmayan Biçimi

b1 ve b2 regresyon katsayıları, parametrelerdir.

b1 β1 ' in ve b2 β 2 ' nin tahmincisidir
Dr. Erkan Özata
Hata terimi ve artık terim
ei

Dr. Erkan Özata

Hata terimi ve artık terim
 Gözlenen Yi değeri ile örnek regresyon doğrusu
arasındaki düşey uzaklık artık terimi verir.

 Gözlenen Yi değeri ile anakütle regresyon doğrusu

arasındaki düşey uzaklık hata terimini verir.

Dr. Erkan Özata

Klasik doğrusal regresyon modelinin varsayımları
1) Veri herbir X değerine karşılık gelen Y değeridir.
2) Hata teriminin beklenen değeri sıfırdır E (ui ) = 0

3) Hata terimi varyansı gözlemden gözleme değişmez,

sabittir ve σ ye eşittir. E (u ) = σ
2 2 2
i

=
Var =
(u ) Var
i i(Y ) σ Sabit varyanslılık
2

4) Hata terimleri arasında ilişki yoktur. Birbirini izleyen

iki hata terimi arasındaki ortak varyans sıfırdır.
Cov(ui , u j ) =
0 ⇒ Cov(Yi , Y j ) =≠
0 i j

Hata terimleri arasında otokorelasyon yoktur.

Dr. Erkan Özata
Klasik doğrusal regresyon modelinin varsayımları
5) X değişkeni rassal değildir, tekrarlanan
örneklemlerde sabit değerler alır ama X’e ait en az 2
değerin birbirinden farklı olması gerekir.
6) Hata terimleri normal dağılıma sahiptir.
ui  N (0, σ 2 ) Yi  N ( β1 + β 2 X i , σ 2 )
Bu varsayım hipotez testi ve aralık tahmini için gerekli.
7) Modelin olasılıklı olan ve olasılıklı olmayan kısımları
arasında ilişki yoktur.
=
Cov (ui , X i ) E=
(ui | X i ) 0

Dr. Erkan Özata