Professional Documents
Culture Documents
Basit Do¤rusal
Regresyon 11
Çal›flma Biçimine ‹liflkin Olarak:
• Kavramlar ve bu kavramlar aras›ndaki iliflkiler dikkatle incelenmeli,
• Örnekler ve örnek çözümleri dikkatle incelenmeli, sorunlarla karfl›lafl›l›rsa il-
gili ünitelere geri dönülmelidir.
252 ‹statistik
Amaçlar:
Serpilme diyagram› yard›m›yla, de¤iflkenler aras›ndaki iliflkinin, ne tür bir
fonksiyonla ifade edilebilece¤ini araflt›rabileceksiniz.
Basit do¤rusal regresyon modelinde yer alan katsay›lar›, en küçük kareler
tekni¤ine göre hesaplayabileceksiniz.
Basit do¤rusal regresyon modeliyle elde edilen kestirimlerin standart hatas›-
n› hesaplayabileceksiniz.
Basit do¤rusal regresyonda, parametrelerin nokta kestiriminden sonra genel-
leme yapabilmek için, parametrelere iliflkin aral›k kestirimi yapabileceksiniz.
Basit do¤rusal regresyon denkleminde elde edilen parametre kestirimlerinin,
istatistiksel olarak anlaml›l›¤›n› test edebileceksiniz.
‹çerik Haritas›
• G‹R‹fi
• SERP‹LME D‹YAGRAMI
• BAS‹T DO⁄RUSAL REGRESYON
• Basit Do¤rusal Regresyon Modeli
• Basit Do¤rusal Regre¤syon Denkleminin Kestirimi
• Katsay›lar›n En Küçük Kareler (EKK) Kestirimleri
• VARYANSIN ( s 2) KEST‹R‹M‹
• BAS‹T DO⁄RUSAL REGRESYONDA ARALIK KEST‹R‹M‹
• REGRESYON KATSAYILARININ ANLAMLILIK TESTLER‹
Ünite 11 - Basit Do¤rusal Regresyon 253
G‹R‹fi
Regresyon (ba¤lan›m); sözlük anlam›yla, bir fleyi baflka bir fleye ba¤lama ifli ve bi-
çimidir. Bilimsel olarak regresyon terimi bir de¤iflkenle baflka bir (ya da birden
çok) de¤iflken aras›nda iliflki kurma iflini ve iliflkinin biçimini anlat›r.
‹statistiksel anlamda, iki de¤iflken aras›ndaki iliflki, bunlar›n de¤erlerinin karfl›-
l›kl› de¤iflmeleri aras›nda bir ba¤l›l›k fleklinde anlafl›l›r. (X) de¤iflkeninin de¤erle-
ri de¤iflirken, buna ba¤l› olarak (Y) de¤iflkeninin de¤erleri de de¤ifliyorsa, bu iki
de¤iflken aras›nda bir iliflki oldu¤u söylenebilir. Örne¤in, pancar üretimi artt›¤›n-
da fiyat› düflüyorsa ya da azald›¤›nda fiyat› yükseliyorsa, insanlar›n boy uzunlu-
¤uyla birlikte a¤›rl›¤› da art›yorsa bunlar, de¤iflkenler aras›nda iliflki oldu¤unu
gösterir. Asl›nda de¤iflkenler aras›ndaki bu iliflki neden-sonuç iliflkisidir. ‹flte de-
¤iflkenler aras›ndaki neden sonuç iliflkisinin matematiksel bir fonksiyonla ifade
edilmesi regresyon analizinin konusunu oluflturmaktad›r. Regresyon, bir ba¤›ml› Regresyon, de¤iflkenler
aras›ndaki ortalama
(aç›klanan) de¤iflken, di¤eri de ba¤›ms›z (aç›klay›c›) de¤iflken olarak en az iki de- iliflkinin matematiksel bir
¤iflken aras›ndaki ortalama iliflkinin matematik bir fonksiyon fleklinde ifade edil- fonksiyonla ifade
edilmesidir.
mesidir. Bu fonksiyona regresyon denklemi ad› verilmektedir. Bu ünitede ilk ola-
rak, regresyon çözümlemesinde kullan›lan serpilme diyagram› hat›rlat›lacak, daha
sonraysa basit do¤rusal regresyon modeli ele al›nacak, son olarak da basit do¤ru-
sal regresyon modeline iliflkin katsay›lar›n, en küçük kareler yöntemiyle, kestirim-
lerinin elde edilmesi ele al›nacakt›r.
SERP‹LME D‹YAGRAMI
AMAÇ
Serpilme diyagram› yard›m›yla, de¤iflkenler aras›ndaki iliflkinin,
1 ne tür bir fonksiyonla ifade edilebilece¤ini araflt›rabileceksiniz.
Y Y
X X
fiekil 9.1 Serpilme Do¤rusal ‹liflki Durumu E¤risel ‹liflki Durumu
Diyagram›.
ÖRNEK 1 Eskiflehir ilinde sat›fl yapan bir ma¤aza ürünlerini, yerel radyodaki rek-
lamlarla tan›tmaktad›r. Firman›n 6 hafta süresince belirli bir ürün için
harcad›¤› reklam tutar› ve sat›lan ürün say›s› afla¤›daki tabloyla veril-
mifltir. Serpilme diyagram›n› çizelim.
Y
10 Kartezyen koordinat sis-
9 teminde X ve Y ’ye ait ve-
8 rileri iflaretledi¤imizde, iki
7 de¤iflken aras›ndaki iliflki-
6 nin do¤rusal oldu¤unu
5
4 görebiliriz.
3
2
1
fiekil 9.2 Reklam
Harcamalar›na X
‹liflkin Serpilme 0
10 20 30 40 50
Diyagram›.
Ünite 11 - Basit Do¤rusal Regresyon 255
2. Serpilme diyagram›, iki de¤iflken aras›nda iliflki olup olmad›¤› ve fonksiyonel flekli
d›fl›nda, baflka ne hakk›nda bilgi verir?
3. Bir A ülkesinde, 1995-2000 y›llar› aras›ndaki erkek nüfus art›fl h›z›, y›llara göre
afla¤›daki tabloda verilmifltir. Serpilme diyagram›n› çiziniz.
1995 18.50
1996 19.00
1997 20.00
1998 20.40
1999 21.60
2000 22.90
AMAÇ
Basit do¤rusal regresyon modelinde yer alan katsay›lar›, en kü-
çük kareler tekni¤ine göre hesaplayabileceksiniz.
2
Regresyon analizinde ba¤›ms›z (aç›klay›c›) de¤iflken say›s› bir oldu¤unda basit
regresyon modelinden, iki ya da daha fazla oldu¤undaysa çoklu regresyon mode-
linden söz edilir. Örne¤in enflasyon oran›yla para arz› aras›ndaki ya da hem para
arz› hem de kamu harcamalar› aras›ndaki iliflkinin araflt›r›lmas›nda oldu¤u gibi.
Regresyon analizinde de¤iflkenler aras›ndaki iliflkinin do¤rusal olup olmad›¤› da
önemlidir. Dolay›s›yla de¤iflkenler aras›ndaki iliflki do¤rusal oldu¤unda do¤rusal
regresyon modeli, do¤rusal olmad›¤›ndaysa do¤rusal olmayan regresyon modeli
söz konusu olur. Kitab›n amaçlar› do¤rultusunda burada, sadece basit do¤rusal
regresyon konusuna yer verilecektir.
Yi = b 0 +b 1 Xi + e i i = 1, 2, ...., N
Yi = b0 + b1 Xi + ei
fleklinde yaz›l›r.
b 0 , do¤rusal modelin sabit terimidir ve X = 0 oldu¤unda regresyon do¤rusu-
nun dikey eksen Y ‘yi kesti¤i noktay› göstermektedir. b 1 ise do¤rusal modelin
256 ‹statistik
Y=b 0 +b 1 X+ e
∂e = –2
∑ Yi – b0 – b1 Xi = 0
∂b0
∂e = –2 X Y – b – b X = 0
∑ i i 0 1 i
∂b1
∑ Yi = b0n + b1 ∑ Xi
∑ Xi Yi = b0∑ Xi + b1 ∑ X2i
Örnek 1’de verdi¤imiz probleme tekrar dönelim. Eskiflehir ilinde sat›fl ÖRNEK 2
yapan bir ma¤aza ürünlerini, yerel radyodaki reklamla tan›tmaktad›r.
Firman›n 5 hafta süresince, belirli bir ürün için harcad›¤› reklam tutar›
ve sat›lan ürün say›s› tabloda verilmifltir. Sat›fl miktar›n›n, reklam har-
camalar›na göre, basit do¤rusal regresyon denkleminin kestirimini, en
küçük kareler tekni¤iyle elde ediniz.
ÇÖZÜM
b1 katsay›lar›n› normal denklemler yard›m›yla hesaplayal›m. Normal denklemler:
∑ Y = b0n + b1 ∑ X
∑ XY = b0∑ X + b1 ∑ X2
’dir. Bu durumda,  X,  Y,  X2 ve  X Y de¤erlerinin hesaplanmas› gerekir.
X Y XY X2
10 3 30 100
20 4 80 400
30 6 180 900
40 7 280 1600
50 10 500 2500
∑X =150 ∑Y =30 ∑ XY =1070 ∑ X2=5500
30 = 5b0 + 150b1
1070 = 150b0 + 5500b1
b0 = 0.9 ; b1 = 0.17
Y = 0.9 + 0.17
b1 = ∑ xiyi
∑ x2i
Regresyon do¤ru
denklemleri, s›f›r ya da ya da
ortalamalar orijinine göre
hesaplanabilir.
b1 = ∑ xiyi
∑ x2i
Ünite 11 - Basit Do¤rusal Regresyon 259
elde edilir. b0’in 0’a eflit olmas›, ortalamalar orijinine göre, regresyon do¤rusu-
nun, de¤iflkenlerin ortalamalar›yla tan›mlanan bir noktadan geçti¤ini ortaya koy-
maktad›r. Bu durumda regresyon denklemi
fleklinde yaz›labilir.
Bir regresyon do¤rusu ister s›f›r orijinine, ister ortalamalar orijinine göre yaz›l-
s›n, e¤imi de¤iflmez. Bu nedenle her iki orijine göre hesaplanan b1 katsay›s› ay-
n›d›r. Buna karfl›l›k b0 ise
S Yi = nb0 + b1S Xi
eflitli¤inden hareketle elde edilir. Eflitli¤in her iki taraf› n ile bölündü¤ünde
∑ Yi = nb0 + 1∑ i
b X
n n n
Y = b 0 + b 1X
ve
b0 = Y – b 1 X
sonucuna ulafl›l›r. ve bu flekilde elde edildi¤ine göre, veriler için en iyi do¤-
ru denklemi;
Y = b0 + b 1 X
fleklinde yaz›labilir.
Örnek 2’deki veriler için, Y’nin X’e göre regresyon denklemini, ortalama- ÖRNEK 3
lar orijinine göre, en küçük kareler tekni¤iyle elde edelim.
Basit do¤rusal regresyon denklemini ortalamalar orijinine göre yazabilmek için, ilk
ÇÖZÜM
X= ∑ Xi = 150 = 30 Y= ∑ Yi = 30 = 6
n 5 n 5
xi yi xiyi xi2
-20 -3 60 400
-10 -2 20 100
0 0 0 0
10 1 10 100
20 4 80 400
0 0 170 1000
b0 = 0
260 ‹statistik
b1 = byx = ∑
xiyi
= 170 = 0.17
∑ X2i 1000
y = 0,17
fleklinde yaz›l›r.
Yukar›daki aç›klamalarda Y de¤iflkeni ba¤›ml› de¤iflken, X de¤iflkeniyse ba-
¤›ms›z de¤iflken kabul edilmiflti. X de¤iflkeni ba¤›ml› Y de¤iflkeni ba¤›ms›z de¤ifl-
ken oldu¤undaysa do¤ru denklemi;
X = b0 + b 1Y
b1 = ∑ xiyi
∑ y2i
ya da
bxy = ∑ xiyi
∑ y2i
ve
b0 = X – b 1 Y
ÖRNEK 4 Örnek 1’de verdi¤imiz reklam harcamas› ve sat›lan ürün say›s› problemi
için bu kez
i) X’in Y ’ye ve ortalamalar orijinine göre, regresyon denklemini,
ii) X’in Y’ye ve s›f›r orijinine göre, regresyon denklemini hesaplayal›m.
ÇÖZÜM
bxy = ∑
xiyi 170
= = 5.66
∑ y2 30
i
x = 5.66 y
ii) X’in Y’ye göre ve s›f›r orijinine göre, regresyon denklemini yazabilmemiz için
b0 ’› hesaplamam›z gerekir.
X = b0 +b1Y
b0 = X – b1Y
b0 = 30 – 5.66(6
b0 = –3.96
ve regresyon denklemi
X = –3.96 + 5.66
1. Bir ö¤retim üyesi, ö¤rencilerin A dersinden ald›klar› final notlar›n›n, ö¤rencilerin vi- SIRA S‹ZDE
ze notlar›na ba¤l› oldu¤unu düflünmektedir. Ö¤retim üyesinin bu düflüncesiyle olufltu-
rulabilecek bir do¤rusal regresyon denklemindeki ba¤›ml› ve ba¤›ms›z de¤iflkenler
neler olacakt›r?
2. Ba¤›ml› de¤iflkenin sahip oldu¤u de¤erle, bu ba¤›ml› de¤iflken için, do¤rusal regres-
yon denkleminden elde edilen tahmin de¤eri aras›ndaki farka ne ad verilir?
3. Afla¤›da (X) ve (Y) de¤iflkenleri için gözlem de¤erleri verilmifltir. (X) ba¤›ms›z de¤ifl-
ken ve (Y) de ba¤›ml› de¤iflken olarak al›n›rsa, en küçük kareler yöntemine göre reg-
resyon denklemi ne olacakt›r?
X Y
3 2
5 4
7 6
9 5
VARYANSIN (s 2 ) KEST‹R‹M‹
AMAÇ
Basit do¤rusal regresyon modeliyle elde edilen kestirimlerin stan-
dart hatas›n› hesaplayabileceksiniz.
3
Basit do¤rusal regresyon modelinde, b 0 ve b 1 ’in kestirimlerine ek olarak, aral›k
kestirimlerinde ve hipotez testlerinde gerekli olan s 2’in kestirimine de gereksinim
vard›r.
s 2, e i hata terimlerinin ortak varyans›d›r. e i’in kestirimi ei hata terimi oldu¤un-
dan ei’lerin varyans› da s 2’in bir kestirimi olacakt›r. Hatalar›n kareler toplam›,
HKT = ∑ e2i
2
= ∑ Yi – Yi
HKO = HKT
n–k
hata kareler ortalamas›, (bir baflka ifadeyle hatalar›n varyans›) s 2’in bir kestirimi-
dir. Basit do¤rusal regresyon modeliyle hatalar›n hesaplanmas›nda, b 0 ve b 1 ’in
kestiricileri b0 ve b1 kullan›ld›¤›ndan, serbestlik derecesi (n-2) olarak yaz›l›r.
HKO ’un kare kökü al›nd›¤›ndaysa denklemin standart hatas› elde edilir ve s
ile gösterilir.
s = HKO
2
= ∑ Yi – Y i
n–2
Y– Y
’leri hesaplayal›m.
Y = 0,9 + 0,17X
2
Y Y– Y Y– Y
2.6 0.4 0.16
4.3 -0.3 0.09
6 0 0
7.7 -0.7 0.49
9.4 0.6 0.36
1.1
buradan,
AMAÇ
Basit do¤rusal regresyonda, parametrelerin nokta kestiriminden
sonra genelleme yapabilmek için, parametrelere iliflkin aral›k kes-
4 tirimi yapabileceksiniz.
Ünite 11 - Basit Do¤rusal Regresyon 263
2
sb 0 = s 1 + X
n 2
∑ Xi – X
sb 1 = s
2
∑ Xi – X
fleklinde hesaplan›r.
Örnek 2’de örnek 1’in verilerini kullanarak b1 = 0.17 olarak hesaplanm›fl- ÖRNEK 6
t›r. Bu sonuca göre, b 1 katsay›s›n›n %95 güven aral›¤›n› hesaplayal›m.
b1 = 0,17
ÇÖZÜM
0.17 ± (3.182)(0.019)
P(0.109 < b 1 < 0.23) = 0.95
olarak hesaplan›r.
Regresyon katsay›s› b 1 ’in 0.95 olas›l›kla alabilece¤i de¤erler 0.109 ile 0.23
olacakt›r.
1. b0 katsay›s›n›n güven aral›¤› oluflturulurken, hangi örnekleme da¤›l›m› kullan›l›r? SIRA S‹ZDE
AMAÇ
Basit do¤rusal regresyon denkleminde elde edilen parametre kes-
tirimlerinin, istatistiksel olarak anlaml›l›¤›n› test edebileceksiniz.
5
Basit do¤rusal regresyon Basit do¤rusal regresyon analizinde, bir ba¤›ml› bir ba¤›ms›z de¤iflken olmas› ne-
modelinde regresyon
katsay›s›na iliflkin test,
deniyle, test edilecek parametreler b 0 ve b 1 olacakt›r. Daha önce aç›kland›¤› gibi,
regresyon do¤rusunun b 0 ’›n kestirimi b0 regresyon sabitidir ve b1 ise b 1 ’in kestirimi olup regresyon kat-
anlaml›l›¤›n› da test eder. say›s›d›r.
Basit do¤rusal regresyon modelindeki regresyon katsay›s›na iliflkin yap›lan
test, regresyon do¤rusunun anlaml›l›¤›n› da test etmektedir. fiöyle ki:
H0 : b 1 =0
H1 : b 1 ≠0
hipotezleri
th = b 1
sb 1
H0 : b =0
ÇÖZÜM
1
H1 : b 1 ≠0
b
Hipotezlerini test edelim. th = 1 , örneklem küçük oldu¤u için benimsenen
sb 1
t, n = n-2 = 5-2 = 3 serbestlik derecesiyle t da¤›l›r.
t = b1 = 0.17 = 8.94
sb1 0.019
SIRA S‹ZDE 1. Regresyon denklemi Y = 5.08 + 1.58ve katsay›lar›n standart hatalar› s(b0) =
0.29 , s(b1) = 0.067 olarak verilmifltir. Katsay›lar›n anlaml›l›¤›n›, %5 anlam düzeyine
göre test ediniz.
3-4 ve 5. sorular afla¤›daki bilgilere göre cevapland›- 8-9 ve 10. sorular afla¤›daki bilgilere göre cevaplan-
r›lacakt›r. d›r›lacakt›r.
x : 40, 20, 22, 14 Regresyon denklemi Y = 1.1 + 0.81X , s(b1) = 0.09 ve
y : 12, 15, 14, 18 bileflik serisi verilmifltir. n= 6 olarak verilmifltir.
3. Yukar›daki verilere göre, Â XY de¤eri kaçt›r? 8. Regresyon katsay›s›n›n 0.01 anlam düzeyinde test
a. 750 edilmesi istedi¤inde, test istatisti¤inin de¤eri afla¤›dakiler-
b. 825 den hangisidir?
c. 1250 a. t = 9
d. 1340 b. t = 3
e. 2340 c. t = 2.9
d. t = 1.9
4. Yukar›da verilen serinin basit do¤rusal regresyon denk- e. t = 0.9
lemini afla¤›dakilerden hangisidir?
a. Y = 50 + 8.2X 9. Yukar›daki verilere göre, hipotez testinde s›f›r hipote-
b. Y = 18.35 – 0.15X zinin red bölgesi afla¤›dakilerden hangisidir?
a. t > 3.747
c. Y = 18.35 + 0.15X
b. t > 3.182
d. Y = 50 – 8.2X
c. t > 2.776
e. Y = 0.15 + 18.35X d. t < 3.182
e. t < 2.132
5. Yukar›da verilen bileflik seri için ortalamalar orjinine
göre regresyon denklemi afla¤›dakilerden hangisidir? 10. Yukar›daki verilere göre, regresyon denklemi Y = 1.1
a. Y = 18.35x + 0.81X oldu¤unda, (b) regresyon katsay›s› afla¤›dakiler-
b. Y = 0.15x den hangisinde do¤ru olarak ifade edilmifltir?
c. Y = -0.15x a. X’deki bir birimlik artma (ya da azalma) Y’de 0.81
d. Y = -18.35x birimlik art›fla (ya da azalmaya) neden olur.
b. X’in de¤eri s›f›r oldu¤unda Y’nin de¤eri de s›f›r
e. Y = 8.2x
olur.
c. Y’de bir birimlik azalma X’de de bir birimlik azal-
maya neden olur.
d. Y’de 1.1 birimlik azalma X’de 2 birimlik art›fla ne-
den olur.
e. X’deki art›fl Y’yi etkilemez.
266 ‹statistik