You are on page 1of 16

251

Basit Do¤rusal
Regresyon 11
Çal›flma Biçimine ‹liflkin Olarak:
• Kavramlar ve bu kavramlar aras›ndaki iliflkiler dikkatle incelenmeli,
• Örnekler ve örnek çözümleri dikkatle incelenmeli, sorunlarla karfl›lafl›l›rsa il-
gili ünitelere geri dönülmelidir.
252 ‹statistik

Amaçlar:
 Serpilme diyagram› yard›m›yla, de¤iflkenler aras›ndaki iliflkinin, ne tür bir
fonksiyonla ifade edilebilece¤ini araflt›rabileceksiniz.
 Basit do¤rusal regresyon modelinde yer alan katsay›lar›, en küçük kareler
tekni¤ine göre hesaplayabileceksiniz.
 Basit do¤rusal regresyon modeliyle elde edilen kestirimlerin standart hatas›-
n› hesaplayabileceksiniz.
 Basit do¤rusal regresyonda, parametrelerin nokta kestiriminden sonra genel-
leme yapabilmek için, parametrelere iliflkin aral›k kestirimi yapabileceksiniz.
 Basit do¤rusal regresyon denkleminde elde edilen parametre kestirimlerinin,
istatistiksel olarak anlaml›l›¤›n› test edebileceksiniz.

‹çerik Haritas›
• G‹R‹fi
• SERP‹LME D‹YAGRAMI
• BAS‹T DO⁄RUSAL REGRESYON
• Basit Do¤rusal Regresyon Modeli
• Basit Do¤rusal Regre¤syon Denkleminin Kestirimi
• Katsay›lar›n En Küçük Kareler (EKK) Kestirimleri
• VARYANSIN ( s 2) KEST‹R‹M‹
• BAS‹T DO⁄RUSAL REGRESYONDA ARALIK KEST‹R‹M‹
• REGRESYON KATSAYILARININ ANLAMLILIK TESTLER‹
Ünite 11 - Basit Do¤rusal Regresyon 253

G‹R‹fi
Regresyon (ba¤lan›m); sözlük anlam›yla, bir fleyi baflka bir fleye ba¤lama ifli ve bi-
çimidir. Bilimsel olarak regresyon terimi bir de¤iflkenle baflka bir (ya da birden
çok) de¤iflken aras›nda iliflki kurma iflini ve iliflkinin biçimini anlat›r.
‹statistiksel anlamda, iki de¤iflken aras›ndaki iliflki, bunlar›n de¤erlerinin karfl›-
l›kl› de¤iflmeleri aras›nda bir ba¤l›l›k fleklinde anlafl›l›r. (X) de¤iflkeninin de¤erle-
ri de¤iflirken, buna ba¤l› olarak (Y) de¤iflkeninin de¤erleri de de¤ifliyorsa, bu iki
de¤iflken aras›nda bir iliflki oldu¤u söylenebilir. Örne¤in, pancar üretimi artt›¤›n-
da fiyat› düflüyorsa ya da azald›¤›nda fiyat› yükseliyorsa, insanlar›n boy uzunlu-
¤uyla birlikte a¤›rl›¤› da art›yorsa bunlar, de¤iflkenler aras›nda iliflki oldu¤unu
gösterir. Asl›nda de¤iflkenler aras›ndaki bu iliflki neden-sonuç iliflkisidir. ‹flte de-
¤iflkenler aras›ndaki neden sonuç iliflkisinin matematiksel bir fonksiyonla ifade
edilmesi regresyon analizinin konusunu oluflturmaktad›r. Regresyon, bir ba¤›ml› Regresyon, de¤iflkenler
aras›ndaki ortalama
(aç›klanan) de¤iflken, di¤eri de ba¤›ms›z (aç›klay›c›) de¤iflken olarak en az iki de- iliflkinin matematiksel bir
¤iflken aras›ndaki ortalama iliflkinin matematik bir fonksiyon fleklinde ifade edil- fonksiyonla ifade
edilmesidir.
mesidir. Bu fonksiyona regresyon denklemi ad› verilmektedir. Bu ünitede ilk ola-
rak, regresyon çözümlemesinde kullan›lan serpilme diyagram› hat›rlat›lacak, daha
sonraysa basit do¤rusal regresyon modeli ele al›nacak, son olarak da basit do¤ru-
sal regresyon modeline iliflkin katsay›lar›n, en küçük kareler yöntemiyle, kestirim-
lerinin elde edilmesi ele al›nacakt›r.

SERP‹LME D‹YAGRAMI

AMAÇ
Serpilme diyagram› yard›m›yla, de¤iflkenler aras›ndaki iliflkinin,
1 ne tür bir fonksiyonla ifade edilebilece¤ini araflt›rabileceksiniz.

Bir marketler zinciri E flehrinin farkl› semtlerinde flubeler açmay› hedeflemektedir.


Ancak, planlama bölümü, aç›lacak flube say›s›n›n belirlenebilmesinde ad› geçen
flehirde hane bafl›na perakende sat›fllar›n, hane bafl›na harcanabilir gelirle olan
iliflkisine ihtiyaç duymaktad›r.
‹htiyaç duyulan iliflki, ilgili bölgeden derlenecek veriler ›fl›¤›nda, uygun istatis-
tiksel teknikler uygulanarak, bir matematiksel model halinde ifade edilebilir.
Bu ünitede, iki de¤iflken aras›ndaki iliflkinin matematiksel bir modelle ifade
edilme süreci, kitab›n amaçlar› uyar›nca sadece basit do¤rusal regresyon düzeyin-
de ele al›nm›fl ve konuya iliflkin kavramlar örneklerle pekifltirilmeye çal›fl›lm›flt›r.
‹ki de¤iflken aras›ndaki iliflkinin ne tür bir fonksiyon tipine uydu¤u, yaklafl›k
olarak serpilme diyagram› çizerek belirlenebilir. De¤iflkenlerin aras›ndaki iliflkiyi
göstermenin en iyi yolu, iliflkinin derecesini say›sal olarak belirlemektir. ‹liflkiyi
göstermenin di¤er bir yolu da grafik yöntemidir. X ve Y gözlem ikilileri bir grafik
üzerinde birer nokta halinde gösterilsin. ‹flaretlenen bu noktalar›n oluflturdu¤u
flekil an›msanaca¤› gibi “serpilme diyagram›” olarak isimlendirilir.
254 ‹statistik

Y Y

X X
fiekil 9.1 Serpilme Do¤rusal ‹liflki Durumu E¤risel ‹liflki Durumu
Diyagram›.

Serpilme diyagram›nda noktalar›n durumu ve genel seyri, iki de¤iflken aras›n-


da iliflki olup olmad›¤›n› ve varsa iliflkinin ne tür bir fonksiyon tipine uydu¤unun
belirlenmesinde yard›mc› olur.
Serpilme diyagram›, Serpilme diyagram› yaln›z iliflkinin olup olmad›¤›n› ve fonksiyonel fleklini gös-
de¤iflkenler aras›ndaki iliflki termekle kalmaz, iliflkinin derecesi hakk›nda da bilgi verir. Bunun için, noktalar›n
tipinin
belirlenmesine yard›mc› en d›flta kalanlar› birlefltirilerek, bir flekil elde edilir. Söz konusu fleklin durumuna
olur. göre iliflkinin derecesi hakk›nda tahminde bulunulur. E¤er flekil, oldukça dar bir
elipse benziyorsa, iliflki kuvvetlidir. Elips geniflledikçe iliflki zay›flar.

ÖRNEK 1 Eskiflehir ilinde sat›fl yapan bir ma¤aza ürünlerini, yerel radyodaki rek-
lamlarla tan›tmaktad›r. Firman›n 6 hafta süresince belirli bir ürün için
harcad›¤› reklam tutar› ve sat›lan ürün say›s› afla¤›daki tabloyla veril-
mifltir. Serpilme diyagram›n› çizelim.

Reklam harcamas› (X) Sat›fllar (Y)


(Milyon TL) (Adet)
10 3
20 4
30 6
40 7
50 10
ÇÖZÜM

Y
10 Kartezyen koordinat sis-
9 teminde X ve Y ’ye ait ve-
8 rileri iflaretledi¤imizde, iki
7 de¤iflken aras›ndaki iliflki-
6 nin do¤rusal oldu¤unu
5
4 görebiliriz.
3
2
1
fiekil 9.2 Reklam
Harcamalar›na X
‹liflkin Serpilme 0
10 20 30 40 50
Diyagram›.
Ünite 11 - Basit Do¤rusal Regresyon 255

1. Serpilme diyagram›yla ne belirlenir? SIRA S‹ZDE

2. Serpilme diyagram›, iki de¤iflken aras›nda iliflki olup olmad›¤› ve fonksiyonel flekli
d›fl›nda, baflka ne hakk›nda bilgi verir?

3. Bir A ülkesinde, 1995-2000 y›llar› aras›ndaki erkek nüfus art›fl h›z›, y›llara göre
afla¤›daki tabloda verilmifltir. Serpilme diyagram›n› çiziniz.

YILLAR Erkek Nüfus Art›fl H›z› (%)

1995 18.50
1996 19.00
1997 20.00
1998 20.40
1999 21.60
2000 22.90

BAS‹T DO⁄RUSAL REGRESYON

AMAÇ
Basit do¤rusal regresyon modelinde yer alan katsay›lar›, en kü-
çük kareler tekni¤ine göre hesaplayabileceksiniz.
2
Regresyon analizinde ba¤›ms›z (aç›klay›c›) de¤iflken say›s› bir oldu¤unda basit
regresyon modelinden, iki ya da daha fazla oldu¤undaysa çoklu regresyon mode-
linden söz edilir. Örne¤in enflasyon oran›yla para arz› aras›ndaki ya da hem para
arz› hem de kamu harcamalar› aras›ndaki iliflkinin araflt›r›lmas›nda oldu¤u gibi.
Regresyon analizinde de¤iflkenler aras›ndaki iliflkinin do¤rusal olup olmad›¤› da
önemlidir. Dolay›s›yla de¤iflkenler aras›ndaki iliflki do¤rusal oldu¤unda do¤rusal
regresyon modeli, do¤rusal olmad›¤›ndaysa do¤rusal olmayan regresyon modeli
söz konusu olur. Kitab›n amaçlar› do¤rultusunda burada, sadece basit do¤rusal
regresyon konusuna yer verilecektir.

Basit Do¤rusal Regresyon Modeli


Basit do¤rusal regresyon modeli

Yi = b 0 +b 1 Xi + e i i = 1, 2, ...., N

fleklinde stokastik(olas›l›kl›) bir modeldir. b 0 ve b 1 bilinmeyen regresyon kat-


say›lar›d›r. e i , i ’inci gözleme karfl›l›k gelen hata terimidir. X (ba¤›ms›z) ve Y (ba-
¤›ml›) de¤iflkenlerinin anakütlelerini oluflturan ve bu de¤iflkenler için akla gelebi-
lecek bütün de¤erlere sahip olunmas› uygulamada imkans›z oldu¤undan, söz ko-
nusu de¤iflkenler için örneklemeye baflvurulur. Böylece b 0 ve b 1 parametrelerinin
kestirimi olan b0 ve b1 bulunabilir ve kestirimi elde edilen iliflki,

Yi = b0 + b1 Xi + ei

fleklinde yaz›l›r.
b 0 , do¤rusal modelin sabit terimidir ve X = 0 oldu¤unda regresyon do¤rusu-
nun dikey eksen Y ‘yi kesti¤i noktay› göstermektedir. b 1 ise do¤rusal modelin
256 ‹statistik

e¤imini vermektedir ve regresyon analizinde, ba¤›ms›z X’deki bir birimlik de¤ifl-


menin, ba¤›ml› de¤iflken Y’de, ne kadarl›k bir de¤iflmeye yol açaca¤›n› gösteren
regresyon katsay›s›d›r. b0 ve b1 ise anakütle regresyon katsay›lar›n›n (b 0 ve b 1’
in) kestirimleridir.

Basit Do¤rusal Regresyon Denkleminin Kestirimi


‹ki de¤iflken aras›nda gerçek do¤rusal bir iliflki varsa regresyon denklemi, b 0 ve
b1 ’in Yi – Yi art›klar›n› küçük yapabilen kestiricilerin elde edilmesiyle bulunur.
Varyans kavram› göz önünde tutuldu¤unda bunun bir ölçüsü art›klar›n kareler
toplam›d›r. Bu toplam› en küçükleyen b 0 ve b 1 kestiricilerinin elde edilmesine ilifl-
kin kestirim yöntemi, En Küçük Kareler (EKK) Yöntemi’dir. b 0 ve b 1 ve s 2’ in
kestirimlerinde s›kça bu yöntem kullan›lmakla birlikte, bir baflka kestirim yöntemi
de en çok olabilirlik yöntemidir. Burada sadece yayg›n olarak kullan›lan, EKK
yöntemiyle regresyon modelinin kestirimine yer verilecektir.

Katsay›lar›n En Küçük Kareler (EKK) Kestirimleri

Y=b 0 +b 1 X+ e

do¤rusal iliflkisi, X ve Y de¤iflkenlerinin anakütleleri için geçerlidir. ‹statistiksel ça-


l›flmalar›n ço¤unda oldu¤u gibi, regresyon analizinde de anakütleye iliflkin verile-
rin tümüne ulafl›lamad›¤›ndan, bu anakütleden seçilen örnek verileriyle analiz ya-
p›l›r. Örnek verilerinden hareketle anakütle parametreleri olan b 0 ve b 1 ’in kesti-
rimlerini elde edebilmek için en küçük kareler yönteminden yararlan›labilir. Bu-
nun için, öncelikle, gözlem ikililerini bir serpilme diyagram›nda gösterdi¤imizi
varsayal›m. Serpilme diyagram› incelendi¤inde do¤rusal bir e¤ilim görülüyorsa,
Y’in X’e göre matematik fonksiyonunun do¤rusal oldu¤una (kesin olmasa da) ka-
rar verilebilir. Ancak, gözlem noktalar› aras›ndan, çok say›da do¤rusal fonksiyon
geçirilebilir. Bu do¤rusal fonksiyonlardan en uygunu, Yi gözlem de¤erlerine en
yak›n kuramsal (tahmin) Yi de¤erini veren do¤rusal fonksiyon olacakt›r. Bir bafl-
ka ifadeyle, belirli bir X de¤eri için, elimizde iki ordinat de¤eri olacakt›r; birincisi
gözlem de¤eri, ikincisiyse bu noktan›n do¤ru ya da e¤ri üzerinde teorik olarak
hesaplanacak ordinat de¤eridir. ‹flte, Yi kuramsal de¤erlerle, Yi gözlem de¤erle-
ri aras›ndaki farklar, hata terimlerini oluflturur.
E = Yi - Yi fleklinde hesaplanan hata terimleri, “pozitif” ya da “negatif” ya da
“s›f›r” de¤erlerine sahip olurken, bu farklar›n cebirsel toplam› s›f›ra eflittir:
n n
∑ ei = ∑ Yi – Yi = 0
i=1 i=1

En küçük kareler yönteminin esas› b 0 ve b 1 ’in kestirimleri olan b0 ve b1 ’i söz


konusu farklar›n kareleri toplam›n› minimum, yani
n n 2
∑ e2i = ∑ Yi – Y = min.
i=1 i=1

olacak flekilde belirlemektir.


Ünite 11 - Basit Do¤rusal Regresyon 257

b 0 ve b 1 ’in EKK kestirimleri, yukar›daki en küçükleme yöntemi için


n 2 n
∑ Yi – Y i = ∑ Y i – b 0 – b 1 Xi 2
i=1 i=1

ifadesinin b0 ve b1 ’e göre türevleri al›n›p s›f›ra eflitlenerek:

∂e = –2
∑ Yi – b0 – b1 Xi = 0
∂b0

∂e = –2 X Y – b – b X = 0
∑ i i 0 1 i
∂b1

bulunur, elde edilen bu iki eflitlikten,

∑ Yi = b0n + b1 ∑ Xi
∑ Xi Yi = b0∑ Xi + b1 ∑ X2i

denklemleri elde edilir. Bu denklemler “normal denklemler” olarak isimlen-


dirilir. Do¤ru denklemleri ve katsay›lar›n›n en küçük kareler kofluluna uygun
olarak hesaplanmas›, bu iki denklemin çözümüyle gerçekleflebilir. Normal denk-
lemlerdeki di¤er de¤erler n,  Xi ,  Yi ,  Xi2 ve  Xi Yi d›r ve denklemlerdeki
Xi ve Yi de¤erleri “s›f›r orijinine” göre ifade edilmifllerdir. Bu de¤erleri seri k›y-
metlerine dayanarak hesaplad›ktan sonra, basit do¤rusal regresyon modelindeki
b 0 ve b 1 ’in kestirimleri olan b0 ve b1 ’i normal denklemlere dayanarak kolayl›k-
la çözmek mümkündür. b0 ve b1 gibi iki bilinmeyenli iki denklem sisteminde bu
katsay›lar hesapland›¤›nda Y ’in X ’e göre do¤rusal regresyon denklemi Y=bo+b1X Basit do¤rusal
regresyonda, do¤ru
denkleminin
Y = b0 + b 1X parametreleri (bo,b1) en
küçük kareler (EKK) tekni¤i
ile hesaplan›r.
fleklinde ifade edilecektir.

Örnek 1’de verdi¤imiz probleme tekrar dönelim. Eskiflehir ilinde sat›fl ÖRNEK 2
yapan bir ma¤aza ürünlerini, yerel radyodaki reklamla tan›tmaktad›r.
Firman›n 5 hafta süresince, belirli bir ürün için harcad›¤› reklam tutar›
ve sat›lan ürün say›s› tabloda verilmifltir. Sat›fl miktar›n›n, reklam har-
camalar›na göre, basit do¤rusal regresyon denkleminin kestirimini, en
küçük kareler tekni¤iyle elde ediniz.

Reklam harcamas› (X) Sat›fllar (Y)


(Milyon TL) (Adet)
10 3
20 4
30 6
40 7
50 10
258 ‹statistik

Basit do¤rusal regresyon denklemi Y = b0 + b 1X ’i oluflturabilmek için b0 ve

ÇÖZÜM
b1 katsay›lar›n› normal denklemler yard›m›yla hesaplayal›m. Normal denklemler:

∑ Y = b0n + b1 ∑ X
∑ XY = b0∑ X + b1 ∑ X2
’dir. Bu durumda,  X,  Y,  X2 ve  X Y de¤erlerinin hesaplanmas› gerekir.

X Y XY X2
10 3 30 100
20 4 80 400
30 6 180 900
40 7 280 1600
50 10 500 2500
∑X =150 ∑Y =30 ∑ XY =1070 ∑ X2=5500
30 = 5b0 + 150b1
1070 = 150b0 + 5500b1

Bu iki denklemin b0 ve b1 katsay›lar›;

b0 = 0.9 ; b1 = 0.17

olarak hesaplan›r. Buna göre, regresyon do¤rusu denklemi,

Y = 0.9 + 0.17

fleklinde elde edilir. Regresyon katsay›s› 0.17 bulundu¤undan, X ba¤›ms›z de¤ifl-


kenindeki bir birimlik de¤iflme, Y ba¤›ml› de¤iflkeninde 0.17 birimlik de¤iflmeye
neden olacakt›r.
Normal denklemlerde X ve Y de¤erleri yerine bunlar›n aritmetik ortalamalar›n-
dan sapmalar› olan x ve y de¤erlerinin konulmas›yla;

∑ yi= b0n +b1 ∑ xi

∑ xiyi= b0∑ xi +b1 ∑ x2i


denklemleri elde edilir. Tan›m gere¤ince xi = X – X ve yi = Y – Y oldu-
¤undan aritmetik ortalaman›n temel özelliklerinden birincisine göre (aritmetik or-
talamadan cebirsel sapmalar›n toplam› s›f›rd›r.) S xi = 0 ve S yi = 0 ’d›r. Böylece
son iki eflitlikten

b1 = ∑ xiyi
∑ x2i
Regresyon do¤ru
denklemleri, s›f›r ya da ya da
ortalamalar orijinine göre
hesaplanabilir.
b1 = ∑ xiyi
∑ x2i
Ünite 11 - Basit Do¤rusal Regresyon 259

elde edilir. b0’in 0’a eflit olmas›, ortalamalar orijinine göre, regresyon do¤rusu-
nun, de¤iflkenlerin ortalamalar›yla tan›mlanan bir noktadan geçti¤ini ortaya koy-
maktad›r. Bu durumda regresyon denklemi

y = b 1xi veya y = byxxi

fleklinde yaz›labilir.
Bir regresyon do¤rusu ister s›f›r orijinine, ister ortalamalar orijinine göre yaz›l-
s›n, e¤imi de¤iflmez. Bu nedenle her iki orijine göre hesaplanan b1 katsay›s› ay-
n›d›r. Buna karfl›l›k b0 ise

S Yi = nb0 + b1S Xi

eflitli¤inden hareketle elde edilir. Eflitli¤in her iki taraf› n ile bölündü¤ünde

∑ Yi = nb0 + 1∑ i
b X
n n n

Y = b 0 + b 1X

ve

b0 = Y – b 1 X

sonucuna ulafl›l›r. ve bu flekilde elde edildi¤ine göre, veriler için en iyi do¤-
ru denklemi;

Y = b0 + b 1 X

fleklinde yaz›labilir.

Örnek 2’deki veriler için, Y’nin X’e göre regresyon denklemini, ortalama- ÖRNEK 3
lar orijinine göre, en küçük kareler tekni¤iyle elde edelim.

Basit do¤rusal regresyon denklemini ortalamalar orijinine göre yazabilmek için, ilk
ÇÖZÜM

olarak, X ve Y serisinin aritmetik ortalamalar›n› ve x, y, xy ve x2 ’leri elde edelim.

X= ∑ Xi = 150 = 30 Y= ∑ Yi = 30 = 6
n 5 n 5

xi yi xiyi xi2
-20 -3 60 400
-10 -2 20 100
0 0 0 0
10 1 10 100
20 4 80 400
0 0 170 1000

b0 = 0
260 ‹statistik

b1 = byx = ∑
xiyi
= 170 = 0.17
∑ X2i 1000

Bu durumda, ortalamalar orijinine göre, Y’nin X’e göre regresyon denklemi,

y = 0,17

fleklinde yaz›l›r.
Yukar›daki aç›klamalarda Y de¤iflkeni ba¤›ml› de¤iflken, X de¤iflkeniyse ba-
¤›ms›z de¤iflken kabul edilmiflti. X de¤iflkeni ba¤›ml› Y de¤iflkeni ba¤›ms›z de¤ifl-
ken oldu¤undaysa do¤ru denklemi;

X = b0 + b 1Y

olarak ifade edilecektir. Bu durumda b0 ve b1

b1 = ∑ xiyi
∑ y2i
ya da

bxy = ∑ xiyi
∑ y2i
ve

b0 = X – b 1 Y

formülleri yard›m›yla bulunur. b 0 ve b 1 ’in kestirimleri olan b0 ve b1 ’in ve byx


formülleri incelendi¤inde, her ikisi de daima ayn› iflareti tafl›r, fakat ayn› de¤erde
de¤ildir.

ÖRNEK 4 Örnek 1’de verdi¤imiz reklam harcamas› ve sat›lan ürün say›s› problemi
için bu kez
i) X’in Y ’ye ve ortalamalar orijinine göre, regresyon denklemini,
ii) X’in Y’ye ve s›f›r orijinine göre, regresyon denklemini hesaplayal›m.
ÇÖZÜM

i) X’in Y’ye ve ortalamalar orijinine göre regresyon katsay›s›

bxy = ∑
xiyi 170
= = 5.66
∑ y2 30
i

olup, regresyon denklemi

x = 5.66 y

fleklinde elde edilir.


Ünite 11 - Basit Do¤rusal Regresyon 261

ii) X’in Y’ye göre ve s›f›r orijinine göre, regresyon denklemini yazabilmemiz için
b0 ’› hesaplamam›z gerekir.

X = b0 +b1Y

b0 = X – b1Y
b0 = 30 – 5.66(6
b0 = –3.96

ve regresyon denklemi

X = –3.96 + 5.66

fleklinde elde edilir.

1. Bir ö¤retim üyesi, ö¤rencilerin A dersinden ald›klar› final notlar›n›n, ö¤rencilerin vi- SIRA S‹ZDE
ze notlar›na ba¤l› oldu¤unu düflünmektedir. Ö¤retim üyesinin bu düflüncesiyle olufltu-
rulabilecek bir do¤rusal regresyon denklemindeki ba¤›ml› ve ba¤›ms›z de¤iflkenler
neler olacakt›r?

2. Ba¤›ml› de¤iflkenin sahip oldu¤u de¤erle, bu ba¤›ml› de¤iflken için, do¤rusal regres-
yon denkleminden elde edilen tahmin de¤eri aras›ndaki farka ne ad verilir?

3. Afla¤›da (X) ve (Y) de¤iflkenleri için gözlem de¤erleri verilmifltir. (X) ba¤›ms›z de¤ifl-
ken ve (Y) de ba¤›ml› de¤iflken olarak al›n›rsa, en küçük kareler yöntemine göre reg-
resyon denklemi ne olacakt›r?

X Y
3 2
5 4
7 6
9 5

VARYANSIN (s 2 ) KEST‹R‹M‹

AMAÇ
Basit do¤rusal regresyon modeliyle elde edilen kestirimlerin stan-
dart hatas›n› hesaplayabileceksiniz.
3
Basit do¤rusal regresyon modelinde, b 0 ve b 1 ’in kestirimlerine ek olarak, aral›k
kestirimlerinde ve hipotez testlerinde gerekli olan s 2’in kestirimine de gereksinim
vard›r.
s 2, e i hata terimlerinin ortak varyans›d›r. e i’in kestirimi ei hata terimi oldu¤un-
dan ei’lerin varyans› da s 2’in bir kestirimi olacakt›r. Hatalar›n kareler toplam›,

HKT = ∑ e2i
2
= ∑ Yi – Yi

yaz›labilir. HKT’in serbestlik derecesine bölümüyle elde edilen


262 ‹statistik

HKO = HKT
n–k

hata kareler ortalamas›, (bir baflka ifadeyle hatalar›n varyans›) s 2’in bir kestirimi-
dir. Basit do¤rusal regresyon modeliyle hatalar›n hesaplanmas›nda, b 0 ve b 1 ’in
kestiricileri b0 ve b1 kullan›ld›¤›ndan, serbestlik derecesi (n-2) olarak yaz›l›r.
HKO ’un kare kökü al›nd›¤›ndaysa denklemin standart hatas› elde edilir ve s
ile gösterilir.

s = HKO
2
= ∑ Yi – Y i
n–2

ÖRNEK 5 Örnek 1’deki verileri kullanarak, regresyon denklemine dayanarak yap›-


lacak kestirimlerin standart hatas› ( s )’› hesaplayal›m.
2
s ’› hesaplayabilmek için öncelikle, Y ’lar› daha sonra da Y – Y ve
ÇÖZÜM

Y– Y
’leri hesaplayal›m.

Y = 0,9 + 0,17X

2
Y Y– Y Y– Y
2.6 0.4 0.16
4.3 -0.3 0.09
6 0 0
7.7 -0.7 0.49
9.4 0.6 0.36
1.1

buradan,

1,1 = 0.36= 0.6


s =
5 – 2

olarak elde edilir.

SIRA S‹ZDE 1. e i hata terimlerinin ortak varyans› nedir?


2. Basit do¤rusal regresyon modelinde serbestlik derecesi ne olacakt›r?

3. s ’in kestirimi nerelerde kullan›l›r?

BAS‹T DO⁄RUSAL REGRESYONDA ARALIK KEST‹R‹M‹


AMAÇ
Basit do¤rusal regresyonda, parametrelerin nokta kestiriminden
sonra genelleme yapabilmek için, parametrelere iliflkin aral›k kes-
4 tirimi yapabileceksiniz.
Ünite 11 - Basit Do¤rusal Regresyon 263

‹statistiksel ç›karsamalarda yap›lan kestirimlerin, gerçek de¤erlerle genellen-


mesi aral›k kestirimleriyle yap›l›r. Regresyon çözümlemesi, örneklem verileriyle
yap›ld›¤›ndan, elde edilen b0 ve b1 ’lerin anakütle parametreleri, b 0 ve b 1’e iliflkin
aral›k testlerinde de elde edilmelidir.
b0 katsay›s› için t örnekleme da¤›l›m› yard›m›yla b 0 için güven aral›¤›
P (b0 – ta . sb0 ≤ b 0 ≤ b0 +ta . sb0) = 1 –a

fleklinde verilir. Sb0, b0 ‘in standart hatas›d›r ve

2
sb 0 = s 1 + X
n 2
∑ Xi – X

formülüyle hesaplan›r, ta ise a anlaml›l›k düzeyi n-2 serbestlik derecesinde t tab-


losundan bulunan de¤erdir.
b 1 için güven aral›¤›
P (b1 – ta . sb1 ≤ b 1 ≤ b1 +ta . sb1) = 1 –a

formülüyle elde edilir. Sb1, b1 ‘in standart hatas›d›r ve

sb 1 = s
2
∑ Xi – X

fleklinde hesaplan›r.

Örnek 2’de örnek 1’in verilerini kullanarak b1 = 0.17 olarak hesaplanm›fl- ÖRNEK 6
t›r. Bu sonuca göre, b 1 katsay›s›n›n %95 güven aral›¤›n› hesaplayal›m.

b1 = 0,17
ÇÖZÜM

sb1 = s = 0.6 = 0.6 = 0.019


∑ Xi– X 2 1000 31.6

ve n =3 serbestlik derecesinde t tablo de¤eri 3.182’dir. Buna göre b 1 için %95


güven aral›¤›

0.17 ± (3.182)(0.019)
P(0.109 < b 1 < 0.23) = 0.95

olarak hesaplan›r.
Regresyon katsay›s› b 1 ’in 0.95 olas›l›kla alabilece¤i de¤erler 0.109 ile 0.23
olacakt›r.

1. b0 katsay›s›n›n güven aral›¤› oluflturulurken, hangi örnekleme da¤›l›m› kullan›l›r? SIRA S‹ZDE

2. b1 = 0.48 , sb 1 = 0.002 , a = 0.05 , n = 5 için t tablo de¤eri t = 2.571 iken, b 1 kat-


say›s›n›n %95 güven aral›¤›n› hesaplay›n›z?

3. Basit do¤rusal regresyonda, parametreler hakk›nda genellemeler yapabilmek için,


hangi tekni¤e ihtiyaç duyulur?
264 ‹statistik

REGRESYON KATSAYILARININ ANLAMLILIK TESTLER‹


AMAÇ
Basit do¤rusal regresyon denkleminde elde edilen parametre kes-
tirimlerinin, istatistiksel olarak anlaml›l›¤›n› test edebileceksiniz.
5
Basit do¤rusal regresyon Basit do¤rusal regresyon analizinde, bir ba¤›ml› bir ba¤›ms›z de¤iflken olmas› ne-
modelinde regresyon
katsay›s›na iliflkin test,
deniyle, test edilecek parametreler b 0 ve b 1 olacakt›r. Daha önce aç›kland›¤› gibi,
regresyon do¤rusunun b 0 ’›n kestirimi b0 regresyon sabitidir ve b1 ise b 1 ’in kestirimi olup regresyon kat-
anlaml›l›¤›n› da test eder. say›s›d›r.
Basit do¤rusal regresyon modelindeki regresyon katsay›s›na iliflkin yap›lan
test, regresyon do¤rusunun anlaml›l›¤›n› da test etmektedir. fiöyle ki:

H0 : b 1 =0
H1 : b 1 ≠0

hipotezleri

th = b 1
sb 1

istatisti¤inden yararlan›larak test edilir. a anlam düzeyinde n-2 serbestlik dere-


cesinde t tablosundan bulunan de¤er, hesaplanan t test istatisti¤inden büyükse
H0 : b 1 = 0 hipotezi kabul edilir ve regresyon do¤rusu anlaml› de¤ildir. Di¤er
bir ifadeyle Y’deki de¤iflimler X’deki de¤iflmelerden kaynaklanmamaktad›r (X
ve Y aras›nda do¤rusal bir iliflki yoktur.). t istatisti¤inin de¤eri t tablo de¤erin-
den büyükse H 0 reddedilir, yani, regresyon do¤rusu anlaml›d›r. Elde edilen
do¤rusal regresyon modeli amaca uygun olarak kullan›labilir.

ÖRNEK 7 Ayn› örne¤imiz için regresyon katsay›s›n›n anlaml›l›k testini yapal›m.

H0 : b =0
ÇÖZÜM

1
H1 : b 1 ≠0
b
Hipotezlerini test edelim. th = 1 , örneklem küçük oldu¤u için benimsenen
sb 1
t, n = n-2 = 5-2 = 3 serbestlik derecesiyle t da¤›l›r.

t = b1 = 0.17 = 8.94
sb1 0.019

a = 0.05 ve n-2 = 5-2 = 3 serbestlik derecesi ile t 0.05= 3.182 oldu¤undan


t > t 0.05 dir ve H0 reddedilecektir, b 1 kestirimi istatistiksel olarak anlaml›d›r.

SIRA S‹ZDE 1. Regresyon denklemi Y = 5.08 + 1.58ve katsay›lar›n standart hatalar› s(b0) =
0.29 , s(b1) = 0.067 olarak verilmifltir. Katsay›lar›n anlaml›l›¤›n›, %5 anlam düzeyine
göre test ediniz.

2. Basit do¤rusal regresyon modelinde katsay›n›n istatistiksel olarak anlaml› olmas›n›n


pratik anlam› nedir?

3. Regresyon katsay›lar›n›n testi için hipotezler nas›l kurulur?


Ünite 11 - Basit Do¤rusal Regresyon 265

Kendimizi S›nayal›m 6. Ba¤›ml› de¤iflken (Yi ) ile bu de¤iflken için regresyon


1. X ve Y de¤iflkenleri aras›ndaki iliflkiyi gösteren mate- denkleminden elde edilen tahmin de¤eri ( Y i ) aras›ndaki
matiksel fonksiyona ne ad verilir? farka ne ad verilir?
a. Regresyon denklemi a. Standart hata
b. Tahmin hatas›
b. Korelasyon denklemi
c. Standart sapma
c. Anlaml›l›k testi
d. Varyans
d. Hipotez testi
e. Regresyon katsay›s›
e. Ba¤›ml› de¤iflken
2
7. ∑ Yi– Y = 2,2, n = 6 olan basit do¤rusal regres-
2. De¤iflkenler aras›ndaki iliflkinin gösterilmesinde kulla- yon denklemiyle elde edilen tahminlerin standart hatas›
n›lan grafik yöntemi afla¤›dakilerden hangisidir? kaçt›r?
a. Histogram a. 0.36
b. Standart normal e¤ri b. 0.55
c. Serpilme diyagram› c. 0.60
d. Kök-yaprak diyagram› d. 0.75
e. Poligon e. 0.91

3-4 ve 5. sorular afla¤›daki bilgilere göre cevapland›- 8-9 ve 10. sorular afla¤›daki bilgilere göre cevaplan-
r›lacakt›r. d›r›lacakt›r.
x : 40, 20, 22, 14 Regresyon denklemi Y = 1.1 + 0.81X , s(b1) = 0.09 ve
y : 12, 15, 14, 18 bileflik serisi verilmifltir. n= 6 olarak verilmifltir.

3. Yukar›daki verilere göre, Â XY de¤eri kaçt›r? 8. Regresyon katsay›s›n›n 0.01 anlam düzeyinde test
a. 750 edilmesi istedi¤inde, test istatisti¤inin de¤eri afla¤›dakiler-
b. 825 den hangisidir?
c. 1250 a. t = 9
d. 1340 b. t = 3
e. 2340 c. t = 2.9
d. t = 1.9
4. Yukar›da verilen serinin basit do¤rusal regresyon denk- e. t = 0.9
lemini afla¤›dakilerden hangisidir?
a. Y = 50 + 8.2X 9. Yukar›daki verilere göre, hipotez testinde s›f›r hipote-
b. Y = 18.35 – 0.15X zinin red bölgesi afla¤›dakilerden hangisidir?
a. t > 3.747
c. Y = 18.35 + 0.15X
b. t > 3.182
d. Y = 50 – 8.2X
c. t > 2.776
e. Y = 0.15 + 18.35X d. t < 3.182
e. t < 2.132
5. Yukar›da verilen bileflik seri için ortalamalar orjinine
göre regresyon denklemi afla¤›dakilerden hangisidir? 10. Yukar›daki verilere göre, regresyon denklemi Y = 1.1
a. Y = 18.35x + 0.81X oldu¤unda, (b) regresyon katsay›s› afla¤›dakiler-
b. Y = 0.15x den hangisinde do¤ru olarak ifade edilmifltir?
c. Y = -0.15x a. X’deki bir birimlik artma (ya da azalma) Y’de 0.81
d. Y = -18.35x birimlik art›fla (ya da azalmaya) neden olur.
b. X’in de¤eri s›f›r oldu¤unda Y’nin de¤eri de s›f›r
e. Y = 8.2x
olur.
c. Y’de bir birimlik azalma X’de de bir birimlik azal-
maya neden olur.
d. Y’de 1.1 birimlik azalma X’de 2 birimlik art›fla ne-
den olur.
e. X’deki art›fl Y’yi etkilemez.
266 ‹statistik

Yan›t Anahtar› Yararlan›lan Kaynaklar


1. a ORHUNB‹LGE, Neyran: Uygulamal› Regresyon ve
2. c Korelasyon Analizi, ‹. Ü. ‹flletme Fakültesi, No : 267,
3. d ‹stanbul, 1996.
4. b ÇÖMLEKÇ‹, Necla: Temel ‹statistik ‹lke ve Teknikleri,
5. c Bilim Teknik Yay›nevi, Eskiflehir, 1989.
6. b NEWBOLD, Paul: ‹flletme ve ‹ktisat için ‹statistik,
7. d Çeviren : Ümit fienesen, 4. Bas›m, Literatür Yay›nc›l›k,
8. a 2000.
9. b SERPER, Özer: “Uygulamal› ‹statistik II”, 4. Bask›, Ezgi
10. a Kitabevi, Bursa, 2000.

You might also like