Catatan Kuliah MA3081 STATISTIKA MATEMATIKA “Statistika Mengalahkan Matematika”
disusun oleh
Khreshna Khreshna I.A. Syuhada, Syuhada, MSc. PhD.
Kelompok Keilmuan STATISTIKA - FMIPA Institut Teknologi Bandung 2011
Daftar Isi 1 Peubah Acak dan Distribusi Kontinu 1.1 Fungsi distribusi . . . . . . . . . . . 1.2 Unsur Peluang . . . . . . . . . . . . 1.3 Ekspektasi . . . . . . . . . . . . . . . 1.4 Distribusi Bivariat . . . . . . . . . . 1.5 Distribusi Bersyarat . . . . . . . . . 1.6 Fungsi Pembangkit Momen . . . . .
. . . . . .
1 1 4 7 9 11 14
. . . . . . .
1 1 1 5 6 6 7 7
3 Penaksiran dan Selang Kep ercayaan 3.1 3.1 “S “Siifat-s t-sifat” (Kesal esalaahan an)) pen penaks aksiran ran . . . . . . . . . . . . . . . . 3.2 Konsistensi . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1 1 2
. . . . . .
. . . . . .
. . . . . .
. . . . . .
2 Distribusi Samp el, Likeliho o d dan Penaksir 2.1 Samp el Acak . . . . . . . . . . . . . . . . . 2.2 Likeliho od . . . . . . . . . . . . . . . . . . . 2.3 Statistic Cukup . . . . . . . . . . . . . . . . 2.4 Distribusi Sampel . . . . . . . . . . . . . . . 2.5 Statistik Terurut . . . . . . . . . . . . . . . 2.6 Momen dari Mean dan Propo porrsi Sampel pel . . 2.7 Teorema Limit Pusat . . . . . . . . . . . . .
i
. . . . . . . . . . . . .
. . . . . . . . . . . . .
. . . . . . . . . . . . .
. . . . . . . . . . . . .
. . . . . . . . . . . . .
. . . . . . . . . . . . .
. . . . . . . . . . . . .
. . . . . . . . . . . . .
. . . . . . . . . . . . .
. . . . . . . . . . . . .
BAB 1 Peubah Acak dan Distribusi Kontinu 1.1
Fungsi distribusi
Definisi:
Misalkan X peubah acak. Fungsi distribusi (kumulatif) dari X adalah F X (x) = P (X
≤ x)
Contoh: 1. Misalkan X Bin(3, 0.5), maka fungsi distribusi F (x) adalah fungsi tangga berikut
∼
F (x) =
0, 1/8, 1/2, 7/8, 1,
x x x x x
∈ (−∞, 0); ∈ [0, 1); ∈ [1, 2); ∈ [2, 3); ∈ [3, ∞).
2. Misalkan X peubah acak dengan ‘support’ = [a, b], b > 0. Misalkan peluang X akan berada di selang proporsional terhadap panjang selang. Dengan kata lain,
S
≤ X ≤ x ) = λ (x − x ),
P (x1
2
2
1
1
S
untuk a x1 x2 = b. Maka,
≤ ≤ x ≤ b.
P (a
2
Untuk menentukan λ, misalkan x1 = a dan
≤ X ≤ b) = 1 = λ (b − a) ⇒ λ = 1/(b − a)
Fungsi distribusinya:
F (x) = P (X
≤ x) = P (a ≤ X ≤ x) =
x < a; x−a , x [a, b]; b−a 1, x > b. 0,
∈
Peubah acak X dikatakan berdistribusi Uniform, X
∼ U (a, b).
Sifat-sifat fungsi distribusi:
• F (−∞) = 0 dan F (∞) = 1 • F merupakan fungsi tidak turun; F (a) ≤ F (b) untuk a ≤ b • F adalah fungsi kontinu kanan; lim F (x + ϵ) = F (x) ϵ→0+
Misalkan X peubah acak dengan fungsi distribusi F (x).
• Jika b ≥ a, maka P (a < X ≤ b) = F (b) − F (a) • Untuk setiap x, P (X = x) = lim P (x − ϵ < X ≤) = F (x) − F (x−) (Perhatikan notasi F (x−) dan kasus apabila fungsi distribusi kontinu ϵ→0+
kiri)
Definisi:
Distribusi dari peubah acak X dikatakan KONTINU jika fungsi distribusi disetiap x kontinu dan fungsi distribusi tersebut dapat diturunkan. Misalkan X peubah acak kontinu dengan fungsi distribusi F X (x).
• Misalkan g(X ) fungsi naik satu-satu kontinu.
Untuk y yang berada di daerah hasil dari g, fungsi invers x = g (y) ada. Misalkan Y = g(X ). Fungsi distribusi dari Y adalah −1
P (Y
≤ y) = P (g(X ) ≤ y) = P (X ≤ g
−1
(y)) = F X (g−1 (y))
• Misalkan g(X ) fungsi turun satu-satu kontinu. Untuk y yang berada di daerah hasil dari g, fungsi invers x = g −1 (y) ada. Misalkan Y = g(X ). Fungsi distribusi dari Y adalah P (Y
≤ y) = P (g(X ) ≤ y) = P (X > g
MA3081 Stat.Mat.
2
−1
(y)) = 1
− F (g X
−1
(y))
K. Syuhada, PhD.
• Misalkan X ∼ U (0, 1) dan Y = g(X ) = hX + k,h < 0. Maka X = g (Y ) = (Y − k)/h −1
F X (x) = F Y (y) = Y
∼ U (h + k, k)
Latihan: 1. Misalkan X peubah acak kontinu yang memiliki fungsi distribusi F X (x) yang naik murni. Misalkan Y = F X (X ). Tentukan distribusi dari Y 2. Misalkan U peubah acak berdistribusi U (0, 1). Misalkan F X (x) fungsi distribusi yang naik murni dari X . Tentukan fungsi distribusi dari peubah −1 acak F X (U ) 3. Misalkan U 1 , U 2 , . . . , Un sampel acak dari U (0, 1). Bangkitkan sampel acak dari F X (x) (ambil contoh misalnya untuk F X (x) = 1 e−λ x , x > 0)
−
Misalkan X peubah acak kontinu dengan fungsi distribusi F X (x). Misalkan Y = g(X ) fungsi kontinu tidak monoton. Kita ketahui bahwa pada fungsi yang monoton, F Y (y) = P (Y
≤ y) = P (g(X ) ≤ y)
dimana dalam hal ini setiap solusi inverse x = g −1 (y) digunakan untuk menentukan F Y (y) dengan menggunakan F X (g−1 (y)). Untuk X U ( 1, 2) dan 2 g(X ) = Y = X , kita dapatkan fungsi distribusi dari Y :
∼ −
F Y (y) =
MA3081 Stat.Mat.
3
K. Syuhada, PhD.
1.2
Unsur Peluang
Misalkan X peubah acak kontinu,
△x bilangan positif kecil. Definisikan h(a, b) = P (a ≤ X ≤ a + b) = F (a + b) − F (a) Untuk h(x, △x) = P (x ≤ X ≤ x + △x), maka deret Taylor-nya disekitar △x = 0 adalah h(x, △x) = F (x + △x) − F (x) d △x + o(△x) = h(x, 0) + h(x, △x) d△x def
X
= =
X
△x=0
dimana lim
△x→0
o( x) =0 x
△ △
Fungsi
�
� △
d dF (x) = F (x) dx
x
disebut DIFERENSIAL. Dalam statistika, diferensial dari fungsi distribusi adalah UNSUR PELUANG (yang merupakan pendekatan terhadap h(x, x)). d Unsur peluang adalah fungsi linier dari dx F (x).
△
Contoh: Misalkan F (x) = 1 e−3x untuk x 0. Apakah F (x) suatu fungsi distribusi? Hitung unsur peluang di x = 2. Cari pendekatan untuk P (2 X 2.01).
−
≥
≤ ≤
Densitas rata-rata pada selang (x, x + Density rata-rata =def
△x) didefinisikan: P (x ≤ X ≤ x + △x) △x
Sedangkan fungsi densitas peluang atau fungsi peluang (f.p) di x adalah limit
MA3081 Stat.Mat.
4
K. Syuhada, PhD.
△x → 0:
densitas rata-rata saat
f.p = f (x) =def lim
P (x
△x→0
= = =
≤ X ≤ x + △x) △x
d F (x) dx
Catatan: Unsur peluang dituliskan sebagai dF (x) = f (x) x.
△
Sifat-sifat fungsi peluang:
• f (x) ≥ 0 untuk semua x f (x) = 1 • ∞ −∞
∫
Hubungan antara fungsi peluang dan fungsi distribusi: f (x) =
d F (x) dx
F (x) =
�
x
f (u)du
−∞ b
− F (a) =
�
1. Misalkan λ bilangan riil positif. Jika F (x) = 1
−e
P (a < X < b) = ... = ... = ... = F (b)
f (x)dx
a
Latihan: −λx
, maka f (x) =
2. Jika X
∼ U (a, b) maka F (x) = dan f (x) = 3. *Misalkan f (x) = c/(1 + x ) untuk −∞ < x < ∞ dan c konstanta. 2
∞
Fungsi f (x) tak negatif dan −∞ (1 + x2)−1 dx = π. Berapa nilai c agar f (x) menjadi fungsi peluag? Tentukan fungsi distribusinya.
∫
4. *Pandang distribusi waktu tunggu. Misalkan T adalah waktu kedatangan kejadian ke-r dalam Proses Poisson dengan laju λ. Tentukan fungsi peluang dari T
MA3081 Stat.Mat.
5
K. Syuhada, PhD.
Misalkan X peubah acak kontinu dengan fungsi peluang f (x) dan Y = g(X ) fungsi yang terdiferensial bernilai tunggal. Maka fungsi peluang dari Y :
d −1 f Y (y) = f X (g −1 (y)) g (y) dy
untuk ‘support’ Y = g(X ). Komponen J (y) =
d −1 g (y) dy
adalah transformasi Jacobian. BUKTI: Misalkan g(x) memiliki lebih dari satu fungsi invers maka unsur peluang yang terpisah harus dihitung untuk setiap fungsi invers. Contoh, misalkan X U ( 1, 2) dan Y = g(X ) = X 2 . Maka untuk y [0, 1], terdapat 2 fungsi invers yaitu ?, dan satu fungsi invers untuk y (1, 4] yaitu ?. Fungsi peluang dari Y adalah:
−
∈
∈
∼
f (y) =
MA3081 Stat.Mat.
6
K. Syuhada, PhD.
1.3
Ekspektasi
Misalkan X peubah acak dengan fungsi peluang f (x). Nilai harapan dari X , jika ada, adalah ∞
E (X ) = µ X =
�
f (x)dx
−∞
Catatan: nilai ekspektasi dikatakan ada jika nilai integral adalah hingga. Misalkan X rv dengan pdf f (x). Maka nilai harapan dari g(X ), jika ada, adalah ∞
�
E [g(X )] =
g(x)f (x)dx
−∞
.
Operator integral bersifat linier. Jika g1 (X ) dan g2 (X ) fungsi-fungsi yang memiliki ekspektasi dan a, b, c konstanta, maka E [ag1 (X ) + bg2 (X ) + c] = aE [g1 (X )] + bE [g2 (X )] + c Contoh/Latihan: 1. Jika distribusi X simetrik di sekitar c dan nilai harapanny ada maka E (X ) = c. Bukti: ∞
E (X
− c) =
� � � − �
(x
−∞
− c)f (x) dx ∞
c
=
(x
−∞
− c)f (x)dx +
∞
=
0 ∞
=
� �
(x
c
− c)f (x)dx
∞
uf (c
− u)du +
u(f (c + u)
0
uf (c + u)du
0
− f (c − u)) du = 0
2. Misalkan X U (a, b). Tunjukkan bahwa distribusi tersebut simetrik disekitar (a + b)/2.
∼
MA3081 Stat.Mat.
7
K. Syuhada, PhD.
Bukti:
�
� � − � ∈ �−
a + b f 2
b−a
untuk δ
�
1 a + b δ = f + δ = 2 b a
2
−
, b−2 a
3. Misalkan X berdistribusi Cauchy dengan fungsi peluang f (x) =
1
�
σπ 1 +
(x−µ)2 σ2
�
,
dengan µ, σ konstanta yang memenuhi µ < dan σ (0, σ). Tun jukkan bahwa fungsi peluang simetrik di sekitar µ namun ekspektasinya bukanlah µ.
| | ∞
∈
4. Misalkan X
∼ Exp(λ). Nilai harapan dari X adalah...
MA3081 Stat.Mat.
8
K. Syuhada, PhD.
1.4
Distribusi Bivariat
Suatu fungsi f X,Y (x, y) dikatakan fungsi peluang bivariat jika
• f •
X,Y (x, y)
∞ ∞ −∞ −∞
∫ ∫
≥ 0, untuk semua x, y
f X,Y (x, y) dxdy = 1
Jika f X,Y (x, y) fungsi peluang bivariat maka F X,Y (x, y) = P (X
≤ x, Y ≤ y) =
x
y
−∞
−∞
� �
f X,Y (u, v) dvdu
Sifat-sifat fungsi distribusi bivariat: 1. F X,Y (x,
X
2. F X,Y
Y
∞) = F (x) (∞, y) = F (y) (∞, ∞) = 1 (−∞, y) = F (x, −∞) = F (−∞, −∞) = 0
3. F X,Y 4. F X,Y
X,Y
5. f X,Y (x, y) =
X,Y
∂ 2 F (x, y) ∂x∂y X,Y
f X,Y (x, y) x y adalah unsur peluang bersama,
△△ P (x ≤ X ≤ x + △x, y ≤ Y ≤ y + △y) = f
X,Y (x, y)
△x△y + o(△x△y)
Contoh/Latihan: 1. Jika (X, Y )
∼ U (a,b,c,d) maka
f X,Y (x, y) =
(b
−
1 a)(d
− c) , x ∈ (a, b), y ∈ (c, d)
2. Untuk soal no 1 di atas, misalkan a = c = 0, b = 4, d = 6 maka P (2.5
≤ X ≤ 3.5, 1 ≤ Y ≤ 4) = 3/24 P (X + Y > 16) = 1 − P (X + Y ≤ 16) = 1 − π/6 2
MA3081 Stat.Mat.
2
2
9
2
K. Syuhada, PhD.
3. Jika f X,Y (x, y) = (6/5) (x+y2 ) untuk x P (X + Y < 1).
∈ (0, 1) dan y ∈ (0, 1). Tentukan 1
P (X + y < 1) = P (X < 1
− Y ) =
= = 3/10
···
1−y
� � 0
f X,Y (x, y) dxdy
0
Untuk menentukan fungsi peluang marginal, integralkan “peubah yang tidak diinginkan”: ∞
f X (x) =
� �
f X,Y (x, y) dy
−∞ ∞
f Y (y) =
f X,Y (x, y) dx
−∞
f X,Y (x, y) =
∞
∞
−∞
−∞
� �
f W,X,Y,Z (w,x,y,z ) dwdz
Pada fungsi peluang f X,Y (x, y) = 6/5(x + y 2 ) diperoleh f X (x) =
6 x + 2 ,x 5
∈ (0, 1)
6 y2 + 3 f Y (y) = ,y 5 dan nilai harapan
∈ (0, 1) ∞
E (g(X, Y )) = E (X ) =
−∞
MA3081 Stat.Mat.
∞
� �
g(x, y) f X,Y (x, y) dxdy =
−∞
10
· ·· = 3/5
K. Syuhada, PhD.
1.5
Distribusi Bersyarat
Misalkan f X,Y (x, y) adalah fungsi peluang bersama, maka fungsi peluang Y , diberikan X = x, adalah f Y |X (y x) =def
|
f X,Y (x, y) , f X (x)
asalkan f X (x) > 0. Contoh: Misalkan X dan Y memiliki distribusi bersama f X,Y (x, y) = 8xy, 0 < x < y < 1, maka f X (x) = 4 x E (X r ) =
3
− 4 x , 0 < x < 1
8 (r + 2)(r + 4)
= 4 y 3 , 0 < y < 1 f Y (y) 4 r + 4 2x f X |Y (x y) = 2 , 0 < x < y y 2y f Y |X (y x) = , x < y < 1 1 x2 2 yr r E (X Y = y) = r + 2 2 (1 xr+2 ) r E (Y X = x) = (r + 2)(1 x2) E (Y r ) =
|
|
−
|
−
|
−
Misalkan (X, Y ) adalah peubah acak berpasangan dengan fungsi peluang bersama f X,Y (x, y). Pandang persoalan memprediksi Y setelah X = x terobservasi. Prediktor dinotasikan sebagai y(x). ˆ Prediktor terbaik didefinisikan sebagai ˆ fungsi Y (X ) yang meminimumkan ∞
∞
� − � � �
E Y
ˆ ) Y (X
2
=
−∞
−∞
(y
− yˆ(x))
2
f X,Y (x, y) dydx
Prediktor terbaik adalah y(x) ˆ = E (Y X = x). BUKTI:
|
MA3081 Stat.Mat.
11
K. Syuhada, PhD.
Contoh/Latihan: 1. Misalkan X dan Y memiliki distribusi bersama f X,Y (x, y) = 8xy, 0 < x < y < 1, maka 2y , x < y < 1 1 x2
f Y |X (y x) =
|
−
2 (1 yˆ(x) = E (Y X = x) = 3 (1
|
3
−x ) −x ) 2
2. Misalkan (Y, X ) berdistribusi normal bivariat dengan E (Y ) = µ Y , E (X ) = 2 2 µX , V a r(Y ) = σY , V a r(X ) = σX ,Cov(X, Y ) = ρX,Y σX σ Y . Distribusi bersyarat Y , diberikan X , adalah (Y X = x)
|
∼
3. Tunjukkan bahwa
�
�
E X f Y |X (y X ) = f Y (y)
|
4. Buktikan
��
�� � � |
E X E h(Y ) X
= E h(Y )
5. Buktikan
�
� �
V ar(Y ) = E X V ar(Y X ) + V ar E (Y X )
|
|
�
6. Misalkan X dan Y memiliki distribusi bersama 3y2 f X,Y (x, y) = 3 , 0 < y < x < 1 x Maka f Y (y) = 1.5 (1 E (Y r ) =
2
− y ), 0 < y < 1
3 , E (Y ) = 3/8, V a r(Y ) = 19/320 (r + 1)(r + 3)
f X (x) = 1, 0 < x < 1
MA3081 Stat.Mat.
12
K. Syuhada, PhD.
3 y2 f Y |X (y x) = 3 , 0 < y < x < 1 x 3 xr 3x 3 x2 r E (Y X = x) = , E (Y X = x) = , V a r(Y X = x) = 3 + r 4 80 V ar(E (Y X ) ) = 3/64
|
|
|
|
| E (V ar(Y |X ) ) = 1/80
MA3081 Stat.Mat.
13
K. Syuhada, PhD.
1.6
Fungsi Pembangkit Momen
Misalkan X peubah acak kontinu, fungsi pembangkit momen dari X adalah ∞
tX
M X (t) = E (e ) =
�
etx f (x)dx,
−∞
asalkan ekspektasi ada untuk t disekitar 0. Jika semua momen dari X tidak ada, maka fungsi pembangkit momen juga tidak ada. Fungsi pembangkit momen berkaitan dengan fungsi pembangkit peluang M X (t) = G X (et ) asalkan GX (t) ada untuk t disekitar 1. Jika M X (t) adalah fungsi pembangkit peluang maka M X (0) = 1. Contoh/Latihan: 1. Jika f X (x) = λe −λx I 0,∞ (x), maka M X (t) = 2. Jika M X (t) ada maka M a+bX (t) = 3. Jika X i , i = 1, . . . , n saling bebas, M X (t) ada untuk setiap i, dan S = X i , maka i
∑
M S (t) =
4. Fungsi pembangkit momen bersifat unik. Setiap distribusi memiliki fungsi pembangkit momen yang unik, dan setiap fungsi pembangkit momen berkorespondensi dengan tepat satu distribusi. Akibatnya, jika fungsi pembangkit momen ada maka fungsi pembangkit momen tersebut secara unik menentukan distribusinya. Beri contoh. 5. Pandang turunan dari M X (t) yang kemudian dievaluasi di t = 0. Apa yang dapat anda katakan? Dapatkah kita mendapatkan momen orde tinggi? 6. Dapatkah hasil diatas digunakan untuk distribusi diskrit? Ambil contoh distribusi Geometrik dengan parameter p.
MA3081 Stat.Mat.
14
K. Syuhada, PhD.
7. Misalkan Y U (a, b). Gunakan fungsi pembangkit momen untuk mendapatkan momen pusat
∼
E ((Y
2
− µ ) ) = E
MA3081 Stat.Mat.
Y
r
�� − � � Y
a + b 2
15
K. Syuhada, PhD.
BAB 2 Distribusi Sampel, Likelihood dan Penaksir 2.1
Sampel Acak
Misalkan X 1, X 2 , . . . , Xn sampel acak berukuran n (random sample of size n). Fungsi peluang n-variat nya adalah n
f X 1 ,X 2 ,··· ,X (x1 , x2 , . . . , xn ) = n
�
f X (xi ) i
i=1
Contoh/Latihan: 1. Misalkan X 1 , X 2 , . . . , Xn sampel acak dari distribusi Eksponensial dengan parameter θ. Fungsi peluang n-variatnya adalah... 2. Misalkan X 1, X 2 , . . . , Xn sampel acak dari distribusi Uniform pada selang (a, b). Fungsi peluang n-variatnya adalah...
2.2
Likelihood
Misalkan fungsi peluang n-variat bergantung pada parameter yang tidak diketahui θ. Fungsi peluang tersebut ditulis sebagai f X 1 ,X 2 ,...,X (x1 , . . . , xn θ1 , . . . , θk ) n
|
atau f X(x θ)
|
1
Contoh/Latihan: 1. Misalkan X 1 , X 2 , . . . , Xn sampel acak dari distribusi N (µ, σ 2 ). Fungsi peluang n-variat yang bergantung pada parameternya ditulis sebagai... Definisi
Fungsi likelihood adalah ukuran yang menyatakan sebarapa sering nilai θ, diberikan bahwa x telah terobservasi. Fungsi likelihood BUKAN suatu peluang. Fungsi likelihood diperoleh dengan (i) menukar peran θ dan x dalam fungsi peluang n-variat, dan (ii) membuang suku yang tidak bergantung pada θ. Notasi: L(θ) = L(θ x)
| ∝ f (x|θ) X
Contoh/Latihan: 1. Misalkan X 1 , X 2 , . . . , Xn sampel acak dari distribusi Eksponensial dengan parameter θ. Fungsi likelihoodnya adalah... function likefunction; % this function calculates the likelihood function of distribution % % created by K Syuhada, 14/3/2011 clear clc n = input(’n = ’); % size of random sample % data x = exprnd(0.5,n,1); sumx = sum(x); % parameter of exponential distribution lambda = 0.5:0.05:5; for i = 1:length(lambda) L(i) = (lambda(i)^n)*exp(-lambda(i)*sumx); end plot(lambda,L)
MA3081 Stat.Mat.
2
K. Syuhada, PhD.
2. Misalkan X 1, X 2 , . . . , Xn sampel acak dari distribusi Uniform pada selang (π, b). Fungsi likelihoodnya adalah... Prinsip Likelihood
Jika dua percobaan, yang melibatkan model dengan parameter θ, memberikan likelihood yang sama, maka inferensi terhadap θ haruslah sama. Ilustrasi
Pandang percobaan 1 dimana sebuah koin dilantunkan sebanyak n kali secara bebas. Misalkan p adalah peluang muncul MUKA dan X peubah acak yang menyatakan banyaknya MUKA yang muncul. Fungsi peluang dari X dan fungsi likelihoodnya adalah... Pandang percobaan 2 dimana sebuah koin dilantunkan hingga diperoleh MUKA sebanyak 6 kali secara bebas. Misalkan Y peubah acak yang menyatakan banyaknya lantunan yang dibutuhkan agar diperoleh enam MUKA. Fungsi peluang dari X dan fungsi likelihoodnya adalah... Dari 2 percobaan diatas, misalkan kita ingin melakukan uji hipotesis: H 0 : p = 0.5 versusH 0 : p < 0.5 Nilai signfikansinya atau p-value adalah... Penaksir Likelihood Maksimum
Misalkan L(θ) adalah fungsi likelihood (fungsi dari parameter θ). Kita dapat menentukan nilai θ yang memaksimumkan L(θ). Penaksir untuk θ, yaitu θˆ disebut Penaksir Likelihood Maksimum (maximum likelihood estimator, MLE). Penaksir suatu parameter adalah fungsi dari peubah acak. Contoh/Latihan: 1. Diketahui sampel acak berukuran n dari distribusi Bernoulli ( p). Fungsi likelihoodnya: L(θ) = θ
∑
xi
(1
− θ)
∑
n−
xi
, 0 < θ < 1.
Untuk menentukan nilai θ yang memaksimumkan L(θ), transformasikan L(θ) menjadi log L(θ): ℓ(θ) = log L(θ) =
�
xi log(θ) + (n
n
∑
� −
xi ) log(1
− θ),
kemudian hitung turunan pertama ℓ(θ) terhadap θ: dℓ(θ) = dθ MA3081 Stat.Mat.
∑
θ
xi
− −1 − θ x . i
3
K. Syuhada, PhD.
Normalisasi dari turunan pertama tersebut memberikan nilai θ =
∑
xi , n
yang mana sebagai penaksir ditulis sebagai berikut: ˆ θ =
∑
X i ¯ = X. n
(Pr: Tunjukkan bahwa θ ini memaksimumkan L(θ) dengan menghitung turunan kedua). 2. Misalkan X 1 , . . . , Xn sampel acak berdistribusi U (0, θ). Tentukan θ yang ˆ memaksimumkan L(0, θ). Dengan kata lain, tentukan penaksir θ untuk θ.
Sifat Penaksir
ˆ kita dapat menentukan sifat baik peSetelah kita mendapatkan penaksir θ, ˆ naksir. Salah satunya adalah sifat TAK BIAS. Penaksir θ dikatakan tak bias apabila ˆ = θ. E (θ) Untuk contoh sampel acak Bernoulli, ˆ = E E (θ)
�
X 1 +
··· + X
n
n
�
1 = E (X 1 + + X n ) n 1 = E (X 1 ) + + E (X n ) n 1 = (θ + + θ) n = θ
�
· ·· ···
�
···
ˆ X adalah ¯ Jadi, penaksir θ = penaksir tak bias untuk θ. ˆ Catatan: Jika suatu penaksir θ bersifat bias maka selisih nilai ekspektasi dan nilai θ tidak nol, atau E (θˆ
− θ) ̸= 0.
MA3081 Stat.Mat.
4
K. Syuhada, PhD.
2.3
Statistic Cukup
Definisi -1
Suatu statistik T = t(X) adalah CUKUP atau sufficient untuk suatu keluarga distribusi f X(x θ) JIKA dan HANYA JIKA fungsi likelihoodnya bergantung terhadap X hanya melalui T:
|
L(θ) = h(t(X), θ) Definisi -2
Suatu statistik T = t(X) adalah CUKUP untuk suatu keluarga distribusi f X (x θ) JIKA dan HANYA JIKA distribusi bersyarat dari X TIDAK BERGANTUNG pada θ:
|
f X|T (x t, θ) = h(x)
|
Definisi -3
Suatu statistik T = t(X) adalah CUKUP untuk suatu keluarga distribusi f X (x θ) JIKA dan HANYA JIKA fungsi peluangnya dapat difaktorkan sebagai:
|
f X(x θ) = g(t(x) θ) h(x)
|
|
Contoh/Latihan: 1. Misalkan X i untuk i = 1, . . . , n saling bebas dan berdistribusi identik Bernoulli( p). Tunjukkan bahwa Y = ni=1 X i adalah statistik cukup.
∑
2. Misalkan X 1 , . . . , Xn sampel acak berdistribusi Poisson dengan parameter λ. Tunjukkan bahwa T = ni=1 X i adalah statistik cukup.
∑
3. Misalkan X i untuk i = 1, . . . , n saling bebas dan berdistribusi identik ¯ N(µ, 1). Tunjukkan bahwa Y = X adalah statistik cukup. 4. Misalkan X 1 , . . . , Xn sampel acak berdistribusi Gamma dengan parameter (α, λ). Tunjukkan bahwa T = ni=1 ln(X i ) adalah statistik cukup.
∑
5. Pandang sampel acak berukuran n dari U (a, b), dengan a diketahui. Tun jukkan bahwa T = X (n) adalah statistik cukup. 6. Pandang sampel acak berukuran n dari N (µ, σ 2 ), dengan µ, σ 2 tidak diketahui. Tunjukkan bahwa statistik T berikut adalah cukup: T =
2 S X ¯ X
� �
MA3081 Stat.Mat.
5
K. Syuhada, PhD.
2.4
Distribusi Sampel
Misalkan X 1 , X 2 , . . . , Xn sampel acak berukuran n dari distribusi Poisson dengan parameter λ. Peubah acak X i , i = 1, . . . , n saling bebas dan berdistribusi identik dengan fungsi peluang n-variat: n
P (X = x ) =
� i=1
e−λ λx e−nλ λy = n , xi ! i=1 xi ! i
∏
∑
dengan y = xi . Dapat ditunjukkan juga Y = sampel dari Y adalah
∑
X i cukup. Distribusi
e−nλ (nλ)y f Y (y θ) = . y!
|
Misalkan X i U (0, θ). Peubah acak-peubah acak X i tersebut saling bebas dan berdistribusi identik, dengan fungsi peluang:
∼
f X(x θ) =
|
Statistik T = X (n) cukup dan memiliki fungsi distribusi: P (X (n)
≤ x) =
dan fungsi peluang: f (x) =
2.5
Statistik Terurut
Misalkan X 1 , . . . , Xn sampel acak berukuran n dari suatu populasi yang berdistribusi tertentu, dengan fungsi peluang f X dan fungsi distribusi F X . Pandang X (k) , statistik terurut ke-k. Untuk menentukan f X ( ) (x), pertama partisikan k
I 1 = (
−∞, x]; I = (x, x + dx]; I = (x + dx, ∞). 2
3
Fungsi peluang f X ( ) (x) adalah peluang mengamati sejumlah k I 1 , tepat sebuah X di I 2 , dan sejumlah n k dari X di I 3 : k
−
f X ( ) (x) k
� ≈
MA3081 Stat.Mat.
k
−
n 1, 1, n
−k
� F X (x)
6
k−1
f X (x)dx
1
− 1 dari X di n−k
− 1
F X (x)
K. Syuhada, PhD.
yang dengan metode diferensial maka kita peroleh f X ( ) (x) = k
�
k
−
n 1, 1, n
−k
� − F X (x)
k−1
1
F X (x)
n−k
f X (x)
Contoh/Latihan: 1. Fungsi peluang dari statistik terurut terkecil/terbesar adalah... 2. Statistik terurut ke-k pada distribusi U (0, 1) memiliki fungsi peluang...
2.6
Momen dari Mean dan Proporsi Sampel
2.7
Teorema Limit Pusat
Teorema
Misalkan X 1 , . . . , Xn sampel acak berukuran n dari populasi dengan mean µ X 2 dan variansi σX . Distribusi dari ¯ µX X Z n = σX / n
−√
konvergen ke N (0, 1) untuk n
→ ∞.
Catatan:
• Hal penting dari Teorema Limit Pusat (Central Limit Theorem) adalah bahwa kekonvergenan dari Z n ke distribusi normal akan terjadi apapun bentuk distribusi dari X .
• Kita dapat memanipulasi sedemikian hingga ¯ ∼ N (µ , σ /n), X X
2
X
asalkan n besar.
• Ekspresi lain dari TLP adalah √ n (X ¯ − µ ) lim P ≤c n→∞
�
MA3081 Stat.Mat.
X
σX
�
7
= Φ(c)
K. Syuhada, PhD.
• Pandang: X + ··· + X , 1
n
�� � �� � �∑ √ − n
E
X i = n µX ,
i=1
n
2 X i = n σX ,
V ar
i=1
n i=1
lim P
X i n µX n σX
n→∞
� ≤
c = Φ(c)
¯ • Seberapa besar n harus kita pilih agar X berdistribusi normal? n = 1? Bergantung pada distribusi dari data (parent distribution)! Misalkan X ∼ Exp(θ). Distribusi ini memiliki kemencengan (skewness) dan kelancipan (kurtosis): κ3 =
E (X
−µ
3
X )
√
3 σX
dan
E (X µX )4 κ4 = 4 σX
−
= 2,
− 3 = 6,
2 ¯ berdistribusi Ga(n,nθ). dengan µX = 1/θ dan σX = 1/θ2 . Mean sampel X ¯ adalah Kemencengan (skewness) dan kelancipan (kurtosis) dari X
κ3 =
¯ E (X
dan
−µ
3
¯) X
√
3 σX
4 ¯ µX E (X ¯) κ4 = 4 σX
−
=
√ 2n ,
− 3 = 6/n,
Perhatikan plot berikut:
MA3081 Stat.Mat.
8
K. Syuhada, PhD.
Misalkan X B(n, p) (ingat bahwa distribusi X tersebut sama dengan distribudi dari sejumlah n peubah acak Bernoulli( p)). Untuk n besar,
∼
pˆ
∼ N
�
p,
p(1
− p)
n
�
� √ − � ≤ ≈ √ − ∼ �− − ≤ ≤ � � − � �− − � ≈ √ − − √ − P (ˆ p
c)
X
n(c p) p(1 p)
Φ
N (np, np(1
p))
P (X = x) = P x x + 0.5 np(1
Φ
np p)
1 2
X
Φ
x
x +
0.5 np(1
1 , x = 0, 1, . . . , n 2 np p)
,
dimana menambah dan mengurangi dengan 0.5 disebut “continuity correction”. Koreksi kekontinuan untuk pendekatan normal terhadap fungsi distribusi dari X dan p adalah ˆ P (X
≈Φ
� ≤ � � −
≤ c) = P
X
�
np p)
dan
x + 0.5 np(1
√
−
�≤
P (ˆ p
x +
√
MA3081 Stat.Mat.
� �
1 c + , c = 0/n, 1/n,...,n/n 2n
≤ c) = P pˆ √ n(c + 0.5/n − p) ≈Φ p(1 − p)
�
1 , x = 0, 1, . . . , n 2
9
K. Syuhada, PhD.
BAB 3 Penaksiran dan Selang Kepercayaan 3.1
“Sifat-sifat” (Kesalahan) penaksiran
ˆ Pada penaksiran parameter θ, misalnya, penaksir θ adalah fungsi peubah acak. Nilai taksirannya “TIDAK” akan pernah sama dengan nilai parameternya. Misalkan T = T (X) adalah penaksir untuk θ. Didefinisikan: bT = E (T
− θ) = E (T ) − θ,
dan V ar(T ) = σ T 2 = E (T
− µ
2
T )
= E (T )
− θ; µ
T
= E (T ),
adalah bias dan variansi dari penaksir T . Selain itu, didefinisikan pula, MSE atau Mean Square Error, MSET (θ) = E (T
− θ)
2
= V ar(T ) + b2T ,
Misalkan X 1 , . . . , Xn sampel acak dari N (µ, σ 2 ). Penaksir untuk σ 2 adalah 1
2
S =
n
−1
1 V = n
�
n
� i=1
(X i
− X ¯ ) , 2
dan/atau n
i=1
(X i
− X ¯ ) , 2
1
Bias and MSE dari kedua penaksir adalah bS 2 =
bV =
···
·· ·
dan MSES 2 =
MSEV =
···
· ··
Catatan: Penaksir dari deviasi standar dari suatu penaksir disebut “standard error” atau SE. Apakah SE dari jenis pengambilan sampel (sampling):
• Apapun asalkan tanpa pengembalian? • Bernoulli tanpa pengembalian? 3.2
Konsistensi
Salah satu sifat dari penaksir yang baik adalah sifat “tak bias”. Kita akan mempelajari sifat baik yang lain yaitu “konsisten”. Namun sebelumnya, perhatikan Ketaksamaan Chebyshev. Misalkan X peubah acak dengan fungsi peluang f X (x). Misalkan h(X ) fungsi non-negatif dari X dan ekpektasinya ada serta k adalah konstanta positif. Maka P (h(X )
)) . ≥ k) ≤ E (h(X k
Bukti: Aplikasi 1 Ketaksamaan Chebyshev. Misalkan E (X ) = µX dan V ar(X ) = 2 σX < . Maka
∞
P
�|
X
2
�
−µ | ≥ k ≤ 1 . σ k X
2
X
2
2
Bukti: Aplikasi 2 Ketaksamaan Chebyshev. Misalkan T peubah acak (penaksir dari 2 parameter θ) dengan E (T ) = µ T dan V ar(T ) = σ T < . Maka
∞
| − θ| < ϵ] ≥ 1 − MSEϵ
P [ X
X (θ)
2
.
Bukti:
MA3081 Stat.Mat.
2
K. Syuhada, PhD.
Konsistensi
Definisi: Barisan dari penaksir-penaksir, T n , disebut KONSISTEN untuk θ jika
{ }
lim P ( T n
| − θ| < ϵ) = 1,
n→∞
untuk setiap ϵ > 0. Konvergen dalam Peluang
Definisi: Barisan dari penaksir-penaksir, T n , KONVERGEN dalam PELUANG untuk θ jika barisan tersebut konsisten untuk θ. Notasi:
{ }
T n
prob
→
θ.
Contoh/Latihan: ¯ adalah mean sampel dari suatu s.a 1. (Hukum Bilangan Besar) Jika X berukuran n dengan mean µX , maka ¯ X
prob
→
µX .
Bukti: 2. Sebuah penaksir untuk θ dikatakan “Mean Square Consistent” jika lim MSET (θ) = 0.
n→∞
n
Buktikan bahwa jika sebuah penaksir memiliki sifat MSC maka penaksir tersebut konsiten.
MA3081 Stat.Mat.
3
K. Syuhada, PhD.
