Seperti biasa, titik awal kita adalah sebuah eksperimen acak yang dimodelkan oleh ruang probabilitas \((\Omega, \ms F, \P)\). Dalam model statistik dasar, kita memiliki variabel acak teramati \(\bs{X}\) dengan nilai dalam suatu himpunan \(S\). Ingat bahwa, secara umum, variabel ini dapat memiliki struktur yang cukup rumit. Sebagai contoh, jika eksperimennya adalah mengambil sampel \(n\) objek dari suatu populasi dan mencatat berbagai pengukuran yang menjadi perhatian, maka vektor data berbentuk \[ \bs{X} = (X_1, X_2, \ldots, X_n) \] dengan \(X_i\) merupakan vektor pengukuran untuk objek ke-\(i\). Kasus khusus yang paling penting adalah ketika \((X_1, X_2, \ldots, X_n)\) saling bebas dan berdistribusi identik (IID). Dalam hal ini, \(\bs{X}\) adalah sampel acak berukuran \(n\) dari distribusi suatu variabel pengukuran dasar \(X\).
Ingat pula bahwa statistik adalah variabel acak yang merupakan fungsi teramati dari variabel hasil eksperimen acak: \(\bs{U} = \bs{u}(\bs{X})\), dengan \( \bs{u} \) fungsi yang diketahui dari \( S \) ke suatu himpunan lain. Jadi, statistik hanyalah variabel acak yang diturunkan dari variabel pengamatan \(\bs{X}\), dengan asumsi bahwa \(\bs{U}\) juga teramati. Seperti ditunjukkan oleh notasinya, \(\bs{U}\) biasanya juga bernilai vektor. Perhatikan bahwa vektor data awal \(\bs{X}\) sendiri merupakan statistik, tetapi biasanya kita tertarik pada statistik yang diturunkan dari \(\bs{X}\). Statistik \(\bs{U}\) dapat dihitung untuk menjawab suatu pertanyaan inferensial. Dalam konteks ini, jika dimensi \(\bs{U}\) (sebagai vektor) lebih kecil daripada dimensi \(\bs{X}\) (seperti yang biasanya terjadi), maka kita telah mencapai reduksi data. Idealnya, kita ingin mencapai reduksi data yang berarti tanpa kehilangan informasi tentang pertanyaan inferensial yang sedang dikaji.
Dalam pengertian teknis, parameter \(\bs{\theta}\) adalah fungsi dari distribusi \(\bs{X}\), dengan nilai dalam suatu himpunan \(T\).
Seperti biasa, \(T\) dilengkapi dengan suatu \(\sigma\)-aljabar \(\ms T\) yang terdiri atas himpunan-himpunan bagian yang diperbolehkan, sehingga \((T, \ms T)\) merupakan ruang parameter.
Biasanya, distribusi \(\bs{X}\) memiliki \(k \in \N_+\) parameter riil yang menjadi perhatian, sehingga \(\bs{\theta}\) berbentuk \(\bs{\theta} = (\theta_1, \theta_2, \ldots, \theta_k)\) dan dengan demikian \(T \subseteq \R^k\). Dalam banyak kasus, satu atau lebih parameter tersebut tidak diketahui dan harus diduga dari variabel data \(\bs{X}\). Ini merupakan salah satu masalah terpenting dan paling mendasar dalam statistika, sekaligus pokok bahasan bab ini. Jika \( \bs{U} \) adalah suatu statistik, distribusi \( \bs{U} \) akan bergantung pada parameter \( \bs{X} \); demikian pula besaran distribusional seperti rata-rata, varians, kovarians, fungsi kepadatan probabilitas, dan sebagainya. Biasanya kita tidak menampakkan kebergantungan ini dalam notasi agar ekspresi matematis tidak menjadi terlalu rumit, tetapi penting untuk menyadari bahwa kebergantungan yang mendasarinya tetap ada. Gagasan utamanya adalah bahwa dengan mengamati suatu nilai \( \bs{u} \) dari statistik \( \bs{U} \), kita diharapkan memperoleh informasi tentang parameter yang tidak diketahui.
Sekarang andaikan kita memiliki parameter riil yang tidak diketahui, \(\theta\), dengan nilai dalam ruang parameter \(T \subseteq \R\). Statistik bernilai riil \(U = u(\bs{X})\) yang digunakan untuk menduga \(\theta\) disebut penduga bagi \(\theta\). Jadi, penduga merupakan variabel acak dan karenanya memiliki distribusi, rata-rata, varians, dan seterusnya (semuanya, seperti telah disebutkan, pada umumnya bergantung pada \( \theta \)). Ketika kita benar-benar menjalankan eksperimen dan mengamati data \(\bs{x}\), nilai teramati \(u = u(\bs{x})\) (sebuah bilangan tunggal) adalah dugaan bagi parameter \(\theta\). Definisi-definisi berikut bersifat mendasar.
Andaikan \( U \) adalah statistik yang digunakan sebagai penduga parameter \( \theta \) dengan nilai dalam \( T \subseteq \R \). Untuk \( \theta \in T \),
Jadi, galat adalah selisih antara penduga dan parameter yang diduga; tentu saja galat merupakan variabel acak. Bias \( U \) hanyalah nilai harapan galat, sedangkan galat kuadrat rata-rata adalah nilai harapan kuadrat galat. Perhatikan bahwa bias dan galat kuadrat rata-rata merupakan fungsi dari \( \theta \in T \). Definisi-definisi berikut melengkapi definisi bias secara alami.
Andaikan kembali bahwa \( U \) adalah statistik yang digunakan sebagai penduga parameter \( \theta \) dengan nilai dalam \( T \subseteq \R \).
Jadi, bagi penduga tak bias, nilai harapan penduga sama dengan parameter yang diduga; jelas ini merupakan sifat yang diinginkan. Di sisi lain, penduga berbias positif secara rata-rata menghasilkan dugaan yang terlalu tinggi, sedangkan penduga berbias negatif secara rata-rata menghasilkan dugaan yang terlalu rendah. Definisi bias negatif dan positif kita bersifat lemah karena menggunakan pertidaksamaan lemah \(\le\) dan \(\ge\). Tentu ada definisi ketat yang bersesuaian, dengan pertidaksamaan ketat \(\lt\) dan \(\gt\). Namun, perhatikan bahwa tidak satu pun dari definisi tersebut harus berlaku. Sebagai contoh, dapat terjadi bahwa \(\bias(U) \lt 0\) untuk sebagian \(\theta \in T\), \(\bias(U) = 0\) untuk sebagian \(\theta \in T\) lainnya, dan \(\bias(U) \gt 0\) untuk nilai \(\theta \in T\) yang lain lagi.
\(\mse(U) = \var(U) + \bias^2(U)\)
Hasil ini mengikuti sifat-sifat dasar nilai harapan dan varians: \[ \E[(U - \theta)^2] = \var(U - \theta) + [\E(U - \theta)]^2 = \var(U) + \bias^2(U) \]
Khususnya, jika penduga tak bias, maka galat kuadrat rata-rata \(U\) sama dengan varians \(U\).
Idealnya, kita ingin memiliki penduga tak bias dengan galat kuadrat rata-rata yang kecil. Namun, hal ini tidak selalu mungkin, dan menunjukkan hubungan yang rumit antara bias dan galat kuadrat rata-rata. Pada bagian berikutnya kita akan melihat contoh dua penduga suatu parameter yang merupakan kelipatan satu sama lain; yang satu tak bias, tetapi yang lain memiliki galat kuadrat rata-rata lebih kecil. Namun, jika kita memiliki dua penduga tak bias bagi \(\theta\), secara alami kita memilih penduga dengan varians (galat kuadrat rata-rata) yang lebih kecil.
Andaikan \( U \) dan \( V \) adalah penduga tak bias bagi parameter \( \theta \) dengan nilai dalam \( T \subseteq \R \).
Andaikan kembali bahwa kita memiliki parameter riil \( \theta \) dengan nilai yang mungkin dalam ruang parameter \( T \). Dalam eksperimen statistik, kita sering mengamati barisan tak hingga variabel acak seiring waktu, \(\bs{X} = (X_1, X_2, \ldots)\), sehingga pada waktu \( n \) kita telah mengamati \( \bs{X}_n = (X_1, X_2, \ldots, X_n) \). Dalam keadaan ini, kita sering memiliki suatu rumus umum yang mendefinisikan penduga \(\theta\) untuk setiap ukuran sampel \(n\). Secara teknis, ini menghasilkan suatu barisan penduga bernilai riil bagi \(\theta\): \( \bs{U} = (U_1, U_2, \ldots) \), dengan \( U_n \) fungsi bernilai riil dari \( \bs{X}_n \) untuk setiap \( n \in \N_+ \). Dalam hal ini, kita dapat membahas sifat asimtotik penduga ketika \(n \to \infty\). Sebagian besar definisi berikut merupakan perumuman alami dari definisi sebelumnya.
Barisan penduga \(\bs{U} = (U_1, U_2, \ldots)\) tak bias secara asimtotik jika \( \bias(U_n) \to 0\) ketika \(n \to \infty\) untuk setiap \(\theta \in T \), atau secara ekuivalen, \(\E(U_n) \to \theta\) ketika \(n \to \infty\) untuk setiap \(\theta \in T\).
Andaikan \(\bs{U} = (U_1, U_2, \ldots)\) dan \(\bs{V} = (V_1, V_2, \ldots)\) adalah dua barisan penduga yang tak bias secara asimtotik. Efisiensi relatif asimtotik \(\bs{U}\) terhadap \(\bs{V}\) adalah \[ \lim_{n \to \infty} \eff(U_n, V_n) = \lim_{n \to \infty} \frac{\var(V_n)}{\var(U_n)} \] dengan asumsi bahwa limit tersebut ada.
Secara alami, kita mengharapkan penduga membaik ketika ukuran sampel \(n\) bertambah dan, dalam suatu pengertian, konvergen menuju parameter ketika \( n \to \infty \). Gagasan umum ini dikenal sebagai konsistensi. Sekali lagi, untuk pembahasan selanjutnya kita mengasumsikan bahwa \(\bs{U} = (U_1, U_2, \ldots)\) adalah barisan penduga bagi parameter bernilai riil \( \theta \), dengan nilai dalam ruang parameter \( T \).
Konsistensi
Berikut adalah hubungan antara kedua definisi tersebut:
Jika \( \bs{U} \) konsisten dalam kuadrat rata-rata, maka \(\bs{U}\) konsisten.
Dari ketaksamaan Markov, \[ \P\left(\left|U_n - \theta\right| \gt \epsilon\right) = \P\left[(U_n - \theta)^2 \gt \epsilon^2\right] \le \frac{\E\left[(U_n - \theta)^2\right]}{\epsilon^2} \to 0 \text{ as } n \to \infty \]
Fakta bahwa konsistensi dalam kuadrat rata-rata mengakibatkan konsistensi biasa hanyalah versi statistik dari teorema yang menyatakan bahwa konvergensi dalam kuadrat rata-rata mengakibatkan konvergensi dalam probabilitas. Berikut satu lagi akibat penting dari konsistensi dalam kuadrat rata-rata.
Jika \( \bs{U} \) konsisten dalam kuadrat rata-rata, maka \( \bs{U} \) tak bias secara asimtotik.
Hasil ini mengikuti fakta bahwa galat absolut rata-rata lebih kecil daripada akar galat kuadrat rata-rata, yang merupakan kasus khusus suatu hasil umum tentang norma. Lihat bagian mengenai ruang vektor untuk perincian lebih lanjut. Dengan menggunakan hasil ini dan ketaksamaan segitiga biasa untuk nilai harapan, kita peroleh \[ |\E(U_n - \theta)| \le \E(|U_n - \theta|) \le \sqrt{\E[(U_n - \theta)^2]} \to 0 \text{ ketika } n \to \infty \] Dengan demikian \( \E(U_n) \to \theta \) ketika \( n \to \infty \) untuk \( \theta \in T \).
Dalam beberapa subbagian berikutnya, kita akan meninjau kembali beberapa masalah dasar pendugaan yang dipelajari dalam bab mengenai sampel acak.
Andaikan \( X \) adalah variabel acak dasar bernilai riil untuk suatu eksperimen, dengan rata-rata \( \mu \in \R\) dan varians \( \sigma^2 \in (0, \infty) \). Kita mengambil sampel dari distribusi \( X \) untuk menghasilkan barisan \(\bs{X} = (X_1, X_2, \ldots)\) variabel-variabel yang saling bebas, masing-masing dengan distribusi \( X \). Untuk setiap \( n \in \N_+ \), \( \bs{X}_n = (X_1, X_2, \ldots, X_n) \) merupakan sampel acak berukuran \(n\) dari distribusi \(X\).
Subbagian ini meninjau kembali beberapa hasil yang diperoleh dalam bagian mengenai hukum bilangan besar. Ingat bahwa penduga alami bagi rata-rata distribusi \(\mu\) adalah rata-rata sampel, yang didefinisikan oleh \[ M_n = \frac{1}{n} \sum_{i=1}^n X_i, \quad n \in \N_+ \]
Sifat-sifat \( \bs M = (M_1, M_2, \ldots) \) sebagai barisan penduga bagi \( \mu \).
Konsistensi \(\bs M\) tidak lain adalah hukum lemah bilangan besar. Selain itu, terdapat sejumlah kasus khusus penting dari . Lihat bagian mengenai rata-rata sampel untuk perinciannya.
Kasus-kasus khusus rata-rata sampel
Subbagian ini meninjau kembali beberapa hasil yang diperoleh dalam bagian mengenai varians sampel. Kita juga mengasumsikan bahwa momen pusat keempat \(\sigma_4 = \E\left[(X - \mu)^4\right]\) berhingga. Ingat bahwa \(\sigma_4 / \sigma^4\) adalah kurtosis \(X\). Ingat pula bahwa jika \(\mu\) diketahui (hampir selalu merupakan asumsi artifisial), penduga alami bagi \(\sigma^2\) adalah suatu versi khusus varians sampel, yang didefinisikan oleh \[ W_n^2 = \frac{1}{n} \sum_{i=1}^n (X_i - \mu)^2, \quad n \in \N_+ \]
Sifat-sifat \( \bs W^2 = (W_1^2, W_2^2, \ldots) \) sebagai barisan penduga bagi \( \sigma^2 \).
Jika \(\mu\) tidak diketahui (asumsi yang lebih masuk akal), penduga alami bagi varians distribusi adalah versi standar varians sampel, yang didefinisikan oleh \[ S_n^2 = \frac{1}{n - 1} \sum_{i=1}^n (X_i - M_n)^2, \quad n \in \{2, 3, \ldots\} \]
Sifat-sifat \( \bs S^2 = (S_2^2, S_3^2, \ldots) \) sebagai barisan penduga bagi \( \sigma^2 \).
Secara alami, kita ingin membandingkan barisan \( \bs W^2 \) dan \( \bs S^2 \) sebagai penduga bagi \( \sigma^2 \). Namun, ingat kembali bahwa \( \bs W^2 \) hanya masuk akal jika \( \mu \) diketahui.
Perbandingan \( \bs W^2 \) dan \( \bs S^2 \)
Jadi, menurut bagian (a) dari , \(W_n^2\) lebih baik daripada \(S_n^2\) untuk \( n \in \{2, 3, \ldots\} \), dengan asumsi bahwa \(\mu\) diketahui sehingga kita benar-benar dapat menggunakan \(W_n^2\). Hal ini mungkin tidak mengejutkan, tetapi menurut bagian (b), \(S_n^2\) bekerja hampir sebaik \(W_n^2\) untuk ukuran sampel \( n \) yang besar. Tentu saja, simpangan baku sampel \(S_n\) merupakan penduga alami bagi simpangan baku distribusi \(\sigma\). Sayangnya, penduga ini berbias. Berikut hasil yang lebih umum:
Andaikan \( \theta \) adalah parameter dengan nilai yang mungkin dalam \(T \subseteq (0, \infty) \), dan \( U \) adalah statistik dengan nilai dalam \( [0, \infty) \). Jika \( U^2 \) merupakan penduga tak bias bagi \( \theta^2 \), maka \( U \) merupakan penduga berbias negatif bagi \( \theta \).
Perhatikan bahwa \[ \var(U) = \E(U^2) - [\E(U)]^2 = \theta^2 - [\E(U)]^2, \quad \theta \in T \] Karena \( T \) hanya memuat nilai parameter positif dan \( U \) bernilai nonnegatif, nilai harapannya juga nonnegatif. Selain itu, \( \var(U) \ge 0 \), sehingga \( [\E(U)]^2 \le \theta^2 \). Oleh karena itu, \( \E(U) \le \theta \) untuk setiap \( \theta \in T \).
Jadi, kita tidak seharusnya terlalu terpaku pada sifat tak bias. Bagi kebanyakan distribusi asal sampel, tidak akan ada statistik \(U\) dengan sifat bahwa \(U\) merupakan penduga tak bias bagi \(\sigma\) dan \(U^2\) merupakan penduga tak bias bagi \(\sigma^2\).
Dalam subbagian ini, kita meninjau kembali beberapa hasil yang diperoleh dalam bagian mengenai korelasi dan regresi.
Andaikan \( X \) dan \( Y \) adalah variabel acak bernilai riil untuk suatu eksperimen, sehingga \( (X, Y) \) memiliki distribusi bivariat pada \( \R^2 \). Misalkan \( \mu = \E(X)\) dan \( \sigma^2 = \var(X) \) masing-masing menyatakan rata-rata dan varians \( X \), serta \( \nu = \E(Y) \) dan \( \tau^2 = \var(Y) \) masing-masing menyatakan rata-rata dan varians \( Y \). Untuk parameter bivariat, misalkan \( \delta = \cov(X, Y) \) menyatakan kovarians distribusi dan \( \rho = \cor(X, Y) \) menyatakan korelasi distribusi. Kita juga memerlukan satu momen berorde lebih tinggi: misalkan \( \delta_2 = \E\left[(X - \mu)^2 (Y - \nu)^2\right] \), dan seperti biasa kita mengasumsikan bahwa semua parameter tersebut ada. Jadi, ruang parameter umumnya adalah \( \mu, \, \nu \in \R \), \( \sigma^2, \, \tau^2 \in (0, \infty) \), \( \delta \in \R \), dan \( \rho \in [-1, 1] \). Sekarang andaikan kita mengambil sampel dari distribusi \( (X, Y) \) untuk menghasilkan barisan variabel-variabel bebas \(\left((X_1, Y_1), (X_2, Y_2), \ldots\right)\), yang masing-masing memiliki distribusi \( (X, Y) \). Seperti biasa, kita tuliskan \(\bs{X}_n = (X_1, X_2, \ldots, X_n)\) dan \(\bs{Y}_n = (Y_1, Y_2, \ldots, Y_n)\); keduanya masing-masing merupakan sampel acak berukuran \(n\) dari distribusi \(X\) dan \(Y\). Karena sekarang kita memiliki dua variabel dasar, notasi kita perlu sedikit diperluas.
Jika \(\mu\) dan \(\nu\) diketahui (hampir selalu merupakan asumsi artifisial), penduga alami bagi kovarians distribusi \(\delta\) adalah suatu versi khusus kovarians sampel, yang didefinisikan oleh \[ W_n = W_n\left(\bs{X}, \bs{Y}\right) = \frac{1}{n} \sum_{i=1}^n (X_i - \mu)(Y_i - \nu), \quad n \in \N_+\]
Sifat-sifat \( \bs W = (W_1, W_2, \ldots) \) sebagai barisan penduga bagi \( \delta \).
Bukti ini sudah pernah kita kerjakan, tetapi begitu mendasar sehingga layak diulang. Perhatikan bahwa \( \bs W \) bersesuaian dengan pengambilan sampel dari distribusi \( (X - \mu) (Y - \nu) \). Distribusi ini memiliki rata-rata \( \delta \) dan varians \( \delta_2 - \delta^2 \), sehingga hasil-hasil tersebut segera mengikuti dari .
Jika \(\mu\) dan \(\nu\) tidak diketahui (yang biasanya merupakan asumsi lebih masuk akal), penduga alami bagi kovarians distribusi \(\delta\) adalah bentuk baku kovarians sampel, yang didefinisikan oleh \[ S_n = S_n(\bs X , \bs Y) = \frac{1}{n - 1} \sum_{i=1}^n [X_i - M_n(\bs X)][Y_i - M_n(\bs Y)], \quad n \in \{2, 3, \ldots\}\]
Sifat-sifat \( \bs S = (S_2, S_3, \ldots) \) sebagai barisan penduga bagi \( \delta \).
Sekali lagi, karena kita memiliki dua barisan penduga yang bersaing bagi \( \delta \), kita ingin membandingkan keduanya.
Perbandingan \(\bs W\) dan \(\bs S\) sebagai penduga bagi \(\delta\):
Jadi, \(W_n\) lebih baik daripada \(S_n\) untuk \( n \in \{2, 3, \ldots\} \), dengan asumsi bahwa \(\mu\) dan \( \nu \) diketahui sehingga kita benar-benar dapat menggunakan \(W_n\). Namun, untuk \( n \) besar, \(S_n\) bekerja hampir sama baiknya dengan \(W_n\).
Penduga alami bagi korelasi distribusi \(\rho\) adalah korelasi sampel \[ R_n = \frac{S_n (\bs X, \bs Y)}{S_n(\bs X) S_n(\bs Y)}, \quad n \in \{2, 3, \ldots\} \] Perhatikan bahwa statistik ini merupakan fungsi nonlinear dari kovarians sampel dan kedua simpangan baku sampel. Rasio di atas digunakan ketika hasil kali kedua simpangan baku sampel positif; ketika hasil kali itu nol, tetapkan statistiknya bernilai 0. Karena kedua varians sampel konvergen hampir pasti menuju varians distribusi yang positif, definisi pada kejadian berpenyebut nol ini tidak memengaruhi limit. Untuk sebagian besar distribusi \((X, Y)\), hampir mustahil menghitung bias atau galat kuadrat rata-rata penduga ini. Jika kita dapat menghitung nilai harapannya, kemungkinan besar kita akan mendapati bahwa penduga ini berbias. Di sisi lain, meskipun kita tidak dapat menghitung galat kuadrat rata-ratanya, penerapan sederhana hukum bilangan besar menunjukkan bahwa \(R_n \to \rho\) ketika \(n \to \infty\) dengan probabilitas 1. Jadi, \( \bs R = (R_2, R_3, \ldots) \) setidaknya konsisten.
Ingat bahwa garis regresi distribusi, dengan \(X\) sebagai variabel prediktor dan \(Y\) sebagai variabel respons, adalah \(y = a + b \, x\), dengan \[ a = \E(Y) - \frac{\cov(X, Y)}{\var(X)} \E(X), \quad b = \frac{\cov(X, Y)}{\var(X)} \] Di sisi lain, garis regresi sampel berdasarkan sampel berukuran \( n \in \{2, 3, \ldots\} \) adalah \(y = A_n + B_n x\), dengan \[ A_n = M_n(\bs Y) - \frac{S_n(\bs X, \bs Y)}{S_n^2(\bs X )} M_n(\bs X), \quad B_n = \frac{S_n(\bs X, \bs Y)}{S_n^2(\bs X)} \] Tentu saja, statistik \(A_n\) dan \(B_n\) masing-masing merupakan penduga alami bagi parameter \(a\) dan \(b\), dan dalam arti tertentu diturunkan dari penduga-penduga kita sebelumnya bagi rata-rata, varians, dan kovarians distribusi. Rumus di atas digunakan ketika varians sampel prediktor positif; ketika varians itu nol, tetapkan kedua statistik pada nilai tetap yang sembarang. Karena varians sampel prediktor konvergen hampir pasti menuju varians distribusi yang positif, definisi pada kejadian berpenyebut nol ini tidak memengaruhi limit. Sekali lagi, untuk sebagian besar distribusi \((X, Y)\), bias dan galat kuadrat rata-rata penduga-penduga ini sulit dihitung. Namun, penerapan hukum bilangan besar menunjukkan bahwa, dengan probabilitas 1, \( A_n \to a \) dan \( B_n \to b \) ketika \( n \to \infty \). Jadi, setidaknya \( \bs A = (A_2, A_3, \ldots) \) dan \( \bs B = (B_2, B_3, \ldots) \) konsisten.
Mari kita bahas sebuah contoh sederhana yang menggambarkan beberapa gagasan di atas. Ingat bahwa distribusi Poisson dengan parameter \(\lambda \in (0, \infty)\) memiliki fungsi kepadatan probabilitas \(g\) yang diberikan oleh
\[ g(x) = e^{-\lambda} \frac{\lambda^x}{x!}, \quad x \in \N \]
Distribusi Poisson sering digunakan untuk memodelkan banyaknya titik
acak dalam suatu wilayah waktu atau ruang, khususnya dalam konteks proses Poisson. Parameter \(\lambda\) sebanding dengan ukuran wilayah waktu atau ruang tersebut; konstanta kesebandingannya adalah laju rata-rata titik-titik acak. Distribusi ini dinamai menurut Simeon Poisson.
Misalkan \(X\) berdistribusi Poisson dengan parameter \(\lambda\). Maka
Ingat notasi permutasi \( x^{(n)} = x (x - 1) \cdots (x - n + 1) \) untuk \( x \in \R \) dan \( n \in \N \). Nilai harapan \( \E[X^{(n)}] \) adalah momen faktorial \( X \) berorde \( n \). Mudah dilihat bahwa momen-momen faktorialnya adalah \( \E\left[X^{(n)}\right] = \lambda^n \) untuk \( n \in \N \). Hasil-hasil di atas mengikuti fakta ini.
Sekarang, misalkan kita mengambil sampel dari distribusi \( X \) untuk menghasilkan barisan variabel acak independen \( \bs{X} = (X_1, X_2, \ldots) \), yang masing-masing berdistribusi Poisson dengan parameter tak diketahui \( \lambda \in (0, \infty) \). Sekali lagi, \(\bs{X}_n = (X_1, X_2, \ldots, X_n)\) merupakan sampel acak berukuran \(n \in \N_+\) dari distribusi tersebut untuk setiap \( n \in \N_+ \). Dari latihan sebelumnya, \(\lambda\) merupakan rata-rata sekaligus varians distribusi, sehingga kita dapat menggunakan rata-rata sampel \(M_n\) atau varians sampel \(S_n^2\) sebagai penduga bagi \(\lambda\). Keduanya tak bias, jadi manakah yang lebih baik? Secara alami, kita menggunakan galat kuadrat rata-rata sebagai kriteria.
Perbandingan \(\bs M\) dengan \(\bs S^2\) sebagai penduga bagi \(\lambda\).
Jadi, kesimpulan kita adalah bahwa rata-rata sampel \(M_n\) merupakan penduga yang lebih baik bagi parameter \(\lambda\) daripada varians sampel \(S_n^2\) untuk \( n \in \{2, 3, \ldots\} \), dan perbedaan kualitasnya meningkat bersama \( \lambda \).
Jalankan eksperimen Poisson sebanyak 100 kali untuk beberapa nilai parameter. Dalam setiap kasus, hitung penduga \(M\) dan \(S^2\). Penduga mana yang tampaknya bekerja lebih baik?
Emisi partikel elementer dari suatu sampel bahan radioaktif dalam selang waktu tertentu sering diasumsikan mengikuti distribusi Poisson. Oleh karena itu, misalkan himpunan data emisi alfa merupakan sampel dari distribusi Poisson. Duga parameter laju \(\lambda\).
Dalam eksperimen rata-rata sampel, tetapkan distribusi asal sampel menjadi gamma. Tingkatkan ukuran sampel dengan bilah geser dan amati secara grafis maupun numerik sifat tak bias dan konsistennya. Jalankan eksperimen sebanyak 1.000 kali dan bandingkan rata-rata sampel dengan rata-rata distribusi.
Jalankan eksperimen pendugaan pada distribusi normal sebanyak 1.000 kali untuk beberapa nilai parameter.
Dalam eksperimen pencocokan, variabel acaknya adalah banyaknya kecocokan. Jalankan simulasi sebanyak 1.000 kali dan bandingkan
Jalankan eksperimen eksponensial sebanyak 1.000 kali dan bandingkan simpangan baku sampel dengan simpangan baku distribusi.
Untuk data kelajuan cahaya Michelson, hitung rata-rata sampel dan varians sampel.
852.4, 6242.67
Untuk data densitas Bumi Cavendish, hitung rata-rata sampel dan varians sampel.
5.448, 0.048817
Untuk data paralaks matahari Short, hitung rata-rata sampel dan varians sampel.
8.616, 0.561032
Pertimbangkan data Cicada.
Pertimbangkan data M&M.
Pertimbangkan data tinggi badan Pearson.
Penduga rata-rata, varians, dan kovarians yang telah kita bahas dalam bagian ini dapat dianggap alami dalam arti tertentu. Namun, untuk parameter lain, belum tentu jelas cara menemukan penduga yang masuk akal. Dalam beberapa bagian berikutnya, kita akan membahas masalah konstruksi penduga. Setelah itu, kita kembali mempelajari sifat-sifat matematis penduga dan menelaah kapan kita dapat mengetahui bahwa suatu penduga adalah yang terbaik untuk data yang diberikan.