Keputusan statistik dan ukuran mutu
Satu prosedur tidak dapat disebut “terbaik” sebelum kita menentukan kerugian apa yang dihitung dan kelas pesaing apa yang diizinkan. Varians saja tidak cukup ketika penduga bias; ketakbiasan saja tidak cukup ketika kerugian bukan kuadratik; dan UMVU bukan sinonim dari admisibel. Bab ini membangun bahasa keputusan yang memisahkan klaim-klaim tersebut, lalu membuktikan dua hasil perbaikan utama: Rao–Blackwell dan Lehmann–Scheffé.
Donor satu halaman Random menyediakan simpul rujukan untuk kecukupan, kelengkapan, dan teorema terkait Statistik Cukup, Lengkap, dan Ancillary. Uraian, bukti, serta contoh di sini ditulis secara orisinal dan menghubungkan hasil itu dengan kerugian dan risiko; prosa donor tidak disalin.
Aturan keputusan, kerugian, dan risiko
Misalkan \(X\sim P_\theta\), ruang tindakan \(\mathcal A\), dan aturan keputusan \(\delta:\mathcal X\to\mathcal A\). Fungsi kerugian
menilai kerugian ketika parameter sebenarnya \(\theta\) dan tindakan yang diambil \(a\). Risiko frekuentis aturan \(\delta\) adalah fungsi parameter
selama ekspektasi terdefinisi. Risiko adalah fungsi, bukan satu angka. Dua aturan dapat memiliki urutan yang berbeda pada dua nilai \(\theta\), sehingga pernyataan “risiko lebih kecil” harus menyebut apakah berlaku pada satu titik, rata-rata terhadap prior, atau seragam untuk semua \(\theta\).
Untuk pendugaan \(g(\theta)\) dengan tindakan bernilai riil, kerugian kuadratik ialah
dan risikonya sama dengan rataan kuadrat galat (MSE):
Pengujian pada Uji teracak, ukuran, dan daya juga merupakan masalah keputusan, dengan tindakan “tolak” atau “jangan tolak”. Namun optimalitas Neyman–Pearson mengendalikan risiko galat tipe I melalui kendala aras dan kemudian mengoptimalkan daya uji; hal itu tidak serta-merta menghasilkan solusi Bayes bagi masalah keputusan tanpa kendala dengan suatu fungsi kerugian.
Bias, varians, dan MSE
Tuliskan
Penduga tak bias memenuhi \(b_\delta(\theta)=0\) untuk setiap \(\theta\) yang sedang dibahas.
Dekomposisi bias–varians
Jika \(E_\theta\delta^2<\infty\), maka
Bukti
Tambahkan dan kurangkan \(m_\delta(\theta)\):
Setelah dikuadratkan dan diambil ekspektasinya, suku silang menghilang karena \(E_\theta\{\delta-m_\delta(\theta)\}=0\). Dua suku yang tersisa adalah varians dan kuadrat bias. ∎
Identitas ini menunjukkan kesalahan umum: penduga bias dengan varians kecil belum tentu mempunyai MSE kecil, sedangkan penduga dengan varians lebih besar dapat mempunyai MSE lebih kecil jika bias pesaing cukup besar.
Contoh risiko yang bersilangan: penyusutan rataan distribusi Normal
Misalkan \(X_1,\ldots,X_n\) iid \(N(\theta,\sigma^2)\) dengan \(\sigma\) diketahui, dan bandingkan \(\bar X\) dengan \(\delta_c=c\bar X\) untuk \(0<c<1\). Di bawah kerugian kuadratik untuk \(g(\theta)=\theta\),
sedangkan
Penyusutan lebih baik tepat ketika
dan lebih buruk untuk \(|\theta|\) yang cukup besar. Jadi “lebih baik di sekitar nol” tidak sama dengan mendominasi seragam. Contoh ini juga memperlihatkan mengapa pembandingan varians saja menyesatkan: bias \((c-1)\theta\) berubah bersama parameter.
Efisiensi: selalu relatif terhadap pembanding
Untuk dua penduga dari target yang sama di bawah kerugian kuadratik, efisiensi MSE berpasangan dapat didefinisikan sebagai
bila penyebut positif. Nilai di atas satu berarti \(\delta_1\) mempunyai MSE lebih kecil pada titik \(\theta\) itu. Nilainya umumnya bergantung pada \(\theta\); satu angka efisiensi tidak lengkap jika kelas pembanding, kerugian, serta nilai parameter atau rezim asimtotik yang digunakan tidak dinyatakan.
Dalam kelas penduga tak bias reguler, batas Cramér–Rao memberi pembanding intrinsik. “Efisien” dalam arti klasik berarti mencapai batas yang sah, bukan sekadar mempunyai varians terkecil di antara dua kandidat yang kebetulan diperiksa.
Asumsi untuk batas informasi
Untuk parameter skalar, andaikan \(p_\theta(x)\) mempunyai himpunan dukungan bersama, diferensiabel terhadap \(\theta\), dan diferensiasi dapat dipertukarkan dengan integrasi untuk normalisasi serta untuk \(E_\theta\delta\). Definisikan fungsi skor
dengan \(E_\theta U_\theta=0\) dan informasi \(I(\theta)=E_\theta U_\theta^2\in(0,\infty)\). Asumsi himpunan dukungan bersama dan pertukaran integral tidak boleh dihapus; model nonreguler dapat melanggar batas berikut.
Batas Cramér–Rao dalam bentuk umum
Jika \(m_\delta(\theta)=E_\theta\delta(X)\) terdiferensialkan di bawah integral dan \(\operatorname{Var}_\theta(\delta)<\infty\), maka
Khusus untuk penduga tak bias dari \(g(\theta)\),
Bukti
Pertukaran turunan dan integral memberi
karena \(E_\theta U_\theta=0\). Ketaksamaan Cauchy–Schwarz menghasilkan
Bagi dengan \(I(\theta)>0\). Jika \(m_\delta=g\), bentuk tak bias langsung mengikuti. ∎
Kesamaan hanya mungkin bila, hampir pasti, \(\delta-E_\theta\delta\) sebanding dengan fungsi skor. Bahkan ketika batas tercapai pada satu \(\theta\), perlu diperiksa apakah satu penduga yang sama mencapai batas untuk seluruh ruang parameter.
Contoh efisiensi eksak: proporsi Bernoulli
Untuk \(X_i\) iid Bernoulli\((p)\), fungsi skor sampel adalah
dan \(I_n(p)=n/[p(1-p)]\). Karena \(g(p)=p\) mempunyai \(g'(p)=1\), batas Cramér–Rao untuk penduga tak bias adalah \(p(1-p)/n\). Penduga \(\bar X\) mempunyai tepat varians tersebut, sehingga efisien dalam kelas tak bias reguler ini. Pernyataan tersebut tidak membandingkan \(\bar X\) dengan semua penduga bias di bawah setiap fungsi kerugian.
Kecukupan sebagai syarat reduksi yang tidak kehilangan informasi
Statistik \(T\) cukup bila distribusi bersyarat \(X\) dengan syarat \(T=t\) dapat dipilih tanpa bergantung pada \(\theta\). Definisi donor berada pada Definisi statistik cukup, dan bentuk faktorisasi yang berguna untuk membuktikan kecukupan berada pada Teorema faktorisasi Fisher–Neyman.
Pokok penting dalam kerangka keputusan ialah ini: bila kernel bersyarat \(Q_t(dx)=P_\theta(X\in dx\mid T=t)\) tidak bergantung pada \(\theta\), maka
adalah fungsi dari \(t\) yang dapat dipilih sama untuk semua \(\theta\). Tanpa kecukupan, \(E_\theta(\delta\mid T=t)\) dapat bergantung pada parameter yang tidak diketahui dan karenanya tidak mendefinisikan penduga yang dapat dihitung dari data saja.
Teorema Rao–Blackwell untuk kerugian konveks
Misalkan \(T\) cukup, ruang tindakan konveks, \(\delta\) terintegralkan secara bersyarat, dan \(a\mapsto L(\theta,a)\) konveks untuk setiap \(\theta\). Definisikan
menggunakan kernel bersyarat yang bebas dari \(\theta\) berdasarkan kecukupan. Bila kedua risiko terdefinisi, maka
Ini adalah formulasi keputusan dari hasil yang ditautkan pada donor Teorema Rao–Blackwell.
Bukti
Untuk setiap \(\theta\), terapkan ketaksamaan Jensen secara bersyarat:
Ambil ekspektasi terhadap distribusi \(T\) di bawah \(P_\theta\). Sisi kiri menjadi \(R(\theta,\delta^*)\) dan sisi kanan menjadi \(R(\theta,\delta)\). Karena fungsi \(\delta^*(t)\) tidak bergantung pada \(\theta\), ia merupakan aturan yang sah untuk seluruh model. ∎
Identitas Rao–Blackwell untuk kerugian kuadratik
Untuk target \(g(\theta)\) dan \(E_\theta\delta^2<\infty\),
Dengan demikian perbaikannya eksak, bukan sekadar ketaksamaan.
Bukti
Tulis
Suku silang mempunyai ekspektasi nol karena
Ekspansi kuadrat memberi identitas. Jika \(P_\theta\{\operatorname{Var}_\theta(\delta\mid T)>0\}>0\), suku tambahan positif sehingga \(R(\theta,\delta^*)<R(\theta,\delta)\) pada nilai parameter itu. ∎
Jika \(\delta\) tak bias, hukum nilai harapan iteratif menunjukkan \(\delta^*\) juga tak bias. Namun Teorema Rao–Blackwell untuk kerugian konveks tidak memerlukan ketakbiasan: yang diperlukan untuk kerugian umum ialah konveksitas dan eksistensi ekspektasi.
Contoh Rao–Blackwell: dari satu Bernoulli ke proporsi sampel
Untuk \(X_1,\ldots,X_n\) iid Bernoulli\((p)\), \(S=\sum_iX_i\) cukup karena fungsi kemungkinan bergantung pada data melalui \(S\). Penduga kasar \(\delta=X_1\) tak bias untuk \(p\). Dengan syarat \(S=s\), karena semua indeks sampel bersifat simetris, diperoleh
yang tidak bergantung pada \(p\). Jadi penduga Rao–Blackwell adalah \(\delta^*=S/n=\bar X\). Di bawah kerugian kuadratik,
Untuk \(n>1\) dan \(0<p<1\), perbaikannya ketat. Ini adalah contoh dominasi risiko yang benar-benar berlaku pada seluruh ruang parameter, bukan hanya pada satu titik.
Kelengkapan
Statistik \(T\) disebut lengkap bagi keluarga \(\{P_\theta\}\) bila, untuk setiap fungsi terukur \(h\) yang terintegralkan,
Simpul definisi donor adalah Definisi statistik lengkap. Kecukupan mengatakan bahwa pengondisian pada \(T\) tidak membuang informasi parameter; kelengkapan mengatakan bahwa tidak ada fungsi taknol dari \(T\) yang mempunyai rataan nol pada seluruh keluarga. Kedua sifat berbeda dan keduanya diperlukan dalam teorema berikut.
Teorema Lehmann–Scheffé
Misalkan \(T\) cukup dan lengkap. Jika \(U=u(T)\) mempunyai momen kedua hingga dan tak bias untuk \(g(\theta)\), maka \(U\) adalah penduga tak bias dengan varians minimum seragam (UMVU) bagi \(g(\theta)\). Ia juga merupakan satu-satunya penduga tak bias berbasis \(T\), hingga kesamaan hampir pasti untuk setiap \(\theta\).
Hasil donor yang dirujuk adalah Teorema Lehmann–Scheffé. Bukti berikut menampilkan secara eksplisit tempat Rao–Blackwell dan kelengkapan dipakai.
Bukti
Ambil sembarang penduga tak bias \(V\) untuk \(g(\theta)\) dengan momen kedua hingga. Karena \(T\) cukup, bentuk Rao–Blackwell
adalah fungsi \(T\) yang tidak bergantung pada \(\theta\), tetap tak bias, dan memenuhi $\operatorname{Var}\theta(V^*)\leq \operatorname{Var}\theta(V)\( untuk setiap \)\theta$.
Sekarang \(V^*-U\) adalah fungsi \(T\) dan
untuk semua \(\theta\). Kelengkapan memaksa \(V^*=U\) hampir pasti. Maka
untuk setiap \(\theta\), sehingga \(U\) adalah UMVU. Jika \(V\) sendiri merupakan fungsi \(T\), maka \(V^*=V\) dan kelengkapan langsung memberi \(V=U\) hampir pasti; ini membuktikan ketunggalan dalam kelas tersebut. ∎
Contoh lengkap: Bernoulli dan UMVU untuk \(p\)
Kembali ke \(S\sim\operatorname{Binomial}(n,p)\). Untuk membuktikan kelengkapan, andaikan \(E_p h(S)=0\) bagi setiap \(0<p<1\). Maka
Bagi dengan \((1-p)^n\) dan letakkan \(z=p/(1-p)>0\):
Polinomial yang nol pada sebuah interval mempunyai semua koefisien nol; karena \({n\choose s}>0\), diperoleh \(h(s)=0\) untuk setiap \(s\). Jadi \(S\) lengkap. Karena \(S\) juga cukup dan \(S/n\) tak bias untuk \(p\), Teorema Lehmann–Scheffé menunjukkan bahwa \(S/n\) adalah UMVU. Contoh ini menyatukan tiga fakta yang berbeda:
- Identitas Rao–Blackwell untuk kerugian kuadratik memperbaiki \(X_1\) menjadi \(S/n\);
- kelengkapan membuktikan ketunggalan fungsi tak bias dari \(S\); dan
- batas informasi pada Contoh efisiensi eksak: proporsi Bernoulli menunjukkan bahwa variansnya juga mencapai batas Cramér–Rao.
Tidak satu pun fakta itu boleh disimpulkan hanya dari dua fakta lain tanpa memeriksa asumsi masing-masing.
Contoh lengkap: Poisson dan UMVU untuk \(e^{-\lambda}\)
Misalkan \(X_1,\ldots,X_n\) iid Poisson\((\lambda)\) dengan \(n\geq2\), dan \(S=\sum_iX_i\sim\operatorname{Poisson}(n\lambda)\). Faktorisasi fungsi kemungkinan menunjukkan bahwa \(S\) cukup. Untuk kelengkapan, andaikan \(E_\lambda|h(S)|<\infty\) dan \(E_\lambda h(S)=0\) untuk setiap \(\lambda>0\). Setelah dikalikan dengan \(e^{n\lambda}\),
Integrabilitas absolut untuk semua \(\lambda>0\) membuat deret pangkat ini konvergen untuk setiap argumen positif. Ketunggalan koefisien deret pangkat memberi \(h(s)=0\) untuk semua \(s\), jadi \(S\) lengkap.
Gunakan fungsi pembangkit probabilitas Poisson:
Karena \(U=(1-1/n)^S\) adalah fungsi dari statistik yang cukup dan lengkap serta tak bias untuk \(e^{-\lambda}\), ia UMVU menurut Teorema Lehmann–Scheffé. Kita tidak perlu menebak semua penduga tak bias lain lalu membandingkan varians satu per satu.
Teorema Basu: pemisahan informasi dan variasi statistik tambahan
Statistik \(A\) disebut statistik tambahan (ancillary) bila distribusinya tidak bergantung pada \(\theta\) Definisi statistik ancillary. Jika \(T\) cukup dan lengkap serta \(A\) merupakan statistik tambahan, maka \(T\) dan \(A\) independen; simpul donor untuk hasil ini adalah Teorema Basu.
Bukti untuk fungsi terbatas
Ambil fungsi terbatas \(q(A)\). Kecukupan membuat
dapat dipilih sebagai fungsi \(T\) yang sama untuk semua \(\theta\): suku pertama menggunakan kernel bersyarat bebas-\(\theta\), sedangkan suku kedua konstan terhadap \(\theta\) karena \(A\) merupakan statistik tambahan. Hukum nilai harapan iteratif memberi \(E_\theta h(T)=0\) untuk semua \(\theta\). Kelengkapan memaksa \(h(T)=0\) hampir pasti, sehingga
Karena identitas ini berlaku untuk semua fungsi indikator terbatas \(q(A)=\mathbf1\{A\in B\}\), distribusi bersyarat \(A\) ketika \(T\) diketahui sama dengan distribusi marginalnya; itulah independensi. ∎
Teorema Basu bukan langkah yang dibutuhkan dalam bukti Teorema Lehmann–Scheffé. Ia berguna sebagai pemeriksaan struktur: statistik yang lengkap dan cukup membawa informasi parameter, sedangkan variasi statistik tambahan dapat dipisahkan darinya di bawah asumsi teorema.
Dominasi dan admisibilitas
Untuk fungsi kerugian yang telah ditetapkan, aturan \(\delta_1\) mendominasi \(\delta_0\) bila
dengan pertidaksamaan ketat untuk sedikitnya satu \(\theta\). Aturan \(\delta_0\) inadmisibel bila ada aturan yang mendominasinya, dan admisibel bila tidak ada.
Definisi ini selalu relatif terhadap ruang parameter, ruang tindakan, kerugian, dan kelas aturan. Mengubah salah satunya dapat mengubah status admisibilitas.
Klaim admisibilitas yang memang didukung di sini
Di bawah asumsi Teorema Rao–Blackwell untuk kerugian konveks, hasil Rao–Blackwell menunjukkan \(R(\theta,\delta^*)\leq R(\theta,\delta)\) untuk semua \(\theta\). Jika ketaksamaan ketat pada sedikitnya satu titik, maka \(\delta\) inadmisibel karena didominasi oleh \(\delta^*\).
Tidak ada kesimpulan umum bahwa \(\delta^*\) sendiri admisibel. Demikian pula, Lehmann–Scheffé membuktikan bahwa \(U\) mempunyai varians minimum di antara penduga tak bias di bawah kerugian kuadratik. Ia tidak membandingkan \(U\) dengan seluruh penduga bias. Oleh sebab itu
tanpa teorema tambahan. Bab ini tidak mengklaim admisibilitas global bagi \(S/n\), \((1-1/n)^S\), atau penduga efisien lain. Pembuktiannya harus menyingkirkan kemungkinan dominasi oleh setiap aturan pesaing dalam kelas yang dinyatakan, bukan hanya penduga tak bias atau penduga yang sudah diperiksa.
Kesalahan penalaran yang perlu dihindari
- “Varians lebih kecil berarti lebih baik.” Salah untuk penduga bias di bawah kerugian kuadratik; gunakan MSE pada Dekomposisi bias–varians.
- “Rao–Blackwell selalu dapat dihitung tanpa parameter.” Salah bila statistik pengondisi tidak cukup; ekspektasi bersyarat dapat mengandung \(\theta\) yang tidak diketahui.
- “Cukup berarti lengkap.” Kedua sifat berbeda. Kecukupan memberi reduksi data; kelengkapan memberi ketunggalan fungsi dengan rataan nol.
- “Rao–Blackwell memerlukan penduga awal tak bias.” Tidak untuk kerugian konveks. Ketakbiasan diperlukan ketika tujuan khususnya UMVU.
- “Mencapai batas Cramér–Rao berarti terbaik dalam segala arti.” Batas itu bergantung pada syarat keteraturan dan biasanya pada kelas tak bias; model dengan himpunan dukungan berubah atau penduga bias memerlukan analisis lain.
- “UMVU berarti admisibel.” Kesimpulan itu tidak diberikan oleh Teorema Lehmann–Scheffé.
- “Basu membuktikan optimalitas penduga.” Teorema Basu menyatakan bahwa statistik yang lengkap dan cukup independen dari statistik tambahan; teorema itu tidak membandingkan risiko.
Pemeriksaan mandiri terjawab
A. Mengapa \(E(V\mid T)\) tetap tak bias bila \(V\) tak bias?
Dengan hukum nilai harapan iteratif,
Kecukupan memastikan versi ekspektasi bersyarat itu dapat dipakai sebagai satu fungsi \(T\) yang tidak mengandung parameter tak diketahui.
B. Kapan perbaikan Rao–Blackwell kuadratik sama dengan nol?
Menurut Identitas Rao–Blackwell untuk kerugian kuadratik, selisih risiko adalah \(E_\theta(\delta-\delta^*)^2=E_\theta\operatorname{Var}(\delta\mid T)\). Ia nol tepat ketika \(\delta\) sudah merupakan fungsi dari \(T\) hampir pasti di bawah \(P_\theta\).
C. Mengapa bukti Lehmann–Scheffé tidak berhenti setelah Rao–Blackwell?
Rao–Blackwell hanya mengatakan bahwa \(V^*\), suatu fungsi \(T\), tidak lebih buruk daripada \(V\). Masih mungkin ada banyak fungsi tak bias dari \(T\). Kelengkapan memaksa selisih dua fungsi tak bias itu nol dan mengidentifikasi \(V^*\) dengan \(U\).
D. Apakah penduga penyusutan pada Contoh risiko yang bersilangan: penyusutan rataan distribusi Normal mendominasi \(\bar X\)?
Tidak. Risiko penyusutan lebih kecil dekat \(\theta=0\) tetapi lebih besar ketika \(|\theta|\) melewati ambang yang diturunkan. Dominasi memerlukan ketaksamaan yang benar untuk setiap \(\theta\).
Alur kerja pemilihan penduga
- Nyatakan target \(g(\theta)\), ruang tindakan, dan kerugian.
- Hitung fungsi risiko; untuk kerugian kuadratik, pisahkan bias dan varians.
- Jika mengklaim efisiensi, nyatakan kelas pembanding dan periksa syarat keteraturan batas informasi.
- Cari statistik cukup dengan definisi atau faktorisasi yang sah.
- Kondisikan kandidat pada statistik cukup dan hitung pengurangan risiko secara eksak jika mungkin.
- Jika mengklaim UMVU, buktikan kelengkapan dan ketakbiasan, lalu terapkan Lehmann–Scheffé.
- Jika mengklaim admisibilitas, lakukan pembandingan terhadap seluruh kelas aturan yang dinyatakan. Jangan mengganti langkah ini dengan label UMVU atau “efisien”.
- Catat himpunan dukungan yang berubah, momen tak hingga, kerugian nonkonveks, atau kernel bersyarat yang bergantung parameter sebagai kegagalan asumsi, bukan sebagai detail yang dapat diabaikan.
Ringkasan
- Risiko mengikat mutu prosedur pada parameter dan kerugian yang eksplisit.
- MSE sama dengan varians ditambah kuadrat bias.
- Cramér–Rao memberi batas efisiensi hanya di bawah syarat keteraturan yang sesuai.
- Rao–Blackwell memakai kecukupan dan konveksitas untuk tidak menaikkan risiko; pada kerugian kuadratik, besarnya perbaikan adalah nilai harapan varians bersyarat.
- Kelengkapan mengubah reduksi Rao–Blackwell menjadi ketunggalan, sehingga penduga tak bias berbasis statistik yang cukup dan lengkap menjadi UMVU.
- Basu memisahkan statistik yang lengkap dan cukup dari statistik tambahan, tetapi bukan teorema optimalitas risiko.
- Dominasi dalam kelas penuh, UMVU dalam kelas tak bias, dan admisibilitas adalah tiga klaim berbeda.
Materi ini adalah prosa orisinal CC BY-SA 4.0. Rujukan donor memakai ID stabil untuk navigasi dan atribusi, bukan untuk menyamarkan atau menggandakan prosa sumber.