O006-C140-CMP-D006 · id-ID · CC BY-SA 4.0 · OpenAI Codex gpt-5.6-sol, Ultra

Optimalitas pengujian

Bab ini menjawab pertanyaan yang lebih tajam daripada “apakah suatu uji masuk akal?”: di antara semua uji dengan peluang galat tipe I yang sama, adakah uji yang mempunyai daya terbesar? Untuk dua hipotesis sederhana, lemma Neyman–Pearson memberi jawaban lengkap. Untuk hipotesis komposit, jawaban itu tidak otomatis berlaku; urutan rasio fungsi kemungkinan monoton (MLR) memberi satu jalur yang sah menuju uji UMP satu sisi.

Randomisasi bukan hiasan teknis. Pada model diskret, batas aras $\alpha$ sering jatuh di antara dua probabilitas ekor. Randomisasi pada himpunan tempat rasio fungsi kemungkinan tepat sama dengan ambang memungkinkan ukuran eksak tanpa mengubah susunan bukti optimalitas.

Uji teracak, ukuran, dan daya

Misalkan data $$X$$ mempunyai distribusi $P_\theta$ pada ruang sampel $(\mathcal X,\mathcal A)$ . Uji teracak adalah fungsi terukur

\varphi:\mathcal X\longrightarrow[0,1].

Setelah $$X=x$$ diamati, nilai $\varphi(x)$ adalah probabilitas menolak $$H_0$$ . Implementasi operasionalnya dapat memakai $U\sim\operatorname{Unif}(0,1)$ yang independen dari $$X$$ : tolak bila $U\leq\varphi(X)$ . Uji biasa adalah kasus $\varphi(x)\in\{0,1\}$ .

Fungsi daya uji ialah

\beta_\varphi(\theta)=E_\theta\{\varphi(X)\}=P_\theta(\text{menolak }H_0).

Untuk $H_0:\theta\in\Theta_0$ , ukuran adalah

\operatorname{size}(\varphi) =\sup_{\theta\in\Theta_0}\beta_\varphi(\theta).

Uji beraras $\alpha$ memenuhi $\operatorname{size}(\varphi)\leq\alpha$ . Jika supremum itu sama dengan $\alpha$ , uji mempunyai ukuran eksak $\alpha$ . Untuk hipotesis nol sederhana $H_0:\theta=\theta_0$ , ukuran hanyalah $E_{\theta_0}\varphi$ .

MP dan UMP: kuantor yang berbeda

Untuk pasangan sederhana $H_0:\theta=\theta_0$ melawan $H_1:\theta=\theta_1$ , uji $\varphi^*$ disebut paling berdaya (most powerful, MP) beraras $\alpha$ bila, untuk setiap uji $\varphi$ dengan $E_{\theta_0}\varphi\leq\alpha$ ,

E_{\theta_1}\varphi\leq E_{\theta_1}\varphi^*.

Untuk alternatif komposit $\Theta_1$ , uji $\varphi^*$ disebut paling berdaya seragam (uniformly most powerful, UMP) beraras $\alpha$ bila satu uji yang sama memenuhi

\beta_\varphi(\theta)\leq\beta_{\varphi^*}(\theta) \quad\text{untuk setiap }\theta\in\Theta_1

dan untuk setiap pesaing beraras $\alpha$ . Menjadi MP terhadap satu titik alternatif tidak cukup untuk menjadi UMP. Kata seragam mengacu pada kuantor “untuk setiap $\theta\in\Theta_1$ ”, bukan pada kerataan fungsi daya.

Kerangka terdominasi untuk dua hipotesis sederhana

Ambil $$P_0$$ dan $$P_1$$ yang mempunyai densitas $$p_0$$ dan $$p_1$$ terhadap ukuran bersama $\mu$ . Definisikan rasio fungsi kemungkinan diperluas

\Lambda(x)= \begin{cases} p_1(x)/p_0(x),&p_0(x)>0,\\ +\infty,&p_0(x)=0<p_1(x),\\ 0,&p_0(x)=p_1(x)=0. \end{cases}

Nilai pada himpunan $$p_0=p_1=0$$ tidak berpengaruh. Konvensi $+\infty$ pada $$p_0=0<p_1$$ memastikan bahwa observasi yang mustahil di bawah $$P_0$$ tetapi mungkin di bawah $$P_1$$ selalu ditempatkan dalam daerah penolakan.

Untuk $0<\alpha<1$ , pilih $c\in[0,\infty)$ sehingga

P_0(\Lambda>c)\leq\alpha\leq P_0(\Lambda\geq c).

Pemilihan semacam itu adalah pemilihan kuantil distribusi $\Lambda$ di bawah $$P_0$$ . Bila $P_0(\Lambda=c)>0$ , tetapkan

\gamma= \frac{\alpha-P_0(\Lambda>c)}{P_0(\Lambda=c)}.

Kedua pertidaksamaan kuantil menjamin $0\leq\gamma\leq1$ . Bila $P_0(\Lambda=c)=0$ , ketaksamaan di atas memaksa $P_0(\Lambda>c)=\alpha$ dan nilai $\gamma$ tidak relevan.

Lemma Neyman–Pearson dengan randomisasi pada kesamaan

Dalam kerangka Kerangka terdominasi untuk dua hipotesis sederhana, definisikan

\varphi^*(x)= \mathbf 1\{\Lambda(x)>c\} +\gamma\mathbf 1\{\Lambda(x)=c\}.

Jika $E_0\varphi^*=\alpha$ , maka $\varphi^*$ adalah uji MP beraras $\alpha$ untuk $$H_0:P=P_0$$ melawan $$H_1:P=P_1$$ . Syarat kesamaan ukuran ini penting bagi kesimpulan optimalitas: sekadar mengetahui $E_0\varphi^*\leq\alpha$ tidak menutup kemungkinan bahwa sisa ukuran dapat ditempatkan pada lapisan rasio fungsi kemungkinan berikutnya dan menaikkan daya.

Bukti

Ambil sembarang pesaing $\varphi$ dengan $E_0\varphi\leq\alpha$ . Pada $\{p_1>cp_0\}$ berlaku $\varphi^*=1$ , sehingga $(\varphi-\varphi^*)(p_1-cp_0)\leq0$ . Pada $\{p_1<cp_0\}$ berlaku $\varphi^*=0$ , dan pertidaksamaan yang sama juga berlaku. Pada himpunan kesamaan $\{p_1=cp_0\}$ hasil kalinya nol, berapa pun nilai randomisasi. Karena itu

\int(\varphi-\varphi^*)(p_1-cp_0)\,d\mu\leq0.

Susun ulang integral:

E_1\varphi-E_1\varphi^* \leq c\{E_0\varphi-E_0\varphi^*\} \leq c(\alpha-\alpha)=0.

Jadi tidak ada uji beraras $\alpha$ dengan daya lebih besar pada $$P_1$$ . Perhatikan bahwa bukti menggunakan nilai $\gamma$ hanya untuk memperoleh ukuran yang diminta; optimalitas berasal dari tanda $$p_1-cp_0$$ . Ini juga menjelaskan mengapa randomisasi hanya boleh dilakukan pada himpunan kesamaan. ∎

Kesamaan, ketunggalan, dan interpretasi

Jika $$c>0$$ dan rasio fungsi kemungkinan tidak mempunyai massa pada $$c$$ , uji MP berukuran eksak pada dasarnya tunggal hingga perubahan pada himpunan yang berpeluang nol menurut $$P_0$$ dan $$P_1$$ . Jika $P_0(\Lambda=c)>0$ , beberapa mekanisme randomisasi dapat memberi total ukuran yang sama. Pada himpunan itu $$p_1=cp_0$$ , sehingga setiap tambahan probabilitas penolakan menaikkan daya alternatif sebesar $$c$$ kali kenaikan probabilitas penolakan di bawah $$P_0$$ . Karena itu semua alokasi yang memenuhi batas yang sama memberi daya yang sama, walaupun implementasinya dapat berbeda.

Contoh diskret: ukuran eksak memerlukan randomisasi

Misalkan $$X_1,X_2$$ iid Bernoulli dan $$S=X_1+X_2$$ . Uji

H_0:p=0{,}3 \quad\text{melawan}\quad H_1:p=0{,}6

pada aras $\alpha=0{,}10$ . Distribusi $$S$$ dan rasio fungsi kemungkinan ialah

Tabel 1 — Contoh diskret: ukuran eksak memerlukan randomisasi
$$s$$	$P_{0{,}3}(S=s)$	$P_{0{,}6}(S=s)$	$\Lambda(s)$
0	$$0{,}49$$	$$0{,}16$$	$$16/49$$
1	$$0{,}42$$	$$0{,}48$$	$$8/7$$
2	$$0{,}09$$	$$0{,}36$$	$$4$$

Urutannya adalah $$s=2$$ , lalu $$s=1$$ , lalu $$s=0$$ . Menolak hanya ketika $$S=2$$ memberi ukuran $$0{,}09$$ , belum eksak $$0{,}10$$ . Himpunan kesamaan berikutnya adalah $$S=1$$ , sehingga

\gamma=\frac{0{,}10-0{,}09}{0{,}42}=\frac1{42}.

Uji MP menolak pasti ketika $$S=2$$ , menolak dengan probabilitas $$1/42$$ ketika $$S=1$$ , dan menerima ketika $$S=0$$ . Ukuran dan daya eksaknya adalah

\begin{aligned} E_{0{,}3}\varphi^* &=0{,}09+\frac1{42}(0{,}42)=0{,}10,\\ E_{0{,}6}\varphi^* &=0{,}36+\frac1{42}(0{,}48) =\frac{13}{35}\approx0{,}37143. \end{aligned}

Uji deterministik yang hanya menolak pada $$S=2$$ mempunyai daya $$0{,}36$$ . Selisih daya bukan galat pembulatan, melainkan ukuran $$0{,}01$$ yang secara sah dipakai pada lapisan rasio fungsi kemungkinan berikutnya.

Contoh kontinu: rataan distribusi Normal dengan varians diketahui

Misalkan $X_1,\ldots,X_n$ iid $N(\mu,\sigma^2)$ dengan $\sigma$ diketahui, dan uji $H_0:\mu=\mu_0$ melawan $H_1:\mu=\mu_1$ untuk $\mu_1>\mu_0$ . Log-rasio fungsi kemungkinan adalah

\log\Lambda(x) =\frac{\mu_1-\mu_0}{\sigma^2}\sum_{i=1}^n x_i -\frac{n(\mu_1^2-\mu_0^2)}{2\sigma^2},

yang meningkat ketat terhadap $\bar X$ . Karena distribusi $\bar X$ kontinu, tidak ada massa pada batas. Uji MP menolak bila

\bar X>\mu_0+\frac{\sigma}{\sqrt n}z_{1-\alpha},

dengan $$z_q$$ kuantil ke- $$q$$ Normal baku. Di bawah rataan umum $\mu$ ,

\beta(\mu) =1-\Phi\!\left( z_{1-\alpha}-\frac{\sqrt n(\mu-\mu_0)}{\sigma} \right).

Rumus ini sekaligus membuktikan ukuran $\beta(\mu_0)=\alpha$ dan memberi daya eksak pada $\mu_1$ . Perhitungan tidak memakai aproksimasi asimtotik.

Mengapa MP tidak otomatis UMP: alternatif normal dua sisi

Ambil satu observasi $X\sim N(\mu,1)$ , $H_0:\mu=0$ , dan $H_1:\mu\neq0$ , dengan $0<\alpha<1/2$ . Terhadap alternatif sederhana $\mu=\mu_1>0$ , Lemma Neyman–Pearson dengan randomisasi pada kesamaan dan ketunggalan uji MP pada kasus rasio kontinu memaksa uji MP berbentuk $\mathbf1\{X>z_{1-\alpha}\}$ . Terhadap $\mu=-\mu_1$ , uji MP yang unik berbentuk $\mathbf1\{X<-z_{1-\alpha}\}$ .

Kedua fungsi uji berbeda pada himpunan dengan probabilitas positif di bawah $$H_0$$ . Satu uji tidak dapat sama hampir pasti dengan keduanya. Maka tidak ada uji UMP beraras $\alpha$ untuk alternatif dua sisi ini. Uji dua sisi yang lazim dapat mempunyai sifat lain—misalnya UMP dalam kelas uji tak bias pada kondisi tertentu—tetapi klaim itu berbeda dan memerlukan pembatasan kelas pesaing yang dinyatakan terang-terangan.

Rasio fungsi kemungkinan monoton

Keluarga $\{P_\theta:\theta\in\Theta\subseteq\mathbb R\}$ mempunyai rasio fungsi kemungkinan monoton dalam statistik $$T=T(X)$$ bila, untuk setiap $\theta_2>\theta_1$ , rasio

\frac{p_{\theta_2}(x)}{p_{\theta_1}(x)}=r_{\theta_2,\theta_1}\{T(x)\}

dapat dipilih sebagai fungsi tak-menurun terhadap $$T$$ . Asumsi ini juga mencakup himpunan dukungan bersama dan adanya satu ukuran yang mendominasi seluruh keluarga. Bentuk faktorisasi tersebut lebih kuat daripada sekadar mengatakan bahwa nilai MLE meningkat bersama $$T$$ .

Lemma urutan stokastik dari MLR

Jika keluarga mempunyai MLR dalam $$T$$ , maka untuk setiap fungsi terbatas tak-menurun $$a(T)$$ , fungsi $\theta\mapsto E_\theta a(T)$ tak-menurun.

Bukti

Untuk $\theta_2>\theta_1$ , tulis $r(T)=p_{\theta_2}(X)/p_{\theta_1}(X)$ . Maka $$r$$ tak-menurun dan $E_{\theta_1}r(T)=1$ . Akibatnya

E_{\theta_2}a(T)-E_{\theta_1}a(T) =\operatorname{Cov}_{\theta_1}\{a(T),r(T)\}.

Jika $$T'$$ adalah salinan independen $$T$$ di bawah $P_{\theta_1}$ , identitas

2\operatorname{Cov}\{a(T),r(T)\} =E[(a(T)-a(T'))(r(T)-r(T'))]

berlaku. Kedua selisih selalu bertanda sama karena $$a$$ dan $$r$$ tak-menurun; hasil kalinya nonnegatif. Jadi kovarians dan selisih nilai harapan di atas nonnegatif. ∎

Jalur MLR menuju uji UMP satu sisi

Andaikan keluarga satu-parameter mempunyai MLR dalam $$T$$ . Pertimbangkan

H_0:\theta\leq\theta_0 \quad\text{melawan}\quad H_1:\theta>\theta_0.

Pilih $$c$$ dan $\gamma$ agar

\varphi^*(X)=\mathbf1\{T>c\}+\gamma\mathbf1\{T=c\} \quad\text{memenuhi}\quad E_{\theta_0}\varphi^*=\alpha.

Maka $\varphi^*$ adalah uji UMP beraras $\alpha$ untuk alternatif satu sisi tersebut.

Bukti

Fungsi $t\mapsto\mathbf1\{t>c\}+\gamma\mathbf1\{t=c\}$ tak-menurun. Oleh Lemma urutan stokastik dari MLR, untuk setiap $\theta\leq\theta_0$ ,

E_\theta\varphi^*\leq E_{\theta_0}\varphi^*=\alpha,

sehingga uji memang beraras $\alpha$ untuk semua $\theta$ dalam hipotesis nol komposit. Sekarang tetapkan sembarang $\theta_1>\theta_0$ . Rasio $p_{\theta_1}/p_{\theta_0}$ tak-menurun terhadap $$T$$ , sehingga daerah dengan rasio terbesar adalah ekor atas $$T$$ ; randomisasi, bila perlu, hanya terjadi pada lapisan rasio yang sama. Menurut Lemma Neyman–Pearson dengan randomisasi pada kesamaan, $\varphi^*$ adalah MP untuk $\theta_0$ melawan titik $\theta_1$ .

Setiap pesaing yang beraras $\alpha$ untuk nol komposit khususnya memenuhi $E_{\theta_0}\varphi\leq\alpha$ . Karena argumen MP berlaku untuk setiap $\theta_1>\theta_0$ dengan uji $\varphi^*$ yang sama, daya $\varphi^*$ tidak lebih kecil pada setiap titik alternatif. Itulah tepatnya sifat UMP. ∎

Contoh MLR: uji binomial satu sisi

Untuk $$X_i$$ iid Bernoulli $$(p)$$ dan $S=\sum_iX_i$ , jika $$p_2>p_1$$ maka

\frac{P_{p_2}(S=s)}{P_{p_1}(S=s)} =\left(\frac{p_2}{p_1}\right)^s \left(\frac{1-p_2}{1-p_1}\right)^{n-s}.

Rasio nilai berturutan adalah

\frac{p_2(1-p_1)}{p_1(1-p_2)}>1,

jadi keluarga mempunyai MLR dalam $$S$$ . Untuk menguji $H_0:p\leq p_0$ melawan $$H_1:p>p_0$$ , pilih bilangan bulat $$c$$ sehingga

P_{p_0}(S>c)\leq\alpha\leq P_{p_0}(S\geq c),

dan, bila $P_{p_0}(S=c)>0$ , gunakan

\gamma= \frac{\alpha-P_{p_0}(S>c)}{P_{p_0}(S=c)}.

Fungsi daya eksaknya, bukan aproksimasi Normal, adalah

\beta(p)=P_p(S>c)+\gamma P_p(S=c).

Teorema Jalur MLR menuju uji UMP satu sisi membuktikan bahwa uji yang sama UMP untuk semua $$p>p_0$$ . Contoh Contoh diskret: ukuran eksak memerlukan randomisasi adalah kasus $$n=2$$ , $p_0=0{,}3$ , dan satu titik alternatif $$p=0{,}6$$ .

Contoh MLR: hitungan Poisson

Jika $$X_i$$ iid Poisson $(\lambda)$ , maka $S=\sum_iX_i\sim \operatorname{Poisson}(n\lambda) $$. Untuk $$ \lambda_2>\lambda_1$,

\frac{P_{\lambda_2}(S=s)}{P_{\lambda_1}(S=s)} =e^{-n(\lambda_2-\lambda_1)} \left(\frac{\lambda_2}{\lambda_1}\right)^s,

yang meningkat terhadap $$s$$ . Uji ekor atas teracak pada satu nilai batas karena itu UMP untuk $H_0:\lambda\leq\lambda_0$ melawan $H_1:\lambda>\lambda_0$ . Ukuran dan daya dapat dihitung langsung dari fungsi massa Poisson:

\beta(\lambda)= 1-\sum_{s=0}^{c}\frac{e^{-n\lambda}(n\lambda)^s}{s!} +\gamma\frac{e^{-n\lambda}(n\lambda)^c}{c!},

dengan suku batas disusun ekuivalen sebagai $P_\lambda(S>c)+\gamma P_\lambda(S=c)$ . Bentuk terakhir lebih aman untuk mencegah penghitungan ganda pada $$S=c$$ .

Batas penerapan

Parameter pengganggu. Jika rasio fungsi kemungkinan masih bergantung pada parameter pengganggu setelah $$T$$ ditetapkan, bukti MLR di atas tidak berlaku. Pengondisian, invariansi, atau pembatasan kelas uji memerlukan teorema lain.
Alternatif dua sisi. Dua arah sering memerlukan daerah penolakan yang berlawanan, seperti Mengapa MP tidak otomatis UMP: alternatif normal dua sisi. Menjumlahkan dua uji MP satu sisi tidak menghasilkan klaim UMP tanpa bukti baru.
Himpunan dukungan berubah. Definisi rasio diperluas menangani dua distribusi sederhana, tetapi teorema MLR komposit memerlukan urutan yang konsisten pada himpunan dukungan bersama. Himpunan dukungan yang bergantung parameter dapat merusak urutan stokastik.
Aras konservatif. Uji diskret tanpa randomisasi boleh dipilih demi kemudahan operasional, tetapi ukurannya biasanya lebih kecil daripada $\alpha$ dan dayanya tidak sama dengan optimum teracak pada kelas penuh.
Optimal tidak berarti tahan terhadap kesalahan spesifikasi. Neyman–Pearson mengoptimalkan daya di dalam model dan hipotesis yang dinyatakan. Ia tidak menjamin ketahanan terhadap distribusi yang keliru.

Prosedur audit untuk klaim “uji optimal”

Sebelum menerima klaim MP atau UMP, lakukan pemeriksaan berikut.

Nyatakan $\Theta_0$ , $\Theta_1$ , dan kelas uji pesaing, termasuk apakah randomisasi diizinkan.
Tulis ukuran sebagai supremum atas seluruh $\Theta_0$ , bukan hanya pada satu nilai yang nyaman.
Tetapkan ukuran pendominasi dan himpunan dukungan bersama; definisikan rasio ketika $$p_0=0$$ .
Untuk MP sederhana, urutkan ruang sampel menurut $$p_1/p_0$$ , lalu alokasikan peluang penolakan mulai dari rasio terbesar hingga batas ukuran tercapai; randomisasikan hanya pada lapisan kesamaan.
Hitung ukuran dan daya dengan distribusi eksak bila tersedia.
Untuk UMP, tunjukkan bahwa satu daerah penolakan yang sama adalah MP untuk setiap titik alternatif. MLR satu-parameter plus urutan stokastik adalah satu cara, bukan satu-satunya cara.
Catat parameter pengganggu, perubahan himpunan dukungan, batas parameter, dan arah alternatif yang dapat membatalkan argumen.

Ringkasan hasil yang dapat dipakai kembali

Lemma Neyman–Pearson membandingkan dua hipotesis sederhana dan mengurutkan observasi menurut rasio fungsi kemungkinan.
Randomisasi pada $\Lambda=c$ membuat ukuran diskret eksak dan tetap berada dalam kelas uji MP.
Optimalitas MP ditetapkan untuk satu titik alternatif; UMP memakai satu uji untuk setiap titik alternatif komposit.
MLR membuat daya setiap fungsi penolakan yang tak-menurun terhadap statistik $$T$$ menjadi tak-menurun terhadap parameter dan mengubah uji ekor satu sisi menjadi UMP di bawah asumsi yang dinyatakan.
Ketiadaan MLR, adanya parameter pengganggu, atau alternatif dua sisi berarti klaim UMP memerlukan argumen lain dan tidak boleh diterima tanpa bukti tersebut.

Materi ini adalah prosa orisinal CC BY-SA 4.0. Ia tidak mengubah atau menyamarkan materi Penn State maupun donor Random.

$\(s\)$	$P_{0{,}3}(S=s)$	$P_{0{,}6}(S=s)$	$\Lambda(s)$
0	$\(0{,}49\)$	$\(0{,}16\)$	$\(16/49\)$
1	$\(0{,}42\)$	$\(0{,}48\)$	$\(8/7\)$
2	$\(0{,}09\)$	$\(0{,}36\)$	$\(4\)$