O006-C140-CMP-MS08 · id-ID · CC BY-SA 4.0 · OpenAI Codex gpt-5.6-sol, Ultra

Set penguasaan 08 — Wald, skor, rasio fungsi kemungkinan, dan diagnosis nonreguler

Set ini memisahkan dua pertanyaan yang mudah tercampur: bagaimana tiga uji berbasis fungsi kemungkinan bekerja dalam model reguler dan bagaimana mengenali kapan aproksimasi reguler tidak lagi beralasan. Definisi statistik mengikuti Statistik Wald, Statistik skor untuk nol komposit, dan Statistik rasio fungsi kemungkinan. Empat mekanisme kegagalan dibandingkan di Perbandingan empat mekanisme.

Soal 1 — Tiga statistik yang sama persis pada model Normal

Misalkan $X_1,\ldots,X_n$ iid $N(\mu,\sigma^2)$ dengan $\sigma^2$ diketahui. Uji $H_0:\mu=\mu_0$ terhadap alternatif dua sisi.

Turunkan statistik Wald dengan kovarians MLE.
Turunkan statistik skor pada nilai parameter yang ditetapkan oleh $$H_0$$ .
Turunkan dua kali log-rasio fungsi kemungkinan.
Tunjukkan bahwa ketiganya sama persis untuk setiap sampel.
Tentukan distribusi nolnya tanpa memakai teorema asimtotik.

Petunjuk 1

$\widehat\mu=\bar X$ dan informasi sampel untuk $\mu$ adalah $n/\sigma^2$ , tidak bergantung pada nilai $\mu$ .

Petunjuk 2

Gunakan dekomposisi $\sum_i(X_i-\mu_0)^2=\sum_i(X_i-\bar X)^2+n(\bar X-\mu_0)^2$ .

Jawaban singkat

Ketiga statistik sama dengan $n(\bar X-\mu_0)^2/\sigma^2$ . Di bawah $$H_0$$ , $\sqrt n(\bar X-\mu_0)/\sigma\sim N(0,1)$ secara eksak, sehingga statistik yang sama tersebut berdistribusi $\chi_1^2$ secara eksak.

Solusi lengkap

Varians $\widehat\mu$ adalah $\sigma^2/n$ . Maka statistik Wald

W=\frac{(\widehat\mu-\mu_0)^2}{\sigma^2/n} =\frac n{\sigma^2}(\bar X-\mu_0)^2.

Skor pada $\mu=\mu_0$ adalah

U_n(\mu_0)=\frac1{\sigma^2}\sum_i(X_i-\mu_0) =\frac n{\sigma^2}(\bar X-\mu_0).

Informasi sampelnya $n/\sigma^2$ , sehingga bentuk kuadratik skor

S=U_n(\mu_0)^2\left(\frac n{\sigma^2}\right)^{-1} =\frac n{\sigma^2}(\bar X-\mu_0)^2.

Terakhir,

2\{\ell_n(\bar X)-\ell_n(\mu_0)\} =\frac1{\sigma^2} \left[ \sum_i(X_i-\mu_0)^2-\sum_i(X_i-\bar X)^2 \right] =\frac n{\sigma^2}(\bar X-\mu_0)^2.

Kesetaraan eksak terjadi karena fungsi log-kemungkinannya bersifat kuadratik dan memiliki kelengkungan konstan. Di bawah $$H_0$$ , $Z=\sqrt n(\bar X-\mu_0)/\sigma$ tepat Normal baku, jadi $W=S=LR=Z^2\sim\chi_1^2$ . Teorema Wilks tidak diperlukan dalam contoh ini.

Soal 2 — Binomial: berbeda pada sampel berhingga, setara pada orde pertama

Misalkan $X\sim\operatorname{Binomial}(n,p)$ dan uji $$H_0:p=p_0$$ , $$0<p_0<1$$ . Tuliskan $\widehat p=X/n$ .

Turunkan statistik Wald menggunakan varians yang diperoleh dengan menyubstitusikan $\widehat p$ .
Turunkan statistik skor menggunakan informasi Fisher pada $$p_0$$ .
Turunkan statistik LR.
Untuk $$n=100$$ , $$X=60$$ , dan $$p_0=0.5$$ , hitung ketiganya.
Dengan $\delta=\widehat p-p_0=O_P(n^{-1/2})$ , gunakan ekspansi Taylor untuk menunjukkan bahwa selisih antarketiganya adalah $$o_P(1)$$ di bawah $$H_0$$ .

Petunjuk 1

Rumusnya adalah

W=\frac{n(\widehat p-p_0)^2}{\widehat p(1-\widehat p)}, \quad S=\frac{n(\widehat p-p_0)^2}{p_0(1-p_0)}.

Petunjuk 2

Untuk LR, ekspansikan $p_0\log(p_0+\delta)+(1-p_0)\log(1-p_0-\delta)$ atau, secara ekuivalen, divergensi Bernoulli di sekitar $\delta=0$ .

Jawaban singkat

Untuk data yang diberikan, $$W=4.1667$$ , $$S=4.0000$$ , dan $LR=2\{60\log(1.2)+40\log(0.8)\}\approx4.0271$ . Ketiganya sama dengan $n\delta^2/\{p_0(1-p_0)\}+o_P(1)$ di bawah $$H_0$$ .

Solusi lengkap

Informasi per pengamatan Bernoulli adalah $1/\{p(1-p)\}$ . Dengan menyubstitusikan MLE $\widehat p$ , taksiran variansnya adalah $\widehat p(1-\widehat p)/n$ , sehingga

W=\frac{n(\widehat p-p_0)^2}{\widehat p(1-\widehat p)}.

Skor untuk $$n$$ pengamatan pada $$p_0$$ adalah $n(\widehat p-p_0)/\{p_0(1-p_0)\}$ . Mengalikan kuadrat skor dengan invers dari informasi $n/\{p_0(1-p_0)\}$ menghasilkan

S=\frac{n(\widehat p-p_0)^2}{p_0(1-p_0)}.

Statistik LR adalah

LR=2n\left[ \widehat p\log\frac{\widehat p}{p_0} +(1-\widehat p)\log\frac{1-\widehat p}{1-p_0} \right].

Untuk $\widehat p=0.6$ dan $$p_0=0.5$$ ,

W=\frac{100(0.1)^2}{0.6(0.4)}=4.1667, \qquad S=\frac{100(0.1)^2}{0.25}=4,

dan

LR=2\{60\log(1.2)+40\log(0.8)\}\approx4.0271.

Di bawah $$H_0$$ , $\delta=O_P(n^{-1/2})$ . Dari kontinuitas fungsi penyebut diperoleh $\widehat p(1-\widehat p)=p_0(1-p_0)+O_P(n^{-1/2})$ , sehingga $W=n\delta^2/\{p_0(1-p_0)\}+o_P(1)$ . Ekspansi Taylor divergensi Bernoulli memberi

D_{\mathrm{KL}}\{\operatorname{Bern}(p_0+\delta)\| \operatorname{Bern}(p_0)\} =\frac{\delta^2}{2p_0(1-p_0)}+O(\delta^3).

Karena $n\delta^3=O_P(n^{-1/2})$ , LR memiliki suku utama yang sama. Skor sudah sama persis dengan suku utama itu. Ini adalah ekuivalensi orde pertama Ekuivalensi orde pertama dan alternatif lokal, bukan identitas pada sampel berhingga.

Soal 3 — Hipotesis nol linier multivariat dan derajat kebebasan Wilks

Misalkan $X_1,\ldots,X_n$ iid $N_p(\mu,\Sigma)$ , dengan $\Sigma$ definit positif dan diketahui. Uji

H_0:A\mu=b,

dengan $$A$$ merupakan matriks $r\times p$ yang memiliki peringkat baris penuh $$r$$ .

Temukan MLE tak berkendala dan MLE berkendala.
Turunkan statistik LR.
Tunjukkan bahwa Wald dan skor memberikan statistik yang sama.
Tentukan distribusi nol secara eksak dan jelaskan mengapa derajat kebebasannya $$r$$ , bukan $$p$$ .
Apa yang berubah bila baris-baris $$A$$ tidak bebas linier?

Petunjuk 1

MLE tak berkendala adalah $\bar X$ . Proyeksikan $\bar X$ ke himpunan afin $A\mu=b$ dalam norma informasi $\Sigma^{-1}$ .

Petunjuk 2

$\sqrt n(A\bar X-b)$ berdistribusi $N_r(0,A\Sigma A^\mathsf T)$ di bawah $$H_0$$ .

Jawaban singkat

MLE berkendala

\widetilde\mu=\bar X-\Sigma A^\mathsf T (A\Sigma A^\mathsf T)^{-1}(A\bar X-b).

Ketiga statistik sama dengan $n(A\bar X-b)^\mathsf T(A\Sigma A^\mathsf T)^{-1}(A\bar X-b)$ dan tepat $\chi_r^2$ di bawah $$H_0$$ . Bila $$A$$ tidak berperingkat penuh, gunakan hanya peringkat kendala independen dan invers umum yang sesuai.

Solusi lengkap

Fungsi log-kemungkinan, selain konstanta, adalah

-\frac n2(\bar X-\mu)^\mathsf T\Sigma^{-1}(\bar X-\mu).

MLE tak berkendala $\widehat\mu=\bar X$ . Untuk kendala, bentuk Lagrangian

Q(\mu,\lambda) =(\bar X-\mu)^\mathsf T\Sigma^{-1}(\bar X-\mu) +2\lambda^\mathsf T(A\mu-b).

Persamaan stasioner memberi $\mu=\bar X-\Sigma A^\mathsf T\lambda$ . Substitusi ke kendala menghasilkan $\lambda=(A\Sigma A^\mathsf T)^{-1}(A\bar X-b)$ , jadi rumus $\widetilde\mu$ pada jawaban singkat.

Nilai minimum bentuk kuadratik untuk perpindahan dari $\bar X$ ke himpunan yang memenuhi $$H_0$$ adalah

LR=n(A\bar X-b)^\mathsf T (A\Sigma A^\mathsf T)^{-1}(A\bar X-b).

Statistik Wald untuk fungsi kendala $h(\mu)=A\mu-b$ memakai kovarians $A(\Sigma/n)A^\mathsf T$ , sehingga menghasilkan ekspresi yang sama. Statistik skor untuk kendala ini memproyeksikan skor ke ruang normal kendala dan menghasilkan bentuk kuadratik yang sama karena fungsi kemungkinan tepat kuadratik.

Di bawah $$H_0$$ ,

Z=(A\Sigma A^\mathsf T)^{-1/2} \sqrt n(A\bar X-b)\sim N_r(0,I_r),

sehingga statistik $Z^\mathsf TZ\sim\chi_r^2$ secara eksak. Hanya $$r$$ arah bebas yang dibatasi oleh kendala; $$p-r$$ arah lainnya tetap bebas. Jika baris $$A$$ redundan, $A\Sigma A^\mathsf T$ singular dan $$r$$ harus diganti dengan $\operatorname{rank}(A)$ . Menghitung baris redundan sebagai kendala baru akan menghasilkan derajat kebebasan yang terlalu besar.

Soal 4 — Wald tidak invarian pada sampel berhingga

Untuk sampel eksponensial berlaju $\lambda$ , uji $H_0:\lambda=\lambda_0$ . Bandingkan statistik Wald dalam dua parameterisasi:

\lambda \quad\text{dan}\quad \eta=\log\lambda.

Gunakan informasi yang dievaluasi pada MLE untuk menurunkan $W_\lambda$ .
Gunakan informasi dalam koordinat $\eta$ untuk menurunkan $W_\eta$ .
Evaluasi keduanya ketika $\widehat\lambda=2\lambda_0$ .
Tunjukkan melalui ekspansi Taylor bahwa $W_\lambda-W_\eta=o_P(1)$ di bawah $$H_0$$ .
Jelaskan mengapa statistik LR tidak mengalami masalah koordinat ini.

Petunjuk 1

Informasi per pengamatan dalam $\lambda$ adalah $1/\lambda^2$ . Dalam parameterisasi $\eta$ , gunakan $d\lambda/d\eta=\lambda$ .

Petunjuk 2

Di bawah $$H_0$$ , $u=(\widehat\lambda-\lambda_0)/\lambda_0=O_P(n^{-1/2})$ dan $\log(1+u)=u-u^2/2+O(u^3)$ .

Jawaban singkat

W_\lambda=n\frac{(\widehat\lambda-\lambda_0)^2}{\widehat\lambda^2}, \qquad W_\eta=n\{\log(\widehat\lambda/\lambda_0)\}^2.

Pada $\widehat\lambda=2\lambda_0$ , nilainya $$n/4$$ dan $n(\log2)^2$ . Keduanya berbeda pada sampel berhingga tetapi berselisih $$o_P(1)$$ di bawah $$H_0$$ . LR invarian karena hanya membandingkan nilai maksimum fungsi kemungkinan pada dua himpunan distribusi yang sama.

Solusi lengkap

Taksiran substitusi langsung untuk varians MLE laju adalah $\widehat\lambda^2/n$ , sehingga

W_\lambda =\frac{(\widehat\lambda-\lambda_0)^2}{\widehat\lambda^2/n} =n\frac{(\widehat\lambda-\lambda_0)^2}{\widehat\lambda^2}.

Transformasi informasi memberi $I_\eta=(d\lambda/d\eta)^2I_\lambda=\lambda^2(1/\lambda^2)=1$ per pengamatan. Jadi kovarians asimtotik $\widehat\eta$ adalah $$1/n$$ , dan

W_\eta=n(\widehat\eta-\eta_0)^2 =n\{\log(\widehat\lambda/\lambda_0)\}^2.

Bila $\widehat\lambda=2\lambda_0$ , $W_\lambda=n(1/2)^2=n/4$ , sedangkan $W_\eta=n(\log2)^2\approx0.48045n$ . Perbedaan itu nyata.

Di bawah $$H_0$$ , tulis $u=(\widehat\lambda-\lambda_0)/\lambda_0=O_P(n^{-1/2})$ . Maka

W_\lambda=n\frac{u^2}{(1+u)^2} =nu^2+O_P(n|u|^3),

W_\eta=n\{\log(1+u)\}^2 =nu^2+O_P(n|u|^3).

Karena $n|u|^3=O_P(n^{-1/2})=o_P(1)$ , selisihnya hilang pada orde pertama. Kelemahan geometri Wald ini dibahas di Kelemahan geometri Wald pada sampel berhingga. LR memakai rasio supremum fungsi kemungkinan; reparameterisasi satu-ke-satu tidak mengubah himpunan distribusi yang menjadi domain optimasi atau nilai fungsi kemungkinan, sehingga LR invarian secara eksak.

Soal 5 — Titik ujung distribusi seragam: LR eksak dan bootstrap yang tidak konsisten

Misalkan $$X_i$$ iid $\operatorname{Unif}(0,\theta)$ dan uji $H_0:\theta=\theta_0$ terhadap $H_1:\theta>0,\ \theta\ne\theta_0$ .

Temukan MLE dan statistik LR untuk data yang mungkin terjadi di bawah $$H_0$$ .
Turunkan distribusi eksak LR di bawah $$H_0$$ .
Bandingkan kuantil 95% yang benar dengan kuantil Wilks $\chi_1^2$ .
Jelaskan mengapa bootstrap nonparametrik dari distribusi empiris tidak dapat mereplikasi perilaku titik ujung secara konsisten.
Berikan satu prosedur bootstrap yang sah untuk mengalibrasi uji $$H_0$$ ini.

Petunjuk 1

$\widehat\theta=X_{(n)}$ dan $(X_{(n)}/\theta_0)^n\sim\operatorname{Unif}(0,1)$ di bawah $$H_0$$ .

Petunjuk 2

Dalam bootstrap nonparametrik, setiap sampel ulang menghasilkan nilai maksimum yang tidak melebihi maksimum sampel. Peluang sampel ulang memuat sedikitnya satu kemunculan ulang pengamatan maksimum menuju $1-e^{-1}$ .

Jawaban singkat

LR=2n\log(\theta_0/X_{(n)})\sim\chi_2^2

secara eksak di bawah $$H_0$$ . Kuantil 95% yang benar adalah $\chi_{2,0.95}^2\approx5.991$ , bukan $\chi_{1,0.95}^2\approx3.841$ . Maksimum bootstrap nonparametrik dibatasi di atas oleh $X_{(n)}$ dan memiliki massa titik yang besar pada nilai tersebut. Bootstrap parametrik di bawah $$H_0$$ , $X_i^*\sim\operatorname{Unif}(0,\theta_0)$ , sah.

Solusi lengkap

Fungsi kemungkinan $L(\theta)=\theta^{-n}\mathbf1\{\theta\ge X_{(n)}\}$ menurun pada daerah parameter yang memenuhi kendala, sehingga $\widehat\theta=X_{(n)}$ . Di bawah $$H_0$$ , semua data memenuhi $X_{(n)}\le\theta_0$ hampir pasti dan

LR=2\{\ell(\widehat\theta)-\ell(\theta_0)\} =2n\log\frac{\theta_0}{X_{(n)}}.

Untuk $$0<u<1$$ ,

P_{\theta_0}\left\{\left(\frac{X_{(n)}}{\theta_0}\right)^n\le u\right\} =P\{X_{(n)}\le\theta_0u^{1/n}\}=u.

Jadi $V=(X_{(n)}/\theta_0)^n$ seragam pada $$(0,1)$$ dan $LR=-2\log V\sim\chi_2^2$ tepat. Teorema Wilks dengan satu derajat kebebasan tidak berlaku karena dukungan bergantung pada parameter, seperti dijelaskan di Rasio fungsi kemungkinan tidak mengikuti hukum Wilks berdimensi satu.

Kuantil 0.95 $\chi_2^2$ sekitar 5.991; memakai 3.841 menyebabkan uji terlalu sering menolak $$H_0$$ . Pada bootstrap nonparametrik, dukungan empiris berhenti pada $X_{(n)}$ . Maksimum bootstrap tidak pernah melebihi titik ujung sampel dan sama dengan $X_{(n)}$ bila sampel ulang mengambil pengamatan maksimum setidaknya sekali, dengan peluang

1-\left(1-\frac1n\right)^n\to1-e^{-1}.

Distribusi maksimum sampel yang sebenarnya bersifat kontinu pada skala $$n$$ dan mencerminkan penyimpangan relatif terhadap $\theta_0$ , bukan atom buatan pada titik ujung empiris. Sebaliknya, bootstrap parametrik yang menerapkan $$H_0$$ —dengan membangkitkan data iid $\operatorname{Unif}(0,\theta_0)$ dan menghitung ulang LR—mereproduksi distribusi yang benar di bawah $$H_0$$ ; dalam contoh ini hukum eksak bahkan membuat simulasi tidak diperlukan.

Soal 6 — Parameter pada batas dan distribusi campuran LR

Misalkan $$X_i$$ iid $N(\mu,1)$ dengan ruang parameter $\mu\ge0$ . Uji $H_0:\mu=0$ terhadap $\mu>0$ .

Temukan MLE berkendala.
Turunkan statistik LR sebagai fungsi $Z_n=\sqrt n\,\bar X$ .
Turunkan distribusi nolnya.
Temukan nilai kritis asimtotik untuk uji berukuran 5%.
Jelaskan dengan tepat asumsi Wilks biasa yang gagal.

Petunjuk 1

Proyeksi $\bar X$ ke $[0,\infty)$ adalah $\widehat\mu=\max(\bar X,0)$ .

Petunjuk 2

Di bawah $$H_0$$ , $Z_n\sim N(0,1)$ dan $LR=\{\max(Z_n,0)\}^2$ . Separuh massa distribusi Normal terletak di sisi negatif.

Jawaban singkat

$\widehat\mu=\max(\bar X,0)$ dan $LR=\{\max(Z_n,0)\}^2$ . Di bawah $$H_0$$ , $LR\sim\tfrac12\delta_0+\tfrac12\chi_1^2$ secara eksak. Nilai kritis 5% adalah kuantil 90% $\chi_1^2$ , sekitar 2.706. Nilai $\mu=0$ bukan titik interior ruang parameter; himpunan arah singgungnya berupa kerucut, bukan ruang linier penuh.

Solusi lengkap

Fungsi kemungkinan model Normal dimaksimumkan tanpa kendala pada $\bar X$ . Proyeksi ke ruang parameter memberi

\widehat\mu=\max(\bar X,0).

Dekomposisi jumlah kuadrat seperti pada Soal 1 memberi

LR=2\{\ell(\widehat\mu)-\ell(0)\} =n\{\max(\bar X,0)\}^2 =\{\max(Z_n,0)\}^2.

Di bawah $$H_0$$ , $Z_n\sim N(0,1)$ tepat. Bila $Z_n\le0$ , yang terjadi dengan peluang $$1/2$$ , LR sama dengan nol. Bila $$Z_n>0$$ , distribusi bersyarat $$Z_n^2$$ sama dengan distribusi $\chi_1^2$ karena tanda peubah Normal baku tidak memengaruhi besar kuadratnya. Dengan demikian,

LR\sim\frac12\delta_0+\frac12\chi_1^2.

Untuk nilai kritis $$c>0$$ agar ukuran uji sama dengan $\alpha=0.05$ ,

P_0(LR>c)=\frac12P(\chi_1^2>c)=0.05.

Jadi $P(\chi_1^2>c)=0.10$ dan $c=\chi_{1,0.90}^2\approx2.706$ . Kuantil Wilks biasa 3.841 akan konservatif. Asumsi titik interior pada Syarat keteraturan yang dipakai gagal. Pada $\mu=0$ , hanya arah lokal nonnegatif yang diizinkan, sehingga proyeksi skor pada kerucut singgung menghasilkan massa titik.

Soal 7 — Informasi singular dan nonidentifiabilitas

Bandingkan:

\text{A: }X_i\sim N(\theta^3,1),\quad\theta\in\mathbb R,

\text{B: }Y_i\sim N(\cos\phi,1),\quad\phi\in[0,2\pi).

Tentukan identifiabilitas global kedua model.
Hitung informasi Fisher.
Untuk A pada $\theta_0=0$ , temukan MLE, laju, dan distribusi limitnya.
Untuk B, bandingkan $\phi_0=\pi/2$ dan $\phi_1=3\pi/2$ ; buktikan tidak ada uji yang memiliki daya melebihi ukuran untuk membedakan kedua label.
Jelaskan mengapa “informasi singular” dan “nonidentifiabilitas” memerlukan perbaikan yang berbeda.

Petunjuk 1

Pemetaan kubik bersifat satu-ke-satu tetapi turunannya nol di asal. Pemetaan kosinus mempunyai turunan tak nol pada kedua titik yang dipilih tetapi bukan satu-ke-satu secara global.

Petunjuk 2

Untuk A, $\widehat\theta=\sqrt[3]{\bar X}$ dan $\sqrt n\bar X\sim N(0,1)$ pada $\theta=0$ . Untuk B, hukum seluruh sampel identik pada $\phi_0$ dan $\phi_1$ .

Jawaban singkat

A teridentifikasi tetapi $I_A(\theta)=9\theta^4$ singular pada $\theta=0$ ; $n^{1/6}\widehat\theta\Rightarrow\sqrt[3]{Z}$ . B tidak teridentifikasi karena kedua label memberi rataan nol, walaupun $I_B(\phi)=\sin^2\phi=1$ pada kedua titik. Setiap uji memiliki nilai harapan yang sama di bawah kedua label, sehingga dayanya sama dengan ukurannya.

Solusi lengkap

Pada A, peta $\theta\mapsto\theta^3$ bijektif, jadi model teridentifikasi. Skor

s_\theta(X)=3\theta^2(X-\theta^3)

memberi $I_A(\theta)=9\theta^4$ . Pada $\theta=0$ , informasi Fisher bernilai nol. Jika dipandang sebagai fungsi dari rataan $m=\theta^3$ , fungsi kemungkinannya dimaksimumkan pada $\widehat m=\bar X$ , sehingga

\widehat\theta=\sqrt[3]{\bar X}.

Pada $\theta=0$ , $\sqrt n\bar X\sim N(0,1)$ , dan

n^{1/6}\widehat\theta =\sqrt[3]{\sqrt n\bar X} \Rightarrow\sqrt[3]{Z},\qquad Z\sim N(0,1).

Hasil ini sama dengan Laju dan limit MLE pada titik singular. Kegagalannya lokal: parameterisasi melalui $\theta$ memiliki turunan nol pada $\theta=0$ , sehingga laju akar- $$n$$ tidak tepat.

Pada B, $\cos(\pi/2)=\cos(3\pi/2)=0$ , maka $P_{\phi_0}=P_{\phi_1}$ . Namun

s_\phi(Y)=-\sin\phi\,(Y-\cos\phi), \qquad I_B(\phi)=\sin^2\phi,

sehingga informasi sama dengan satu pada kedua label. Untuk setiap uji $0\le\varphi_n\le1$ ,

E_{\phi_0}\varphi_n=E_{\phi_1}\varphi_n

karena distribusi bersama seluruh sampel sama. Jika nilai harapan pertama merupakan ukuran uji, nilai harapan kedua—daya pada label alternatif—persis sama.

Model A diperbaiki dengan memakai koordinat reguler $m=\theta^3$ dan mentransformasikan kembali dengan laju yang benar. Model B memerlukan target teridentifikasi $m=\cos\phi$ atau pembatasan cabang yang ditetapkan sebelumnya. Reparameterisasi lokal tidak dapat menciptakan informasi tentang label global yang tidak terkandung dalam distribusi.

Soal 8 — Metode delta orde pertama dan bootstrap pada titik kritis

Misalkan $$X_i$$ iid $N(\mu,1)$ dengan parameter sasaran $\psi=g(\mu)=\mu^2$ . Gunakan penduga $\widehat\psi=\bar X^2$ pada titik $\mu_0=0$ .

Tunjukkan mengapa metode delta orde pertama hanya memberi limit degenerat.
Temukan skala dan distribusi limit nondegenerat yang benar.
Dalam bootstrap nonparametrik biasa, tulis $Z_n=\sqrt n\bar X$ dan $W_n^*=\sqrt n(\bar X^*-\bar X)$ . Turunkan bentuk statistik bootstrap berpusat $n\{(\bar X^*)^2-\bar X^2\}$ .
Jelaskan mengapa distribusi kondisional statistik itu tidak konsisten dalam menaksir distribusi sasaran $n\bar X^2$ di bawah $$H_0$$ .
Berikan dua cara inferensi yang sah dan bandingkan dengan transformasi reguler $h(\mu)=e^\mu$ .

Petunjuk 1

$$g'(0)=0$$ tetapi $$g''(0)=2$$ . Di bawah $$H_0$$ , $\sqrt n\bar X\sim N(0,1)$ .

Petunjuk 2

Gunakan

\sqrt n\bar X^*=Z_n+W_n^*.

Distribusi kondisional $$W_n^*$$ mendekati distribusi Normal baku, tetapi $$Z_n$$ sendiri tidak menuju suatu konstanta.

Jawaban singkat

Metode delta orde pertama menghasilkan limit nol karena $$g'(0)=0$$ . Skala yang benar adalah $$n$$ dan $n\bar X^2=Z_n^2\sim\chi_1^2$ . Statistik bootstrap berpusat adalah $$2Z_nW_n^*+(W_n^*)^2$$ ; hukum kondisionalnya bergantung pada $$Z_n$$ yang tetap acak, sehingga tidak konvergen ke distribusi $\chi_1^2$ . Gunakan limit orde kedua langsung atau bootstrap parametrik yang menerapkan $$H_0$$ .

Solusi lengkap

Metode delta orde pertama menyatakan, pada skala $\sqrt n$ ,

\sqrt n\{g(\bar X)-g(0)\} \approx g'(0)\sqrt n\bar X=0.

Kesimpulan degenerat itu hanya mengatakan bahwa galat lebih kecil daripada $n^{-1/2}$ ; hal itu tidak berarti galat identik nol. Ekspansi orde kedua memberi

g(\bar X)-g(0) =\frac12g''(0)\bar X^2=\bar X^2.

Karena $Z_n=\sqrt n\bar X\sim N(0,1)$ secara eksak di bawah $$H_0$$ ,

n(\widehat\psi-\psi_0)=n\bar X^2=Z_n^2\sim\chi_1^2.

Dalam bootstrap, $\sqrt n\bar X^*=Z_n+W_n^*$ , sehingga

n\{(\bar X^*)^2-\bar X^2\} =(Z_n+W_n^*)^2-Z_n^2 =2Z_nW_n^*+(W_n^*)^2.

Secara kondisional pada data, $$W_n^*$$ mendekati $$N(0,1)$$ , tetapi koefisien $$Z_n$$ tidak menuju nol atau konstanta; di bawah $$H_0$$ ia tetap memiliki limit $$N(0,1)$$ . Karena itu hukum kondisional ekspresi terakhir mempunyai limit acak yang tetap bergantung pada realisasi acak $$Z_n$$ , bukan limit nonacak $\chi_1^2$ dari sasaran. Bootstrap berpusat biasa tidak konsisten pada titik kritis ini.

Dua prosedur sah adalah: (i) gunakan hasil orde kedua $n\bar X^2\sim\chi_1^2$ ; atau (ii) untuk menguji $$H_0$$ , lakukan bootstrap parametrik dengan membangkitkan sampel pada $\mu=0$ : hasilkan $X_i^*\sim N(0,1)$ , dan pakai $n(\bar X^*)^2$ . Prosedur kedua mereproduksi distribusi $\chi_1^2$ secara eksak. Sebaliknya, untuk $h(\mu)=e^\mu$ , $h'(0)=1\ne0$ ; metode delta orde pertama berlaku pada skala $\sqrt n$ , dan bootstrap biasa tidak menghadapi ketidakreguleran akibat turunan nol yang sama.