O006-C140-CMP-D004 · id-ID · CC BY-SA 4.0 · OpenAI Codex gpt-5.6-sol, Ultra

Prosedur Wald, skor, dan rasio fungsi kemungkinan

Tiga prosedur klasik ini menjawab pertanyaan yang sama dari tiga titik pandang. Prosedur Wald mengukur seberapa jauh penduga tak berkendala berada dari himpunan nol. Prosedur skor mengukur kemiringan fungsi log-kemungkinan ketika model masih dipaksa berada pada himpunan nol. Prosedur rasio fungsi kemungkinan membandingkan ketinggian maksimum fungsi log-kemungkinan tanpa kendala dan dengan kendala. Dalam model reguler, ketiganya melihat geometri kuadratik lokal yang sama. Pada sampel berhingga, angka yang dihasilkan dapat sangat berbeda.

Bab ini selalu membedakan tiga pernyataan berikut.

Identitas pada sampel berhingga berarti statistiknya tepat sama untuk setiap data. Hal ini jarang terjadi.
Kesetaraan orde pertama berarti selisih statistik adalah $$o_P(1)$$ di bawah barisan parameter lokal yang relevan.
Kesamaan limit nol hanya berarti ketiganya menuju distribusi yang sama; perbedaan galat aproksimasi masih dapat besar.

Kasus nonreguler pada Fungsi kemungkinan nonreguler: empat mekanisme kegagalan menunjukkan mengapa tiga pernyataan tersebut tidak boleh dipertukarkan.

Notasi dan hipotesis nol berkendala

Misalkan $X_1,\ldots,X_n$ i.i.d. dengan densitas $p_\theta$ terhadap suatu ukuran pendominasi yang tetap, dan $\theta\in\Theta\subset\mathbb R^p$ . Tulis

\ell_n(\theta)=\sum_{i=1}^n\log p_\theta(X_i),\qquad U_n(\theta)=\nabla_\theta\ell_n(\theta),\qquad J_n(\theta)=-\nabla_\theta^2\ell_n(\theta).

Informasi Fisher per pengamatan adalah

I(\theta)=E_\theta\!\left[ \nabla\log p_\theta(X)\nabla\log p_\theta(X)^{\mathsf T} \right].

Hipotesis nol mempunyai bentuk

H_0:h(\theta)=0,

dengan $h:\Theta\to\mathbb R^r$ , $1\le r\le p$ . Matriks turunan $H(\theta)=Dh(\theta)$ berukuran $r\times p$ . Penduga fungsi kemungkinan maksimum (MLE) tak berkendala ditulis $\widehat\theta_n$ , sedangkan MLE pada himpunan nol ditulis $\widetilde\theta_n$ .

Syarat keteraturan yang dipakai

Semua teorema utama bab ini memakai syarat berikut pada suatu lingkungan terbuka $$N$$ di sekitar nilai parameter sebenarnya $\theta_0$ di bawah hipotesis nol.

Dominasi dan himpunan dukungan bersama. Semua $P_\theta$ , $\theta\in N$ , mempunyai densitas terhadap ukuran yang sama. Himpunan dukungan densitas tidak berubah dengan $\theta$ , kecuali mungkin pada himpunan yang berukuran nol menurut ukuran pendominasi tersebut.
Titik interior dan identifiabilitas. $\theta_0$ adalah titik interior $\Theta$ , dan $P_\theta=P_{\theta_0}$ di $$N$$ hanya jika $\theta=\theta_0$ .
Diferensiabilitas dan pertukaran operasi. Log-densitas memiliki turunan hingga orde tiga pada $$N$$ . Ada fungsi terintegralkan yang mendominasi turunan yang diperlukan agar diferensiasi dapat dipertukarkan dengan integrasi dan agar sisa Taylor seragam pada lingkungan berorde $n^{-1/2}$ .
Informasi tak singular. $I(\theta)$ kontinu pada $$N$$ , dan $I_0=I(\theta_0)$ definit positif.
Limit probabilistik. Skor memenuhi CLT, $n^{-1/2}U_n(\theta_0)\Rightarrow N_p(0,I_0)$ , dan informasi teramati memenuhi $n^{-1}J_n(\theta)\to_P I_0$ secara seragam pada lingkungan berorde $n^{-1/2}$ dari $\theta_0$ .
Eksistensi dan konsistensi MLE. Dengan probabilitas menuju satu, $\widehat\theta_n$ dan $\widetilde\theta_n$ ada pada lingkungan yang sedang dipakai dan keduanya konsisten di bawah $$H_0$$ .
Lokalisasi akar- $$n$$ . Kedua MLE juga memenuhi $\sqrt n(\widehat\theta_n-\theta_0)=O_P(1)$ dan $\sqrt n(\widetilde\theta_n-\theta_0)=O_P(1)$ . Lokalisasi ini dapat diturunkan dari kontrol Hessian pada lingkungan tetap, konkavitas kuat lokal, dan kondisi KKT yang sesuai, tetapi tidak mengikuti dari konsistensi saja; karena bab ini hanya mengasumsikan ULLN pada lingkungan akar- $$n$$ , ia dinyatakan eksplisit.
Kendala halus. $$h$$ terdiferensialkan secara kontinu dan $H_0^*=H(\theta_0)$ mempunyai peringkat baris penuh $$r$$ . Jadi $\mathcal T_0=\{v:H_0^*v=0\}$ adalah ruang singgung berdimensi $$p-r$$ , bukan kerucut atau perpotongan singular.

Syarat ketiga sengaja menyatakan apa yang sering disembunyikan oleh frasa “cukup reguler”. Sebagai contoh, $E_\theta U_n(\theta)=0$ diperoleh dari ( \int \nabla p_\theta(x),dx= \nabla\int p_\theta(x),dx=0 ), sehingga pertukaran turunan dan integral benar-benar diperlukan. Syarat pertama gagal untuk model titik ujung seragam pada Contoh tandingan 1: titik ujung seragam dan himpunan dukungan yang bergerak.

Norma informasi dan geometri kendala

Untuk $a,b\in\mathbb R^p$ , definisikan hasil kali dalam informasi

\langle a,b\rangle_{I_0}=a^{\mathsf T}I_0b, \qquad \|a\|_{I_0}^2=a^{\mathsf T}I_0a.

Komplemen ortogonal- $$I_0$$ dari ruang singgung $\mathcal T_0$ adalah

\mathcal N_0 =\{I_0^{-1}{H_0^*}^{\mathsf T}c:c\in\mathbb R^r\}.

Proyeksi suatu $v\in\mathbb R^p$ ke $\mathcal T_0$ dan $\mathcal N_0$ dalam metrik informasi adalah

\begin{aligned} \Pi_{\mathcal N}v &=I_0^{-1}{H_0^*}^{\mathsf T} (H_0^*I_0^{-1}{H_0^*}^{\mathsf T})^{-1}H_0^*v,\\ \Pi_{\mathcal T}v&=v-\Pi_{\mathcal N}v. \end{aligned}

Peringkat baris penuh $$H_0^*$$ dan sifat definit positif $$I_0$$ menjamin bahwa matriks tengah dapat dibalik. Komponen normal adalah bagian perpindahan parameter yang melanggar kendala pada orde pertama.

Ekspansi kuadratik lokal fungsi log-kemungkinan (LAN)

Di bawah Syarat keteraturan yang dipakai, untuk setiap barisan $$t_n$$ yang terbatas,

\ell_n(\theta_0+t_n/\sqrt n)-\ell_n(\theta_0) =t_n^{\mathsf T}\Delta_n-\tfrac12t_n^{\mathsf T}I_0t_n+o_P(1), \qquad \Delta_n=\frac{U_n(\theta_0)}{\sqrt n} \Rightarrow N_p(0,I_0),

dengan sisa $$o_P(1)$$ seragam untuk $$t_n$$ pada himpunan kompak. Bentuk ini disebut normalitas asimtotik lokal (local asymptotic normality, LAN).

Bukti

Taylor orde dua di sekitar $\theta_0$ memberi, untuk suatu titik antara $\theta_0$ dan $\theta_0+t_n/\sqrt n$ ,

\ell_n(\theta_0+t_n/\sqrt n)-\ell_n(\theta_0) =\frac{t_n^{\mathsf T}}{\sqrt n}U_n(\theta_0) -\frac12t_n^{\mathsf T}\frac{J_n(\theta_n^*)}{n}t_n.

Konvergensi seragam informasi teramati mengganti $J_n(\theta_n^*)/n$ dengan $$I_0+o_P(1)$$ . Karena $$t_n$$ terbatas, hasil perkalian sisa tetap $$o_P(1)$$ . CLT untuk skor menyelesaikan bukti. Dominasi sisa Taylor pada Syarat keteraturan yang dipakai adalah alasan ekspansi ini seragam; Taylor titik demi titik saja belum cukup untuk memaksimalkan bentuk tersebut secara stokastik. □

Representasi asimtotik MLE

Di bawah hipotesis nol dan Syarat keteraturan yang dipakai,

\sqrt n(\widehat\theta_n-\theta_0) =I_0^{-1}\Delta_n+o_P(1),

sedangkan

\sqrt n(\widetilde\theta_n-\theta_0) =\Pi_{\mathcal T}(I_0^{-1}\Delta_n)+o_P(1).

Akibatnya,

\sqrt n(\widehat\theta_n-\widetilde\theta_n) =\Pi_{\mathcal N}(I_0^{-1}\Delta_n)+o_P(1).

Bukti

Persamaan skor tak berkendala dan ekspansi Taylor menghasilkan

0=U_n(\widehat\theta_n) =U_n(\theta_0)-J_n(\theta_n^*)(\widehat\theta_n-\theta_0).

Membagi dengan $\sqrt n$ , memakai $J_n/n\to_P I_0$ , lalu membalik matriks memberi representasi pertama. Untuk penduga berkendala, bentuk LAN pada Ekspansi kuadratik lokal fungsi log-kemungkinan (LAN) harus dimaksimalkan atas linearisasi kendala $$H_0^*t=0$$ , yaitu $t\in\mathcal T_0$ . Melengkapi kuadrat menunjukkan bahwa maksimum kuadratik tak berkendala berada di $I_0^{-1}\Delta_n$ , sedangkan maksimum di $\mathcal T_0$ adalah proyeksi metrik-informasinya. Lokalisasi akar- $$n$$ , konsistensi MLE, dan keseragaman sisa LAN memindahkan hasil kuadratik tersebut kembali ke fungsi log-kemungkinan asli. □

Statistik Wald

Pilih penduga informasi konsisten $\widehat I_n=I(\widehat\theta_n)+o_P(1)$ , atau informasi teramati $J_n(\widehat\theta_n)/n$ bila konsisten. Statistik Wald adalah

W_n =n\,h(\widehat\theta_n)^{\mathsf T} \left[ H(\widehat\theta_n)\widehat I_n^{-1} H(\widehat\theta_n)^{\mathsf T} \right]^{-1} h(\widehat\theta_n).

Statistik ini mengukur kuadrat jarak terlinearisasi dari $\widehat\theta_n$ ke himpunan nol dengan metrik yang diinduksi oleh invers kovarians asimtotik MLE.

Limit nol Wald

Jika $$H_0$$ benar dan Syarat keteraturan yang dipakai berlaku, maka

W_n\Rightarrow\chi_r^2.

Bukti

Metode delta dan Representasi asimtotik MLE memberi

\sqrt n\,h(\widehat\theta_n) =H_0^*I_0^{-1}\Delta_n+o_P(1) \Rightarrow N_r(0,V_0), \quad V_0=H_0^*I_0^{-1}{H_0^*}^{\mathsf T}.

Peringkat baris penuh $$H_0^*$$ menjamin bahwa $$V_0$$ definit positif. Dengan memasukkan penduga matriks yang konsisten ke dalam definisi $$W_n$$ dan menerapkan teorema Slutsky, diperoleh limit $Y^{\mathsf T}V_0^{-1}Y$ untuk $Y\sim N_r(0,V_0)$ , yaitu $\chi_r^2$ dengan $$r$$ derajat bebas. □

Kelemahan geometri Wald pada sampel berhingga

Wald mengganti himpunan $h(\theta)=0$ dengan bidang singgungnya di sekitar MLE. Karena linearisasi ini bergantung pada koordinat, transformasi parameter nonlinier dapat mengubah nilai $$W_n$$ secara material. Kesamaan limit tetap berlaku untuk transformasi mulus dengan Jacobian tak singular, tetapi invariansi eksak tidak berlaku secara umum.

Statistik skor untuk nol komposit

Skor dievaluasi pada MLE berkendala $\widetilde\theta_n$ . Definisikan

\widetilde A_n=H(\widetilde\theta_n),\qquad \widetilde I_n=I(\widetilde\theta_n)

atau penduga konsisten yang setara. Statistik skor kendala adalah

S_n=\frac1n \bigl(\widetilde A_n\widetilde I_n^{-1} U_n(\widetilde\theta_n)\bigr)^{\mathsf T} \bigl(\widetilde A_n\widetilde I_n^{-1} \widetilde A_n^{\mathsf T}\bigr)^{-1} \bigl(\widetilde A_n\widetilde I_n^{-1} U_n(\widetilde\theta_n)\bigr).

Bentuk tersebut mengekstrak komponen normal skor. Untuk hipotesis nol titik $h(\theta)=\theta-\theta_0$ , bentuk ini menyederhana menjadi

S_n=U_n(\theta_0)^{\mathsf T}[nI(\theta_0)]^{-1}U_n(\theta_0).

Dengan parameter pengganggu, menguadratkan semua komponen skor tanpa proyeksi dapat memasukkan arah yang tidak dibatasi oleh hipotesis nol dan menghasilkan derajat bebas yang salah.

Limit nol skor

Di bawah Syarat keteraturan yang dipakai,

S_n\Rightarrow\chi_r^2.

Bukti

Dari Taylor skor di sekitar $\widehat\theta_n$ ,

U_n(\widetilde\theta_n) =J_n(\theta_n^*)(\widehat\theta_n-\widetilde\theta_n),

karena $U_n(\widehat\theta_n)=0$ . Gunakan Representasi asimtotik MLE dan $J_n/n\to_P I_0$ . Setelah dibagi $\sqrt n$ , komponen yang relevan adalah proyeksi normal dari $I_0^{-1}\Delta_n$ . Substitusi ke $$S_n$$ menghasilkan

S_n =\Delta_n^{\mathsf T}I_0^{-1}{H_0^*}^{\mathsf T} (H_0^*I_0^{-1}{H_0^*}^{\mathsf T})^{-1} H_0^*I_0^{-1}\Delta_n+o_P(1).

Setelah pemutihan oleh $I_0^{-1/2}$ , matriks dalam bentuk kuadratik ini merupakan proyektor ortogonal berperingkat $$r$$ . Karena itu, kuadrat norma proyeksi peubah Normal baku tersebut berdistribusi $\chi_r^2$ . □

Statistik rasio fungsi kemungkinan

Definisikan statistik dua kali selisih fungsi log-kemungkinan

L_n=2\{\ell_n(\widehat\theta_n)- \ell_n(\widetilde\theta_n)\}.

Konvensi ini sama dengan $-2\log\Lambda_n$ jika $\Lambda_n=\sup_{H_0}L(\theta)/\sup_\Theta L(\theta)$ . Nilainya tidak negatif karena ruang optimisasi nol merupakan bagian dari ruang penuh.

Teorema Wilks bertipe kendala halus

Jika $$H_0$$ benar dan semua syarat pada Syarat keteraturan yang dipakai berlaku, maka

L_n\Rightarrow\chi_r^2.

Derajat bebas adalah selisih dimensi lokal $$p-(p-r)=r$$ , yaitu banyaknya kendala lokal yang bebas secara linear, bukan sekadar jumlah persamaan yang ditulis dalam hipotesis.

Bukti

Tuliskan $z_n=I_0^{-1}\Delta_n$ . Dengan melengkapi kuadrat, bentuk LAN dapat ditulis

t^{\mathsf T}\Delta_n-\tfrac12t^{\mathsf T}I_0t =\tfrac12\|z_n\|_{I_0}^2-\tfrac12\|t-z_n\|_{I_0}^2.

Maksimum tak berkendala dicapai di $$t=z_n$$ . Maksimum pada linearisasi himpunan nol $\mathcal T_0$ dicapai di $t=\Pi_{\mathcal T}z_n$ . Dua kali selisih maksimum adalah

\|z_n-\Pi_{\mathcal T} z_n\|_{I_0}^2 =\|\Pi_{\mathcal N}z_n\|_{I_0}^2.

Keseragaman LAN dan konsistensi kedua MLE membuat selisih antara maksimum fungsi log-kemungkinan asli dan maksimum kuadratik ini $$o_P(1)$$ . Seperti pada bukti Limit nol skor, kuadrat norma proyeksi peubah Gaussian yang telah diputihkan ke subruang berdimensi $$r$$ mempunyai limit $\chi_r^2$ . □

Ekuivalensi orde pertama dan alternatif lokal

Pertimbangkan alternatif kontigu

\theta_n=\theta_0+\frac{a}{\sqrt n}, \qquad a\in\mathbb R^p.

Definisikan bentuk kuadratik bersama

Q_n= \Delta_n^{\mathsf T}I_0^{-1}{H_0^*}^{\mathsf T} (H_0^*I_0^{-1}{H_0^*}^{\mathsf T})^{-1} H_0^*I_0^{-1}\Delta_n.

Di bawah syarat keteraturan yang sama,

W_n=Q_n+o_{P_{\theta_n}}(1),\qquad S_n=Q_n+o_{P_{\theta_n}}(1),\qquad L_n=Q_n+o_{P_{\theta_n}}(1),

dan ketiganya menuju distribusi khi-kuadrat nonsentral

\chi_r^2(\lambda),\qquad \lambda=(H_0^*a)^{\mathsf T} (H_0^*I_0^{-1}{H_0^*}^{\mathsf T})^{-1} (H_0^*a).

Komponen $$a$$ yang berada di ruang singgung nol tidak berkontribusi terhadap parameter nonsentral pada orde pertama.

Derivasi

Di bawah $P_{\theta_n}$ , skor yang dievaluasi pada $\theta_0$ mengalami pergeseran rataan pada orde pertama:

\Delta_n\Rightarrow N_p(I_0a,I_0).

Pernyataan ini dapat diperoleh langsung dari ekspansi skor atau dari LAN dan lemma ketiga Le Cam. Semua bukti Limit nol Wald sampai Teorema Wilks bertipe kendala halus menyederhanakan statistik menjadi kuadrat norma komponen normal dari $I_0^{-1}\Delta_n$ . Rataan komponen itu adalah $\Pi_{\mathcal N}a$ ; setelah pemutihan, kovariansnya tetap identitas pada subruang berdimensi $$r$$ . Kuadrat norma peubah Gaussian tersebut berdistribusi $\chi_r^2(\lambda)$ nonsentral dengan parameter $\lambda$ di atas. Ekspansi Taylor dan LAN yang sama memberikan ketiga sisa $$o_P(1)$$ . □

Untuk uji aras asimtotik $\alpha$ , tolak jika statistik melebihi $c_{r,1-\alpha}$ , kuantil $1-\alpha$ dari $\chi_r^2$ . Daya lokal limitnya adalah

\pi(a)=P\{\chi_r^2(\lambda)>c_{r,1-\alpha}\}.

Ini bukan klaim tentang daya pada sampel berhingga dan bukan jaminan bagi alternatif yang jaraknya dari $\theta_0$ tidak berorde $n^{-1/2}$ .

Contoh lengkap: laju distribusi eksponensial

Misalkan $$X_i$$ i.i.d. eksponensial dengan laju $\lambda>0$ , sehingga

\ell_n(\lambda)=n\log\lambda-\lambda\sum_iX_i, \quad \widehat\lambda=\frac1{\bar X}, \quad I(\lambda)=\frac1{\lambda^2}.

Uji $H_0:\lambda=\lambda_0$ , dan tulis $q=\lambda_0\bar X=\lambda_0/\widehat\lambda$ . Tiga statistik adalah

\begin{aligned} W_{\lambda} &=\frac{(\widehat\lambda-\lambda_0)^2} {\widehat\lambda^2/n} =n(1-q)^2,\\ S&=\frac{U_n(\lambda_0)^2}{nI(\lambda_0)} =n(1-q)^2,\\ L&=2n\{q-1-\log q\}. \end{aligned}

Kebetulan $W_\lambda=S$ pada parameterisasi laju ini. Jika parameter diubah menjadi $\eta=\log\lambda$ , MLE-nya $\widehat\eta=\log\widehat\lambda$ dan informasi untuk $\eta$ adalah satu. Statistik Wald menjadi

W_\eta=n(\widehat\eta-\eta_0)^2=n(\log q)^2,

yang umumnya berbeda dari $W_\lambda$ . Sebaliknya, $$L$$ tidak berubah: supremum fungsi kemungkinan di bawah hipotesis nol dan pada ruang parameter penuh tidak bergantung pada pemilihan koordinat. Statistik skor juga invarian terhadap transformasi satu-ke-satu jika skor dan informasi ditransformasikan secara konsisten; persamaan $$S=n(1-q)^2$$ tetap diperoleh.

Ekspansi $$q=1+u$$ , $u=O_P(n^{-1/2})$ , memberi

2\{q-1-\log q\}=u^2+O(u^3), \qquad (\log q)^2=u^2+O(u^3).

Karena $nu^3=O_P(n^{-1/2})$ , ketiga bentuk berbeda hanya $$o_P(1)$$ di bawah nol, walaupun dapat berbeda jelas ketika $$q$$ jauh dari satu.

Contoh dengan parameter pengganggu: rataan distribusi Normal dan varians tak diketahui

Misalkan $X_i\sim N(\mu,\sigma^2)$ , dengan $\sigma^2$ tidak diketahui, dan uji $H_0:\mu=\mu_0$ . MLE penuh adalah

\widehat\mu=\bar X, \qquad \widehat\sigma^2=\frac1n\sum_i(X_i-\bar X)^2.

Di bawah kendala, MLE varians adalah

\widetilde\sigma^2=\frac1n\sum_i(X_i-\mu_0)^2 =\widehat\sigma^2+(\bar X-\mu_0)^2.

Rasio fungsi kemungkinan memberi

L_n=n\log\frac{\widetilde\sigma^2}{\widehat\sigma^2} =n\log\left(1+\frac{(\bar X-\mu_0)^2}{\widehat\sigma^2}\right).

Jika $s^2=(n-1)^{-1}\sum_i(X_i-\bar X)^2$ dan $T=\sqrt n(\bar X-\mu_0)/s$ , maka

L_n=n\log\left(1+\frac{T^2}{n-1}\right).

Di bawah nol, $T\sim t_{n-1}$ secara eksak. Karena $$L_n$$ fungsi naik dari $$T^2$$ , uji LR dapat dikalibrasi secara eksak melalui distribusi $$t$$ , bukan harus memakai kuantil $\chi_1^2$ . Aproksimasi Wilks diperoleh dari $n\log(1+T^2/(n-1))=T^2+o_P(1)$ . Contoh ini menunjukkan bahwa teorema asimtotik tidak melarang kalibrasi yang lebih baik untuk sampel berhingga.

Invariansi, kebutuhan komputasi, dan perilaku pada sampel berhingga

Tabel 1 — Invariansi, kebutuhan komputasi, dan perilaku pada sampel berhingga
Aspek	Wald	Skor	Rasio fungsi kemungkinan
Optimisasi yang diperlukan	MLE penuh	MLE nol	MLE penuh dan MLE nol
Informasi lokal	di MLE penuh	di MLE nol	implisit melalui kelengkungan fungsi log-kemungkinan
Invariansi terhadap reparameterisasi mulus satu-ke-satu	tidak eksak	eksak bila seluruh tensor ditransformasikan konsisten	eksak
Ketergantungan pada linearisasi kendala	langsung	melalui ruang normal di nol	tidak pada formulasi eksak
Limit reguler	$\chi_r^2$	$\chi_r^2$	$\chi_r^2$
Kegagalan khas	penduga galat baku buruk, koordinat buruk, batas	proyeksi parameter pengganggu salah, informasi nol	optimisasi sulit, limit Wilks gagal

Tidak ada kolom yang selalu unggul. Skor berguna ketika optimisasi di bawah alternatif mahal, Wald mudah ketika MLE dan kovarians sudah tersedia, dan LR mempunyai geometri serta invariansi pada sampel berhingga yang paling bersih. Namun LR tetap tidak kebal terhadap himpunan dukungan yang berubah, parameter batas, atau identifikasi yang gagal.

Algoritme audit sebelum memakai kuantil khi-kuadrat

Nyatakan $\Theta$ , himpunan dukungan, ukuran pendominasi, dan himpunan nol secara eksplisit.
Periksa bahwa titik nol merupakan titik interior. Jika ia berada pada batas, tentukan kerucut singgung; jangan memakai Wilks standar.
Periksa identifiabilitas global dan lokal. Dua parameter dengan distribusi sama tidak dapat dipisahkan oleh ukuran sampel berapa pun.
Turunkan skor dan pastikan $E_\theta U_1(\theta)=0$ dengan pertukaran integral yang sah, bukan dengan manipulasi formal.
Hitung informasi dan peringkat kendala. Matriks singular atau Jacobian kendala yang kehilangan peringkat mengubah laju dan distribusi limit.
Pastikan MLE penuh dan nol berada pada lingkungan lokal yang benar; cek pula maksimum lokal dan label yang ekuivalen.
Jika sampel kecil, cari pivot atau distribusi eksak. Bila tidak ada, pertimbangkan kalibrasi parametrik yang mereplikasi seluruh prosedur optimisasi, bukan hanya mengambil sampel dari distribusi normal asimtotik.
Laporkan parameterisasi, penduga informasi, kuantil, aras nominal, dan apakah kesimpulan eksak atau asimtotik.

Kapan kesimpulan bab ini tidak sah

Kesimpulan $\chi_r^2$ tidak dapat diambil hanya karena statistik diberi nama Wald, skor, atau LR. Empat kegagalan berikut diturunkan lengkap pada bab berikutnya.

Himpunan dukungan yang bergantung parameter membatalkan identitas skor dan ekspansi lokal dua arah; lihat Contoh tandingan 1: titik ujung seragam dan himpunan dukungan yang bergerak.
Titik nol pada batas mengganti ruang singgung dengan kerucut dan biasanya menghasilkan campuran khi-kuadrat; lihat Contoh tandingan 2: rataan distribusi Normal pada batas.
Informasi singular membatalkan invers $I_0^{-1}$ dan dapat mengubah laju MLE; lihat Contoh tandingan 3: informasi singular tetapi model teridentifikasi.
Nonidentifiabilitas membatalkan konsistensi parameter dan memungkinkan alternatif yang secara observasional identik; lihat Contoh tandingan 4: nonidentifiabilitas walau informasi lokal positif.

Kesalahan spesifikasi model merupakan masalah lain: jika distribusi sebenarnya tidak berada dalam keluarga $\{P_\theta\}$ , kovarians MLE umumnya berbentuk matriks apit (sandwich), dan identitas informasi tidak otomatis berlaku. Teori fungsi kemungkinan semu memerlukan teorema terpisah; mengganti satu matriks kovarians tanpa menyesuaikan kalibrasi LR bukanlah pembenaran.

Ringkasan operasional

Jika berlaku dominasi bersama, nilai parameter sebenarnya merupakan titik interior dan teridentifikasi, matriks informasi definit positif, kendala berperingkat penuh, LAN seragam, serta MLE konsisten, maka statistik Wald, skor, dan LR semuanya mengukur kuadrat panjang komponen normal dari pergeseran lokal. Itulah sumber limit $\chi_r^2$ , ekuivalensi orde pertama, dan daya lokal $\chi_r^2(\lambda)$ nonsentral. Kesamaan tersebut bukan identitas pada sampel berhingga. LR invarian secara eksak terhadap reparameterisasi satu-ke-satu, skor invarian bila ditransformasikan dengan benar, sedangkan Wald dapat berubah. Sebelum memakai kuantil asimtotik, syarat pada Syarat keteraturan yang dipakai harus diaudit satu per satu.