O006-C140-CMP-D003 · id-ID · CC BY-SA 4.0 · OpenAI Codex gpt-5.6-sol, Ultra

Ekspansi kuadratik lokal fungsi log-kemungkinan dan normalitas asimtotik

Konsistensi MLE Korolari: konsistensi MLE pada ruang parameter kompak menyatakan bahwa galat penduga akhirnya kecil, tetapi tidak memberi skala galat atau bentuk distribusinya. Dalam model parametrik reguler, perubahan parameter berorde \(n^{-1/2}\) menghasilkan perubahan fungsi log-kemungkinan berorde satu. Pada skala ini, fungsi log-kemungkinan mendekati fungsi kuadratik acak: bagian linearnya adalah skor ternormalisasi dan kelengkungannya adalah informasi Fisher.

Struktur kuadratik lokal menjelaskan tiga fakta sekaligus:

  1. MLE memiliki galat berorde \(n^{-1/2}\);
  2. galat yang diskalakan dengan \(\sqrt n\) memiliki limit normal dengan kovarians \(I(\theta_0)^{-1}\); dan
  3. transformasi mulus dari MLE dapat dianalisis dengan metode delta.

Kesimpulan tersebut tidak berasal dari konsistensi saja. Kita akan menyatakan syarat diferensiasi, momen, keseragaman lokal, dan ketaksingularan secara terpisah sehingga jelas mengapa contoh nonreguler berada di luar teorema.

Notasi dan asumsi lokal

Untuk satu observasi, tulis

\[\ell(\theta;x)=\log f_\theta(x),\qquad s_\theta(x)=\nabla_\theta\ell(\theta;x),\qquad H_\theta(x)=\nabla_\theta^2\ell(\theta;x).\]

Untuk sampel iid, \(\ell_n(\theta)=\sum_{i=1}^n\ell(\theta;X_i)\), \(U_n(\theta)=\sum_{i=1}^n s_\theta(X_i)\), dan \(J_n(\theta)=-\sum_{i=1}^nH_\theta(X_i)\). Informasi per observasi adalah \(I(\theta)=E_\theta\{s_\theta(X)s_\theta(X)^\mathsf T\}\) sebagaimana didefinisikan di Definisi: informasi Fisher yang diharapkan dan informasi teramati. Norma vektor adalah norma Euklides dan norma matriks adalah norma operator yang kompatibel.

Asumsi A1--A7

Pada nilai parameter sebenarnya \(\theta_0\in\mathbb R^p\), andaikan:

  1. A1 (interior dan identifikasi). \(\theta_0\) adalah titik interior ruang parameter dan teridentifikasi.
  2. A2 (keteraturan densitas). Dominasi, himpunan dukungan bersama, diferensiabilitas, dan keabsahan menukar diferensiasi dengan integrasi pada R1--R5 di Asumsi R1--R6 berlaku pada lingkungan terbuka \(N\) dari \(\theta_0\).
  3. A3 (momen kedua skor). \(E_{\theta_0}s_{\theta_0}=0\) dan \(E_{\theta_0}\|s_{\theta_0}\|^2<\infty\).
  4. A4 (informasi tak singular). \(I_0=I(\theta_0)\) definit positif.
  5. A5 (kontrol Hessian dan turunan ketiga). \(E_{\theta_0}\|H_{\theta_0}(X)\|<\infty\). Untuk hampir semua \(x\), \(\ell(\theta;x)\) tiga kali terdiferensialkan pada \(N\), dan ada peubah acak \(B(X)\) dengan \(E_{\theta_0}B(X)<\infty\) yang mendominasi nilai mutlak setiap turunan parsial orde tiga pada satu lingkungan tertutup dari \(\theta_0\).
  6. A6 (solusi konsisten). Ada pemaksimum lokal atau akar persamaan skor \(\widehat\theta_n\) dengan \(\widehat\theta_n\xrightarrow{P}\theta_0\) dan \(U_n(\widehat\theta_n)=0\) dengan peluang menuju satu.
  7. A7 (pemilihan interior). Dengan peluang menuju satu, ruas garis antara \(\theta_0\) dan \(\widehat\theta_n\) berada di \(N\).

A6 biasanya diperoleh dari identifikasi Kullback--Leibler, ULLN, dan teorema argmax di unit sebelumnya. Ia ditulis terpisah karena normalitas suatu akar lokal tidak membuktikan bahwa algoritme telah memilih akar yang konsisten. Untuk MLE pada batas, persamaan skor mungkin tidak nol dan A1/A6 gagal.

Teorema limit pusat (CLT) untuk skor

Di bawah A3--A4,

\[\Delta_n :=\frac1{\sqrt n}U_n(\theta_0) =\frac1{\sqrt n}\sum_{i=1}^n s_{\theta_0}(X_i) \xrightarrow{d}N_p(0,I_0).\]

Bukti

Ambil sembarang vektor tetap \(a\in\mathbb R^p\). Peubah \(a^\mathsf T s_{\theta_0}(X_i)\) iid, bernilai harapan nol, dan bervarians \(a^\mathsf T I_0a<\infty\). Teorema limit pusat skalar memberi

\[a^\mathsf T\Delta_n\xrightarrow{d} N(0,a^\mathsf T I_0a).\]

Karena ini berlaku untuk setiap \(a\), teorema Cramér--Wold memberi konvergensi vektor ke \(N_p(0,I_0)\). \(\square\)

CLT skor menyediakan bagian acak dalam aproksimasi lokal fungsi log-kemungkinan. Kelengkungan deterministik berasal dari LLN untuk Hessian.

Teorema: konvergensi seragam Hessian lokal

Di bawah A2 dan A5, untuk setiap lingkungan kompak cukup kecil \(K\subset N\) yang memuat \(\theta_0\),

\[\sup_{\theta\in K} \left\| \frac1n\sum_{i=1}^n H_\theta(X_i)-E_{\theta_0}H_\theta(X) \right\|\xrightarrow{P}0,\]

Selain itu, \(E_{\theta_0}H_{\theta_0}(X)=-I_0\).

Bukti

Untuk setiap elemen \((j,k)\), teorema nilai rata-rata multivariat dan A5 memberi

\[|H_{\theta,jk}(X)-H_{\eta,jk}(X)| \le C_p B(X)\|\theta-\eta\|,\]

dengan konstanta dimensi \(C_p\) yang tidak bergantung pada \(X\), \(\theta\), atau \(\eta\) di \(K\). Jadi setiap elemen Hessian memenuhi syarat ULLN Lipschitz Teorema: ULLN Lipschitz pada himpunan kompak. Karena jumlah elemen matriks hingga, konvergensi seragam elemen demi elemen menyiratkan konvergensi dalam norma matriks. Identitas harapan Hessian pada titik benar adalah identitas informasi kedua Teorema: identitas informasi kedua. \(\square\)

Perhatikan bahwa nilai harapan pada tampilan di atas diambil di bawah distribusi benar \(P_{\theta_0}\), sedangkan Hessian dievaluasi pada \(\theta\). Hanya pada \(\theta=\theta_0\) identitas informasi standar langsung memberi \(-I_0\).

Teorema: normalitas asimtotik akar skor konsisten, termasuk MLE interior

Di bawah A1--A7, penduga \(\widehat\theta_n\) pada A6 memenuhi

\[\sqrt n(\widehat\theta_n-\theta_0) =I_0^{-1}\Delta_n+o_P(1) \xrightarrow{d}N_p(0,I_0^{-1}).\]

Bukti

Pada kejadian \(A_n=\{U_n(\widehat\theta_n)=0\}\), yang menurut A6 berpeluang menuju satu, terapkan ekspansi Taylor integral pada skor di sepanjang ruas garis dari \(\theta_0\) ke \(\widehat\theta_n\):

\[0=U_n(\widehat\theta_n) =U_n(\theta_0) +\left\{\int_0^1\nabla^2\ell_n (\theta_0+t(\widehat\theta_n-\theta_0))\,dt\right\} (\widehat\theta_n-\theta_0).\]

Definisikan

\[\overline H_n=\frac1n\int_0^1\nabla^2\ell_n (\theta_0+t(\widehat\theta_n-\theta_0))\,dt.\]

Konsistensi A6 dan A7 membuat seluruh ruas garis berada dalam setiap lingkungan kompak kecil dari \(\theta_0\) dengan peluang menuju satu. Konvergensi seragam Hessian Teorema: konvergensi seragam Hessian lokal dan kontinuitas harapan Hessian memberi \(\overline H_n\xrightarrow{P}-I_0\). Karena \(I_0\) tak singular, \(\overline H_n\) invertibel dengan peluang menuju satu dan \(-\overline H_n^{-1}\xrightarrow{P}I_0^{-1}\).

Kalikan persamaan skor dengan \(n^{-1/2}\) dan susun ulang:

\[\sqrt n(\widehat\theta_n-\theta_0) =-\overline H_n^{-1}\frac{U_n(\theta_0)}{\sqrt n} =I_0^{-1}\Delta_n+o_P(1).\]

CLT skor Teorema limit pusat (CLT) untuk skor dan teorema Slutsky memberi limit Normal dengan kovarians \(I_0^{-1}I_0(I_0^{-1})^\mathsf T=I_0^{-1}\) karena \(I_0\) simetris. \(\square\)

Catatan: konsistensi bukan normalitas

Tidak satu pun langkah bukti di atas mengikuti dari konsistensi saja. CLT skor memerlukan momen kedua; penggantian Hessian memerlukan LLN seragam lokal; invers memerlukan informasi tak singular; dan persamaan skor memerlukan solusi interior. Pernyataan yang hanya menyebut \(\widehat\theta_n\xrightarrow{P}\theta_0\) tidak membenarkan aproksimasi Normal, bahkan tidak membenarkan konvergensi harapan tanpa UI Teorema: UI memperkuat konvergensi dalam peluang menjadi konvergensi harapan.

Ekspansi kuadratik lokal fungsi log-kemungkinan

Teorema: ekspansi lokal pada skala akar-\(n\)

Di bawah A1--A5, untuk setiap vektor tetap \(h\in\mathbb R^p\) dengan \(\theta_0+h/\sqrt n\in\Theta\),

\[\ell_n\left(\theta_0+\frac h{\sqrt n}\right)-\ell_n(\theta_0) =h^\mathsf T\Delta_n-\frac12h^\mathsf T I_0h+o_P(1).\]

Sisa \(o_P(1)\) berlaku seragam untuk \(h\) dalam setiap himpunan kompak. Bentuk ini disebut ekspansi kuadratik lokal fungsi log-kemungkinan; bersama limit Normal \(\Delta_n\), bentuk tersebut merupakan representasi normalitas asimtotik lokal (LAN) pada model iid reguler.

Bukti

Tuliskan \(u_n=h/\sqrt n\). Taylor orde dua dengan sisa orde tiga untuk setiap observasi memberi

\[\ell(\theta_0+u_n;X_i)-\ell(\theta_0;X_i) =u_n^\mathsf T s_{\theta_0}(X_i) +\frac12u_n^\mathsf T H_{\theta_0}(X_i)u_n+R_{ni}.\]

A5 memberi, untuk \(h\) dalam kompak dengan \(\|h\|\le C\),

\[|R_{ni}|\le C'\|u_n\|^3B(X_i) \le C''n^{-3/2}B(X_i).\]

Jumlah sisa dibatasi oleh \(C''n^{-1/2}\{n^{-1}\sum_iB(X_i)\}=o_P(1)\) melalui LLN. Jumlah suku linear adalah \(h^\mathsf T\Delta_n\). Suku kuadratik adalah

\[\frac12h^\mathsf T \left\{\frac1n\sum_{i=1}^nH_{\theta_0}(X_i)\right\}h \xrightarrow{P}-\frac12h^\mathsf T I_0h\]

oleh LLN dan identitas informasi. Batas sisa menggunakan hanya batas kompak pada \(h\), sehingga keseragaman pada setiap kompak juga berlaku. \(\square\)

Fungsi kuadratik pembatas \(q_n(h)=h^\mathsf T\Delta_n-\tfrac12h^\mathsf TI_0h\) dimaksimumkan pada \(h=I_0^{-1}\Delta_n\). Inilah bentuk utama representasi asimtotik MLE pada Teorema: normalitas asimtotik akar skor konsisten, termasuk MLE interior. Teorema normalitas tetap dibuktikan lewat skor agar tidak perlu mengasumsikan secara terselubung bahwa pemaksimum fungsi acak dan pemaksimum aproksimasinya selalu dekat.

Informasi Fisher yang diharapkan dan informasi yang diamati

Definisi: tiga matriks kelengkungan

Untuk sampel berukuran \(n\), bedakan:

\[\mathcal I_n(\theta)=nI(\theta) \quad\text{(informasi yang diharapkan)},\]
\[J_n(\theta)=-\nabla^2\ell_n(\theta) \quad\text{(informasi yang diamati)},\]

dan

\[K_n(\theta)=\sum_{i=1}^n s_\theta(X_i)s_\theta(X_i)^\mathsf T \quad\text{(hasil kali luar gradien/OPG)}.\]

Di bawah syarat keteraturan, identitas informasi, dan LLN yang diperlukan, jika model terspesifikasi dengan benar dan ketiga matriks dievaluasi pada nilai parameter sebenarnya, ketiganya memiliki limit per observasi yang sama. Pada sampel berukuran hingga, ketiganya umumnya tidak sama. Jika spesifikasi model keliru, limit Hessian dan OPG bahkan dapat berbeda; kovarians sandwich diperlukan, dan identitas informasi untuk model yang benar tidak boleh diasumsikan.

Teorema: konsistensi penduga informasi berbasis substitusi

Di bawah A1--A7 dan syarat LLN yang sama untuk \(s_\theta(X)s_\theta(X)^\mathsf T\), dua konvergensi pertama berikut berlaku. Untuk hasil ketiga, asumsikan pula bahwa \(I(\theta)=E_\theta\{s_\theta(X)s_\theta(X)^\mathsf T\}\) kontinu pada \(\theta_0\). Syarat yang cukup adalah integran yang kontinu secara lokal serta selubung terintegralkan yang seragam terhadap \(\theta\); kontinuitas ini tidak disimpulkan hanya dari ULLN di bawah \(P_{\theta_0}\). Dengan tambahan tersebut,

\[\frac1nJ_n(\widehat\theta_n)\xrightarrow{P}I_0, \qquad \frac1nK_n(\widehat\theta_n)\xrightarrow{P}I_0, \qquad I(\widehat\theta_n)\xrightarrow{P}I_0.\]

Akibatnya, bila invers ada,

\[J_n(\widehat\theta_n)^{-1}, \quad K_n(\widehat\theta_n)^{-1}, \quad \{nI(\widehat\theta_n)\}^{-1}\]

Ketiganya mengestimasi \(I_0^{-1}/n\) dalam arti bahwa, setelah masing-masing dikalikan \(n\), hasilnya konvergen dalam peluang ke \(I_0^{-1}\). Ini adalah matriks kovarians untuk aproksimasi Normal asimtotik; klaim tentang kovarians aktual memerlukan konvergensi momen tambahan.

Bukti

Konsistensi membuat \(\widehat\theta_n\) masuk ke lingkungan lokal dengan peluang menuju satu. Konvergensi seragam Hessian Teorema: konvergensi seragam Hessian lokal memberi \(-n^{-1}\nabla^2\ell_n(\widehat\theta_n)\xrightarrow{P}I_0\). Argumen ULLN yang sama pada setiap elemen \(s_\theta s_\theta^\mathsf T\) memberi limit OPG \(E_{\theta_0}\{s_{\theta_0}(X)s_{\theta_0}(X)^\mathsf T\}=I_0\). Kontinuitas \(I(\theta)\) dan teorema pemetaan kontinu memberi hasil substitusi untuk informasi yang diharapkan. Karena pemetaan invers kontinu pada himpunan matriks tak singular dan \(I_0\) definit positif, hasil untuk invers mengikuti. \(\square\)

Catatan interpretasi

Informasi yang diamati memakai kelengkungan fungsi log-kemungkinan yang benar-benar terlihat pada data; informasi yang diharapkan merata-ratakan kelengkungan atas sampel hipotetis menurut model. Memilih salah satunya untuk galat baku pada sampel berukuran hingga adalah keputusan aproksimasi, bukan identitas aljabar universal. Keduanya setara pada orde pertama di bawah teorema, tetapi dapat berbeda nyata pada sampel kecil atau dekat batas parameter.

Metode delta

Sering kali target ilmiah bukan \(\theta\) sendiri, melainkan \(g(\theta)\): nisbah peluang (odds), logaritma nisbah peluang (log-odds), rasio, peluang prediksi, atau kombinasi parameter. Metode delta memindahkan limit Normal melalui pendekatan linear lokal yang sah.

Teorema: metode delta skalar

Jika

\[\sqrt n(T_n-\theta)\xrightarrow{d}N(0,V)\]

dan \(g:\mathbb R\to\mathbb R\) dapat didiferensialkan di \(\theta\), maka

\[\sqrt n\{g(T_n)-g(\theta)\} \xrightarrow{d}N\bigl(0,[g'(\theta)]^2V\bigr).\]

Bukti

Diferensiabilitas memberi

\[g(T_n)-g(\theta) =g'(\theta)(T_n-\theta)+r(T_n-\theta), \qquad \frac{r(u)}{|u|}\to0\quad(u\to0).\]

Limit awal menyiratkan \(T_n\xrightarrow{P}\theta\) dan \(\sqrt n(T_n-\theta)=O_P(1)\). Karena \(r(T_n-\theta)/|T_n-\theta|=o_P(1)\),

\[\sqrt n\,r(T_n-\theta) =o_P(1)\,O_P(1)=o_P(1).\]

Hasil mengikuti dari teorema Slutsky. \(\square\)

Teorema: metode delta multivariat

Misalkan \(T_n\in\mathbb R^p\) memenuhi

\[\sqrt n(T_n-\theta)\xrightarrow{d}N_p(0,V),\]

dan \(g:\mathbb R^p\to\mathbb R^q\) dapat didiferensialkan dalam pengertian Fréchet di \(\theta\) dengan Jacobian \(G=Dg(\theta)\) berukuran \(q\times p\). Maka

\[\sqrt n\{g(T_n)-g(\theta)\} \xrightarrow{d}N_q(0,GVG^\mathsf T).\]

Bukti

Diferensiabilitas Fréchet berarti

\[g(\theta+u)=g(\theta)+Gu+r(u), \qquad \frac{\|r(u)\|}{\|u\|}\to0.\]

Seperti pada bukti skalar, konsistensi dan keketatan \(\sqrt n(T_n-\theta)\) membuat \(\sqrt n\,r(T_n-\theta)=o_P(1)\). Maka

\[\sqrt n\{g(T_n)-g(\theta)\} =G\sqrt n(T_n-\theta)+o_P(1).\]

Transformasi linear dari Normal multivariat mempunyai kovarians \(GVG^\mathsf T\), lalu Slutsky menyelesaikan bukti. \(\square\)

Jika \(G=0\), teorema hanya memberi limit degenerat nol. Itu bukan bukti bahwa galat identik nol; suku Taylor orde kedua dan mungkin skala selain \(\sqrt n\) diperlukan. Kasus informasi singular pada Contoh tandingan nonreguler: informasi singular memperlihatkan bahaya linearisasi dengan turunan nol.

Contoh lengkap: logit pada model Bernoulli

Untuk \(X_i\sim\operatorname{Bernoulli}(p)\) dengan ruang parameter \([0,1]\) dan nilai sebenarnya \(p\in(0,1)\), MLE \(\widehat p=\bar X_n\) memenuhi

\[\sqrt n(\widehat p-p)\xrightarrow{d}N(0,p(1-p)),\]

sesuai \(I(p)^{-1}=p(1-p)\) dari Contoh lengkap: model Bernoulli. Targetkan logit, yaitu logaritma nisbah peluang,

\[g(p)=\log\frac{p}{1-p}, \qquad g'(p)=\frac1{p(1-p)}.\]

Definisikan versi logit yang bernilai hingga pada setiap sampel:

\[\widetilde g_n= \begin{cases} \log\{\bar X_n/(1-\bar X_n)\},&0<\bar X_n<1,\\ 0,&\bar X_n\in\{0,1\}. \end{cases}\]

Karena \(P_p(\bar X_n\in\{0,1\})=(1-p)^n+p^n\to0\), perluasan pada kedua titik ujung tersebut tidak memengaruhi limit. Metode delta memberi

\[\sqrt n\left\{ \widetilde g_n -\log\frac p{1-p} \right\} \xrightarrow{d} N\left(0,\frac1{p(1-p)}\right).\]

Penduga substitusi untuk galat baku logit adalah

\[\widehat{\operatorname{se}} =\{n\widehat p(1-\widehat p)\}^{-1/2}.\]

Rumus galat baku ini hanya terdefinisi bila \(0<\widehat p<1\). Bila seluruh observasi bernilai nol atau semua bernilai satu, MLE berada pada batas dan transformasi logit tidak bernilai hingga. Untuk \(p\) tetap di interior, peluang kejadian itu menuju nol, tetapi pada sampel kecil peluang tersebut tidak dapat diabaikan dan tidak boleh disembunyikan oleh keluaran numerik.

Contoh lengkap: fungsi lokasi dan varians Normal

Untuk \(X_i\sim N(\mu,v)\), informasi per observasi dari Contoh lengkap: rataan dan varians pada model normal adalah

\[I(\mu,v)= \begin{pmatrix}1/v&0\\0&1/(2v^2)\end{pmatrix}.\]

Karena itu MLE \((\widehat\mu,\widehat v)\) memiliki limit

\[\sqrt n \begin{pmatrix}\widehat\mu-\mu\\\widehat v-v\end{pmatrix} \xrightarrow{d} N_2\left( \begin{pmatrix}0\\0\end{pmatrix}, \begin{pmatrix}v&0\\0&2v^2\end{pmatrix} \right).\]

Untuk simpangan baku \(g(\mu,v)=\sqrt v\), Jacobian adalah \(G=(0,1/(2\sqrt v))\). Maka

\[\sqrt n(\sqrt{\widehat v}-\sqrt v) \xrightarrow{d}N\left(0,\frac v2\right).\]

Untuk koefisien variasi \(c(\mu,v)=\sqrt v/\mu\) dengan \(\mu\ne0\), Jacobian

\[G=\left(-\frac{\sqrt v}{\mu^2},\frac{1}{2\mu\sqrt v}\right)\]

harus diterapkan pada seluruh matriks kovarians melalui bentuk \(G I(\mu,v)^{-1}G^\mathsf T\). Mengolah kedua parameter seolah-olah bebas kebetulan menghasilkan jawaban yang benar di sini karena elemen silang matriks informasi untuk model Normal bernilai nol; pada model umum, suku kovarians silang wajib dipertahankan.

Contoh tandingan: fungsi kemungkinan dengan himpunan dukungan bergerak

Pada \(X_i\sim\operatorname{Unif}(0,\theta)\), MLE adalah maksimum sampel dan

\[n\left(1-\frac{\widehat\theta_n}{\theta}\right) \xrightarrow{d}\operatorname{Exp}(1)\]

sebagaimana diturunkan di Contoh tandingan nonreguler: himpunan dukungan bergerak. Di sini himpunan dukungan bersama A2 gagal, skor tidak bernilai harapan nol, Hessian fungsi log-kemungkinan di interior tidak menangkap informasi dari batas himpunan dukungan, dan skala yang tepat adalah \(n\), bukan \(\sqrt n\). MLE konsisten tetapi teorema normalitas reguler tidak berlaku.

Contoh tandingan: parameter pada batas

Ambil Bernoulli dengan ruang parameter \([0,1]\) dan nilai parameter sebenarnya \(p_0=0\). Semua observasi sama dengan nol hampir pasti, sehingga \(\widehat p_n=0\) untuk setiap \(n\). Maka \(\sqrt n(\widehat p_n-p_0)=0\) persis, bukan Normal dengan varians positif. A1 gagal karena nilai parameter sebenarnya bukan titik interior; skor biasa mengandung pembagian dengan \(p\); informasi \(1/{p(1-p)}\) tak hingga pada batas. Distribusi limit degenerat ini bukan anomali komputasi, melainkan konsekuensi geometri ruang parameter.

Contoh tandingan: informasi nol dan laju nonstandar

Dalam model yang dibatasi \(X_i\sim N(\theta^2,1)\) dengan \(\theta\ge0\) dan \(\theta_0=0\), parameter sudah teridentifikasi tetapi berada pada batas dan \(I(0)=0\). MLE memenuhi

\[\widehat\theta_n=\sqrt{\max(\bar X_n,0)}.\]

Karena \(\bar X_n=O_P(n^{-1/2})\), kita memperoleh \(\widehat\theta_n=O_P(n^{-1/4})\), bukan \(O_P(n^{-1/2})\). Lebih tepat,

\[n^{1/4}\widehat\theta_n \xrightarrow{d}\sqrt{\max(Z,0)}, \qquad Z\sim N(0,1).\]

Limit memiliki atom di nol dan bagian kontinu positif; ia tidak Normal. A1 dan A4 gagal, sedangkan metode delta orde pertama degenerat karena turunan peta \(\theta\mapsto\theta^2\) di nol sama dengan nol.

Prosedur aman untuk aproksimasi asimtotik

Untuk menerapkan hasil unit ini pada model baru, lakukan urutan berikut.

  1. Pastikan nilai parameter sebenarnya merupakan titik interior dan gunakan parameterisasi yang teridentifikasi.
  2. Verifikasi dominasi, himpunan dukungan bersama, serta alasan pertukaran turunan dan integral; jangan hanya memeriksa bahwa rumus dapat diturunkan secara simbolik.
  3. Hitung skor dan informasi dengan kedua identitas bila keduanya sah. Perbedaan hasil adalah tanda kesalahan aljabar atau pelanggaran syarat keteraturan.
  4. Buktikan konsistensi akar persamaan skor yang dipilih; keberadaan akar skor saja tidak cukup.
  5. Periksa momen skor, LLN lokal Hessian, serta ketaksingularan informasi.
  6. Nyatakan representasi linear \(\sqrt n(\widehat\theta_n-\theta_0)=I_0^{-1}\Delta_n+o_P(1)\) sebelum menuliskan limit Normal.
  7. Untuk target transformasi, tulis Jacobian beserta dimensinya dan gunakan \(GI_0^{-1}G^\mathsf T\).
  8. Jika parameter berada pada batas, himpunan dukungan bergerak, atau informasi singular, hentikan prosedur reguler dan cari ekspansi serta skala yang sesuai.

Ekspansi kuadratik lokal fungsi log-kemungkinan memberi dasar untuk prosedur Wald, skor, dan rasio fungsi kemungkinan. Kesetaraan orde pertama prosedur-prosedur tersebut memerlukan asumsi keteraturan yang sama dan tidak boleh diekstrapolasi ke contoh nonreguler di atas.