O006-C140-CMP-MS04 · id-ID · CC BY-SA 4.0 · OpenAI Codex gpt-5.6-sol, Ultra

Set penguasaan 04 — metode momen dan dasar kemungkinan maksimum

Delapan soal ini menghubungkan metode momen (MM) dengan kemungkinan maksimum (MLE). Data yang sudah diamati diperlakukan sebagai nilai tetap ketika fungsi kemungkinan dimaksimumkan, sedangkan sifat bias dan konsistensi kembali memakai hukum pengambilan sampel. Pelajaran sumber tentang konstruksi MLE ditautkan pada Lesson04. Setiap penyelesaian memeriksa dukungan, batas parameter, dan apakah akar persamaan skor benar-benar maksimum global.

Soal 1 — Metode momen Bernoulli dan identifikasi parameter

Misalkan \(X_1,\ldots,X_n\) saling bebas dan berdistribusi identik (iid) menurut Bernoulli\((p)\), \(0\le p\le1\).

  1. Gunakan momen pertama populasi untuk menurunkan penduga metode momen \(\widehat p_{\rm MM}\).
  2. Hitung bias dan variansnya.
  3. Tunjukkan konsistensinya melalui hukum bilangan besar.
  4. Karena \(E(X^2)=E(X)=p\), jelaskan mengapa momen kedua tidak memberi persamaan independen untuk parameter tambahan dalam model Bernoulli.

Petunjuk 1

Momen pertama populasi adalah \(E_pX=p\), sedangkan momen pertama sampel adalah \(\overline X\). Persamaan momen langsung memberi nilai penduga.

Petunjuk 2

Gunakan distribusi \(\sum_iX_i\sim\operatorname{Binomial}(n,p)\) untuk varians, lalu gunakan hukum bilangan besar untuk limit probabilitasnya.

Jawaban singkat

\(\widehat p_{\rm MM}=\overline X\). Ia tidak bias, \(\operatorname{Var}(\widehat p_{\rm MM})=p(1-p)/n\), dan konvergen dalam probabilitas ke \(p\). Momen kedua sama dengan momen pertama, sehingga tidak menambah informasi identifikasi dalam keluarga Bernoulli satu-parameter.

Solusi lengkap

Persamaan momen pertama ialah \(E_pX=p\). Menyamakan momen populasi dengan momen sampel menghasilkan \(\widehat p_{\rm MM}=\overline X=n^{-1}\sum_iX_i\). Karena \(E_pX_i=p\),

\[E_p\widehat p_{\rm MM}=p,\qquad \operatorname{Var}_p(\widehat p_{\rm MM})=\frac{p(1-p)}n.\]

Jadi biasnya nol, tetapi varians tetap positif untuk \(0<p<1\) dan baru mengecil ketika \(n\) membesar. Hukum bilangan besar memberi \(\overline X\xrightarrow{P}E_pX=p\), sehingga penduga konsisten. Nilai \(\overline X\) selalu berada pada \([0,1]\), termasuk batas parameter. Untuk peubah Bernoulli, \(X^2=X\) pada setiap titik ruang sampel; akibatnya \(E_p(X^2)=p\) dan momen sampel kedua juga sama dengan \(\overline X\). Persamaan kedua mengulang persamaan pertama, bukan mengidentifikasi parameter baru. Banyaknya persamaan formal tidak sama dengan banyaknya persamaan momen bebas yang benar-benar memberi informasi baru.

Soal 2 — Seragam: MM dapat melampaui titik ujung, MLE berada di titik ujung

Misalkan \(X_1,\ldots,X_n\) iid \(\operatorname{Uniform}(0,\theta)\), \(\theta>0\), dan tulis \(X_{(n)}=\max_iX_i\).

  1. Turunkan \(\widehat\theta_{\rm MM}\) dari \(E_\theta X=\theta/2\), lalu hitung bias dan variansnya.
  2. Turunkan fungsi kemungkinan dan MLE dengan memperhatikan indikator dukungan.
  3. Turunkan distribusi \(X_{(n)}/\theta\), bias MLE, dan koreksi tak bias \((n+1)X_{(n)}/n\).
  4. Jelaskan mengapa hasil MM yang dapat melebihi \(\theta\) bukan kontradiksi matematis, tetapi masalah interpretasi jika dipakai sebagai batas.

Petunjuk 1

Persamaan momen memberi \(2\overline X\). Fungsi kemungkinan adalah \(\theta^{-n}\mathbf1\{\theta\ge X_{(n)}\}\) dan menurun terhadap \(\theta\) pada daerah yang mungkin.

Petunjuk 2

Untuk \(0<u<1\), \(P_\theta(X_{(n)}/\theta\le u)=u^n\). Gunakan momen distribusi maksimum itu.

Jawaban singkat

\(\widehat\theta_{\rm MM}=2\overline X\), bias nol dan varians \(\theta^2/(3n)\). Jika \(X_{(n)}>0\), MLE ialah \(X_{(n)}\). Jika \(X_{(n)}=0\), fungsi kemungkinan tidak mempunyai pemaksimum berhingga; kejadian ini berprobabilitas nol di bawah setiap \(\theta>0\). Karena itu \(E X_{(n)}=n\theta/(n+1)\) dan koreksi tak biasnya adalah \((n+1)X_{(n)}/n\). Nilai penduga MM dapat melebihi nilai parameter sebenarnya karena tidak ada kendala deterministik yang memaksanya berada di bawah nilai tersebut.

Solusi lengkap

Karena \(E_\theta X=\theta/2\), persamaan momen memberi \(\widehat\theta_{\rm MM}=2\overline X\). Varians satu pengamatan seragam adalah \(\theta^2/12\), sehingga

\[E_\theta\widehat\theta_{\rm MM}=\theta,\qquad \operatorname{Var}(\widehat\theta_{\rm MM}) =4\frac{\theta^2/12}{n}=\frac{\theta^2}{3n}.\]

Fungsi kemungkinan sampel adalah \(L(\theta;x)=\theta^{-n}\mathbf1\{\theta\ge x_{(n)}\}\). Jika \(x_{(n)}>0\), faktor \(\theta^{-n}\) menurun pada daerah \(\theta\ge x_{(n)}\), sehingga maksimum dicapai pada \(\widehat\theta_{\rm MLE}=x_{(n)}\). Jika \(x_{(n)}=0\), fungsi kemungkinan tidak berbatas ketika \(\theta\downarrow0\), sehingga tidak ada MLE berhingga. Kejadian terakhir mempunyai probabilitas nol di bawah setiap \(\theta>0\). Untuk \(0<u<1\),

\[P_\theta\{X_{(n)}/\theta\le u\} =P_\theta(X_1\le\theta u,\ldots,X_n\le\theta u)=u^n.\]

Maka \(X_{(n)}/\theta\) mempunyai densitas \(nu^{n-1}\) dan harapan \(n/(n+1)\). Jadi MLE berbias ke bawah, sedangkan \(\widetilde\theta=(n+1)X_{(n)}/n\) tidak bias. MM tidak melanggar model ketika nilainya lebih besar dari \(\theta\): penduga adalah peubah acak yang tidak dibatasi oleh nilai parameter sebenarnya. Namun nilai itu tidak boleh ditafsirkan sebagai batas pasti; MLE memanfaatkan kendala dukungan dan karena itu sama dengan maksimum sampel.

Soal 3 — Metode momen Poisson dan fungsi risiko

Misalkan \(X_1,\ldots,X_n\) iid Poisson\((\lambda)\), \(\lambda>0\).

  1. Turunkan penduga MM dari momen pertama.
  2. Hitung bias, varians, dan risiko kuadrat \(R(\lambda,\widehat\lambda)\).
  3. Gunakan momen kedua untuk memeriksa hubungan \(E(X^2)=\lambda+\lambda^2\); apakah ia menghasilkan penduga berbeda jika dipakai bersama momen pertama secara konsisten?
  4. Jelaskan mengapa argumen konsistensi MM tidak membutuhkan pembuktian MLE.

Petunjuk 1

Momen pertama Poisson adalah \(\lambda\), jadi solusi pertama adalah \(\overline X\). Untuk momen kedua, gunakan varians plus kuadrat rataan.

Petunjuk 2

Risiko kuadrat adalah bias kuadrat ditambah varians. Hukum bilangan besar mengendalikan momen sampel pertama secara langsung.

Jawaban singkat

\(\widehat\lambda_{\rm MM}=\overline X\), tidak bias, dengan varians dan risiko \(\lambda/n\). Momen kedua memenuhi \(\lambda+\lambda^2\) tetapi bukan persamaan independen yang perlu dipakai setelah parameter tunggal telah diidentifikasi oleh momen pertama. Konsistensi berasal dari hukum bilangan besar, bukan dari optimalitas fungsi kemungkinan.

Solusi lengkap

Untuk Poisson\((\lambda)\), \(E_\lambda X=\lambda\), sehingga \(\widehat\lambda_{\rm MM}=\overline X\). Karena \(\operatorname{Var}(X)=\lambda\),

\[E_\lambda\widehat\lambda_{\rm MM}=\lambda,\qquad \operatorname{Var}_\lambda(\widehat\lambda_{\rm MM})=\frac{\lambda}{n}.\]

Dengan kerugian kuadrat, risiko adalah \(R(\lambda,\widehat\lambda_{\rm MM})=\lambda/n\), sebab biasnya nol. Momen kedua memang \(E(X^2)=\operatorname{Var}(X)+(EX)^2=\lambda+\lambda^2\). Jika seseorang memakai hanya momen kedua, persamaan kuadrat memiliki akar positif \([-1+\sqrt{1+4\overline{X^2}}]/2\), yang umumnya berbeda dan tidak perlu dipilih karena momen pertama sudah mengidentifikasi \(\lambda\). Menggabungkan dua momen dengan satu parameter memerlukan aturan estimasi tambahan, bukan sekadar menyelesaikan dua persamaan yang tidak sama persis pada data. Konsistensi penduga pertama langsung mengikuti \(\overline X\xrightarrow{P}\lambda\); tidak ada langkah yang bergantung pada fungsi kemungkinan atau sifat maksimum.

Soal 4 — Fungsi kemungkinan Bernoulli, akar skor, dan batas

Dalam \(n\) pengamatan Bernoulli, teramati \(x\) keberhasilan. Untuk \(0\le p\le1\):

  1. tulis massa gabungan dan fungsi kemungkinan sebagai fungsi \(p\);
  2. untuk \(0<x<n\), turunkan fungsi log-kemungkinan, skor, dan MLE;
  3. tangani kasus \(x=0\) dan \(x=n\) tanpa memakai rumus skor interior;
  4. buktikan bahwa titik yang dipilih adalah maksimum global, bukan hanya titik stasioner.

Petunjuk 1

Fungsi kemungkinan (hingga faktor yang tidak bergantung pada \(p\)) adalah \(p^x(1-p)^{n-x}\). Untuk data interior, skor sama dengan \(x/p-(n-x)/(1-p)\).

Petunjuk 2

Fungsi log-kemungkinan mempunyai turunan kedua \(-x/p^2-(n-x)/(1-p)^2<0\) pada \((0,1)\); periksa limit dan kemonotonan pada kasus titik ujung.

Jawaban singkat

\(\widehat p_{\rm MLE}=x/n\) untuk \(0<x<n\), sedangkan \(\widehat p=0\) bila \(x=0\) dan \(\widehat p=1\) bila \(x=n\). Kekonkavan fungsi log-kemungkinan pada interior serta pemeriksaan titik ujung membuktikan maksimum global.

Solusi lengkap

Untuk urutan data tertentu dengan \(x\) sukses, massa gabungan adalah \(p^x(1-p)^{n-x}\); jika hanya hitungan \(x\) yang dilaporkan, fungsi massa bagi hitungan tersebut memiliki faktor \(\binom{n}{x}\), yang tidak bergantung pada \(p\). Keduanya menghasilkan fungsi kemungkinan yang sama setelah faktor konstan diabaikan. Pada \(0<x<n\),

\[\ell(p)=x\log p+(n-x)\log(1-p),\qquad \ell'(p)=\frac{x}{p}-\frac{n-x}{1-p}.\]

Akar skor memenuhi \(x(1-p)=(n-x)p\), sehingga \(\widehat p=x/n\). Turunan kedua negatif pada \((0,1)\), jadi fungsi log-kemungkinan cekung tegas dan akar itu maksimum tunggal di interior. Jika \(x=0\), \(L(p)=(1-p)^n\) menurun pada \([0,1]\) dan maksimum di \(p=0\); jika \(x=n\), \(L(p)=p^n\) naik dan maksimum di \(p=1\). Rumus skor interior tidak boleh dipakai pada titik ujung karena logaritma dan pembagian menghasilkan singularitas. Faktor kombinatorial hanya mengubah tinggi fungsi kemungkinan, bukan lokasi maksimum. Optimisasi dilakukan atas parameter dengan data \(x\) yang diperlakukan tetap, bukan atas \(x\) sebagai peubah acak.

Soal 5 — MLE eksponensial dan distribusi sampel

Misalkan \(X_1,\ldots,X_n\) iid Eksponensial berlaju \(\lambda>0\), dengan densitas \(\lambda e^{-\lambda x}\mathbf1\{x\ge0\}\).

  1. Turunkan MLE dan penduga MM untuk \(\lambda\).
  2. Temukan distribusi \(S=\sum_iX_i\) dan hitung bias MLE untuk \(n>1\).
  3. Untuk \(n>2\), hitung varians MLE.
  4. Buktikan konsistensi dan jelaskan mengapa bias pada sampel berhingga tidak bertentangan dengan konsistensi.

Petunjuk 1

Jika \(S>0\), akar skor memberi \(\widehat\lambda=n/S\); jika \(S=0\), periksa perilaku fungsi kemungkinan ketika \(\lambda\to\infty\). Distribusi \(S\) adalah Gamma dengan parameter bentuk \(n\) dan laju \(\lambda\).

Petunjuk 2

Untuk \(S\sim\operatorname{Gamma}(n,\lambda)\), \(E(S^{-1})=\lambda/(n-1)\) dan \(E(S^{-2})=\lambda^2/[(n-1)(n-2)]\) bila momen ada.

Jawaban singkat

Jika \(S>0\), MM dan MLE sama-sama \(1/\overline X=n/S\). Jika \(S=0\), persamaan momen tidak mempunyai solusi berhingga dan fungsi kemungkinan tidak berbatas ketika \(\lambda\to\infty\), sehingga tidak ada MLE berhingga. Di bawah model Eksponensial, \(S>0\) hampir pasti. Untuk \(n>1\), \(E\widehat\lambda=\lambda n/(n-1)\); untuk \(n>2\), \(\operatorname{Var}(\widehat\lambda)=\lambda^2n^2/[(n-1)^2(n-2)]\). Karena \(\overline X\to1/\lambda\), inversi kontinu memberi konsistensi, meskipun bias tidak nol pada setiap ukuran sampel berhingga.

Solusi lengkap

Fungsi kemungkinan sampel, pada \(x_i\ge0\), adalah \(L(\lambda)=\lambda^ne^{-\lambda S}\). Untuk \(S>0\), fungsi log-kemungkinan \(\ell(\lambda)=n\log\lambda-\lambda S\) memiliki skor \(n/\lambda-S\) dan turunan kedua \(-n/\lambda^2<0\). Jadi \(\widehat\lambda_{\rm MLE}=n/S=1/\overline X\), dan persamaan momen memberi hasil yang sama. Jika \(S=0\), tidak ada solusi MM berhingga dan \(\ell(\lambda)=n\log\lambda\) tidak berbatas ketika \(\lambda\to\infty\). Karena \(S>0\) hampir pasti di bawah model, peristiwa pengecualian ini tidak mengubah distribusi sampel atau perhitungan bias berikutnya. Jumlah \(S\) memiliki distribusi Gamma dengan parameter bentuk \(n\) dan laju \(\lambda\). Dengan momen invers,

\[E\widehat\lambda=nE(S^{-1})=\frac{n\lambda}{n-1}\quad(n>1),\]

dan

\[\operatorname{Var}(\widehat\lambda) =n^2\left[E(S^{-2})-E(S^{-1})^2\right] =\frac{n^2\lambda^2}{(n-1)^2(n-2)}\quad(n>2).\]

Hukum bilangan besar memberi \(\overline X\xrightarrow{P}1/\lambda>0\); fungsi \(x\mapsto1/x\) kontinu di titik itu, sehingga MLE konvergen dalam probabilitas ke \(\lambda\). Bias sebesar \(O(1/n)\) pada sampel berhingga dapat lenyap ketika \(n\) tumbuh; konsistensi adalah klaim tentang limit, bukan ketidakbiasan pada setiap ukuran sampel.

Soal 6 — MLE Normal dua parameter dan penyebut \(n\)

Misalkan \(X_1,\ldots,X_n\) iid \(N(\mu,\sigma^2)\), \(\sigma^2>0\), dan \(n\ge2\).

  1. Turunkan persamaan skor untuk \((\mu,\sigma^2)\).
  2. Tunjukkan bahwa \(\widehat\mu=\overline X\) dan \(\widehat{\sigma^2}_{\rm MLE}=n^{-1}\sum_i(X_i-\overline X)^2\).
  3. Buktikan maksimum global dengan memeriksa bentuk fungsi kemungkinan terhadap \(\mu\) dan \(\sigma^2\).
  4. Hitung ekspektasi penduga varians dan bandingkan dengan \(S^2=(n-1)^{-1}\sum_i(X_i-\overline X)^2\).

Petunjuk 1

Gunakan dekomposisi jumlah kuadrat \(\sum_i(X_i-\mu)^2=\sum_i(X_i-\overline X)^2+n(\overline X-\mu)^2\). Untuk varians, diferensiasikan terhadap \(v=\sigma^2\).

Petunjuk 2

Pada \(\mu=\overline X\), fungsi log-kemungkinan sebagai fungsi \(v\) adalah \(-\frac n2\log v-\mathrm{RSS}/(2v)\); periksa tanda skor dan batas \(v\).

Jawaban singkat

\(\widehat\mu=\overline X\) dan \(\widehat v_{\rm MLE}=\mathrm{RSS}/n\), sedangkan \(E\widehat v_{\rm MLE}=(n-1)\sigma^2/n\). Varians tak bias memakai \(\mathrm{RSS}/(n-1)\). Jika \(\mathrm{RSS}>0\), rataan meminimalkan RSS dan fungsi satu variabel pada \(v>0\) mencapai maksimum di \(\mathrm{RSS}/n\). Jika \(\mathrm{RSS}=0\), tidak ada maksimum pada ruang \(v>0\).

Solusi lengkap

Tuliskan \(v=\sigma^2\). Selain konstanta,

\[\ell(\mu,v)=-\frac n2\log v-\frac1{2v}\sum_i(X_i-\mu)^2.\]

Turunan terhadap \(\mu\) memberi \(v^{-1}\sum_i(X_i-\mu)=0\), jadi \(\widehat\mu=\overline X\). Dengan \(\mathrm{RSS}=\sum_i(X_i-\overline X)^2\), turunan terhadap \(v\) setelah substitusi adalah

\[-\frac n{2v}+\frac{\mathrm{RSS}}{2v^2}=0, \qquad \widehat v=\frac{\mathrm{RSS}}n.\]

Untuk setiap \(v>0\), dekomposisi jumlah kuadrat menunjukkan fungsi kemungkinan dimaksimumkan terhadap \(\mu\) di \(\overline X\). Jika \(\mathrm{RSS}>0\), fungsi \(q(v)=-\frac n2\log v-\mathrm{RSS}/(2v)\) naik sebelum \(v=\mathrm{RSS}/n\) dan turun sesudahnya; ia menuju \(-\infty\) pada kedua batas, sehingga titik itu maksimum global. Jika semua data sama, fungsi kemungkinan tidak mempunyai maksimum pada ruang \(v>0\) dan tidak berbatas ketika \(v\downarrow0\). Distribusi Normal memberi \(E(\mathrm{RSS})=(n-1)\sigma^2\), maka

\[E\widehat v_{\rm MLE}=\frac{n-1}{n}\sigma^2,\qquad E\left[\frac{\mathrm{RSS}}{n-1}\right]=\sigma^2.\]

Penyebut \(n\) berasal dari optimisasi fungsi kemungkinan, sedangkan \(n-1\) mengoreksi derajat kebebasan setelah rataan diestimasi. Kriteria fungsi kemungkinan maksimum dan ketidakbiasan mengoptimalkan sasaran yang berbeda.

Soal 7 — Invariansi MLE dan parameterisasi logit

Misalkan data Bernoulli berjumlah \(x\) sukses dari \(n\), dan parameterisasi \(\beta=\log\{p/(1-p)\}\) sehingga \(p(\beta)=e^\beta/(1+e^\beta)\).

  1. Turunkan skor terhadap \(\beta\) dan tunjukkan bahwa untuk \(0<x<n\), \(\widehat\beta=\log\{(x/n)/(1-x/n)\}\).
  2. Hubungkan hasil itu dengan \(\widehat p=x/n\) melalui invariansi transformasi.
  3. Jelaskan apa yang terjadi pada \(x=0\) dan \(x=n\) dalam koordinat \(\beta\).
  4. Mengapa optimisasi numerik yang memotong \(\beta\) pada interval hingga dapat menghasilkan “MLE” yang sebenarnya hanya maksimum berkendala?

Petunjuk 1

Tulis \(\ell(\beta)=x\beta-n\log(1+e^\beta)\). Skornya \(x-ne^\beta/(1+e^\beta)\).

Petunjuk 2

Transformasi logit memetakan \((0,1)\) ke seluruh garis real; titik \(p=0\) dan \(p=1\) hanya dicapai sebagai limit \(\beta\to-\infty\) dan \(\beta\to+\infty\).

Jawaban singkat

Skor \(\ell'(\beta)=x-np(\beta)\) memberi \(p(\widehat\beta)=x/n\), sehingga \(\widehat\beta=\operatorname{logit}(x/n)\) untuk data interior. Untuk \(x=0\), supremum didekati ketika \(\beta\to-\infty\), dan untuk \(x=n\) ketika \(\beta\to+\infty\); batas numerik mengubahnya menjadi MLE berkendala.

Solusi lengkap

Dengan \(p(\beta)=e^\beta/(1+e^\beta)\), fungsi log-kemungkinan (mengabaikan faktor kombinatorial) ialah

\[\ell(\beta)=x\log p(\beta)+(n-x)\log(1-p(\beta)) =x\beta-n\log(1+e^\beta).\]

Turunan pertamanya \(\ell'(\beta)=x-np(\beta)\), sehingga untuk \(0<x<n\) akar unik memenuhi \(p(\widehat\beta)=x/n\). Karena \(\ell''(\beta)=-np(\beta)\{1-p(\beta)\}<0\), akar itu maksimum global dan

\[\widehat\beta=\log\frac{x/n}{1-x/n}.\]

Peta logit satu-ke-satu pada \((0,1)\) berarti memaksimumkan fungsi kemungkinan terhadap \(p\) atau terhadap \(\beta\) menghasilkan distribusi yang sama dan penduga yang saling ditransformasikan: \(\widehat\beta=\operatorname{logit}(\widehat p)\). Jika \(x=0\), nilai fungsi log-kemungkinan semakin besar ketika \(\beta\) turun tanpa batas; tidak ada nilai real berhingga yang mencapai supremum, tetapi MLE untuk \(p\) berada di titik ujung nol. Kasus \(x=n\) simetris. Algoritme yang memaksakan \(-M\le\beta\le M\) mengembalikan titik ujung \(-M\) atau \(M\); itu adalah maksimum pada ruang parameter yang dipotong, bukan MLE tak berkendala. Laporan harus menyebut pembatasan tersebut agar hasil numerik tidak disalahartikan.

Soal 8 — Ketika MM gagal tetapi fungsi kemungkinan tetap tersedia

Pertimbangkan sampel iid dengan densitas \(f_\theta(x)=\theta(1+\theta x)^{-2}\) untuk \(x\ge0\), \(\theta>0\).

  1. Verifikasi bahwa densitas ternormalisasi dan hitung momen pertama (bila ada). Apa akibatnya bagi MM berbasis momen pertama?
  2. Tulis fungsi log-kemungkinan dan persamaan skor.
  3. Periksa perilaku fungsi kemungkinan saat \(\theta\downarrow0\) dan \(\theta\to\infty\); kapan maksimum berhingga ada?
  4. Jelaskan mengapa MLE dan MM merupakan prosedur berbeda.

Petunjuk 1

Substitusi \(u=1+\theta x\) menunjukkan integral densitas satu. Integral \(x f_\theta(x)\) berperilaku seperti \(\int^\infty dx/x\) dan divergen.

Petunjuk 2

Fungsi log-kemungkinan adalah \(n\log\theta-2\sum_i\log(1+\theta x_i)\); skor dapat memiliki akar hanya jika data tidak semuanya nol. Jangan mengklaim MM tanpa momen populasi.

Jawaban singkat

Integral densitas sama dengan satu, tetapi \(E_\theta X=\infty\), sehingga MM berbasis momen pertama tidak terdefinisi. Fungsi kemungkinan tetap sah dengan skor \(n/\theta-2\sum_i x_i/(1+\theta x_i)\). Jika \(k\) adalah banyaknya pengamatan positif, maka \(g(\theta)=\theta\ell'(\theta)=n-2\sum_i\theta x_i/(1+\theta x_i)\) menurun dari \(n\) menuju \(n-2k\). MLE berhingga yang unik ada tepat ketika \(k>n/2\). Untuk \(k<n/2\), fungsi kemungkinan meningkat tanpa batas ketika \(\theta\to\infty\); untuk \(k=n/2\), fungsi kemungkinan meningkat menuju supremum berhingga yang tidak pernah dicapai pada nilai \(\theta\) yang berhingga. Jadi akar skor harus diperiksa sebagai maksimum global, dan MLE dapat tersedia ketika MM gagal.

Solusi lengkap

Untuk \(\theta>0\),

\[\int_0^\infty\theta(1+\theta x)^{-2}\,dx =\int_1^\infty u^{-2}\,du=1,\]

jadi ini densitas berekor berat yang sah. Namun

\[E_\theta X=\int_0^\infty x\,\theta(1+\theta x)^{-2}\,dx\]

berperilaku seperti \(\int^\infty dx/x\) dan divergen. Karena momen pertama populasi tidak hingga, tidak ada persamaan MM \(E_\theta X=\overline X\) yang sah; kegagalan itu bukan bukti bahwa modelnya tidak mempunyai penduga lain.

Untuk data nonnegatif, fungsi log-kemungkinan ialah

\[\ell(\theta)=n\log\theta-2\sum_{i=1}^n\log(1+\theta x_i),\]

dengan skor

\[\ell'(\theta)=\frac n\theta-2\sum_{i=1}^n\frac{x_i}{1+\theta x_i}.\]

Jika \(k>0\), \(g(\theta)\) menurun ketat, dengan \(g(0+)=n\) dan \(g(\infty)=n-2k\). Karena itu, bila \(k>n/2\), ada tepat satu akar skor dan fungsi kemungkinan naik lalu turun, sehingga akar itu adalah maksimum global. Bila \(k<n/2\), skor tetap positif dan fungsi kemungkinan meningkat tanpa batas seperti \(\theta^{n-2k}\). Bila \(k=n/2\), fungsi kemungkinan tetap meningkat menuju supremum berhingga yang tidak pernah dicapai pada nilai \(\theta\) yang berhingga. Untuk \(k=0\), yang termasuk \(k<n/2\), fungsi kemungkinannya \(\theta^n\) dan tidak berbatas. Jadi MLE berhingga hanya ada untuk \(k>n/2\); MM tetap memerlukan momen populasi, solusi persamaan, dan identifikasi. Momen tak hingga dapat menggagalkan MM tanpa menggagalkan definisi probabilitas atau fungsi kemungkinan.

Daftar periksa kelulusan

Set ini dikuasai bila Anda dapat menurunkan persamaan momen, menghitung bias dan risiko, membangun fungsi kemungkinan dari data tetap, serta menangani dukungan dan titik ujung. Anda harus bisa membedakan MLE dari penduga tak bias, memeriksa maksimum global alih-alih hanya akar skor, dan menjelaskan invariansi di bawah reparameterisasi. Kegagalan momen atau ketiadaan MLE berhingga adalah hasil matematis yang harus dilaporkan, bukan ditutupi dengan rumus formal.