O006-C140-CMP-D013 · id-ID · CC BY-SA 4.0 · OpenAI Codex gpt-5.6-sol, Ultra

Peluang yang berbeda menjawab pertanyaan yang berbeda

Pelajaran Bayesian Penn State Lesson11 memperkenalkan prior, posterior, fungsi kerugian, dan selang kredibel. Kerangka hukum bersama serta keputusan koherennya dibangun pada Satu model probabilitas, lalu satu masalah keputusan. Unit ini menyambungkannya dengan cakupan frekuentis, pengujian, prediksi, dan keputusan. Tujuannya bukan memilih pemenang universal. Dua prosedur dapat sama secara aljabar pada satu model dan berbeda tajam pada model lain karena peluangnya dikondisikan pada objek yang berbeda.

Misalkan \(X\sim P_\theta\). Dalam analisis frekuentis, \(\theta\) adalah indeks tetap bagi hukum pengulangan sampel. Dalam analisis Bayesian, prior proper \(\Pi\) bersama fungsi kemungkinan (likelihood) membentuk hukum gabungan

\[\theta\sim\Pi, \qquad X\mid\theta\sim P_\theta,\]

dan posterior \(\Pi(\,·\mid X=x)\) adalah distribusi bersyarat di bawah hukum gabungan itu. Kedua konstruksi sah, tetapi simbol peluangnya tidak dapat dipertukarkan tanpa menyatakan hukum yang dipakai.

Himpunan kredibel dan prosedur kepercayaan

Sebuah aturan himpunan \(C\) memetakan data \(x\) ke himpunan bagian \(C(x)\) dari ruang parameter. Ia merupakan himpunan kredibel posterior bermassa \(1-\alpha\) bila

\[\Pi\{\theta\in C(x)\mid X=x\}=1-\alpha\]

untuk data yang relevan. Setelah \(x\) diamati, parameter acak di dalam model Bayesian masih mempunyai distribusi posterior, sehingga pernyataan tersebut adalah peluang bersyarat yang literal.

Aturan yang sama merupakan prosedur kepercayaan dengan cakupan \(1-\alpha\) bila

\[c(\theta):=P_\theta\{\theta\in C(X)\}=1-\alpha\]

untuk setiap \(\theta\) dalam ruang parameter, atau sedikitnya \(c(\theta)\geq1-\alpha\) bila cakupan konservatif diizinkan. Sebelum data diambil, \(C(X)\) acak sedangkan \(\theta\) dianggap tetap. Setelah data diamati, selang itu tidak lagi acak dalam eksperimen yang telah selesai; angka \(1-\alpha\) mengacu pada frekuensi prosedur di bawah pengulangan yang ditentukan.

Karena itu kedua kalimat berikut berbeda.

  1. \(\Pi\{\theta\in C(x)\mid x\}=0{,}95\) menyatakan massa posterior pada data yang benar-benar diamati.
  2. \(P_\theta\{\theta\in C(X)\}=0{,}95\) menyatakan cakupan pada satu nilai parameter tetap di seluruh sampel hipotetis.

Sebuah aturan dapat memenuhi keduanya, salah satunya, atau tidak keduanya.

Identitas cakupan rata-rata prior

Andaikan \(\Pi\) proper, \((\theta,X)\) mempunyai hukum gabungan yang terdefinisi, dan \(C(X)\) terukur. Maka

\[E_{m_\Pi}\!\left[\Pi\{\theta\in C(X)\mid X\}\right] =P_\Pi\{\theta\in C(X)\} =\int c(\theta)\,\Pi(d\theta),\]

dengan \(m_\Pi\) distribusi prediktif prior dari \(X\). Jika massa posterior \(C(X)\) sama dengan \(1-\alpha\) untuk \(m_\Pi\)-hampir setiap \(X\), maka

\[\int c(\theta)\,\Pi(d\theta)=1-\alpha.\]

Bukti

Ambil indikator \(I=\mathbf1\{\theta\in C(X)\}\). Hukum ekspektasi iteratif memberi

\[E_\Pi(I)=E_{m_\Pi}\{E_\Pi(I\mid X)\} =E_{m_\Pi}\!\left[\Pi\{\theta\in C(X)\mid X\}\right].\]

Jika pengondisian dilakukan ke arah sebaliknya, \(E_\Pi(I\mid\theta)=P_\theta\{\theta\in C(X)\}=c(\theta)\). Maka

\[E_\Pi(I)=\int c(\theta)\,\Pi(d\theta).\]

Menyamakan dua ekspresi bagi ekspektasi indikator membuktikan identitas. Jika ekspektasi bersyarat pertama hampir pasti sama dengan \(1-\alpha\), ekspektasi luarnya juga sama dengan \(1-\alpha\). \(\square\)

Apa yang dapat dan tidak dapat dibalik

Identitas itu memberi rata-rata prior, bukan cakupan titik demi titik. Nilai \(c(\theta)\) dapat terlalu tinggi pada satu daerah dan terlalu rendah pada daerah lain, lalu tepat berimbang setelah diintegralkan terhadap prior. Sebaliknya, bila \(c(\theta)=1-\alpha\) untuk setiap \(\theta\), rata-rata terhadap setiap prior proper tentu sama dengan \(1-\alpha\); namun fakta itu sendiri tidak memaksa \(C(x)\) mempunyai massa posterior \(1-\alpha\) untuk setiap \(x\).

Syarat prior proper juga penting. Prior tak proper dapat menghasilkan posterior proper, tetapi tidak menentukan distribusi prediktif prior ternormalisasi. Dalam kasus itu integral rata-rata prior di atas bukan pernyataan peluang sampai sebuah prior proper atau limit dari prior proper ditetapkan.

Contoh normal eksak: kesesuaian akibat pivot dan efek penyusutan

Ambil \(X_1,\ldots,X_n\) yang saling independen dan berdistribusi identik (iid) menurut \(N(\mu,\sigma^2)\), dengan \(\sigma\) diketahui, dan tulis \(s^2=\sigma^2/n\). Maka \(\bar X\mid\mu\sim N(\mu,s^2)\).

Prior datar: selang yang sama, dua pembenaran

Dengan prior formal \(\pi(\mu)\propto1\), posterior adalah

\[\mu\mid\bar X=x\sim N(x,s^2).\]

Selang kredibel berekor sama \(1-\alpha\) adalah

\[C(x)=[x-z_{1-\alpha/2}s,\ x+z_{1-\alpha/2}s].\]

Untuk \(\mu\) tetap,

\[P_\mu\{\mu\in C(\bar X)\} =P_\mu\!\left\{ \left|\frac{\bar X-\mu}{s}\right|\le z_{1-\alpha/2} \right\}=1-\alpha.\]

Jadi titik ujung yang sama mempunyai interpretasi posterior dan cakupan eksak. Kesamaan ini berasal dari pivot pada model lokasi normal dan bentuk prior datar, bukan teorema bahwa setiap selang kredibel adalah selang kepercayaan. Karena prior datar tak proper, Identitas cakupan rata-rata prior bukan pembenaran bagi hasil ini; cakupan dibuktikan langsung dari pivot pada model normal.

Prior normal proper: cakupan sebagai fungsi parameter tetap

Sekarang gunakan prior \(\mu\sim N(m_0,\tau^2)\) dengan \(0<\tau<\infty\). Tuliskan

\[v_n=(\tau^{-2}+s^{-2})^{-1}, \qquad w=\frac{\tau^2}{\tau^2+s^2}.\]

Posteriornya adalah

\[\mu\mid\bar X=x\sim N\{m_n(x),v_n\}, \qquad m_n(x)=wx+(1-w)m_0,\]

dan selang kredibel berekor sama ialah

\[C_\Pi(x)= [m_n(x)-z_{1-\alpha/2}\sqrt{v_n},\ m_n(x)+z_{1-\alpha/2}\sqrt{v_n}].\]

Pada nilai \(\mu\) tetap, galat pusat posterior memiliki hukum

\[m_n(\bar X)-\mu \sim N\{(1-w)(m_0-\mu),\ w^2s^2\}.\]

Jika \(a=z_{1-\alpha/2}\sqrt{v_n}\), cakupan frekuentis eksaknya adalah

\[c(\mu)= \Phi\!\left( \frac{a-(1-w)(m_0-\mu)}{ws} \right) - \Phi\!\left( \frac{-a-(1-w)(m_0-\mu)}{ws} \right).\]

Formula ini menampilkan dua efek prior: pusat disusutkan ke \(m_0\), dan panjang selang memakai varians posterior \(v_n\). Cakupan bukan konstanta terhadap \(\mu\).

Sebagai contoh tandingan numerik, ambil \(n=25\), \(\sigma=1\), \(m_0=0\), \(\tau=0{,}2\), dan \(\alpha=0{,}05\). Maka \(w=1/2\), \(v_n=0{,}02\), dan \(a\approx0{,}27718\). Pada \(\mu=0\), cakupan sekitar \(0{,}9944\); pada \(\mu=1\), cakupan hanya sekitar \(0{,}0129\). Meski begitu, jika \(\mu\) benar-benar diambil dari prior \(N(0,0{,}2^2)\), identitas Identitas cakupan rata-rata prior menjamin cakupan rata-rata prior tepat \(0{,}95\). Rata-rata yang tepat dapat menyembunyikan daerah parameter tetap dengan kekurangan cakupan yang besar.

Kapan kesesuaian pada contoh normal berubah

Jika \(\tau^2\to\infty\) dengan \(n\) tetap, maka \(w\to1\), \(v_n\to s^2\), dan formula cakupan kembali ke \(1-\alpha\) untuk setiap \(\mu\). Jika \(n\to\infty\) sementara prior tidak berubah dengan \(n\) dan memberikan massa positif pada lingkungan nilai sebenarnya, pengaruh penyusutan juga hilang pada orde pertama. Namun prior yang makin terkonsentrasi seiring bertambahnya \(n\), parameter pada batas, model yang salah, atau target nonreguler dapat menggagalkan kesesuaian tersebut.

Beta–binomial: kurva cakupan parameter tetap

Misalkan

\[Y\mid p\sim\operatorname{Binomial}(n,p), \qquad p\sim\operatorname{Beta}(a,b),\]

dengan \(a,b>0\). Posteriornya adalah

\[p\mid Y=y\sim\operatorname{Beta}(a+y,b+n-y).\]

Untuk setiap \(y\), pilih interval kuantil posterior

\[C(y)=[L_y,U_y],\]

dengan

\[L_y=Q_{a+y,b+n-y}(\alpha/2), \qquad U_y=Q_{a+y,b+n-y}(1-\alpha/2).\]

Massa posteriornya \(1-\alpha\), tetapi pada \(p\) tetap cakupannya adalah fungsi eksak

\[c(p)=\sum_{y=0}^{n} \mathbf1\{L_y\le p\le U_y\} {n\choose y}p^y(1-p)^{n-y}.\]

Fungsi ini berubah menurut \(p\) dan dapat meloncat ketika \(p\) melewati salah satu titik ujung \(L_y\) atau \(U_y\). Tidak ada langkah dalam konjugasi beta–binomial yang membuatnya identik dengan \(1-\alpha\).

Identitas beta–binomial bagi cakupan rata-rata prior

Dengan \(\pi(p)\) densitas \(\operatorname{Beta}(a,b)\) dan \(m(y)\) massa prediktif beta–binomial,

\[\int_0^1c(p)\pi(p)\,dp=1-\alpha.\]

Bukti

Karena jumlahnya hingga, pertukarkan jumlah dan integral:

\[\begin{aligned} \int_0^1c(p)\pi(p)\,dp &=\sum_{y=0}^n \int_{L_y}^{U_y}P(Y=y\mid p)\pi(p)\,dp\\ &=\sum_{y=0}^n m(y)\int_{L_y}^{U_y}\pi(p\mid y)\,dp\\ &=\sum_{y=0}^nm(y)(1-\alpha)=1-\alpha. \end{aligned}\]

Baris kedua adalah faktorisasi Bayes \(P(y\mid p)\pi(p)=m(y)\pi(p\mid y)\); baris terakhir memakai jumlah massa prediktif \(\sum_y m(y)=1\). \(\square\)

Contoh tandingan eksak dengan satu pengamatan

Ambil prior seragam \(\operatorname{Beta}(1,1)\), \(n=1\), dan interval kredibel berekor sama \(50\%\). Jika \(Y=0\), posteriornya \(\operatorname{Beta}(1,2)\) dan

\[C(0)=[1-\sqrt{3}/2,\ 1/2].\]

Jika \(Y=1\), posteriornya \(\operatorname{Beta}(2,1)\) dan

\[C(1)=[1/2,\ \sqrt{3}/2].\]

Dengan \(q=1-\sqrt3/2\), cakupan pada \(p\) tetap adalah

\[c(p)= \begin{cases} 0,&0<p<q,\\ 1-p,&q\le p<1/2,\\ 1,&p=1/2,\\ p,&1/2<p\le\sqrt3/2,\\ 0,&\sqrt3/2<p<1. \end{cases}\]

Jadi selang \(50\%\) mempunyai cakupan nol pada dua daerah parameter, cakupan satu tepat di \(p=1/2\), dan cakupan antara \(1/2\) dan \(\sqrt3/2\) pada daerah lain. Namun

\[\int_q^{1/2}(1-p)\,dp +\int_{1/2}^{\sqrt3/2}p\,dp =\frac14+\frac14=\frac12.\]

Kalibrasi rata-rata prior yang tepat tidak mengubah fakta bahwa kalibrasi pada \(p\) tetap sangat tidak seragam.

Audit cakupan yang dapat direproduksi

Untuk sebuah aturan kredibel diskret atau kontinu:

  1. tetapkan prior, fungsi kemungkinan, metode titik ujung, dan konvensi inklusi batas;
  2. hitung massa posterior sebagai fungsi data dan hentikan pemeriksaan bila nilainya bukan target;
  3. anggap \(\theta\) tetap pada kisi yang mencakup batas serta daerah yang diberi massa prior kecil;
  4. hitung \(P_\theta\{\theta\in C(X)\}\) secara eksak bila jumlah hingga, atau dengan simulasi yang memakai benih acak tetap dan galat Monte Carlo yang dilaporkan;
  5. hitung pula rata-rata terhadap prior dan cocokkan dengan Identitas cakupan rata-rata prior;
  6. laporkan minimum, maksimum, serta lokasi kekurangan cakupan, bukan hanya rata-ratanya.

Pemeriksaan langkah kelima menguji implementasi Bayesian. Langkah ketiga dan keempat menjawab pertanyaan frekuentis yang berbeda.

Pemeriksaan prediktif posterior bukan nilai-p klasik

Dua konstruksi ekor

Untuk hipotesis nol sederhana \(P_{\theta_0}\) dan statistik \(T\), nilai-p ekor atas dapat ditulis

\[p_F(x)=P_{\theta_0}\{T(X^{\mathrm{rep}})\ge T(x)\}.\]

Jika distribusi \(T(X)\) kontinu di bawah hipotesis nol, maka \(p_F(X)\sim\operatorname{Unif}(0,1)\). Karena itu aturan \(p_F\le\alpha\) mempunyai ukuran eksak \(\alpha\). Pada statistik diskret, distribusinya biasanya konservatif tanpa randomisasi. Pada hipotesis nol komposit, substitusi langsung parameter belum tentu valid; supremum, pengondisian, pivot, atau kalibrasi lain diperlukan.

Pemeriksaan prediktif posterior memakai

\[p_{\mathrm{ppc}}(x)= P\{T(X^{\mathrm{rep}},\theta) \ge T(x,\theta)\mid X=x\},\]

dengan \(\theta\mid x\) diambil dari posterior dan \(X^{\mathrm{rep}}\mid\theta\) dari model pengambilan sampel. Data \(x\) menentukan posterior sekaligus muncul dalam statistik ketaksesuaian. Karena penggunaan ganda ini, \(p_{\mathrm{ppc}}(X)\) umumnya tidak berdistribusi seragam di bawah \(P_\theta\) dan tidak otomatis memberi uji berukuran \(\alpha\).

Contoh tandingan normal: nilai-p prediktif posterior selalu \(1/2\)

Ambil model normal pada Prior datar: selang yang sama, dua pembenaran dengan \(\sigma\) diketahui, prior datar, dan statistik ketaksesuaian \(T(X)=\bar X\). Setelah data \(x\) diamati,

\[\mu\mid x\sim N(\bar x,s^2), \qquad \bar X^{\mathrm{rep}}\mid\mu\sim N(\mu,s^2).\]

Setelah \(\mu\) diintegralkan,

\[\bar X^{\mathrm{rep}}\mid x\sim N(\bar x,2s^2).\]

Akibat simetri,

\[p_{\mathrm{ppc}}(x) =P(\bar X^{\mathrm{rep}}\ge\bar x\mid x)=\frac12\]

untuk setiap data. Nilai itu bukan bukti bahwa model selalu pas; statistik ketaksesuaian berbasis lokasi terserap oleh parameter lokasi yang sama. Pemeriksaan sisaan, ekor, bentuk, atau pola yang menyasar kegagalan tertentu lebih informatif, tetapi nilai-p prediktif posterior tersebut tetap harus dilabeli sebagai diagnostik posterior, bukan nilai-p seragam tanpa bukti kalibrasi tambahan.

Kapan klaim kalibrasi prediktif berubah

Jika \(T(X)\) dan \(T(X^{\mathrm{rep}})\) merupakan dua realisasi independen dari distribusi prediktif prior yang sama dan distribusi \(T(X)\) itu kontinu, peluang ekor prediktif prior berdistribusi seragam di bawah hukum gabungan yang ditentukan oleh prior tersebut. Kontinuitas \(X\) saja tidak cukup bila \(T\) mempunyai atom. Untuk statistik diskret, diperlukan randomisasi untuk keseragaman eksak atau jaminan konservatif yang dinyatakan tepat. Hasil prediktif prior itu masih bukan jaminan ukuran pada setiap \(\theta\) tetap. Jika targetnya galat Tipe I frekuentis, distribusi statistik harus dihitung di bawah setiap distribusi dalam hipotesis nol yang relevan. Jika targetnya kritik model Bayesian, laporkan statistik ketaksesuaian, distribusi prediktif yang dipakai, dan pola kegagalannya tanpa mengimpor label ukuran atau daya uji.

Keputusan Bayes dan Neyman–Pearson memakai kendala yang berbeda

Pertimbangkan dua keadaan, \(H_0\) dan \(H_1\), serta dua tindakan: pilih \(H_0\) dengan \(a_0\) atau pilih alternatif \(H_1\) dengan \(a_1\). Ambil kerugian nol bagi keputusan benar, \(c_{10}>0\) bagi memilih \(H_1\) ketika \(H_0\) benar, dan \(c_{01}>0\) bagi memilih \(H_0\) ketika \(H_1\) benar.

Aturan Bayes untuk keputusan biner

Risiko posterior kedua tindakan adalah

\[\rho(a_1\mid x)=c_{10}P(H_0\mid x), \qquad \rho(a_0\mid x)=c_{01}P(H_1\mid x).\]

Aturan Bayes memilih \(H_1\) tepat ketika

\[\frac{P(H_1\mid x)}{P(H_0\mid x)} >\frac{c_{10}}{c_{01}}.\]

Jika peluang prior model adalah \(\pi_0,\pi_1>0\) dan

\[B_{10}(x)=\frac{m_1(x)}{m_0(x)},\]

maka nisbah peluang posterior sama dengan \(B_{10}(x)\pi_1/\pi_0\), sehingga aturan dapat ditulis

\[B_{10}(x)> \frac{c_{10}\pi_0}{c_{01}\pi_1}.\]

Bukti

Pilih tindakan dengan ekspektasi kerugian posterior lebih kecil. Ketaksamaan \(\rho(a_1\mid x)<\rho(a_0\mid x)\) setara dengan ketaksamaan nisbah peluang pertama. Teorema Bayes memberi

\[\frac{P(H_1\mid x)}{P(H_0\mid x)} =\frac{m_1(x)\pi_1}{m_0(x)\pi_0} =B_{10}(x)\frac{\pi_1}{\pi_0},\]

yang menghasilkan ambang kedua. Kesamaan dapat diselesaikan dengan randomisasi atau aturan untuk kasus imbang yang ditetapkan sebelumnya. \(\square\)

Pada hipotesis sederhana, \(B_{10}=f_1/f_0\) adalah rasio fungsi kemungkinan. Lemma Neyman–Pearson Lemma Neyman–Pearson dengan randomisasi pada kesamaan juga menolak \(H_0\) ketika rasio besar, tetapi memilih ambang agar \(P_0(\text{tolak})\le\alpha\) dan memaksimalkan daya uji pada kendala tersebut. Aturan Bayes memilih ambang dari prior dan rasio kerugian. Keduanya berimpit hanya jika ambang keputusan kebetulan sama dengan kuantil Neyman–Pearson, atau jika salah satu masalah secara eksplisit dirumuskan ulang melalui kendala atau pengali Lagrange yang menghasilkan ambang sama.

Untuk alternatif komposit perbedaannya lebih besar. Faktor Bayes mengintegralkan fungsi kemungkinan terhadap prior di dalam \(H_1\); uji MP untuk satu titik alternatif memakai fungsi kemungkinan titik itu. Optimal terhadap rata-rata prior tidak berarti UMP pada setiap titik, dan UMP bila tersedia tidak berarti meminimumkan risiko Bayes untuk setiap kerugian.

Faktor Bayes dan sensitivitas prior

Faktor Bayes membandingkan probabilitas marginal data, bukan maksimum fungsi kemungkinan:

\[B_{10}(x)= \frac{\int f(x\mid\theta_1)\pi_1(\theta_1)\,d\theta_1} {\int f(x\mid\theta_0)\pi_0(\theta_0)\,d\theta_0}.\]

Karena prior berada di dalam integral, skala dan bentuk prior merupakan bagian dari hipotesis. Prior tak proper membawa konstanta normalisasi sebarang; konstanta itu tidak selalu saling menghilangkan antarmodel, sehingga faktor Bayes biasa tidak terdefinisi. Posterior parameter yang proper tidak dengan sendirinya memperbaiki fungsi kemungkinan marginal tersebut.

Contoh normal: bukti berubah ketika skala alternatif berubah

Ringkas data dengan \(\bar X\mid\mu\sim N(\mu,s^2)\). Bandingkan

\[H_0:\mu=0, \qquad H_1:\mu\sim N(0,\tau^2).\]

Di bawah \(H_0\), \(\bar X\sim N(0,s^2)\); di bawah \(H_1\) setelah \(\mu\) diintegralkan, \(\bar X\sim N(0,s^2+\tau^2)\). Dengan \(z=\bar X/s\) dan \(r=\tau^2/s^2\),

\[B_{10} =(1+r)^{-1/2} \exp\!\left\{ \frac{z^2}{2}\frac{r}{1+r} \right\}.\]

Untuk \(z\) tetap, \(B_{10}\to0\) ketika \(r\to\infty\): penalti akibat penyebaran prior akhirnya mengalahkan kenaikan eksponensial yang terbatas. Misalnya pada \(z=2\), \(B_{10}\approx1{,}92\) untuk \(r=1\), sekitar \(0{,}72\) untuk \(r=100\), dan sekitar \(0{,}00739\) untuk \(r=10^6\). Nilai-p dua sisi berbasis \(z\) tidak berubah, sedangkan faktor Bayes berubah karena hipotesis alternatif memang berubah.

Ini bukan paradoks yang diselesaikan dengan memilih prior selebar mungkin. Prior yang sangat lebar mengalokasikan banyak massa pada nilai yang memprediksi data teramati dengan buruk. Pilihan yang dapat mengubah kesimpulan harus didasarkan pada pertimbangan substantif: tetapkan skala alternatif yang mewakili efek masuk akal sebelum melihat data, atau laporkan kurva sensitivitas pada rentang yang dapat dipertanggungjawabkan. Jangan menafsirkan nisbah peluang posterior tanpa menyebut nisbah peluang prior, dan jangan memilih \(\tau\) sesudah melihat \(z\) lalu memperlakukannya sebagai hipotesis yang ditetapkan sebelumnya.

Audit faktor Bayes

  1. Pastikan setiap prior model proper atau gunakan metode khusus yang mendefinisikan konstanta antarmodel secara sah.
  2. Pisahkan \(B_{10}\), nisbah peluang prior, nisbah peluang posterior, dan ambang kerugian.
  3. Tetapkan unit dan skala prior; uji sensitivitas terhadap pilihan yang masih masuk akal secara ilmiah.
  4. Bedakan prior parameter bersama dari peluang prior model.
  5. Periksa apakah hipotesis titik, interval, dan alternatif komposit benar-benar menjawab pertanyaan ilmiah yang sama.
  6. Laporkan fungsi kemungkinan marginal atau metode integrasinya beserta galat numerik; rasio maksimum fungsi kemungkinan bukan faktor Bayes.

Penghentian opsional: inferensi bersyarat dan kendali galat

Pernyataan “Bayesian kebal terhadap penghentian opsional” terlalu luas. Ada dua hasil yang berguna, dengan asumsi berbeda.

Faktor Bayes sebagai martingal bagi rasio fungsi kemungkinan

Misalkan \(P_0\) dan \(P_1\) adalah dua hukum probabilitas yang telah ditetapkan sebelumnya pada deret data, \(\mathcal F_n\) adalah riwayat hingga waktu \(n\), \(\mathcal F_0\) trivial, dan \(P_1|_{\mathcal F_n}\ll P_0|_{\mathcal F_n}\). Definisikan

\[B_{10,n}= \frac{dP_1|_{\mathcal F_n}}{dP_0|_{\mathcal F_n}}.\]

Maka \((B_{10,n})\) adalah martingal nonnegatif di bawah \(P_0\) dengan \(E_0B_{10,n}=1\). Akibat ketaksamaan Ville,

\[P_0\!\left(\sup_{n\ge0}B_{10,n}\ge\frac1\alpha\right)\le\alpha.\]

Bukti

Untuk setiap kejadian \(A\in\mathcal F_n\),

\[E_0\{\mathbf1_A B_{10,n+1}\}=P_1(A) =E_0\{\mathbf1_A B_{10,n}\}.\]

Karakterisasi ekspektasi bersyarat memberi \(E_0(B_{10,n+1}\mid\mathcal F_n)=B_{10,n}\). Nonnegativitas dan nilai awal satu mengikuti dari turunan Radon–Nikodym. Untuk \(\tau_c=\inf\{n:B_{10,n}\ge c\}\), terapkan penghentian opsional pada \(\tau_c\wedge N\):

\[1=E_0B_{10,0}=E_0B_{10,\tau_c\wedge N} \ge c\,P_0(\tau_c\le N).\]

Biarkan \(N\to\infty\) dan gunakan kontinuitas probabilitas untuk memperoleh \(P_0(\tau_c<\infty)\le1/c\). Ambil \(c=1/\alpha\). \(\square\)

Contoh berurutan yang sah dan batasnya

Bandingkan koin sederhana \(H_0:p=0{,}5\) dengan \(H_1:p=0{,}7\). Setelah setiap lemparan, perbarui

\[B_{10,n}= \prod_{i=1}^n \frac{0{,}7^{X_i}0{,}3^{1-X_i}} {0{,}5^{X_i}0{,}5^{1-X_i}}.\]

Jika pengambilan data dihentikan dan \(H_0\) ditolak pertama kali \(B_{10,n}\ge20\), probabilitas pernah menolak di bawah \(p=0{,}5\) tidak lebih dari \(0{,}05\). Dengan nisbah peluang prior yang sama, ambang ini juga membuat peluang posterior \(H_1\) sedikitnya \(20/21\approx0{,}9524\) pada saat berhenti.

Namun batas tersebut tidak otomatis berlaku pada \(p=0{,}6\), sebab nilai itu bukan anggota salah satu model sederhana. Untuk hipotesis nol komposit, diperlukan proses-e atau supermartingal yang sah bagi setiap \(\theta\in\Theta_0\), atau klaim harus dibatasi pada hukum prediktif prior \(P_0\) yang benar-benar dipakai.

Kapan aturan berhenti dapat diabaikan

Jika waktu berhenti adalah fungsi dari riwayat yang diamati, aturan yang sama dipakai di bawah kedua model, dan semua data yang menentukan berhenti tercatat, indikator “berhenti pada riwayat ini” muncul sebagai faktor yang sama pada dua fungsi kemungkinan dan menghilang dari rasionya. Posterior berdasarkan riwayat hingga saat penghentian kemudian dapat dihitung dari fungsi kemungkinan riwayat tersebut.

Kesimpulan ini tidak berlaku bila mekanisme berhenti bergantung pada informasi yang tidak dicatat, penyensoran atau kehilangan data bergantung pada parameter, prior atau model diubah setelah melihat lintasan, atau fungsi kemungkinan hampiran tidak lagi membentuk turunan Radon–Nikodym yang sah. Mekanisme itu harus dimodelkan. Selain itu, validitas posterior di bawah model tidak identik dengan kendali Tipe I pada setiap parameter tetap.

Nilai-p untuk sampel tetap yang diperiksa berulang sampai kurang dari \(0{,}05\) tidak mewarisi Faktor Bayes sebagai martingal bagi rasio fungsi kemungkinan. Ia memerlukan desain berurutan, alokasi alfa (alpha-spending), atau proses uji yang memang valid setiap saat. Argumen martingal memberikan batas bagi faktor Bayes: ini satu konstruksi, bukan izin umum untuk mengabaikan desain.

Pencocokan asimtotik dan kondisi kegagalannya

Dalam model parametrik reguler berdimensi tetap, posterior dan fungsi kemungkinan sering berbagi geometri kuadratik lokal. Secara informal, sebuah teorema Bernstein–von Mises menyatakan bahwa, jika parameter benar berada di interior, model teridentifikasi dan terspesifikasi benar, informasi nonsingular, fungsi kemungkinan memenuhi LAN, serta prior proper mempunyai densitas kontinu positif di sekitar \(\theta_0\), maka posterior yang dipusatkan pada penduga efisien mendekati

\[N_p\{\widehat\theta_n,[nI(\theta_0)]^{-1}\}\]

dalam metrik probabilitas yang sesuai. Ekspansi LAN dan normalitas MLE yang mendasarinya berada pada Teorema: ekspansi lokal pada skala akar-$n$ dan Teorema: normalitas asimtotik akar skor konsisten, termasuk MLE interior.

Akibatnya, untuk target halus dan titik ujung reguler, himpunan kredibel posterior dapat mempunyai cakupan frekuentis

\[P_{\theta_0}\{\theta_0\in C_n(X)\}=1-\alpha+o(1).\]

Ini adalah pencocokan orde pertama, bukan identitas pada sampel berhingga. Prior pencocokan peluang tertentu dapat memperbaiki galat orde lebih tinggi pada target skalar tertentu, tetapi sifat itu bergantung pada parameterisasi, parameter pengganggu, model, dan bentuk himpunan; tidak ada prior tunggal yang otomatis memadankan semua target.

Daftar contoh tandingan terhadap pencocokan otomatis

Kesimpulan pencocokan tidak berlaku ketika salah satu mekanisme berikut berpengaruh secara substantif.

  1. Parameter batas atau dukungan bergerak. Posterior dapat memiliki massa batas atau laju non-\(\sqrt n\); limit normal/Wilks gagal.
  2. Informasi singular atau nonidentifiabilitas. Geometri kuadratik lokal tidak dapat dibalik atau beberapa label menghasilkan hukum data yang sama.
  3. Dimensi bertambah cepat atau target nonreguler. Aproksimasi berdimensi tetap tidak mengontrol seluruh posterior atau fungsional yang takmulus.
  4. Prior bergantung \(n\) dan terlalu terkonsentrasi. Bias penyusutan dapat bertahan pada skala \(n^{-1/2}\) atau lebih besar.
  5. Kesalahan spesifikasi. Posterior dapat memusat pada parameter semu-benar (pseudo-true); kovarians fungsi kemungkinan, hasil kali luar gradien (OPG), dan sandwich berbeda, sehingga interval posterior naif tidak otomatis memiliki cakupan frekuentis yang sesuai dengan kovarians sandwich.
  6. Pemilihan model atau penghentian yang mengubah target. Inferensi setelah seleksi memerlukan hukum/prosedur yang benar-benar mencakup seleksi tersebut.

Kasus-kasus nonreguler konkret dan asumsi yang tidak terpenuhi dibahas pada unit pendamping sebelumnya; label “sampel besar” tidak memperbaiki kegagalan struktural itu.

Alur kerja perbandingan dan kalibrasi

Gunakan urutan berikut sebelum menyatakan prosedur “terkalibrasi”.

  1. Nyatakan target peluang. Pilih di antara massa posterior bersyarat, cakupan pada \(\theta\) tetap, prediksi prior atau posterior, ukuran atau daya uji, atau risiko.
  2. Tetapkan model dan prior. Bedakan prior parameter, peluang prior model, fungsi kemungkinan pengambilan sampel, dan aturan berhenti.
  3. Turunkan prosedur. Tulis titik ujung, tindakan, statistik ketaksesuaian, atau ambang secara eksplisit; jangan menyimpulkan makna hanya dari label “95%”.
  4. Lakukan audit gabungan. Untuk prosedur Bayesian, simulasikan \(\theta\sim\Pi\), lalu \(X\sim P_\theta\), dan periksa identitas Identitas cakupan rata-rata prior serta kalibrasi hasil komputasi posterior.
  5. Lakukan audit parameter tetap. Tetapkan beberapa \(\theta\), terutama batas dan daerah yang diberi massa prior kecil, lalu hitung cakupan, ukuran, daya uji, dan risiko.
  6. Uji sensitivitas keputusan. Variasikan prior dan kerugian hanya pada rentang substantif yang telah ditetapkan sebelumnya; laporkan kapan keputusan berbalik.
  7. Audit prediktif. Pilih statistik ketaksesuaian yang menyasar kegagalan tertentu dan jangan menyebut probabilitas ekor posterior sebagai nilai-p seragam tanpa bukti.
  8. Audit berurutan. Untuk pemantauan berulang, buktikan martingal atau supermartingal, atau gunakan desain berurutan yang valid; ambang untuk sampel tetap tidak cukup.
  9. Nyatakan rezim kesetaraan. Jika prosedur Bayesian dan frekuentis berimpit, sebutkan apakah kesetaraannya eksak, rata-rata prior, atau hanya asimtotik, beserta syarat yang membatasi kesetaraan itu.

Ringkasan

Materi ini adalah prosa orisinal CC BY-SA 4.0. Ia memperluas pengantar Bayesian Penn State dan menghubungkannya dengan unit pendamping tentang keputusan dan optimalitas tanpa menyalin prosa sumber.