Martingal Mundur

Teori Dasar

Martingal mundur merupakan proses stokastik yang memenuhi sifat martingal dengan arah waktu dibalik, dalam suatu pengertian tertentu. Dalam beberapa hal, martingal mundur lebih sederhana daripada padanan majunya, dan khususnya memenuhi teorema konvergensi yang serupa dengan teorema konvergensi untuk martingal biasa. Arti penting martingal mundur berasal dari banyak penerapannya. Secara khusus, beberapa teorema fundamental probabilitas klasik dapat dirumuskan dalam martingal mundur.

Definisi

Seperti biasa, kita mulai dengan suatu proses stokastik \( \bs{Y} = \{Y_t: t \in T\} \) pada ruang probabilitas yang mendasarinya \( (\Omega, \mathscr{F}, \P) \), dengan ruang keadaan \( \R \), dan dengan himpunan indeks \( T \) (yang menyatakan waktu) berupa \( \N \) (waktu diskret) atau \( [0, \infty) \) (waktu kontinu). Untuk meninjau kembali semua pengertiannya, \( \Omega \) merupakan ruang sampel, \( \mathscr{F} \) merupakan aljabar-\( \sigma \) kejadian, \( \P \) merupakan ukuran probabilitas pada \( (\Omega, \mathscr{F}) \), dan \( Y_t \) merupakan peubah acak yang bernilai dalam \( \R \) untuk setiap \( t \in T \). Namun, pada titik ini perumusan kita menyimpang. Misalkan \( \mathscr{G}_t \) merupakan subaljabar-\( \sigma \) dari \( \mathscr{F} \) untuk setiap \( t \in T \), dan \( \mathfrak G = \{\mathscr{G}_t: t \in T\} \) menurun, sehingga jika \( s, \, t \in T \) dengan \( s \le t \), maka \( \mathscr{G}_t \subseteq \mathscr{G}_s \). Tetapkan \( \mathscr{G}_\infty = \bigcap_{t \in T} \mathscr{G}_t \). Kita mengandaikan bahwa \( Y_t \) terukur terhadap \( \mathscr{G}_t \) dan bahwa \( \E(|Y_t|) \lt \infty \) untuk setiap \( t \in T \).

Proses \( \bs Y = \{Y_t: t \in T\} \) merupakan martingal mundur (atau martingal terbalik) terhadap \( \mathfrak G = \{\mathscr{G}_t: t \in T\} \) jika \(\E(Y_s \mid \mathscr{G}_t) = Y_t\) untuk semua \(s, \, t \in T\) dengan \(s \le t\).

Martingal mundur dapat dirumuskan sebagai martingal biasa dengan menggunakan waktu negatif sebagai indeks. Tetapkan \( T^- = \{-t: t \in T\} \), sehingga jika \( T = \N \) (kasus diskret), maka \( T^- \) merupakan himpunan bilangan bulat nonpositif, dan jika \( T = [0, \infty) \) (kasus kontinu), maka \( T^- = (-\infty, 0] \). Ingat pula bahwa definisi martingal standar berlaku untuk setiap himpunan indeks yang terurut total.

Misalkan kembali bahwa \( \bs Y = \{Y_t: t \in T\} \) merupakan martingal mundur terhadap \( \mathfrak G = \{\mathscr{G}_t: t \in T\} \). Tetapkan \( X_t = Y_{-t} \) dan \( \mathscr{F}_t = \mathscr{G}_{-t} \) untuk \( t \in T^- \). Maka \( \bs X = \{X_t: t \in T^-\} \) merupakan martingal terhadap \( \mathfrak F = \{\mathscr{F}_t: t \in T^-\} \).

Rincian:

Karena \( \mathfrak G \) merupakan keluarga menurun subaljabar-\( \sigma \) dari \( \mathscr{F} \), koleksi \( \mathfrak F \) merupakan keluarga menaik subaljabar-\( \sigma \) dari \( \mathscr F \), dan dengan demikian merupakan filtrasi. Selanjutnya, \( X_t = Y_{-t} \) terukur terhadap \( \mathscr{G}_{-t} = \mathscr{F}_t \) untuk \( t \in T^- \), sehingga \( \bs X \) teradaptasi terhadap \( \mathfrak F \). Terakhir, jika \( s, \, t \in T^- \) dengan \( s \le t \), maka \( -t \le -s \), sehingga \[ \E(X_t \mid \mathscr{F}_s) = \E(Y_{-t} \mid \mathscr{G}_{-s}) = Y_{-s} = X_s \]

Kebanyakan penulis sejak awal mendefinisikan martingal mundur dengan indeks negatif, seperti di atas. Ada alasan yang baik untuk melakukannya, karena beberapa teorema fundamental martingal langsung berlaku untuk martingal mundur. Namun, untuk penerapan martingal mundur, notasi ini artifisial dan kikuk, sehingga pada umumnya kita akan menggunakan definisi awal kita . Hasil berikutnya merupakan cara lain untuk memandang martingal mundur sebagai martingal biasa. Cara ini mempertahankan waktu nonnegatif, tetapi memperkenalkan horizon waktu berhingga. Untuk \( t \in T \), tetapkan \( T_t = \{s \in T: s \le t\} \), notasi yang sering kita gunakan sebelumnya.

Misalkan kembali bahwa \( \bs Y = \{Y_t: t \in T\} \) merupakan martingal mundur terhadap \( \mathfrak G = \{\mathscr{G}_t: t \in T\} \). Tetapkan \( t \in T \) dan definisikan \( X^t_s = Y_{t-s} \) serta \( \mathscr{F}^t_s = \mathscr{G}_{t-s} \) untuk \( s \in T_t \). Maka \( \bs{X}^t = \{X^t_s: s \in T_t\} \) merupakan martingal terhadap \( \mathfrak{F}^t = \{\mathscr{F}^t_s: s \in T_t\} \).

Rincian:

Buktinya pada dasarnya sama dengan bukti untuk . Karena \( \mathfrak G \) merupakan keluarga menurun subaljabar-\( \sigma \) dari \( \mathscr{F} \), koleksi \( \mathfrak{F}^t \) merupakan keluarga menaik subaljabar-\( \sigma \) dari \( \mathscr F \), dan dengan demikian merupakan filtrasi. Selanjutnya, \( X^t_s = Y_{t-s} \) terukur terhadap \( \mathscr{G}_{t-s} = \mathscr{F}^t_s \) untuk \( s \in T_t \), sehingga \( \bs{X}^t \) teradaptasi terhadap \( \mathfrak{F}^t \). Terakhir, jika \( r, \, s \in T_t \) dengan \( r \le s \), maka \( t - s \le t - r \), sehingga \[ \E(X^t_s \mid \mathscr{F}^t_r) = \E(Y_{t-s} \mid \mathscr{G}_{t-r}) = Y_{t-r} = X^t_r \]

Sifat

Martingal mundur memenuhi suatu sifat yang sederhana dan penting.

Misalkan \( \bs Y = \{Y_t: t \in T\} \) merupakan martingal mundur terhadap \( \mathfrak G = \{\mathscr{G}_t: t \in T\} \). Maka \( Y_t = \E(Y_0 \mid \mathscr{G}_t) \) untuk \( t \in T \), sehingga \( \bs Y \) terintegralkan seragam.

Rincian:

Fakta bahwa \( Y_t = \E(Y_0 \mid \mathscr{G}_t) \) untuk \( t \in T \) mengikuti langsung dari definisi martingal mundur. Karena kita telah mengandaikan bahwa \( \E(|Y_0|) \lt \infty \), berdasarkan suatu sifat dasar diperoleh bahwa \( \bs Y \) terintegralkan seragam.

Berikut adalah martingal mundur Doob, yang analog dengan martingal Doob biasa dan tentu saja dinamai menurut Joseph Doob. Dalam suatu pengertian, hasil ini merupakan kebalikan dari .

Misalkan \( Y \) merupakan peubah acak pada ruang probabilitas kita \( (\Omega, \mathscr{F}, \P) \) dengan \( \E(|Y|) \lt \infty \), dan \(\mathfrak G = \{\mathscr{G}_t: t \in T\} \) merupakan keluarga menurun subaljabar-\( \sigma \) dari \( \mathscr{F} \), seperti di atas. Tetapkan \( Y_t = \E(Y \mid \mathscr{G}_t) \) untuk \( t \in T \). Maka \( \bs Y = \{Y_t: t \in T\} \) merupakan martingal mundur terhadap \( \mathfrak G \).

Rincian:

Berdasarkan definisi, \( Y_t = \E(Y \mid \mathscr{G}_t) \) terukur terhadap \( \mathscr{G}_t \). Selain itu, \[ \E(|Y_t|) = \E[|\E(Y \mid \mathscr{G}_t)|] \le \E[\E(|Y| \mid \mathscr{G}_t)] = \E(|Y|) \lt \infty, \quad t \in T \] Selanjutnya, misalkan \( s, \, t \in T \) dengan \( s \le t \). Maka \( \mathscr{G}_t \subseteq \mathscr{G}_s \), sehingga berdasarkan sifat menara nilai harapan bersyarat, \[ \E(Y_s \mid \mathscr{G}_t) = \E[\E(Y \mid \mathscr{G}_s) \mid \mathscr{G}_t] = \E(Y \mid \mathscr{G}_t) = Y_t \]

Teorema-teorema konvergensi merupakan hasil terpenting bagi penerapan martingal mundur. Ingat kembali bahwa untuk \( k \in [1, \infty) \), norma-k dari peubah acak bernilai riil \( X \) adalah \[ \|X\|_k = \left[\E\left(|X|^k\right)\right]^{1/k} \] dan ruang vektor bernorma \( \mathscr{L}_k \) terdiri atas semua \( X \) dengan \( \|X\|_k \lt \infty \). Konvergensi dalam ruang \( \mathscr{L}_1 \) juga disebut konvergensi dalam rata-rata, dan konvergensi dalam ruang \( \mathscr{L}_2 \) disebut konvergensi dalam rata-rata kuadrat. Untuk \(T=[0,\infty)\), hasil konvergensi di bawah ini juga mensyaratkan suatu versi \(\bs Y\) dengan lintasan kontinu kiri dan limit kanan. Untuk \(T=\N\), tidak diperlukan asumsi lintasan tambahan. Inilah teorema konvergensi martingal mundur yang utama:

Misalkan kembali bahwa \( \bs Y = \{Y_t: t \in T\} \) merupakan martingal mundur terhadap \( \mathfrak G = \{\mathscr{G}_t: t \in T\} \). Maka terdapat peubah acak \( Y_\infty \), sedemikian sehingga

\( Y_t \to Y_\infty \) ketika \( t \to \infty \) dengan probabilitas 1.
\( Y_t \to Y_\infty \) ketika \( t \to \infty \) dalam rata-rata.
\( Y_\infty = \E(Y_0 \mid \mathscr{G}_\infty) \).

Rincian:

Buktinya pada dasarnya sama dengan teorema konvergensi martingal biasa jika kita menggunakan martingal yang dikonstruksi dari \( \bs Y \) dalam . Jadi, tetapkan \( t \in T \) dan misalkan \( T_t = \{s \in T: s \le t\} \). Tetapkan \( X^t_s = Y_{t - s} \) dan \( \mathscr{F}^t_s = \mathscr{G}_{t - s} \) untuk \( s \in T_t \), sehingga \( \bs{X}^t = \{X^t_s: s \in T_t\} \) merupakan martingal terhadap \( \mathfrak{F}^t = \{\mathscr{F}^t_s: s \in T_t\} \). Sekarang, untuk \( a, \, b \in \R \) dengan \( a \lt b \), misalkan \( U_t(a, b) \) menyatakan jumlah lintas-naik \( [a, b] \) oleh \( \bs{X}^t \) pada \( T_t \). Perhatikan bahwa \( U_t(a, b) \) juga merupakan jumlah lintas-turun \( [a, b] \) oleh \( \bs Y \) pada \( T_t \). Berdasarkan pertidaksamaan lintas-naik yang diterapkan pada martingal \( \bs{X}^t \), \[ \E[U_t(a,b)] \le \frac{1}{b-a}\big[\E(|X^t_t|)+|a|\big] = \frac{1}{b-a}\big[\E(|Y_0|)+|a|\big] \] Sekarang misalkan \( U_\infty(a, b) \) menyatakan jumlah lintas-turun \( [a, b] \) oleh \( \bs Y \) pada seluruh \( T \). Karena \(U_t\uparrow U_\infty\) ketika \(t\to\infty\), berdasarkan teorema konvergensi monoton diperoleh \[ \E[U_\infty(a,b)] \le \frac{1}{b-a}\big[\E(|Y_0|)+|a|\big] \] Dengan demikian, dengan probabilitas 1, \( U_\infty(a, b) \lt \infty \) untuk setiap \( a, \, b \in \Q \) dengan \( a \lt b \). Berdasarkan karakterisasi konvergensi dalam hal lintas-turun (yang sepenuhnya analog dengan karakterisasi untuk lintas-naik), terdapat peubah acak \( Y_{\infty} \) yang bernilai dalam \( \R^* = \R \cup \{-\infty, \infty\} \), sedemikian sehingga \( Y_t \to Y_{\infty} \) ketika \( t \to \infty \). Berdasarkan lema Fatou, \[ \E(|Y_\infty|) \le \liminf_{t \to \infty} \E(|Y_t|) \le \E(|Y_0|) \lt \infty \] Secara khusus, \( \P(Y_\infty \in \R) = 1 \). Karena \( \bs Y \) terintegralkan seragam, dan \( Y_\infty \in \mathscr{L}_1 \), diperoleh bahwa \( Y_t \to Y_\infty \) ketika \( t \to \infty \) dalam \( \mathscr{L}_1 \) juga.

Masih perlu mengidentifikasi limit tersebut. Tetapkan \(Y_\infty\) sebagai limit di sepanjang indeks bilangan bulat; limit di sepanjang indeks \(T\) yang diperoleh di atas harus sama. Untuk setiap \(s\in T\), peubah \(Y_n\) terukur terhadap \(\mathscr G_s\) untuk setiap bilangan bulat \(n\ge s\). Jadi, \(Y_\infty\) terukur terhadap setiap \(\mathscr G_s\), dan karena itu terhadap \(\mathscr G_\infty\). Jika \(A\in\mathscr G_\infty\), maka \(\E(Y_t;A)=\E(Y_0;A)\) untuk setiap \(t\in T\). Karena \(Y_t\to Y_\infty\) dalam \(\mathscr L_1\), \[ \left|\E(Y_t;A)-\E(Y_\infty;A)\right|\le \E(|Y_t-Y_\infty|)\to0. \] Dengan demikian, \(\E(Y_\infty;A)=\E(Y_0;A)\) untuk setiap \(A\in\mathscr G_\infty\), yang membuktikan \(Y_\infty=\E(Y_0\mid\mathscr G_\infty)\).

Sebagai perluasan sederhana dari hasil terakhir, jika \( Y_0 \in \mathscr{L}_k \) untuk suatu \( k \in [1, \infty) \), maka konvergensinya juga berlaku dalam \( \mathscr{L}_k \).

Misalkan kembali bahwa \( \bs Y = \{Y_t: t \in T\} \) merupakan martingal mundur terhadap \( \mathfrak G = \{\mathscr{G}_t: t \in T\} \). Jika \( Y_0 \in \mathscr{L}_k \) untuk suatu \( k \in [1, \infty) \), maka \( Y_t \to Y_\infty \) ketika \( t \to \infty \) dalam \(\mathscr{L}_k\).

Rincian:

Teorema tentu saja berlaku, sehingga kita mengetahui bahwa terdapat peubah acak \( Y_\infty \in \mathscr{L}_1 \), sedemikian sehingga \( Y_t \to Y_\infty \) ketika \( t \to \infty \) dengan probabilitas 1 dan dalam \( \mathscr{L}_1 \). Fungsi \( x \mapsto |x|^k \) cembung pada \( \R \), sehingga berdasarkan pertidaksamaan Jensen untuk nilai harapan bersyarat, \[ \E(|Y_t|^k) = \E[|\E(Y_0 \mid \mathscr{G}_t)|^k] \le \E[\E(|Y_0|^k \mid \mathscr{G}_t)] = \E(|Y_0|^k) \lt \infty \] sehingga \( Y_t \in \mathscr{L}_k \) untuk setiap \( t \in T \). Berdasarkan lema Fatou, \[ \E(|Y_\infty|^k) \le \liminf_{t \to \infty} \E(|Y_t|^k) \le \E(|Y_0|^k) \lt \infty \] sehingga \( Y_\infty \in \mathscr{L}_k \) juga. Selanjutnya, karena \( Y_t = \E(Y_0 \mid \mathscr{G}_t) \) dan \( Y_\infty \) terukur terhadap \( \mathscr{G}_t \), kita dapat kembali menggunakan pertidaksamaan Jensen untuk memperoleh \[ |Y_t - Y_\infty|^k = |\E(Y_0 - Y_\infty \mid \mathscr{G}_t)|^k \le \E(|Y_0 - Y_\infty|^k \mid \mathscr{G}_t) \] Akibatnya, keluarga peubah acak \( \{|Y_t - Y_\infty|^k: t \in T\} \) terintegralkan seragam, sehingga \( \E(|Y_t - Y_\infty|^k) \to 0 \) ketika \( t \to \infty \).

Penerapan

Hukum Kuat Bilangan Besar

Hukum kuat bilangan besar merupakan salah satu teorema fundamental probabilitas klasik. Bukti awal kita mensyaratkan bahwa distribusi yang mendasarinya memiliki varians berhingga. Di sini kita menyajikan bukti yang elegan dengan menggunakan martingal mundur, tanpa memerlukan asumsi tambahan tersebut. Jadi, misalkan \( \bs X = \{X_n: n \in \N_+\} \) merupakan barisan peubah acak independen dan berdistribusi identik yang masing-masing memiliki rata-rata \( \mu \in \R \). Dalam istilah statistika, \( \bs X \) berkaitan dengan pengambilan sampel dari distribusi yang mendasarinya. Selanjutnya, tetapkan \[ Y_n = \sum_{i=1}^n X_i, \quad n \in \N \] sehingga \( \bs Y = \{Y_n: n \in \N\} \) merupakan proses jumlah parsial yang terkait dengan \( \bs X \). Ingat bahwa barisan \( \bs Y \) juga merupakan gerak acak waktu diskret. Terakhir, tetapkan \( M_n = Y_n / n \) untuk \( n \in \N_+ \), sehingga \( \bs M = \{M_n: n \in \N_+\} \) merupakan barisan rata-rata sampel.

Hukum bilangan besar

\( M_n \to \mu \) ketika \( n \to \infty \) dengan probabilitas 1.
\( M_n \to \mu \) ketika \( n \to \infty \) dalam rata-rata.

Rincian:

Seperti biasa, misalkan \( (\Omega, \mathscr{F}, \P) \) menyatakan ruang probabilitas yang mendasarinya. Selain itu, persamaan yang melibatkan peubah acak (dan khususnya nilai harapan bersyarat) dianggap berlaku dengan probabilitas 1. Sekarang, untuk \(n\in\N_+\), tetapkan \[ \mathscr{G}_n = \sigma\{Y_n, Y_{n+1}, Y_{n+2}, \ldots\} = \sigma\{Y_n, X_{n+1}, X_{n+2} \ldots\}\] sehingga \(\mathfrak G=\{\mathscr G_n:n\in\N_+\}\) merupakan keluarga menurun subaljabar-\( \sigma \) dari \( \mathscr{F} \). Inti bukti ini adalah menunjukkan bahwa \( \bs M \) merupakan martingal mundur terhadap \( \mathfrak G \). Misalkan \( n \in \N_+ \). Jelas bahwa \( M_n \) terukur terhadap \( \mathscr{G}_n \). Berdasarkan independensi, \( \E(X_i \mid \mathscr{G}_n) = \E(X_i \mid Y_n) \) untuk \( i \in \{1, 2, \ldots, n\} \). Berdasarkan simetri (barisan \( \bs X \) dapat dipertukarkan), \( \E(X_i \mid Y_n) = \E(X_j \mid Y_n) \) untuk \( i, \, j \in \{1, 2, \ldots, n\} \). Oleh karena itu, untuk \( i \in \{1, 2, \ldots, n\} \), \[ Y_n = \E(Y_n \mid \mathscr{G}_n) = \sum_{j=1}^n \E(X_j \mid \mathscr{G}_n) = \sum_{j=1}^n \E(X_i \mid \mathscr{G}_n) = n \E(X_i \mid \mathscr{G}_n) \] sehingga \( \E(X_i \mid \mathscr{G}_n) = Y_n / n = M_n \) untuk setiap \( i \in \{1, 2, \ldots, n\} \). Selanjutnya, \[ \E(Y_n \mid \mathscr{G}_{n+1}) = \E(Y_{n+1} - X_{n+1} \mid \mathscr{G}_{n+1}) = Y_{n+1} - \E(X_{n+1} \mid \mathscr{G}_{n+1}) = Y_{n+1} - \frac{1}{n+1} Y_{n+1} = \frac{n}{n + 1} Y_{n+1} \] Dengan membagi oleh \(n\), diperoleh \(\E(M_n\mid\mathscr G_{n+1})=M_{n+1}\), sehingga \(\{M_n:n\in\N_+\}\) merupakan martingal mundur terhadap \(\{\mathscr G_n:n\in\N_+\}\). Setelah pergeseran indeks \(Z_r=M_{r+1}\) dan \(\mathscr H_r=\mathscr G_{r+1}\), teorema konvergensi martingal mundur memberikan \(M_\infty\), sedemikian sehingga \( M_n \to M_\infty \) ketika \( n \to \infty \) dengan probabilitas 1 dan dalam rata-rata. Selanjutnya, untuk \( n, \, k \in \N_+ \), dari perhitungan aljabar sederhana diperoleh \[ M_{n+k} = \frac{1}{n + k} \sum_{i=1}^k X_i + \frac{n}{n + k} \frac{1}{n} \sum_{i = k + 1}^{k + n} X_i \] Dengan mengambil limit \( n \to \infty \), diperoleh \[ M_\infty = \lim_{n \to \infty} \frac{1}{n} \sum_{i = k + 1}^{k + n} X_i \] untuk setiap \( k \in \N_+ \). Oleh karena itu, \( M_\infty \) merupakan peubah acak ekor untuk barisan independen dan berdistribusi identik \( \bs X \). Berdasarkan hukum nol-satu Kolmogorov, \( M_\infty \) harus berupa konstanta. Terakhir, konvergensi dalam rata-rata menyiratkan bahwa rata-ratanya konvergen, dan karena \( \E(M_n) = \mu \) untuk setiap \( n \), diperoleh \( M_\infty = \mu \).

Peubah Dapat Dipertukarkan

Kita mulai dengan suatu ruang probabilitas \( (\Omega, \mathscr F, \P) \) dan ruang terukur lain \( (S, \mathscr S) \). Misalkan \( \bs X = (X_1, X_2, \ldots) \) merupakan barisan peubah acak yang masing-masing bernilai dalam \( S \). Ingat bahwa \( \bs X \) dapat dipertukarkan jika untuk setiap \( n \in \N \), setiap permutasi \( (X_1, X_2, \ldots, X_n) \) memiliki distribusi yang sama pada \( (S^n, \mathscr{S}^n) \) (dengan \( \mathscr{S}^n \) merupakan hasil kali \( n \) aljabar-\( \sigma \)). Jelas bahwa jika \( \bs X \) merupakan barisan peubah independen dan berdistribusi identik, maka \( \bs X \) dapat dipertukarkan. Sebaliknya, jika \( \bs X \) dapat dipertukarkan, maka peubah-peubahnya berdistribusi identik (berdasarkan definisi), tetapi belum tentu independen. Contoh paling terkenal dari barisan yang dapat dipertukarkan tetapi tidak independen adalah proses urna Pólya, yang dinamai menurut George Pólya. Di sisi lain, barisan yang secara bersyarat independen dan berdistribusi identik dapat dipertukarkan. Jadi, misalkan \( (T, \mathscr{T}) \) merupakan ruang terukur lain dan \( \Theta \) merupakan peubah acak yang bernilai dalam \( T \).

Jika peubah-peubah dalam \( \bs X \), bersyarat pada \( \Theta \), independen dan berdistribusi identik, maka \( \bs X \) dapat dipertukarkan.

Rincian:

Pernyataan tersebut secara implisit mengandaikan bahwa peubah-peubah dalam barisan memiliki distribusi bersyarat reguler \( \mu_\Theta \) jika diberikan \( \Theta \). Maka untuk setiap \( n \in \N_+ \), distribusi bersyarat dari setiap permutasi \( (X_1, X_2, \ldots, X_n) \), jika diberikan \( \Theta \), adalah \( \mu^n_\Theta \) pada \( (S^n, \mathscr{S}^n) \), dengan \( \mu_\Theta^n \) merupakan ukuran produk lipat-\( n \). Tanpa pengondisian, distribusi dari setiap permutasi adalah \( B \mapsto \E[\mu^n_\Theta(B)] \) untuk \( B \in \mathscr{S}^n \).

Sering kali, kerangka teorema ini muncul ketika kita mulai dengan barisan peubah acak independen dan berdistribusi identik yang mengikuti suatu distribusi parametrik, lalu mengacak salah satu parameternya. Kerangka ini dapat dipandang sebagai berikut: \( \theta \in T \) merupakan parameter bagi suatu distribusi pada \( S \). Kasus khususnya adalah proses beta-Bernoulli, dengan parameter keberhasilan \( p \) dalam barisan percobaan Bernoulli diacak menggunakan distribusi beta. Di sisi lain, proses urna Pólya merupakan contoh barisan yang dapat dipertukarkan dan pada mulanya tampak tidak berkaitan dengan pengacakan parameter. Namun, sebenarnya kita mengetahui bahwa proses urna Pólya merupakan kasus khusus proses beta-Bernoulli. Keterkaitan ini memberikan petunjuk tentang teorema de Finetti, yang dinamai menurut Bruno de Finetti dan akan kita tinjau berikutnya. Teorema ini menyatakan bahwa setiap barisan peubah acak indikator yang dapat dipertukarkan berkaitan dengan pengacakan parameter keberhasilan dalam suatu barisan percobaan Bernoulli.

Teorema de Finetti. Misalkan \( \bs X = (X_1, X_2, \ldots) \) merupakan barisan peubah acak yang dapat dipertukarkan, dengan masing-masing bernilai dalam \( \{0, 1\} \). Maka terdapat peubah acak \( P \) yang bernilai dalam \( [0, 1] \), sedemikian sehingga jika diberikan \( P = p \in [0, 1] \), \( \bs X \) merupakan barisan percobaan Bernoulli dengan parameter keberhasilan \( p \).

Rincian:

Seperti biasa, kita memerlukan beberapa notasi. Pertama, ingat kembali notasi pangkat menurun \( r^{(j)} = r (r - 1) \cdots (r - j + 1) \) untuk \( r \in \R \) dan \( j \in \N \). Selanjutnya, untuk \( n \in \N_+ \) dan \( k \in \{0, 1, \ldots, n\} \), tetapkan \[ B^n_k = \left\{(x_1, x_2, \ldots, x_n) \in \{0, 1\}^n: \sum_{i=1}^n x_i = k\right\} \] Artinya, \( B^n_k \) merupakan himpunan untaian bit dengan panjang \( n \) yang memuat tepat \( k \) buah 1. Tentu saja, \( \#(B^n_k) = \binom{n}{k} = n^{(k)} / k! \).

Misalkan sekarang bahwa \( \bs X = (X_1, X_2, \ldots) \) merupakan barisan peubah yang dapat dipertukarkan dan bernilai dalam \( \{0, 1\} \). Untuk \( n \in \N_+ \), tetapkan \( Y_n = \sum_{i=1}^n X_i \) dan \( M_n = Y_n / n \). Jadi, \( \bs Y = \{Y_n: n \in \N_+\} \) merupakan proses jumlah parsial yang terkait dengan \( \bs X \), dan \( \bs M = \{M_n: n \in \N_+\} \) merupakan barisan rata-rata sampel. Tetapkan \( \mathscr{G}_n = \sigma\{Y_n, Y_{n+1}, \ldots\} \) dan \(\mathscr G_\infty=\bigcap_{n=1}^\infty\mathscr G_n\). Keluarga aljabar-\( \sigma \) \( \mathfrak G = \{\mathscr{G}_n: n \in \N_+\} \) menurun. Kunci pembuktiannya adalah menemukan dua martingal mundur dan menggunakan teorema konvergensi martingal mundur dalam .

Misalkan \(m\in\N_+\) dan \(k\in\{0,1,\ldots,m\}\) dengan \(\P(Y_m=k)\gt0\). Karena peubah-peubahnya dapat dipertukarkan, jika diberikan \(Y_m=k\), vektor acak \( (X_1, X_2, \ldots, X_m) \) berdistribusi seragam pada \( B^m_k \). Jadi, jika \( n \in \N_+ \) dan \( n \le m \), vektor acak \( (X_1, X_2, \ldots, X_n) \), sekali lagi dengan syarat \( Y_m = k \), sesuai dengan model hipergeometrik: sampel berukuran \( n \) yang dipilih secara acak dan tanpa pengembalian dari populasi \( m \) objek, dengan \( k \) di antaranya bertipe 1 dan \( m - k \) bertipe 0. Dengan demikian, jika \( j \in \{0, 1, \ldots, n\} \) dan \( (x_1, x_2, \ldots, x_n) \in B^n_j \), maka \[ \P(X_1 = x_1, X_2 = x_2, \ldots, X_n = x_n \mid Y_m = k) = \frac{k^{(j)} (m - k)^{(n - j)}}{m^{(n)}} \] Secara ekuivalen, \[ \P(X_1 = x_1, X_2 = x_2, \ldots, X_n = x_n \mid Y_m) = \frac{Y_m^{(j)} (m - Y_m)^{(n - j)}}{m^{(n)}} \] Jika \(Y_m\) diberikan, peubah-peubah \((Y_{m+1},Y_{m+2},\ldots)\) tidak memberikan informasi tambahan tentang susunan \((X_1,\ldots,X_n)\). Tetapkan \(A_{\bs x}=\{X_1=x_1,\ldots,X_n=x_n\}\). Maka \[ \P(A_{\bs x}\mid\mathscr G_m) =\E[\bs 1(A_{\bs x})\mid\mathscr G_m] =\frac{Y_m^{(j)}(m-Y_m)^{(n-j)}}{m^{(n)}}. \] Untuk \( n \), \( j \), dan \( (x_1, x_2, \ldots, x_n) \in B^n_j \) yang tetap, nilai harapan bersyarat di bagian tengah persamaan yang ditampilkan, sebagai fungsi \( m \), merupakan martingal mundur Doob terhadap \( \mathfrak G \), sehingga konvergen menuju \( \P(X_1 = x_1, X_2 = x_2, \ldots, X_n = x_n \mid \mathscr{G}_\infty) \) ketika \( m \to \infty \).

Selanjutnya, kita menunjukkan bahwa \( \bs M \) merupakan martingal mundur terhadap \( \mathfrak G \). Jelas bahwa \( M_n \) terukur terhadap \( \mathscr{G}_n \) dan \(\E(|M_n|)\le1\) untuk setiap \(n\in\N_+\). Jadi, kita perlu menunjukkan bahwa \( \E(M_n \mid \mathscr{G}_m) = M_m \) untuk \( m, \, n \in \N_+ \) dengan \( n \le m \). Dari pembahasan kita sebelumnya mengenai \( (X_1, X_2, \ldots, X_n) \), kita mengetahui bahwa untuk setiap \(k\in\{0,1,\ldots,m\}\) dengan \(\P(Y_m=k)\gt0\), distribusi bersyarat \(Y_n\) jika diberikan \(Y_m=k\) adalah distribusi hipergeometrik dengan parameter \(m\), \(k\), dan \(n\): \[\P(Y_n = j \mid Y_m = k) = \binom{n}{j} \frac{k^{(j)} (m - k)^{(n - j)}}{m^{(n)}}, \quad j \in \{0, 1, \ldots, n\}\] Ingat bahwa rata-rata distribusi hipergeometrik adalah ukuran sampel dikalikan proporsi objek bertipe 1 dalam populasi. Dengan demikian, \[ \E(M_n \mid Y_m = k) = \frac{1}{n} \E(Y_n \mid Y_m = k) = \frac{1}{n} n \frac{k}{m} = \frac{k}{m} \] Atau secara ekuivalen, \(\E(M_n\mid Y_m)=Y_m/m=M_m\). Sekali lagi, jika \(Y_m\) diberikan, peubah-peubah \(Y_{m+1},Y_{m+2},\ldots\) tidak memberikan informasi tambahan tentang \(Y_n\). Jadi, \(\E(Y_n\mid\mathscr G_m)=\frac{n}{m}Y_m\), atau secara ekuivalen \(\E(M_n\mid\mathscr G_m)=M_m\). Dengan demikian, \(\{M_n:n\in\N_+\}\) merupakan martingal mundur terhadap \(\mathfrak G\). Setelah menggeser indeks, teorema konvergensi martingal mundur memberikan peubah acak \(P\), sedemikian sehingga \( M_n \to P \) ketika \( n \to \infty \) dengan probabilitas 1.

Tinggal menghubungkan hasil-hasil tersebut. Misalkan sekarang bahwa \( n \in \N_+ \) dan \(j\in\{0,1,\ldots,n\}\), serta \( m \in \N_+ \) dan \( k_m \in \{0, 1, \ldots, m\} \). Berdasarkan kalkulus sederhana, jika \( n \) dan \( j \) tetap dan \( k_m / m \to p \in [0, 1] \) ketika \( m \to \infty \), maka \[ \frac{k_m^{(j)}(m-k_m)^{(n-j)}}{m^{(n)}} \to p^j(1-p)^{n-j} \text{ ketika } m\to\infty \] (Anda mungkin ingat bahwa perhitungan ini digunakan dalam bukti konvergensi distribusi hipergeometrik menuju distribusi binomial.) Kembali ke distribusi bersama, ingat bahwa jika \( (x_1, x_2, \ldots, x_n) \in B^n_j \), maka \[ \P(X_1 = x_1, X_2 = x_2, \ldots, X_n = x_n \mid \mathscr{G}_m) = \frac{Y_m^{(j)} (m - Y_m)^{(n - j)}}{m^{(n)}} \] Ambil \( m \to \infty \). Karena \( Y_m / m \to P \) ketika \( m \to \infty \), diperoleh \[ \P(X_1 = x_1, X_2 = x_2, \ldots, X_n = x_n \mid \mathscr{G}_\infty) = P^j (1 - P)^{n - j} \] Karena \(P\) terukur terhadap \(\mathscr G_\infty\), sifat menara dan identitas sebelumnya memberikan \[ \begin{aligned} \P(A_{\bs x}\mid P) &=\E\!\left[\P(A_{\bs x}\mid\mathscr G_\infty)\mid P\right] \\ &=P^j(1-P)^{n-j}. \end{aligned} \] Jika diberikan \( P = p \in [0, 1] \), \( \bs X \) merupakan barisan percobaan Bernoulli dengan parameter keberhasilan \( p \).

Teorema de Finetti telah diperluas ke barisan peubah dapat dipertukarkan yang jauh lebih umum. Pada dasarnya, jika \(\bs X=(X_1,X_2,\ldots)\) merupakan barisan peubah acak yang dapat dipertukarkan dan bernilai dalam ruang Borel standar \((S,\mathscr S)\), maka terdapat ukuran probabilitas acak \(\Theta\) pada \((S,\mathscr S)\), sedemikian sehingga, jika diberikan \(\Theta\), peubah-peubah dalam \(\bs X\) independen dan masing-masing berdistribusi \(\Theta\). Untuk barisan dapat dipertukarkan bernilai riil dan terintegralkan, konvergensi hampir pasti dari rata-rata sampel \(M_n=\frac1n\sum_{i=1}^nX_i\) dikenal sebagai hukum kuat bilangan besar de Finetti. Teorema de Finetti dan generalisasinya penting dalam inferensi statistika Bayes. Untuk barisan peubah acak yang dapat dipertukarkan (pengamatan kita dalam suatu eksperimen statistika), terdapat parameter acak tersembunyi \( \Theta \). Jika diberikan \( \Theta = \theta \), peubah-peubahnya independen dan berdistribusi identik. Kita memperoleh informasi tentang \( \Theta \) dengan menetapkan distribusi prior pada \( \Theta \), lalu memperbaruinya berdasarkan pengamatan kita dan dengan menggunakan teorema Bayes menjadi distribusi posterior.

Dalam bahasa distribusi, teorema de Finetti menyatakan bahwa distribusi bersama dari \( n \) peubah berbeda dalam barisan yang dapat dipertukarkan merupakan campuran ukuran produk. Artinya, jika \( \mu_\theta \) merupakan distribusi peubah generik \( X \) pada \( (S, \mathscr{S}) \) jika diberikan \( \Theta = \theta \), dan \( \nu \) merupakan distribusi \( \Theta \) pada \( (T, \mathscr{T}) \), maka distribusi bersama dari \( n \) peubah tersebut pada \((S^n,\mathscr S^n)\) adalah \[ B \mapsto \int_T \mu_\theta^n(B) \, d\nu(\theta) \]