13. Kernel dan Operator

Tujuan bagian ini adalah mempelajari sejenis objek matematika yang muncul secara alami dalam konteks nilai harapan bersyarat dan distribusi probabilitas parametrik, serta sangat penting dalam kajian proses stokastik, khususnya proses Markov. Dalam suatu pengertian, objek kajian utama bagian ini merupakan generalisasi matriks, sedangkan operasinya merupakan generalisasi operasi matriks. Jika gagasan ini terus Anda ingat, bagian ini mungkin terasa tidak terlalu abstrak.

Teori Dasar

Definisi

Secara lebih umum, \( S \) biasanya dilengkapi dengan topologi yang kompak lokal, Hausdorff, dan memiliki basis terhitung (LCCB), sedangkan \( \mathscr S \) adalah aljabar-\( \sigma \) Borel, yaitu aljabar-\( \sigma \) yang dibangkitkan oleh topologi tersebut (koleksi himpunan bagian terbuka dari \( S \)). Ukuran \( \mu \) biasanya merupakan ukuran Borel, sehingga memenuhi \( \mu(C) \lt \infty \) apabila \( C \subseteq S \) kompak. Ruang ukuran diskret berjenis ini dan bersesuaian dengan topologi diskret. Ruang ukuran Euklides juga berjenis ini dan bersesuaian dengan topologi Euklides apabila \( S \) terbuka atau tertutup (sebagaimana biasanya). Dalam kasus diskret, setiap fungsi dari \( S \) ke ruang terukur lain bersifat terukur, dan setiap fungsi dari \( S \) ke ruang topologis lain bersifat kontinu, sehingga teori ukuran sebenarnya tidak diperlukan.

Ingat pula bahwa ruang ukuran \((S, \mathscr S, \mu)\) disebut hingga-\(\sigma\) jika terdapat koleksi terhitung \(\{A_i: i \in I\} \subseteq \mathscr S\) sedemikian sehingga \(\mu(A_i) \lt \infty\) untuk \(i \in I\) dan \(S = \bigcup_{i \in I} A_i\). Jika \((S, \mathscr S, \mu)\) adalah ruang ukuran Borel yang bersesuaian dengan topologi LCCB, maka ruang itu hingga-\(\sigma\).

Jika \(f: S \to \R\) terukur, definisikan \( \| f \| = \sup\{\left|f(x)\right|: x \in S\}\). Tentu saja, bisa jadi \(\|f\| = \infty\). Misalkan \( \mathscr B(S) \) menyatakan koleksi fungsi terukur terbatas \( f: S \to \R \). Di bawah operasi biasa penjumlahan titik demi titik dan perkalian skalar, \( \mathscr B(S) \) merupakan ruang vektor, dan \(\| \cdot \|\) adalah norma alami pada ruang ini, yang dikenal sebagai norma supremum. Ruang vektor ini memegang peranan penting.

Dalam bagian ini, kadang-kadang lebih alami untuk menulis integral terhadap ukuran positif \( \mu \) dengan diferensial sebelum integran, bukan sesudahnya. Namun, yakinlah bahwa ini semata-mata notasi; arti integralnya tetap sama. Jadi, jika \( f: S \to \R \) terukur, kita dapat menuliskan integral \( f \) terhadap \( \mu \) dalam notasi operator sebagai \[ \mu f = \int_S \mu(dx) f(x) \] dengan mengandaikan, seperti biasa, bahwa integral tersebut ada. Ini berlaku jika \( f \) taknegatif, meskipun \( \infty \) mungkin menjadi nilainya. Secara lebih umum, integral tersebut ada di \( \R \cup \{-\infty, \infty\} \) jika \( \mu f^+ \lt \infty \) atau \( \mu f^- \lt \infty\), dengan \( f^+ \) dan \( f^- \) masing-masing bagian positif dan negatif dari \( f \). Jika keduanya hingga, integral tersebut ada di \( \R \) (dan \( f \) terintegralkan terhadap \( \mu \)). Jika \( \mu \) adalah ukuran probabilitas dan \( (S, \mathscr S) \) kita pandang sebagai ruang sampel suatu eksperimen acak, maka \( f \) dapat kita pandang sebagai peubah acak bernilai riil; dalam hal ini, notasi baru kita tidak terlalu jauh dari nilai harapan tradisional \( \E(f) \). Berikutnya adalah definisi utama kita.

Ada beberapa kelas kernel yang layak diberi nama khusus.

Jadi, kernel probabilitas bersifat terbatas, kernel terbatas bersifat hingga, dan kernel hingga bersifat hingga-\(\sigma\). Istilah kernel stokastik dan kernel Markov juga digunakan untuk kernel probabilitas, dan tentu saja \( \|K\| = 1 \) untuk kernel probabilitas. Istilah-istilah ini konsisten dengan istilah untuk ukuran: \( K \) merupakan kernel hingga jika dan hanya jika \( K(x, \cdot) \) merupakan ukuran hingga untuk setiap \( x \in S \), dan \( K \) merupakan kernel probabilitas jika dan hanya jika \( K(x, \cdot) \) merupakan ukuran probabilitas untuk setiap \( x \in S \). Perhatikan bahwa \( \|K\| \) hanyalah norma supremum fungsi \( x \mapsto K(x, T) \).

Suatu kernel mendefinisikan dua operator integral alami: beroperasi dari kiri pada ukuran dan dari kanan pada fungsi. Seperti biasa, kita sering agak longgar mengenai persoalan keberadaan. Pada dasarnya, dalam bagian ini kita mengandaikan bahwa setiap integral yang disebutkan ada.

Jadi, suatu kernel mentransformasikan ukuran pada \( (S, \mathscr S) \) menjadi ukuran pada \( (T, \mathscr T) \), dan mentransformasikan fungsi terukur tertentu dari \( T \) ke \( \R \) menjadi fungsi terukur dari \( S \) ke \( \R \). Sekali lagi, bagian (b) mengandaikan bahwa \( f \) terintegralkan terhadap ukuran \( K(x, \cdot) \) untuk setiap \( x \in S \). Secara khusus, pernyataan terakhir berlaku dalam kasus khusus penting berikut:

Jadi, \( I(x, A) = 1 \) jika \( x \in A \) dan \( I(x, A) = 0 \) jika \( x \notin A \). Dengan demikian, \( x \mapsto I(x, A) \) adalah fungsi indikator dari \( A \in \mathscr S \), sedangkan \( A \mapsto I(x, A) \) adalah massa titik di \( x \in S \). Jelas bahwa kernel identitas merupakan kernel probabilitas. Jika kita perlu menunjukkan ketergantungannya pada ruang tertentu, kita akan menambahkan subskrip. Hasil berikut membenarkan namanya.

Konstruksi

Kita dapat membuat kernel baru dari dua kernel yang diberikan dengan operasi penjumlahan dan perkalian skalar yang biasa.

Korolari sederhana dari hasil terakhir adalah bahwa jika \(a, \, b \in [0, \infty)\), maka \(a K + b L\) merupakan kernel dari \((S, \mathscr S)\) ke \((T, \mathscr T)\). Secara khusus, jika \(K, \, L\) adalah kernel probabilitas dan \(p \in (0, 1)\), maka \(p K + (1 - p) L\) merupakan kernel probabilitas. Cara yang lebih menarik dan penting untuk membentuk kernel baru dari dua kernel yang diberikan adalah melalui operasi perkalian.

Sekali lagi, kernel identitas sesuai dengan namanya:

Beberapa hasil berikut menunjukkan bahwa operasi-operasi tersebut bersifat asosiatif kapan pun operasi itu bermakna.

Beberapa hasil berikut menunjukkan bahwa sifat distributif berlaku kapan pun operasi-operasi tersebut bermakna.

Secara khusus, perhatikan bahwa jika \( K \) adalah kernel dari \( (S, \mathscr S) \) ke \( (T, \mathscr T) \), maka transformasi \( \mu \mapsto \mu K \) yang didefinisikan untuk ukuran positif pada \( (S, \mathscr S)\), dan transformasi \( f \mapsto K f \) yang didefinisikan untuk fungsi terukur \( f: T \to \R \) (yang membuat \( K f \) ada), operator pertama aditif dan homogen positif pada kerucut ukuran positif, sedangkan operator kedua linear. Jika \( \mu \) adalah ukuran positif pada \( (S, \mathscr S) \), maka operator integral \( f \mapsto \mu f \) yang didefinisikan untuk \( f: S \to \R \) terukur (yang membuat \( \mu f \) ada) juga linear, tetapi tentu saja kita sudah mengetahuinya. Terakhir, perhatikan bahwa operator \( f \mapsto K f \) bersifat positif: jika \( f \ge 0 \), maka \( K f \ge 0 \). Berikut rangkuman penting hasil-hasil kita ketika kernelnya terbatas.

Sifat komutatif sama sekali tidak berlaku untuk hasil kali kernel. Jika \( K \) dan \( L \) adalah kernel, maka bergantung pada ruang terukurnya, \( K L \) mungkin terdefinisi, tetapi \( L K \) tidak. Bahkan jika kedua hasil kali terdefinisi, keduanya mungkin merupakan kernel dari atau ke ruang terukur yang berbeda. Bahkan jika keduanya terdefinisi dari dan ke ruang terukur yang sama, sangat mungkin bahwa \( K L \neq L K \). Latihan memberikan beberapa contoh.

Jika \( K \) adalah kernel pada \( (S, \mathscr S) \) dan \( n \in \N \), kita tetapkan \( K^n = K K \cdots K \), yaitu hasil kali dengan \( n \) faktor \( K \). Berdasarkan konvensi, \( K^0 = I \), kernel identitas pada \( S \).

Titik tetap operator-operator yang terkait dengan suatu kernel ternyata sangat penting.

Jadi, dalam bahasa aljabar linear (atau analisis fungsional), ukuran invarian adalah vektor eigen kiri kernel, sedangkan fungsi invarian adalah vektor eigen kanan kernel; keduanya bersesuaian dengan nilai eigen 1. Berdasarkan hasil di atas, jika \( \mu \) dan \( \nu \) merupakan ukuran invarian dan \( c \in [0, \infty) \), maka \( \mu + \nu \) dan \( c \mu \) juga invarian. Demikian pula, jika \( f \) dan \( g \) merupakan fungsi invarian dan \( c \in \R \), maka \( f + g \) dan \( c f \) juga invarian.

Tentu saja, kita secara khusus tertarik pada kernel probabilitas.

Sebagai korolari, diperoleh bahwa jika \( P \) merupakan kernel probabilitas pada \( (S, \mathscr S) \), maka \( P^n \) juga demikian untuk \( n \in \N \).

Operator-operator yang terkait dengan suatu kernel sangatlah penting, dan kita dapat dengan mudah memperoleh kembali kernel tersebut dari operator-operatornya. Misalkan \( K \) adalah kernel dari \( (S, \mathscr S) \) ke \( (T, \mathscr T) \), serta misalkan \( x \in S \) dan \( A \in \mathscr T \). Maka secara langsung, \(K \bs{1}_A(x) = K(x, A)\), dengan \( \bs{1}_A \), seperti biasa, merupakan fungsi indikator \( A \). Secara langsung pula, \( \delta_x K(A) = K(x, A) \), dengan \( \delta_x \) merupakan massa titik di \( x \).

Fungsi Kernel

Biasanya ruang terukur kita sebenarnya merupakan ruang ukuran, dengan ukuran alami yang terkait dengan ruang tersebut, seperti dalam kasus-kasus khusus yang dijelaskan pada . Ketika kita berangkat dari ruang ukuran, kernel biasanya dikonstruksi dari fungsi kepadatan, dengan cara yang hampir sama seperti ukuran positif didefinisikan dari fungsi kepadatan.

Jelas bahwa kernel \( K \) bergantung pada ukuran positif \( \mu \) pada \( (T, \mathscr T) \) dan juga fungsi \( k \), sedangkan ukuran \( \lambda \) pada \( (S, \mathscr S) \) tidak berperan (dan dengan demikian bahkan tidak diperlukan). Namun sekali lagi, sudut pandang kita adalah bahwa ruang-ruang tersebut memiliki ukuran alami yang tetap. Sesuai dengan itu, fungsi \( k \) disebut fungsi kepadatan kernel (terhadap \( \mu \)), atau cukup fungsi kernel.

Suatu fungsi kernel mendefinisikan operator dari kiri pada fungsi-fungsi di \( S \), dengan cara yang sepenuhnya analog dengan operator dari kanan di atas pada fungsi-fungsi di \( T \).

Operator yang didefinisikan di atas bergantung pada ukuran \( \lambda \) pada \( (S, \mathscr S) \) dan juga fungsi kernel \( k \), sedangkan ukuran \( \mu \) pada \( (T, \mathscr T) \) tidak berperan (dan dengan demikian bahkan tidak diperlukan). Namun sekali lagi, sudut pandang kita adalah bahwa ruang-ruang tersebut memiliki ukuran alami yang tetap. Berikut hubungan antara operasi baru kita dari kiri pada fungsi dan operasi lama kita dari kiri pada ukuran.

Seperti biasa, kita secara khusus tertarik pada kernel stokastik. Dengan suatu fungsi kernel, kita dapat memiliki kernel stokastik ganda.

Tentu saja, syarat (a) sekadar berarti bahwa kernel yang terkait dengan \( k \) merupakan kernel stokastik menurut definisi awal kita.

Kasus khusus yang paling umum dan penting terjadi ketika kedua ruang tersebut sama. Jadi, jika \( (S, \mathscr S, \lambda) \) adalah ruang ukuran dan \( k : S \times S \to [0, \infty) \) terukur, maka kita memiliki operator \( K \) yang beroperasi dari kiri dan dari kanan pada fungsi terukur \( f: S \to \R \): \begin{align*} f K(y) & = \int_S \lambda(dx) f(x) k(x, y), \quad y \in S \\ K f(x) & = \int_S k(x, y) f(y) \lambda(d y), \quad x \in S \end{align*} Jika \( f \) taknegatif dan \( \mu \) adalah ukuran dengan fungsi kepadatan \( f \), maka \( f K \) merupakan fungsi kepadatan ukuran \( \mu K \) (keduanya terhadap \( \lambda \)).

Tentu saja, jika \( k \) adalah fungsi kernel stokastik simetris pada \( (S, \mathscr S, \lambda) \), maka \( k \) stokastik ganda, tetapi kebalikannya tidak benar.

Contoh dan Kasus Khusus

Kasus Diskret

Dalam subbagian ini, kita mengandaikan bahwa ruang-ruang ukurannya diskret, seperti dijelaskan pada (1). Karena aljabar-\( \sigma \) (semua himpunan bagian) dan ukurannya (ukuran pencacahan) telah dipahami, kita tidak perlu merujuknya. Ingat bahwa integral terhadap ukuran pencacahan adalah jumlah. Sekarang misalkan \( K \) adalah kernel dari ruang diskret \(S\) ke ruang diskret \(T\). Untuk \( x \in S \) dan \( y \in T \), tetapkan \( K(x, y) = K(x, \{y\}) \). Maka secara lebih umum, \[ K(x, A) = \sum_{y \in A} K(x, y), \quad x \in S, \, A \subseteq T \] Fungsi \( (x, y) \mapsto K(x, y) \) tidak lain adalah fungsi kernel dari kernel \( K \), sebagaimana didefinisikan pada , tetapi dalam kasus ini kita biasanya tidak repot-repot memakai simbol yang berbeda untuk fungsi dan kernel. Fungsi \( K \) dapat dipandang sebagai sebuah matriks, dengan baris yang diindeks oleh \( S \) dan kolom yang diindeks oleh \( T \) (jadi berupa matriks takhingga jika \( S \) atau \( T \) terhitung takhingga). Dengan interpretasi ini, semua operasi yang didefinisikan di atas dapat dipandang sebagai operasi matriks. Jika \( f: T \to \R \) dan \( f \) dipandang sebagai vektor kolom yang diindeks oleh \( T \), maka \( K f \) hanyalah hasil kali biasa matriks \( K \) dan vektor \( f \); hasil kalinya merupakan vektor kolom yang diindeks oleh \( S \): \[K f(x) = \sum_{y \in T} K(x, y) f(y), \quad x \in S \] Demikian pula, jika \( f: S \to \R \) dan \( f \) dipandang sebagai vektor baris yang diindeks oleh \( S \), maka \( f K \) hanyalah hasil kali biasa vektor \( f \) dan matriks \( K \); hasil kalinya merupakan vektor baris yang diindeks oleh \( T \): \[ f K(y) = \sum_{x \in S} f(x) K(x, y), \quad y \in T \] Jika \( L \) adalah kernel lain dari \( T \) ke ruang diskret lain \( U \), maka sebagai fungsi, \( K L \) hanyalah hasil kali matriks \( K \) dan \( L \): \[ K L(x, z) = \sum_{y \in T} K(x, y) L(y, z), \quad (x, z) \in S \times U \]

Probabilitas Bersyarat

Salah satu kelas penting kernel probabilitas muncul dari distribusi suatu peubah acak yang dikondisikan pada nilai peubah acak lain. Dalam subbagian ini, misalkan \( (\Omega, \mathscr{F}, \P) \) adalah ruang probabilitas, dan \( (S, \mathscr S) \) serta \( (T, \mathscr T) \) adalah ruang terukur. Selanjutnya, misalkan \( X \) dan \( Y \) adalah peubah acak yang didefinisikan pada ruang probabilitas tersebut, dengan \( X \) bernilai di \( S \) dan \( Y \) bernilai di \( T \). Secara informal, \( X \) dan \( Y \) merupakan peubah acak yang didefinisikan pada eksperimen acak dasar yang sama.

Operator-operator yang terkait dengan kernel ini memiliki interpretasi alami.

Seperti dalam pembahasan umum di atas, ruang terukur \( (S, \mathscr S) \) dan \( (T, \mathscr T) \) biasanya merupakan ruang ukuran yang dilengkapi dengan ukuran alami. Karena itu, distribusi probabilitas bersyarat sering diberikan melalui fungsi kepadatan probabilitas bersyarat, yang kemudian berperan sebagai fungsi kernel. Dua latihan berikut memberikan contohnya.

Distribusi Parametrik

Suatu distribusi probabilitas parametrik juga mendefinisikan kernel probabilitas secara alami, dengan parameter berperan sebagai peubah kernel dan distribusi berperan sebagai ukuran. Distribusi semacam itu biasanya didefinisikan melalui fungsi kepadatan parametrik yang kemudian mendefinisikan fungsi kernel; kembali, parameter berperan sebagai argumen pertama dan peubah sebagai argumen kedua. Jika parameter dipandang sebagai suatu nilai tertentu dari peubah acak lain, seperti dalam analisis Bayes, terdapat banyak tumpang tindih dengan subbagian sebelumnya. Dalam kebanyakan kasus (dan khususnya dalam contoh-contoh di bawah), ruang yang terlibat bersifat diskret atau Euklides, sebagaimana dijelaskan pada .

Jelas bahwa distribusi Poisson memiliki beberapa sifat yang sangat khusus dan elegan. Keluarga distribusi berikut juga memiliki beberapa sifat yang sangat khusus. Bandingkan latihan ini dengan .