Sampel acak dari distribusi normal merupakan kasus khusus terpenting di antara topik-topik dalam bab ini. Seperti yang akan kita lihat, banyak hasil menjadi jauh lebih sederhana ketika distribusi asal sampelnya normal. Selain itu, kita akan menurunkan distribusi sejumlah variabel acak yang dibentuk dari sampel normal dan sangat penting dalam statistika inferensial.
Misalkan \(\bs{X} = (X_1, X_2, \ldots, X_n)\) merupakan sampel acak dari distribusi normal dengan rata-rata \(\mu \in \R\) dan simpangan baku \(\sigma \in (0, \infty)\). Ingat bahwa istilah sampel acak berarti bahwa \(\bs{X}\) adalah barisan variabel acak yang independen dan berdistribusi identik. Ingat pula bahwa distribusi normal memiliki fungsi kepadatan probabilitas \[ f(x) = \frac{1}{\sqrt{2 \, \pi} \sigma} \exp \left[ -\frac{1}{2} \left( \frac{x - \mu}{\sigma} \right)^2 \right], \quad x \in \R \] Dalam notasi yang telah kita gunakan di bagian lain bab ini, \(\sigma_3 = \E\left[(X - \mu)^3\right] = 0\) (setara dengan kemencengan distribusi normal yang bernilai 0) dan \(\sigma_4 = \E\left[(X - \mu)^4\right] = 3 \sigma^4\) (setara dengan kurtosis distribusi normal yang bernilai 3). Karena sampel (dan khususnya ukuran sampel \(n\)) dianggap tetap dalam subbagian ini, ketergantungan pada ukuran sampel tidak ditampilkan dalam notasi.
Pertama, ingat bahwa rata-rata sampel adalah \[ M = \frac{1}{n} \sum_{i=1}^n X_i \]
\(M\) berdistribusi normal dengan rata-rata dan varians berikut:
Hasil ini merupakan konsekuensi dari sifat-sifat dasar distribusi normal. Ingat bahwa jumlah variabel independen yang berdistribusi normal juga berdistribusi normal, dan transformasi linear dari variabel yang berdistribusi normal juga berdistribusi normal. Rata-rata dan varians \(M\) berlaku secara umum dan telah diturunkan dalam bagian tentang Hukum Bilangan Besar.
Tentu saja, berdasarkan teorema limit pusat, distribusi \(M\) mendekati distribusi normal ketika \(n\) besar, asalkan distribusi asal memiliki varians positif dan berhingga, meskipun distribusi asal tersebut tidak normal.
Skor baku dari \(M\) adalah \[ Z = \frac{M - \mu}{\sigma / \sqrt{n}} \] \(Z\) berdistribusi normal baku.
Skor baku \(Z\) dalam berperan penting dalam menyusun interval kepercayaan dan uji hipotesis untuk rata-rata distribusi \(\mu\) ketika simpangan baku distribusi \(\sigma\) diketahui. Variabel acak \(Z\) juga akan muncul dalam beberapa penurunan di bagian ini.
Tujuan utama subbagian ini ialah menunjukkan bahwa kelipatan tertentu dari kedua versi varians sampel yang telah kita pelajari memiliki distribusi khi-kuadrat. Ingat bahwa distribusi khi-kuadrat dengan \(k \in \N_+\) derajat kebebasan memiliki fungsi kepadatan probabilitas \[ f(x) = \frac{1}{\Gamma(k / 2) 2^{k/2}} x^{k / 2 - 1} e^{-x / 2}, \quad 0 \lt x \lt \infty \] serta memiliki rata-rata \(k\) dan varians \(2k\). Fungsi pembangkit momennya adalah \[ G(t) = \frac{1}{(1 - 2t)^{k / 2}}, \quad -\infty \lt t \lt \frac{1}{2} \] Hasil terpenting yang perlu diingat ialah bahwa distribusi khi-kuadrat dengan \(k\) derajat kebebasan merupakan distribusi dari \(\sum_{i = 1}^k Z_i^2\), dengan \((Z_1, Z_2, \ldots, Z_k)\) berupa barisan variabel acak normal baku yang independen.
Ingat bahwa jika \(\mu\) diketahui, penduga yang wajar bagi varians \(\sigma^2\) adalah statistik \[ W^2 = \frac{1}{n} \sum_{i=1}^n (X_i - \mu)^2 \] Meskipun asumsi bahwa \(\mu\) diketahui hampir selalu tidak realistis, \(W^2\) sangat mudah dianalisis dan akan digunakan dalam beberapa penurunan di bawah ini. Hasil pertama kita adalah distribusi suatu kelipatan sederhana dari \(W^2\).
Variabel acak \[ U = \frac{n}{\sigma^2} W^2 \] berdistribusi khi-kuadrat dengan \(n\) derajat kebebasan.
Perhatikan bahwa \[ \frac{n}{\sigma^2} W^2 = \sum_{i=1}^n \left(\frac{X_i - \mu}{\sigma}\right)^2 \] dan suku-suku dalam jumlah tersebut merupakan variabel normal baku yang independen.
Variabel \(U\) dalam berperan penting dalam menyusun interval kepercayaan dan uji hipotesis untuk simpangan baku distribusi \(\sigma\) ketika rata-rata distribusi \(\mu\) diketahui (meskipun sekali lagi, asumsi ini biasanya tidak realistis).
Rata-rata dan varians \(W^2\) adalah
Hasil-hasil ini diperoleh dari distribusi khi-kuadrat \(U\) serta sifat-sifat baku nilai harapan dan varians.
Sebagai penduga bagi \(\sigma^2\), bagian (a) berarti bahwa \(W^2\) tak bias, sedangkan bagian (b) berarti bahwa \(W^2\) konsisten. Tentu saja, hasil-hasil momen ini merupakan kasus khusus dari hasil umum yang diperoleh dalam bagian tentang Varians Sampel. Dalam bagian tersebut, kita juga menunjukkan bahwa \(M\) dan \(W^2\) tidak berkorelasi jika distribusi asal sampelnya memiliki kemencengan 0 (\(\sigma_3 = 0\)), seperti dalam kasus ini.
Untuk ukuran sampel sekurang-kurangnya dua, ingat bahwa versi baku varians sampel adalah statistik \[ S^2 = \frac{1}{n - 1} \sum_{i=1}^n (X_i - M)^2 \] Varians sampel \(S^2\) merupakan penduga yang lazim bagi \(\sigma^2\) ketika \(\mu\) tidak diketahui (seperti yang biasanya terjadi). Kita telah menunjukkan sebelumnya bahwa secara umum, rata-rata sampel \(M\) dan varians sampel \(S^2\) tidak berkorelasi jika distribusi asal sampelnya memiliki kemencengan 0 (\(\sigma_3 = 0\)). Ternyata, jika distribusi sampelnya normal, kedua variabel tersebut bahkan independen. Ini merupakan sifat yang sangat penting dan berguna, serta sekilas sangat mengejutkan karena \(S^2\) tampak bergantung secara eksplisit pada \(M\).
Rata-rata sampel \(M\) dan varians sampel \(S^2\) saling independen.
Pembuktiannya didasarkan pada vektor simpangan dari rata-rata sampel. Misalkan \[ \bs{D} = (X_1 - M, X_2 - M, \ldots, X_{n-1} - M) \] Perhatikan bahwa \(S^2\) dapat ditulis sebagai fungsi dari \(\bs{D}\) karena \(\sum_{i=1}^n (X_i - M) = 0\). Selanjutnya, \(M\) dan vektor \(\bs{D}\) memiliki distribusi normal multivariat bersama. Kita telah menunjukkan sebelumnya bahwa \(M\) dan \(X_i - M\) tidak berkorelasi untuk setiap \(i\), sehingga \(M\) dan \(\bs{D}\) independen. Terakhir, karena \(S^2\) merupakan fungsi dari \(\bs{D}\), dapat disimpulkan bahwa \(M\) dan \(S^2\) independen.
Sekarang kita dapat menentukan distribusi suatu kelipatan sederhana dari varians sampel \(S^2\).
Variabel acak \[ V = \frac{n-1}{\sigma^2} S^2 \] berdistribusi khi-kuadrat dengan \(n - 1\) derajat kebebasan.
Mula-mula kita tunjukkan bahwa \(U = V + Z^2\), dengan \(U\) sebagai variabel khi-kuadrat yang berkaitan dengan \(W^2\) dan \(Z\) sebagai skor baku yang berkaitan dengan \(M\). Untuk melihatnya, perhatikan bahwa \begin{align} U & = \frac{1}{\sigma^2} \sum_{i=1}^n (X_i - \mu)^2 = \frac{1}{\sigma^2} \sum_{i=1}^n (X_i - M + M - \mu)^2 \\ & = \frac{1}{\sigma^2} \sum_{i=1}^n (X_i - M)^2 + \frac{2}{\sigma^2} \sum_{i=1}^n (X_i - M)(M - \mu) + \frac{1}{\sigma^2} \sum_{i=1}^n (M - \mu)^2 \end{align} Pada ruas kanan persamaan terakhir, suku pertama adalah \(V\). Suku kedua bernilai 0 karena \(\sum_{i=1}^n (X_i - M) = 0\). Suku terakhir adalah \(\frac{n}{\sigma^2}(M - \mu)^2 = Z^2\). Berdasarkan , \(U\) berdistribusi khi-kuadrat dengan \(n\) derajat kebebasan, dan tentu saja \(Z^2\) berdistribusi khi-kuadrat dengan 1 derajat kebebasan. Berdasarkan , \(V\) dan \(Z^2\) independen. Ingat bahwa fungsi pembangkit momen dari jumlah variabel independen adalah hasil kali fungsi pembangkit momen masing-masing. Dengan demikian, mengambil fungsi pembangkit momen pada persamaan \(U = V + Z^2\) memberikan \[ \frac{1}{(1 - 2t)^{n/2}} = \E(e^{t V}) \frac{1}{(1 - 2 t)^{1/2}}, \quad t \lt \frac{1}{2} \] Dengan menyelesaikannya, diperoleh \(\E(e^{t V}) = 1 \big/ (1 - 2 t)^{(n-1)/2}\) untuk \(t \lt 1/2\), sehingga \(V\) berdistribusi khi-kuadrat dengan \(n - 1\) derajat kebebasan.
Variabel \(V\) dalam berperan penting dalam menyusun interval kepercayaan dan uji hipotesis untuk simpangan baku distribusi \(\sigma\) ketika rata-rata distribusi \(\mu\) tidak diketahui (seperti yang hampir selalu terjadi).
Rata-rata dan varians \(S^2\) adalah
Hasil-hasil ini diperoleh dari distribusi khi-kuadrat \(V\) serta sifat-sifat baku nilai harapan dan varians.
Seperti sebelumnya, hasil-hasil momen ini merupakan kasus khusus dari hasil umum yang diperoleh dalam bagian tentang Varians Sampel. Sekali lagi, sebagai penduga bagi \(\sigma^2\), bagian (a) berarti bahwa \(S^2\) tak bias, sedangkan bagian (b) berarti bahwa \(S^2\) konsisten. Perhatikan pula bahwa \(\var(S^2)\) lebih besar daripada \(\var(W^2)\) (hal yang tidak mengejutkan), sebesar faktor \(\frac{n}{n - 1}\).
Dalam simulator distribusi khusus, pilih distribusi khi-kuadrat. Ubah parameter derajat kebebasan dan perhatikan bentuk serta letak fungsi kepadatan probabilitas dan bilah rata-rata–simpangan baku. Untuk nilai parameter yang dipilih, jalankan eksperimen 1.000 kali dan bandingkan fungsi kepadatan empiris serta momen empiris dengan fungsi kepadatan probabilitas dan momen yang sebenarnya.
Kovarians dan korelasi antara varians sampel khusus dan varians sampel baku adalah
Hasil-hasil ini diperoleh dari hasil umum dalam bagian tentang varians sampel dan fakta bahwa \(\sigma_4 = 3 \sigma^4\).
Perhatikan bahwa korelasi tersebut tidak bergantung pada parameter \(\mu\) dan \(\sigma\), serta konvergen ke 1 ketika \(n \to \infty\).
Ingat bahwa distribusi \(t\) Student dengan \(k \in \N_+\) derajat kebebasan memiliki fungsi kepadatan probabilitas \[ f(t) = C_k \left( 1 + \frac{t^2}{k} \right)^{-(k + 1) / 2}, \quad t \in \R \] dengan \(C_k\) sebagai konstanta normalisasi yang sesuai. Distribusi ini memiliki rata-rata 0 jika \(k \gt 1\) dan varians \(k / (k - 2)\) jika \(k \gt 2\). Dalam subbagian ini, hal utama yang perlu diingat ialah bahwa distribusi \(t\) dengan \(k\) derajat kebebasan merupakan distribusi dari \[ \frac{Z}{\sqrt{V / k}} \] dengan \(Z\) berdistribusi normal baku; \(V\) berdistribusi khi-kuadrat dengan \(k\) derajat kebebasan; serta \(Z\) dan \(V\) independen.
Untuk ukuran sampel sekurang-kurangnya dua, definisikan \[ T = \frac{M - \mu}{S / \sqrt{n}} \]
Misalkan \(Z\) menyatakan skor baku dalam , dan \(V\) menyatakan variabel khi-kuadrat dalam . Maka \[ T = \frac{Z}{\sqrt{V / (n - 1)}} \] sehingga \(T\) berdistribusi \(t\) Student dengan \(n - 1\) derajat kebebasan.
Dalam definisi \(T\), bagi pembilang dan penyebut dengan \(\sigma / \sqrt{n}\). Pembilangnya kemudian menjadi \((M - \mu) \big/ (\sigma / \sqrt{n}) = Z\), sedangkan penyebutnya menjadi \(S / \sigma = \sqrt{V / (n - 1)}\). Karena \(Z\) dan \(V\) independen, \(Z\) berdistribusi normal baku, dan \(V\) berdistribusi khi-kuadrat dengan \(n - 1\) derajat kebebasan, dapat disimpulkan bahwa \(T\) berdistribusi \(t\) Student dengan \(n - 1\) derajat kebebasan.
Dalam simulator distribusi khusus, pilih distribusi \(t\). Ubah parameter derajat kebebasan dan perhatikan bentuk serta letak fungsi kepadatan probabilitas dan bilah rata-rata \( \pm \) simpangan baku. Untuk nilai parameter yang dipilih, jalankan eksperimen 1.000 kali dan bandingkan fungsi kepadatan empiris serta momen empiris dengan fungsi kepadatan dan momen distribusi.
Misalkan \(\bs{X} = (X_1, X_2, \ldots, X_m)\) merupakan sampel acak berukuran \(m\) dari distribusi normal dengan rata-rata \(\mu \in \R\) dan simpangan baku \(\sigma \in (0, \infty)\), dan \(\bs{Y} = (Y_1, Y_2, \ldots, Y_n)\) merupakan sampel acak berukuran \(n\) dari distribusi normal dengan rata-rata \(\nu \in \R\) dan simpangan baku \(\tau \in (0, \infty)\). Terakhir, misalkan \(\bs{X}\) dan \(\bs{Y}\) independen. Tentu saja, seluruh hasil di atas untuk model satu sampel dalam berlaku secara terpisah bagi \(\bs{X}\) dan \(\bs{Y}\), tetapi sekarang kita tertarik pada statistik yang berguna dalam prosedur inferensial untuk membandingkan kedua distribusi normal tersebut. Kita akan menggunakan notasi dasar yang ditetapkan di atas, tetapi akan menunjukkan sampel yang menjadi acuannya.
Model dua sampel (atau secara lebih umum, model multisampel) muncul secara alami ketika suatu variabel dasar dalam eksperimen statistik dipilah menurut satu atau beberapa variabel lain (sering kali variabel nominal). Sebagai contoh, dalam data tonggeret, bobot tonggeret jantan dan bobot tonggeret betina dapat dipandang sebagai pengamatan dari model normal dua sampel. Variabel dasar bobot dipilah menurut variabel jenis kelamin. Jika bobot dipilah menurut jenis kelamin dan spesies, kita dapat memperoleh pengamatan dari model normal enam sampel.
Kita mengetahui dari bahwa \(M(\bs{X})\) dan \(M(\bs{Y})\) berdistribusi normal. Selain itu, kedua rata-rata sampel ini independen karena sampel asalnya, \(\bs{X}\) dan \(\bs{Y}\), independen. Dengan demikian, berdasarkan sifat dasar distribusi normal, setiap kombinasi linear dari \(M(\bs{X})\) dan \(M(\bs{Y})\) juga akan berdistribusi normal. Untuk prosedur inferensial yang membandingkan rata-rata distribusi \(\mu\) dan \(\nu\), kombinasi linear terpenting adalah selisihnya.
\(M(\bs{X}) - M(\bs{Y})\) berdistribusi normal dengan rata-rata dan varians berikut:
Dengan demikian, skor baku \[ Z = \frac{\left[M(\bs{X}) - M(\bs{Y})\right] - (\mu - \nu)}{\sqrt{\sigma^2 / m + \tau^2 / n}} \] berdistribusi normal baku. Skor baku ini berperan mendasar dalam menyusun interval kepercayaan dan uji hipotesis untuk selisih \(\mu - \nu\) ketika simpangan baku distribusi \(\sigma\) dan \(\tau\) diketahui.
Selanjutnya, kita akan menunjukkan bahwa rasio kelipatan tertentu dari varians sampel (untuk kedua versinya) dari \(\bs{X}\) dan \(\bs{Y}\) memiliki distribusi \(F\). Ingat bahwa distribusi \(F\) dengan \(j \in \N_+\) derajat kebebasan pada pembilang dan \(k \in \N_+\) derajat kebebasan pada penyebut merupakan distribusi dari \[\frac{U / j}{V / k}\] dengan \(U\) berdistribusi khi-kuadrat dengan \(j\) derajat kebebasan; \(V\) berdistribusi khi-kuadrat dengan \(k\) derajat kebebasan; serta \(U\) dan \(V\) independen. Distribusi \(F\) dinamai untuk menghormati Ronald Fisher dan memiliki fungsi kepadatan probabilitas \[ f(x) = C_{j,k} \frac{x^{(j-2) / 2}}{\left[1 + (j / k) x\right]^{(j + k) / 2}}, \quad 0 \lt x \lt \infty \] dengan \(C_{j,k}\) sebagai konstanta normalisasi yang sesuai. Rata-ratanya adalah \(\frac{k}{k - 2}\) jika \(k \gt 2\), dan variansnya adalah \(2 \left(\frac{k}{k - 2}\right)^2 \frac{j + k - 2}{j (k - 4)}\) jika \(k \gt 4\).
Variabel acak berikut berdistribusi \(F\) dengan \(m\) derajat kebebasan pada pembilang dan \(n\) derajat kebebasan pada penyebut: \[ \frac{W^2(\bs{X}) / \sigma^2}{W^2(\bs{Y}) / \tau^2} \]
Dengan menggunakan notasi dalam , perhatikan bahwa \(W^2(\bs{X}) / \sigma^2 = U(\bs{X}) / m\) dan \(W^2(\bs{Y}) / \tau^2 = U(\bs{Y}) / n\). Hasil tersebut langsung diperoleh karena \(U(\bs{X})\) dan \(U(\bs{Y})\) merupakan variabel khi-kuadrat independen yang masing-masing memiliki \(m\) dan \(n\) derajat kebebasan.
Jika ukuran masing-masing sampel sekurang-kurangnya dua, variabel acak berikut berdistribusi \(F\) dengan \(m - 1\) derajat kebebasan pada pembilang dan \(n - 1\) derajat kebebasan pada penyebut: \[ \frac{S^2(\bs{X}) / \sigma^2}{S^2(\bs{Y}) / \tau^2} \]
Dengan menggunakan notasi pada , perhatikan bahwa \(S^2(\bs{X}) / \sigma^2 = V(\bs{X}) \big/ (m - 1)\) dan \(S^2(\bs{Y}) / \tau^2 = V(\bs{Y}) \big/ (n - 1)\). Hasil tersebut langsung diperoleh karena \(V(\bs{X})\) dan \(V(\bs{Y})\) merupakan variabel khi-kuadrat independen dengan derajat kebebasan masing-masing \(m - 1\) dan \(n - 1\).
Variabel-variabel ini berguna untuk menyusun interval kepercayaan dan uji hipotesis bagi rasio simpangan baku \(\sigma / \tau\). Pemilihan variabel \(F\) bergantung pada diketahui atau tidaknya rata-rata \(\mu\) dan \(\nu\). Tentu saja, rata-rata biasanya tidak diketahui, sehingga statistik pada digunakan.
Dalam simulator distribusi khusus, pilih distribusi \(F\). Variasikan parameter derajat kebebasan dan perhatikan bentuk serta letak fungsi kepadatan probabilitas dan bilah rata-rata \( \pm \) simpangan baku. Untuk nilai parameter yang dipilih, jalankan eksperimen 1.000 kali dan bandingkan fungsi kepadatan serta momen empiris dengan fungsi kepadatan dan momen distribusi sebenarnya.
Dengan ukuran setiap sampel sekurang-kurangnya dua, konstruksi terakhir kita dalam model normal dua sampel akan menghasilkan variabel dengan distribusi \( t \) Student. Variabel ini berperan mendasar dalam menyusun interval kepercayaan dan uji hipotesis bagi selisih \(\mu - \nu\) ketika simpangan baku distribusi \(\sigma\) dan \(\tau\) tidak diketahui. Konstruksi ini memerlukan asumsi tambahan bahwa kedua simpangan baku distribusi sama: \( \sigma = \tau \). Asumsi ini masuk akal jika terdapat variabilitas inheren pada variabel pengukuran yang tidak berubah sekalipun perlakuan berbeda diterapkan pada objek-objek dalam populasi.
Skor baku yang terkait dengan selisih rata-rata sampel adalah \[ Z = \frac{[M(\bs{Y}) - M(\bs{X})] - (\nu - \mu)}{\sigma \sqrt{1 / m + 1 / n}} \]
Untuk membentuk variabel yang diinginkan, pertama-tama kita memerlukan penduga bagi \(\sigma^2\). Pendekatan yang wajar adalah menggunakan rata-rata tertimbang dari varians sampel \(S^2(\bs{X})\) dan \(S^2(\bs{Y})\), dengan derajat kebebasan sebagai faktor pembobot.
Penduga gabungan bagi \(\sigma^2\) adalah \[ S^2(\bs{X}, \bs{Y}) = \frac{(m - 1) S^2(\bs{X}) + (n - 1) S^2(\bs{Y})}{m + n - 2} \]
Variabel acak \( V \) berikut berdistribusi khi-kuadrat dengan \(m + n - 2\) derajat kebebasan: \[ V = \frac{(m - 1)S^2(\bs{X}) + (n - 1) S^2(\bs{Y})}{\sigma^2} \]
Variabel tersebut dapat dinyatakan sebagai jumlah variabel-variabel khi-kuadrat yang independen.
Variabel \(M(\bs{Y}) - M(\bs{X})\) dan \(S^2(\bs{X}, \bs{Y})\) saling independen.
Karena kedua sampel independen, vektor \((M(\bs{X}), S(\bs{X}))\) independen dari vektor \((M(\bs{Y}), S(\bs{Y}))\). Selain itu, dalam setiap sampel normal, \(M(\bs{X})\) independen dari \(S(\bs{X})\), dan \(M(\bs{Y})\) independen dari \(S(\bs{Y})\). Dengan demikian, vektor kedua rata-rata sampel independen dari vektor kedua simpangan baku sampel; setiap fungsi dari vektor pertama, termasuk selisih rata-rata, independen dari setiap fungsi dari vektor kedua, termasuk varians gabungan.
Variabel acak \( T \) berikut berdistribusi \(t\) Student dengan \(m + n - 2\) derajat kebebasan. \[ T = \frac{[M(\bs{Y}) - M(\bs{X})] - (\nu - \mu)}{S(\bs{X}, \bs{Y}) \sqrt{1 / m + 1 / n}} \]
Misalkan sekarang \(\left((X_1, Y_1), (X_2, Y_2), \ldots, (X_n, Y_n)\right)\) merupakan sampel acak berukuran \(n\) dari distribusi normal bivariat dengan rata-rata \(\mu \in \R\) dan \(\nu \in \R\), simpangan baku \(\sigma \in (0, \infty)\) dan \(\tau \in (0, \infty)\), serta korelasi \(\rho \in [-1, 1]\). Tentu saja, \(\bs{X} = (X_1, X_2, \ldots, X_n)\) merupakan sampel acak berukuran \(n\) dari distribusi normal dengan rata-rata \(\mu\) dan simpangan baku \(\sigma\), sedangkan \(\bs{Y} = (Y_1, Y_2, \ldots, Y_n)\) merupakan sampel acak berukuran \(n\) dari distribusi normal dengan rata-rata \(\nu\) dan simpangan baku \(\tau\). Karena itu, hasil-hasil di atas untuk model satu sampel dalam berlaku bagi \(\bs{X}\) dan \(\bs{Y}\) secara terpisah. Perhatian kita dalam bagian ini tertuju pada hubungan antara berbagai statistik yang dihitung dari \(\bs{X}\) dan \(\bs{Y}\), serta sifat-sifat kovarians sampel.
Model bivariat (atau, secara lebih umum, multivariat) muncul secara alami ketika dua atau lebih variabel dipertimbangkan dalam eksperimen statistik. Sebagai contoh, pasangan tinggi ayah dan putranya dalam data tinggi Pearson dapat dimodelkan sebagai pengamatan dari model normal bivariat.
Dalam notasi yang telah kita gunakan sebelumnya, ingat bahwa \(\sigma_3 = \E\left[(X - \mu)^3\right] = 0\), \(\sigma_4 = \E\left[(X - \mu)^4\right] = 3 \sigma^4\), \(\tau_3 = \E\left[(Y - \nu)^3\right] = 0\), \(\tau_4 = \E\left[(Y - \nu)^4\right] = 3 \tau^4\), \( \delta = \cov(X, Y) = \sigma \tau \rho\), dan \(\delta_2 = \E[(X - \mu)^2 (Y - \nu)^2] = \sigma^2 \tau^2 (1 + 2 \rho^2)\).
Vektor data \(((X_1, Y_1), (X_2, Y_2), \ldots, (X_n, Y_n))\) berdistribusi normal multivariat.
Hasil ini merupakan konsekuensi dari hasil-hasil baku untuk distribusi normal multivariat. Blok pada bagian (a) dan (b) masing-masing adalah vektor rata-rata dan matriks varians-kovarians dari satu pengamatan \((X, Y)\).
\(\left(M(\bs{X}), M(\bs{Y})\right)\) berdistribusi normal bivariat. Kovarians dan korelasinya adalah
Fakta bahwa pasangan rata-rata tersebut berdistribusi normal bivariat diperoleh dari karena \((M(\bs{X}), M(\bs{Y}))\) dapat diperoleh dari vektor data melalui transformasi linear. Bagian (a) dan (b) diperoleh dari hasil pada bagian tentang korelasi sampel.
Rata-rata dan varians \(M(\bs{X})\) maupun \(M(\bs{Y})\) telah kita ketahui dari model satu sampel di atas. Oleh karena itu, kita mengetahui distribusi lengkap dari \((M(\bs{X}), M(\bs{Y}))\).
Kovarians dan korelasi antara kedua varians sampel khusus adalah:
Hasil-hasil ini diperoleh dari hasil pada bagian tentang korelasi sampel dan bentuk khusus \(\delta_2\), \(\sigma_4\), serta \(\tau_4\).
Untuk ukuran sampel sekurang-kurangnya dua, kovarians dan korelasi antara kedua varians sampel baku adalah
Hasil-hasil ini diperoleh dari hasil pada bagian tentang korelasi sampel dan bentuk khusus \(\delta\), \(\delta_2\), \(\sigma_4\), serta \(\tau_4\).
Jika \(\mu\) dan \(\nu\) diketahui (sekali lagi, biasanya merupakan asumsi artifisial), penduga yang wajar bagi kovarians distribusi \(\delta\) adalah bentuk khusus kovarians sampel \[ W(\bs{X}, \bs{Y}) = \frac{1}{n} \sum_{i=1}^n (X_i - \mu)(Y_i - \nu) \]
Rata-rata dan varians \(W(\bs{X}, \bs{Y})\) adalah
Hasil-hasil ini diperoleh dari hasil pada bagian tentang korelasi sampel dan bentuk khusus \(\delta\) serta \(\delta_2\).
Untuk ukuran sampel sekurang-kurangnya dua, jika \(\mu\) dan \(\nu\) tidak diketahui (sekali lagi, seperti yang biasanya terjadi), penduga yang wajar bagi kovarians distribusi \(\delta\) adalah kovarians sampel baku \[ S(\bs{X}, \bs{Y}) = \frac{1}{n - 1} \sum_{i=1}^n [X_i - M(\bs{X})][Y_i - M(\bs{Y})] \]
Rata-rata dan varians dari kovarians sampel adalah
Hasil-hasil ini merupakan konsekuensi dari hasil umum sebelumnya dan bentuk khusus \(\delta\) serta \(\delta_2\).
Kita menggunakan notasi dasar yang ditetapkan di atas untuk sampel \(\bs{X}\) dan \(\bs{Y}\), serta untuk statistik \(M\), \(W^2\), \(S^2\), \(T\), dan seterusnya.
Misalkan bobot bersih (dalam gram) dari 25 bungkus M&M membentuk sampel acak \(\bs{X}\) dari distribusi normal dengan rata-rata 50 dan simpangan baku 4. Tentukan setiap besaran berikut:
Misalkan skor matematika SAT dari 16 siswa Alabama membentuk sampel acak \(\bs{X}\) dari distribusi normal dengan rata-rata 550 dan simpangan baku 20, sedangkan skor matematika SAT dari 25 siswa Georgia membentuk sampel acak \(\bs{Y}\) dari distribusi normal dengan rata-rata 540 dan simpangan baku 15. Kedua sampel tersebut independen. Tentukan setiap besaran berikut: