Asesmen kumulatif CA03

Asesmen ini bernilai tepat 100 poin. Sepuluh masalah masing-masing bernilai 10 poin. Setiap penggunaan proyeksi, distribusi \(t\) atau \(F\), galat baku kekar, dan ukuran pengaruh harus disertai asumsi atau identitas yang membenarkannya. Jawaban numerik tanpa derivasi tidak memperoleh poin derivasi. Keluaran perangkat lunak tidak dapat menggantikan argumen matriks, hukum pengambilan sampel, atau audit mekanisme kegagalan.

Masalah 1 — ruang kolom, proyeksi, peringkat, dan persamaan normal (10 poin)

Untuk

kerjakan hal berikut tanpa memulai dari keluaran regresi.

1. Tentukan peringkat \(X\) dan nyatakan \(\mathcal C(X)\).
2. Turunkan \(P_X=X(X^{\mathsf T}X)^{-1}X^{\mathsf T}\), lalu hitung \(\widehat y=P_Xy\) dan \(e=(I-P_X)y\).
3. Verifikasi persamaan normal dan hitung SSE.
4. Buktikan bahwa \(\widehat y\) adalah titik unik di \(\mathcal C(X)\) yang paling dekat ke \(y\), serta nyatakan bagian mana yang tidak memakai asumsi probabilistik.

Petunjuk 1

Hitung \(X^{\mathsf T}X\) dan \(X^{\mathsf T}y\). Kedua kolom \(X\) tidak sebanding.

Petunjuk 2

Untuk sembarang \(b\), uraikan \(y-Xb=e+X(\widehat\beta-b)\). Persamaan normal membuat kedua suku di ruas kanan ortogonal.

Jawaban singkat

Peringkat \(X\) adalah 2 dan \(\mathcal C(X)=\operatorname{span}\{\mathbf1,(-1,0,1,2)^{\mathsf T}\}\). Proyektornya

Selanjutnya,

dengan \(X^{\mathsf T}e=0\) dan \(\operatorname{SSE}=9/5\). Semua hasil ini merupakan aljabar proyeksi dan tidak memerlukan normalitas atau model peluang.

Solusi lengkap

Tuliskan \(x=(-1,0,1,2)^{\mathsf T}\). Vektor \(x\) bukan kelipatan \(\mathbf1\), sehingga dua kolom bebas linear dan \(\operatorname{rank}(X)=2\). Karena itu

Perkalian langsung memberi

Maka

Memasukkan invers ke rumus proyektor menghasilkan matriks \(P_X\) pada jawaban singkat. Rumus itu langsung memperlihatkan simetri. Idempotensi juga mengikuti tanpa mengalikan matriks berukuran empat kali empat:

Jejak \(P_X\) adalah 2, sama dengan peringkat ruang yang diproyeksikan. Perkalian dengan \(y\) memberi nilai suaian dan sisaan yang dinyatakan. Selanjutnya,

jadi sisaan ortogonal terhadap seluruh \(\mathcal C(X)\), tepat seperti persamaan normal pada Teorema persamaan normal. Jumlah kuadratnya

Untuk sembarang \(b\in\mathbb R^2\),

Suku silang bernilai nol karena \(X^{\mathsf T}e=0\). Matriks \(X^{\mathsf T}X\) definit positif, jadi suku kedua nol hanya ketika \(b=\widehat\beta\). Dengan demikian \(P_Xy\) adalah titik terdekat yang unik, sesuai Teorema jarak minimum dan Pythagoras. Peringkat, proyeksi, persamaan normal, dan optimalitas ini semuanya deterministik; asumsi peluang baru diperlukan untuk ketakbiasan, varians, atau hukum pengambilan sampel.

Masalah 2 — defisiensi peringkat, pseudoinvers, dan kontras terestimasi (10 poin)

Pertimbangkan

1. Tentukan peringkat dan ruang nol \(X\).
2. Tentukan seluruh solusi kuadrat terkecil dan nilai suaian uniknya.
3. Turunkan solusi Moore–Penrose \(X^+y\) sebagai solusi yang meminimumkan norma Euclid.
4. Putuskan keterestimasi \(\beta_1+2\beta_2\), \(2\beta_1-\beta_2\), dan rataan pada \(z=4\), yaitu \(\beta_0+4\beta_1+8\beta_2\). Berikan estimasi target yang terestimasi.

Petunjuk 1

Kolom ketiga adalah dua kali kolom kedua. Suaian yang sama diperoleh dengan meregresikan \(y\) pada intersep dan \(z=(0,1,2,3)^{\mathsf T}\), dengan koefisien kemiringan gabungan \(\gamma=\beta_1+2\beta_2\).

Petunjuk 2

Semua solusi memenuhi satu nilai \(\gamma\). Untuk memperoleh solusi bernorma minimum, minimalkan \(\beta_1^2+\beta_2^2\) dengan kendala \(\beta_1+2\beta_2=\gamma\). Untuk keterestimasi, uji ortogonalitas vektor kontras terhadap \(\mathcal N(X)\).

Jawaban singkat

Peringkat \(X\) adalah 2 dan \(\mathcal N(X)=\operatorname{span}\{(0,-2,1)^{\mathsf T}\}\). Seluruh solusi adalah

dan semuanya memberi

Solusi pseudoinvers adalah

Target \(\beta_1+2\beta_2\) dan rataan di \(z=4\) terestimasi, masing-masing ditaksir oleh \(7/5\) dan \(13/2\). Target \(2\beta_1-\beta_2\) tidak terestimasi.

Solusi lengkap

Karena kolom ketiga sama dengan dua kali kolom kedua dan kolom intersep tidak sebanding dengan keduanya, peringkat \(X\) adalah 2. Persamaan \(Xv=0\) memberi \(v_0=0\) dan \(v_1+2v_2=0\), sehingga

Tuliskan \(\gamma=\beta_1+2\beta_2\). Regresi \(y\) pada intersep dan \(z=(0,1,2,3)^{\mathsf T}\) mempunyai

Karena itu

Setiap pasangan \((\beta_1,\beta_2)\) yang memenuhi \(\beta_1+2\beta_2=7/5\) adalah solusi. Menulis \(\beta_2=t\) memberi keluarga pada jawaban singkat. Semua anggota menghasilkan

sehingga nilai suaian dan sisaan unik walaupun koordinat koefisien tidak unik. SSE-nya, sebagai pemeriksaan, adalah

Untuk solusi bernorma minimum, nilai \(\beta_0=9/10\) sudah tetap. Minimisasi

memberi turunan \(-28/5+10t=0\), sehingga \(t=14/25\) dan \(\beta_1=7/25\). Inilah \(X^+y\), sesuai karakterisasi pseudoinvers pada Teorema seluruh solusi kuadrat-terkecil.

Kriteria keterestimasi Teorema kriteria keterestimasi meminta vektor target ortogonal terhadap \(v=(0,-2,1)^{\mathsf T}\). Untuk \(c_1=(0,1,2)^{\mathsf T}\), \(c_1^{\mathsf T}v=0\), jadi target terestimasi dan nilainya selalu \(7/5\). Untuk \(c_2=(0,2,-1)^{\mathsf T}\), \(c_2^{\mathsf T}v=-5\ne0\), jadi dua vektor koefisien yang menghasilkan suaian sama dapat memberi nilai target berbeda; target tidak teridentifikasi. Terakhir, \(c_3=(1,4,8)^{\mathsf T}\) ortogonal terhadap \(v\), dan estimasinya

Pseudoinvers memilih satu wakil, tetapi keterestimasi tetap ditentukan oleh ruang baris, bukan oleh pilihan algoritme.

Masalah 3 — OLS, MLE Gaussian, dan dua penyebut varians (10 poin)

Suatu desain tetap mempunyai \(n=8\), \(p=3\), peringkat kolom penuh, dan ringkasan

Pada solusi kuadrat terkecil, \(\operatorname{RSS}=20\).

1. Hitung \(\widehat\beta\) dan buktikan bahwa ia meminimumkan RSS tanpa asumsi distribusi.
2. Di bawah \(Y\sim N_8(X\beta,\sigma^2I_8)\), turunkan MLE bersama untuk \(\beta\) dan \(\sigma^2\), termasuk pemeriksaan maksimum global.
3. Hitung penduga varians tak bias dan bias sampel berhingga pada MLE varians.
4. Susun tiga lapisan kesimpulan: geometri OLS; Gauss–Markov; dan fungsi kemungkinan serta distribusi Gaussian eksak.

Petunjuk 1

Gunakan dekomposisi

Petunjuk 2

Setelah \(\beta\) diprofilkan, fungsi log-kemungkinan varians berbentuk \(-4\log\sigma^2-10/\sigma^2\). Derajat bebas sisaan adalah \(n-p=5\), tetapi fungsi kemungkinan tetap mempunyai faktor \(n=8\).

Jawaban singkat

Jika model rataan terspesifikasi dengan benar dan kovariansnya sferis, \(E(\widehat\sigma^2_{\mathrm{MLE}})=(5/8)\sigma^2\), jadi biasnya \(-3\sigma^2/8\). OLS adalah hasil geometri; sifat BLUE memerlukan rataan galat nol dan kovarians \(\sigma^2I\); interpretasi MLE, hukum \(\operatorname{RSS}/\sigma^2\sim\chi^2_5\), dan inferensi eksak memerlukan lapisan Gaussian.

Solusi lengkap

Persamaan normal memberi

Karena semua elemen diagonal \(X^{\mathsf T}X\) positif, matriks ini definit positif. Dekomposisi pada petunjuk menunjukkan \(\operatorname{RSS}(b)\ge20\), dengan kesamaan hanya pada \(b=\widehat\beta\). Kesimpulan ini murni merupakan hasil kuadrat terkecil deterministik.

Di bawah model Gaussian, fungsi log-kemungkinan lengkap adalah

Untuk setiap \(\sigma^2>0\), nilai \(\beta\) yang memaksimumkan fungsi log-kemungkinan sama dengan nilai yang meminimumkan RSS, yaitu \(\widehat\beta\). Fungsi log-kemungkinan profil adalah

Turunannya nol ketika

Karena RSS positif, \(\ell_p\to-\infty\) ketika \(\sigma^2\downarrow0\) maupun \(\sigma^2\to\infty\); titik stasioner itu adalah maksimum global unik. Ini adalah mekanisme pada Teorema: MLE koefisien dan varians.

Peringkat desain adalah 3, sehingga derajat bebas sisaan \(\nu=8-3=5\). Penduga tak bias adalah

Jika model rataan linear terspesifikasi dengan benar dan kovariansnya sferis, \(E(\operatorname{RSS})=5\sigma^2\), bahkan tanpa normalitas. Jadi

dan bias MLE varians adalah \(-3\sigma^2/8\). Penyebut \(8\) berasal dari optimisasi fungsi kemungkinan, sedangkan penyebut \(5\) mengoreksi nilai harapan melalui dimensi ruang sisaan seperti pada Teorema: penduga varians tak bias.

Lapisan logisnya adalah sebagai berikut. Peringkat penuh saja memberi solusi OLS unik. Menambahkan \(E(\varepsilon\mid X)=0\) dan \(\operatorname{Cov}(\varepsilon\mid X)=\sigma^2I\) memberi ketakbiasan, kovarians OLS, dan BLUE, tanpa kenormalan. Menambahkan normalitas memberi interpretasi fungsi kemungkinan, MLE Gaussian, independensi penduga koefisien dan RSS, serta hukum khi-kuadrat eksak. Tanpa normalitas, OLS dan Gauss–Markov tetap berlaku, tetapi MLE Gaussian dan inferensi \(t/F\) eksak tidak lagi memperoleh pembenaran otomatis.

Masalah 4 — bukti Gauss–Markov dalam urutan Loewner (10 poin)

Misalkan \(X\) berperingkat kolom penuh, \(Y=X\beta+\varepsilon\), \(E\varepsilon=0\), dan \(\operatorname{Cov}(\varepsilon)=\sigma^2I_n\). Definisikan

dan ambil target umum \(L\beta\), dengan \(L\in\mathbb R^{q\times p}\).

1. Untuk penduga linear tak bias \(CY\), buktikan \(CX=L\).
2. Dengan \(B=C-LA_0\), buktikan

3. Jelaskan arti urutan Loewner bagi setiap kombinasi target.
4. Tunjukkan kegagalan kesimpulan OLS bila kovarians sferis dihapus: untuk \(Y_i=\mu+\varepsilon_i\), \(i=1,2\), dengan galat independen, \(\operatorname{Var}(\varepsilon_1)=1\) dan \(\operatorname{Var}(\varepsilon_2)=9\), bandingkan OLS dengan \((9Y_1+Y_2)/10\). Nyatakan seluruh batas arti BLUE.

Petunjuk 1

Ketakbiasan untuk setiap \(\beta\) memberi \(CX\beta=L\beta\). Dari \(BX=0\), tunjukkan \(LA_0B^{\mathsf T}=0\).

Petunjuk 2

Untuk memeriksa semidefinit positif, kalikan selisih kovarians di kiri dan kanan oleh sembarang \(a^{\mathsf T}\) dan \(a\). Dalam contoh heteroskedastik, kedua penduga tak bias; cukup bandingkan variansnya.

Jawaban singkat

Ketakbiasan memaksa \(CX=L\). Karena \(B=C-LA_0\) memenuhi \(BX=0\), suku silang dalam kovarians hilang dan selisihnya \(\sigma^2BB^{\mathsf T}\), semidefinit positif. Jadi penduga OLS bagi \(a^{\mathsf T}L\beta\) mempunyai varians yang tidak lebih besar dalam kelas penduga linear tak bias. Pada contoh heteroskedastik,

Maka OLS bukan BLUE di bawah kovarians nonsferis. Gauss–Markov tidak memerlukan normalitas, tetapi juga tidak membandingkan penduga bias atau nonlinear dan tidak menjamin inferensi eksak.

Solusi lengkap

Karena

ketakbiasan bagi \(L\beta\) untuk setiap \(\beta\) ekuivalen dengan \(CX=L\). OLS memenuhi \(\widehat\beta=A_0Y\) dan \(A_0X=I_p\), sehingga \(L\widehat\beta=LA_0Y\) juga tak bias. Definisikan \(B=C-LA_0\). Maka

Suku silang pertama adalah

dan transposenya juga nol. Oleh karena itu

Untuk setiap \(a\in\mathbb R^q\),

Inilah urutan Loewner: bukan setiap elemen matriks harus lebih kecil, melainkan varians setiap kombinasi \(a^{\mathsf T}L\beta\) tidak lebih besar. Bukti ini memperluas Teorema Gauss–Markov ke target matriks \(L\beta\).

Pada contoh dua observasi, OLS bagi rataan bersama adalah \(\overline Y=(Y_1+Y_2)/2\). Independensi memberi

Penduga berbobot

tetap tak bias karena bobotnya berjumlah satu, tetapi

Jadi kesimpulan optimalitas OLS tidak berlaku ketika kovarians bukan kelipatan identitas; pembobotan dengan kebalikan varians memanfaatkan informasi kovarians yang diabaikan OLS. BLUE selalu relatif terhadap desain berperingkat yang ditetapkan, struktur kovarians, serta kelas penduga linear dan tak bias. Ia tidak menyatakan MSE terkecil di antara penduga bias, tidak membandingkan semua penduga nonlinear, tidak memberi fungsi kemungkinan, dan tidak menjamin hukum \(t\) atau \(F\). Normalitas tidak dipakai dalam bukti, sesuai batas pada Apa yang tidak dikatakan Gauss–Markov.

Masalah 5 — hukum Gaussian dan t eksak bagi kontras terestimasi (10 poin)

Lima respons berasal dari dua kelompok desain tetap. Data kelompok A adalah \((2,4,3)\), dan data kelompok B adalah \((7,5)\). Gunakan parameterisasi redundan

dengan \(g_A+g_B=\mathbf1\). Targetnya \(\tau=\beta_B-\beta_A\).

1. Buktikan bahwa \(\tau\) terestimasi walaupun desain berperingkat 2.
2. Turunkan \(\widehat\tau\), SSE, \(s^2\), dan varians pengambilan sampel \(\widehat\tau\) bila \(\sigma^2\) diketahui.
3. Buktikan statistik untuk \(H_0:\tau=0\) berdistribusi \(t\) eksak dan hitung nilainya.
4. Bentuk selang kepercayaan 95% menggunakan \(t_{3;0{,}975}=3{,}182\), lalu audit asumsi serta pemilihan kontras.

Petunjuk 1

Salah satu vektor dalam ruang nol adalah \((1,-1,-1)^{\mathsf T}\). Vektor target \((0,-1,1)^{\mathsf T}\) ortogonal terhadapnya.

Petunjuk 2

Selisih dua rataan kelompok independen mempunyai varians \(\sigma^2(1/3+1/2)\). SSE di dalam kelompok mempunyai 3 derajat bebas dan independen dari kedua rataan di bawah model Gaussian.

Jawaban singkat

Kontras tersebut terestimasi, dan

Di bawah \(H_0\),

Hipotesis nol tidak ditolak pada 5%, dan selang 95% adalah

Solusi lengkap

Desain mempunyai kolom \((\mathbf1,g_A,g_B)\) dengan \(\mathbf1=g_A+g_B\), sehingga peringkatnya 2 dan \(v=(1,-1,-1)^{\mathsf T}\) berada dalam ruang nol. Vektor kontras \(c=(0,-1,1)^{\mathsf T}\) memenuhi

Jadi \(c\in\mathcal C(X^{\mathsf T})\) dan \(\tau\) terestimasi menurut Teorema kriteria keterestimasi. Nilainya hanya bergantung pada dua rataan kelompok, bukan pada wakil koefisien yang dipilih.

Rataan kelompok adalah

sehingga \(\widehat\tau=3\). Jumlah kuadrat sisaan dalam A adalah \((2-3)^2+(4-3)^2+(3-3)^2=2\), dan dalam B adalah \((7-6)^2+(5-6)^2=2\). Maka SSE total 4. Derajat bebas sisaan adalah

Karena dua kelompok menggunakan galat Gaussian independen,

Proyeksi pada ruang rataan independen dari proyeksi sisaan, dan

seperti hukum proyeksi pada Hukum eksak nilai suaian, sisaan, dan penduga varians sisaan. Karena pembilang Normal baku independen dari penyebut khi-kuadrat,

Di bawah hipotesis nol, galat baku adalah

sehingga statistiknya \(9/\sqrt{10}\approx2{,}846\), lebih kecil daripada 3,182. Margin selang adalah \(3{,}182\sqrt{10}/3\approx3{,}354\), menghasilkan selang pada jawaban singkat.

Keeksakan memerlukan model rataan kedua kelompok yang terspesifikasi dengan benar, desain dan kontras yang ditetapkan, galat Gaussian independen dengan varians yang sama, serta df sisaan positif. Heteroskedastisitas atau dependensi merusak pivot gabungan ini. Memilih kontras karena selisihnya tampak paling besar setelah melihat banyak kelompok juga mengubah cakupan titik demi titik; keterestimasi saja tidak memperbaiki masalah pengujian berganda.

Masalah 6 — proyeksi bersarang, F umum, dan ANOVA (10 poin)

Untuk \(n=12\), tiga ruang rataan dengan intersep memenuhi

Jumlah kuadrat sisaannya adalah

Anggap model penuh Gaussian sferis terspesifikasi dengan benar. Gunakan \(F_{2,8;0{,}95}=4{,}459\) dan \(F_{3,8;0{,}95}=4{,}066\).

1. Buktikan \(P_1-P_0\) adalah proyektor dan tentukan peringkatnya.
2. Turunkan uji F parsial \(H_0:\mu\in\mathcal S_0\) melawan model penuh, hitung statistiknya, dan ambil keputusan 5%.
3. Susun dekomposisi ANOVA penuh relatif terhadap rataan, termasuk semua df, kuadrat rataan, \(F\) keseluruhan, dan keputusan 5%.
4. Hubungkan uji parsial dengan hipotesis linear umum \(C\beta=d\), lalu jelaskan mengapa dua keputusan tidak bertentangan dan mengapa df memakai selisih peringkat.

Petunjuk 1

Inklusi ruang memberi \(P_1P_0=P_0P_1=P_0\). Pembilang parsial adalah \(\operatorname{SSE}_0-\operatorname{SSE}_1\), sedangkan penyebut memakai RSS model penuh.

Petunjuk 2

Untuk ANOVA penuh, \(\operatorname{SSR}=78-30\), df regresi \(4-1\), dan df sisaan \(12-4\). Uji parsial hanya menilai dua dimensi yang ditambahkan setelah \(\mathcal S_0\).

Jawaban singkat

\(P_1-P_0\) adalah proyektor berperingkat 2. Uji parsial memberi

jadi dua dimensi tambahan tidak signifikan pada 5%. Untuk model penuh,

jadi hipotesis rataan konstan ditolak. Uji keseluruhan menilai tiga dimensi di luar ruang rataan konstan, sedangkan uji parsial hanya menilai dua dimensi tambahan di luar \(\mathcal S_0\); keduanya bukan hipotesis yang sama.

Solusi lengkap

Karena ruang bersarang, \(P_1P_0=P_0P_1=P_0\). Jadi

Matriks itu juga simetris, sehingga merupakan proyektor ortogonal. Peringkatnya adalah selisih dimensi \(4-2=2\). Proyektor sisaan penuh \(M_1=I-P_1\) berperingkat \(12-4=8\), dan \((P_1-P_0)M_1=0\).

Pengurangan SSE dari model nol ke penuh adalah

Di bawah \(H_0:\mu\in\mathcal S_0\), proyeksi tambahan menihilkan vektor rataan, sehingga

secara independen. Karena itu, sesuai Uji F sebagai perbandingan dua ruang model bersarang,

Nilai ini di bawah 4,459, jadi tidak ada penolakan pada 5% terhadap dua dimensi tambahan secara bersama.

Dekomposisi ANOVA penuh adalah

Identitas df adalah \(11=3+8\), dan identitas jumlah kuadrat adalah \(78=48+30\). Statistik keseluruhan

melewati nilai kritis 4,066. Hipotesis rataan konstan ditolak. Dekomposisi yang lebih rinci bahkan memisahkan penurunan SSE menjadi dua komponen ortogonal yang bersarang:

dengan df \(11=1+2+8\). Komponen pertama, yang sudah ada di \(\mathcal S_0\), dapat membuat uji keseluruhan signifikan walaupun dua dimensi baru tidak cukup kuat; tidak ada kontradiksi.

Dalam parameterisasi berperingkat penuh bagi \(\mathcal S_1\), ruang \(\mathcal S_0\) dapat ditulis sebagai dua pembatasan independen \(C\beta=d\). Bentuk kuadrat hipotesis umum sama dengan pengurangan SSE 24, dan \(q=\operatorname{rank}(C)=2\). Bila kolom atau baris pembatasan redundan, jumlah nama bukan dimensi: df tetap selisih peringkat ruang. Identitas jumlah kuadrat bersifat geometris, tetapi hukum F dan keputusan eksak juga memerlukan model rataan penuh yang terspesifikasi dengan benar, galat Gaussian, dan kovarians \(\sigma^2I\), sebagaimana batas ANOVA pada Dekomposisi ANOVA dengan intersep.

Masalah 7 — selang rataan, prediksi, dan cakupan simultan (10 poin)

Model Gaussian desain tetap berperingkat penuh mempunyai \(p=3\), \(n=19\), \(s=1{,}5\), dan \(\nu=16\). Pada baris desain \(x_0\),

Gunakan \(t_{16;0{,}975}=2{,}120\). Selain itu, suatu keluarga kontras rataan berdimensi \(q=2\), ditetapkan sebelum data dilihat dan memuat kontras \(x_0\), mempunyai \(F_{2,16;0{,}95}=3{,}634\).

1. Hitung selang kepercayaan titik demi titik 95% bagi rataan \(m_0=x_0^{\mathsf T}\beta\).
2. Hitung selang prediksi titik demi titik 95% bagi satu respons baru independen pada \(x_0\).
3. Hitung selang Scheffé 95% bagi rataan di \(x_0\) sebagai bagian keluarga berdimensi dua tersebut.
4. Jelaskan target peluang ketiga selang, asal suku tambahan 1 pada prediksi, dan batas inferensi setelah pemilihan atau ekstrapolasi.

Petunjuk 1

Galat baku rataan adalah \(s\sqrt{h_0}\), sedangkan galat baku prediksi adalah \(s\sqrt{1+h_0}\).

Petunjuk 2

Pengali Scheffé untuk keluarga berdimensi dua adalah \(\sqrt{2F_{2,16;0{,}95}}\), bukan kuantil t titik demi titik.

Jawaban singkat

Selang rataan titik demi titik adalah

Selang prediksi adalah

Pengali Scheffé \(\sqrt{2(3{,}634)}\approx2{,}696\), sehingga selang rataan simultan pada \(x_0\) adalah kira-kira \([3{,}192,6{,}808]\). Suku 1 berasal dari galat respons baru; Scheffé mengendalikan seluruh keluarga rataan yang ditetapkan, bukan seluruh respons baru.

Solusi lengkap

Untuk rataan bersyarat, varians dugaan adalah \(\sigma^2h_0\). Dengan \(s\) menggantikan \(\sigma\), galat bakunya

Margin titik demi titik adalah \(2{,}120(0{,}67082)\approx1{,}42214\), sehingga selangnya \([3{,}57786,6{,}42214]\).

Untuk respons baru \(Y_0=x_0^{\mathsf T}\beta+\varepsilon_0\), galat baru independen \(\varepsilon_0\) menyumbang varians \(\sigma^2\) selain varians estimasi rataan. Karena itu

dengan margin \(2{,}120(1{,}64317)\approx3{,}48352\). Selang prediksinya \([1{,}51648,8{,}48352]\). Perbedaan \(h_0\) dan \(1+h_0\) berasal dari hukum yang dibuktikan secara terpisah pada Interval kepercayaan eksak bagi rataan pada $x_0$ dan Interval prediksi eksak bagi satu observasi baru.

Untuk keluarga rataan berdimensi dua, pengali simultan adalah

Margin pada kontras \(x_0\) menjadi

sehingga selang Scheffé adalah \([3{,}19152,6{,}80848]\). Selang t pertama mempunyai cakupan 0,95 bagi satu rataan yang ditetapkan; mengulanginya untuk banyak \(x\) tidak memberi cakupan bersama 0,95. Daerah Scheffé pada Daerah Scheffé bagi semua kontras dalam satu subruang memberi cakupan serentak bagi semua kontras dalam subruang berdimensi dua yang telah ditetapkan, bahkan bila kontras tertentu dipilih sesudah melihat data di dalam keluarga itu.

Scheffé tersebut tidak otomatis mencakup banyak respons baru, karena setiap respons membawa galat baru dan keluarga peluang yang berbeda. Ketiga hasil memerlukan model rataan linear yang terspesifikasi dengan benar, Gaussianitas sferis, peringkat, dan df yang tepat; selang prediksi juga memerlukan respons baru independen dengan varians yang sama. Memilih model atau wilayah \(x\) setelah pencarian yang lebih luas menghapus jaminan nominal biasa. Nilai \(h_0\) mengukur ketidakpastian estimasi rataan model pada baris yang diberikan, tetapi tidak memvalidasi bentuk rataan di wilayah ekstrapolasi tanpa data.

Masalah 8 — kovarians sisaan, leverage, penghapusan, dan Cook (10 poin)

Dalam regresi desain tetap berperingkat penuh dengan \(p=3\), ambil dua observasi \(i\ne j\) dengan

Pada data teramati, untuk observasi \(i\), diketahui

1. Hitung \(\operatorname{Var}(e_i)\), \(\operatorname{Var}(e_j)\), \(\operatorname{Cov}(e_i,e_j)\), dan korelasinya di bawah model.
2. Hitung sisaan terstandar internal \(r_i\) dan sisaan dari penghapusan satu observasi \(e_i/(1-h_{ii})\).
3. Hitung \(\widehat\beta-\widehat\beta_{(i)}\) dan jarak Cook \(D_i\).
4. Jelaskan mengapa sisaan kecil, leverage besar, dan jarak Cook besar dapat muncul bersama tanpa membenarkan penghapusan otomatis.

Petunjuk 1

Gunakan \(\operatorname{Cov}(e)=\sigma^2(I-H)\). Elemen di luar diagonal matriks kovarians sisaan adalah \(-\sigma^2h_{ij}\).

Petunjuk 2

Identitas penghapusan memberi

Jawaban singkat

Selanjutnya,

Leverage tinggi menekan varians sisaan mentah sekaligus memperbesar faktor penghapusan. Jarak Cook mengukur sensitivitas suaian, bukan kebenaran atau keabsahan observasi.

Solusi lengkap

Menurut Rataan dan kovarians sisaan, \(\operatorname{Cov}(e)=\sigma^2(I-H)\). Maka

dan

Korelasinya

Jadi galat asli yang tak berkorelasi tidak menjamin komponen-komponen sisaan saling independen; proyeksi bahkan menghasilkan korelasi melalui elemen di luar diagonal \(H\).

Karena \(1-h_{ii}=0{,}25\),

Sisaan terstandar internal bukan statistik \(t\) eksak karena \(s\) ikut menggunakan \(e_i\). Kuantitas penghapusan tersebut adalah sisaan observasi \(i\) ketika model disuaikan tanpa memakai observasi itu.

Identitas Identitas penghapusan-satu memberi

Jarak Cook adalah

Nilai \(h_{ii}=0{,}75\) berarti baris desain itu mempunyai leverage tinggi dalam proyeksi \(H\). Di bawah model, hal ini justru membuat varians sisaan mentah hanya 1, lebih kecil daripada \(\sigma^2=4\), tetapi faktor \(1/(1-h_{ii})\) membesar menjadi 4. Jadi sisaan yang tidak tampak ekstrem dapat sangat memengaruhi suaian. Jarak Cook pada Jarak Cook mengukur perubahan global berskala, bukan probabilitas bahwa observasi itu keliru. Audit harus memeriksa sumber data, wilayah desain, spesifikasi model rataan, serta kesimpulan dengan dan tanpa observasi tersebut; penghapusan otomatis dapat mengubah populasi sasaran.

Masalah 9 — bias terlewat, HC3, dan inferensi pascaseleksi (10 poin)

Model rataan sebenarnya pada desain tetap adalah

dengan \(x\) dan \(z\) terpusat, \(x^{\mathsf T}x=10\), dan \(x^{\mathsf T}z=5\). Analis menghilangkan \(z\) dan menyuaikan model yang hanya memuat intersep serta \(x\). Pada satu data teramati,

dan leverage model pendek adalah

1. Turunkan bias bersyarat kemiringan model pendek untuk target \(\beta\).
2. Verifikasi persamaan normal sisaan, lalu hitung penduga varians HC3 bagi kemiringan dan galat bakunya.
3. Jelaskan secara eksplisit mengapa HC3 tidak memperbaiki bias rataan yang dihitung pada bagian pertama dan mengapa ia bukan pivot \(t\) eksak di sini.
4. Jika, ketika semua hipotesis nol berlaku, analis memperoleh 20 nilai-p yang saling independen dan masing-masing berdistribusi Seragam\((0,1)\), memilih nilai-p terkecil, lalu melaporkan selang biasa atau selang berbasis HC3 seolah-olah hanya prediktor itu yang pernah dipertimbangkan, hitung peluang sedikitnya satu nilai-p di bawah 0,05 dan audit klaim cakupan 95%. Jelaskan mengapa independensi prediktor saja tidak cukup menjamin syarat nilai-p ini.

Petunjuk 1

Dengan intersep dan prediktor terpusat,

Petunjuk 2

Karena \(x\) terpusat, elemen kemiringan HC3 adalah

Untuk seleksi, gunakan komplemen dari tidak adanya satu pun penolakan. Rumus produk mensyaratkan bahwa, ketika semua hipotesis nol berlaku, ke-20 nilai-p saling independen; independensi kolom prediktor saja tidak otomatis memberi independensi nilai-p karena respons dan estimasi varians dapat digunakan bersama.

Jawaban singkat

Bias kemiringan model pendek adalah

Sisaan memenuhi \(\sum_i e_i=\sum_i x_ie_i=0\). HC3 memberi

Memakai penduga kovarians HC3 tidak mengubah nilai harapan \(E(\widehat\beta_{\mathrm{pendek}})=\beta+1\). Peluang sedikitnya satu hasil positif palsu—yakni nilai-p di bawah 0,05 ketika semua hipotesis nol benar—adalah

Setelah pemenang dipilih, teorema selang untuk model yang ditetapkan sebelumnya tidak lagi menjamin cakupan 95%, baik dengan galat baku klasik maupun HC3.

Solusi lengkap

Penduga kemiringan model pendek, karena intersep dan pemusatan, adalah

Ekspektasi bersyarat pada desain memberi

Pemusatan menghapus suku intersep, tetapi korelasi desain \(x^{\mathsf T}z\ne0\) mencampurkan efek \(z\) ke dalam kemiringan model pendek. Ini adalah bias variabel terlewat pada Bias variabel terlewat pada desain tetap.

Data sisaan memenuhi

dan

jadi konsisten dengan persamaan normal model pendek. Untuk HC3, dua titik ujung masing-masing menyumbang

sedangkan dua titik dengan \(|x|=1\) masing-masing menyumbang

Titik tengah tidak menyumbang pada varians kemiringan karena \(x_i=0\). Jadi

dengan akar sekitar 0,81441.

HC3 mengubah pendugaan kovarians melalui sisaan yang diskalakan oleh \((1-h_i)^{-2}\). Ia tidak mengubah penduga pusat \(\widehat\beta_{\mathrm{pendek}}\) dan tidak memasukkan kembali kolom \(z\). Karena itu suku bias \(+1\) tetap ada: galat baku kekar tidak memperbaiki bias rataan. Pernyataan ini adalah mekanisme eksplisit pada Contoh tandingan: galat baku kekar tidak memperbaiki bias. Dengan hanya lima observasi dan leverage 0,6 pada kedua ujung, HC3 juga tidak menciptakan distribusi \(t\) eksak; pembenarannya, bila tersedia, bersifat asimtotik dan memerlukan kontrol leverage, momen, serta model rataan yang terspesifikasi dengan benar.

Dengan syarat tambahan bahwa, ketika semua hipotesis nol berlaku, ke-20 nilai-p saling independen dan masing-masing berdistribusi Seragam\((0,1)\), peluang bahwa tidak satu pun ditolak pada aras 0,05 adalah \(0{,}95^{20}\). Maka peluang sedikitnya satu kandidat tampak signifikan adalah

Independensi prediktor tidak dengan sendirinya membuktikan independensi nilai-p, sebab semua pengujian dapat memakai respons atau penduga varians yang sama; tanpa syarat nilai-p di atas, peluang gabungan tidak ditentukan hanya oleh sebaran marginal yang seragam. Memilih nilai-p terkecil membuat model bergantung pada data. Selang yang kemudian dihitung seolah-olah pemenang ditetapkan sebelumnya mengabaikan variabilitas seleksi; 95% bukan lagi cakupan yang dijamin. HC3 dapat melindungi kelas heteroskedastisitas tertentu, tetapi tidak melindungi pencarian model atau pemilihan target. Pemisahan data, penyesuaian keluarga, atau inferensi selektif yang sesuai diperlukan untuk klaim semacam itu, seperti diperingatkan pada Contoh minimum seleksi berdasarkan derau.

Masalah 10 — audit kuantitatif SIM005 (10 poin)

Reproduksi SIM005 memakai \(R=12.000\) replikasi. Jumlah selang yang mencakup target adalah:

Pada skenario heteroskedastik, SD empiris kemiringan adalah 0,13953; rataan SE klasik 0,09913 dan rataan SE HC3 0,13860. Audit pengaruh pada Titik berpengaruh melaporkan

kemiringan ketika titik disertakan 1,72770959, kemiringan ketika titik dikeluarkan 1,15448718, dan jarak Cook terbesar di antara titik lain 0,15224.

1. Untuk setiap cakupan, hitung MCSE substitusi binomial dan selang Monte Carlo kira-kira 95%. Hitung pula selisih dari 0,95 dalam satuan MCSE.
2. Hitung rasio rataan SE terhadap SD empiris untuk metode klasik dan HC3, serta proporsi kesenjangan cakupan klasik ke 0,95 yang dikurangi oleh HC3.
3. Jelaskan mengapa MCSE yang tepat untuk selisih cakupan klasik–HC3 tidak dapat diperoleh dari dua proporsi marginal saja.
4. Hitung \(1-h_i\), faktor \(1/(1-h_i)\), sisaan dari penghapusan satu observasi, perubahan kemiringan, dan rasio jarak Cook titik itu terhadap maksimum lainnya. Tarik kesimpulan audit yang dapat dipertanggungjawabkan, bukan perintah penghapusan.

Petunjuk 1

Untuk \(\widehat p=k/R\), gunakan

dan selang \(\widehat p\pm1{,}96\widehat{\operatorname{MCSE}}\).

Petunjuk 2

Selisih dua indikator cakupan pada replikasi yang sama mempunyai varians yang memuat kovariansnya. Untuk pengaruh, identitas penghapusan memakai faktor \(1/(1-h_i)\), bukan sisaan mentah saja.

Jawaban singkat

MCSE substitusi dan selang Monte Carlo adalah kira-kira:

Rasio rataan SE terhadap SD empiris adalah 0,71046 untuk klasik dan 0,99333 untuk HC3. HC3 mengurangi sekitar 93,81% kesenjangan cakupan klasik menuju 0,95, tetapi belum menjadi prosedur eksak. MCSE selisih berpasangan memerlukan tabulasi bersama kedua indikator cakupan.

Untuk titik berpengaruh,

Perubahan kemiringan adalah 0,57322241 dan jarak Cook sekitar 695,6 kali maksimum titik lain. Ini menunjukkan sensitivitas numerik pada reproduksi; bukan bukti bahwa data keliru dan bukan alasan untuk menghapus titik secara otomatis.

Solusi lengkap

Tiga proporsi adalah \(11375/12000\), \(10075/12000\), dan \(11318/12000\). Memasukkannya ke rumus MCSE substitusi memberi, secara berurutan,

Selang Monte Carlo sederhana berdasarkan hampiran Normal adalah

dan

Skor \((\widehat p-0{,}95)/\widehat{\operatorname{MCSE}}\) masing-masing sekitar \(-1{,}027\), \(-32{,}959\), dan \(-3{,}233\). Jadi cakupan Gaussian konsisten dengan fluktuasi Monte Carlo biasa di sekitar target. Kegagalan metode klasik di bawah heteroskedastisitas tidak mungkin dijelaskan oleh galat Monte Carlo. HC3 jauh lebih dekat, tetapi reproduksi masih mendeteksi cakupan di bawah nominal pada desain ini. MCSE hanya mengukur ketidakpastian akibat jumlah replikasi independen yang terbatas dalam eksperimen yang telah dibekukan; ia tidak mengukur galat akibat kekeliruan spesifikasi model.

Kalibrasi skala memberi

Galat baku klasik meremehkan simpangan baku distribusi pengambilan sampel sekitar 29%, sedangkan rataan galat baku HC3 hampir menyamai SD empiris. Proporsi kesenjangan cakupan yang berhasil dikurangi adalah

Angka ini hanya meringkas kinerja pada desain SIM005, bukan teorema universal tentang HC3. Selain itu, bila kedua selang diterapkan pada kumpulan data simulasi yang sama, indikator cakupan keduanya berpasangan. Varians selisih memuat \(-2\operatorname{Cov}(I_{\rm klasik},I_{\rm HC3})\). Dua proporsi marginal tidak menentukan kovarians atau tabel silang indikator berukuran dua kali dua. Karena itu, MCSE yang tepat untuk peningkatan 0,10358 tidak dapat ditentukan hanya dari agregat tersebut.

Untuk audit pengaruh,

Kemiringan berubah sebesar

Relatif terhadap jarak Cook terbesar di antara titik lain,

Sisaan mentah 0,48223 tampak moderat, tetapi leverage hampir satu membuat faktor penghapusan sekitar 9,36. Inilah mekanisme gabungan sisaan dan leverage pada Identitas penghapusan-satu. Kesimpulan yang diizinkan oleh Interpretasi yang diizinkan adalah bahwa suaian sangat sensitif terhadap titik tersebut dan harus dilaporkan bersama audit sumber serta analisis pembanding dengan dan tanpa titik itu. Angka tersebut tidak membuktikan bahwa observasi itu salah, tidak menjamin bahwa populasi sasaran tetap sama setelah observasi dihapus, dan tidak membuktikan bahwa HC3 valid ketika model rataan terspesifikasi secara keliru, terdapat dependensi, atau dilakukan seleksi model.

Rubrik penilaian — total 100 poin

Setiap masalah bernilai 10 poin. Nilai penuh mensyaratkan derivasi yang dapat diperiksa, asumsi yang dinyatakan pada langkah penggunaannya, dan mekanisme kegagalan yang tepat. Jawaban numerik tanpa alur penalaran tidak menerima poin derivasi. Keluaran perangkat lunak tanpa argumen ruang kolom, hukum pengambilan sampel, atau ketidakpastian Monte Carlo tidak menerima poin validitas.

Rubrik Masalah 1 (10 poin)

• 2 poin: peringkat dan ruang kolom ditentukan dengan benar.
• 3 poin: invers Gram, proyektor, koefisien, dan nilai suaian dihitung dengan benar.
• 3 poin: sisaan, persamaan normal, SSE, dan bukti Pythagoras lengkap.
• 2 poin: memisahkan identitas geometri dari asumsi peluang; kegagalan peringkat tidak disembunyikan oleh rumus invers.

Rubrik Masalah 2 (10 poin)

• 2 poin: peringkat, dependensi kolom, dan ruang nol ditentukan dengan benar.
• 3 poin: seluruh solusi dan nilai suaian/SSE unik diturunkan.
• 3 poin: solusi pseudoinvers bernorma minimum diperoleh melalui minimisasi.
• 2 poin: ketiga target diuji terhadap ruang nol; mekanisme nonidentifiabilitas tidak diklaim selesai oleh pseudoinvers.

Rubrik Masalah 3 (10 poin)

• 3 poin: OLS dan bukti minimum global deterministik diturunkan dengan benar.
• 2 poin: fungsi log-kemungkinan profil dan kedua MLE diturunkan sebagai maksimum global dengan RSS positif.
• 3 poin: penyebut \(n\) versus \(n-p\), harapan, dan bias dihitung dengan benar.
• 2 poin: lapisan geometri, Gauss–Markov, dan Gaussian eksak dipisahkan; ketidaknormalan disebut sebagai kegagalan fungsi kemungkinan/hukum eksak, bukan OLS.

Rubrik Masalah 4 (10 poin)

• 4 poin: syarat ketakbiasan, dekomposisi \(B\), hilangnya suku silang, dan selisih kovarians diturunkan lengkap.
• 2 poin: semidefinit positif dibuktikan sebagai urutan Loewner untuk setiap kombinasi target, bukan perbandingan elemen.
• 2 poin: contoh heteroskedastik dan kedua varians dihitung dengan benar.
• 2 poin: batas BLUE menyebut kelas linear tak bias, peringkat, kovarians sferis, dan fakta bahwa normalitas tidak diperlukan tetapi inferensi eksak tidak dijamin.

Rubrik Masalah 5 (10 poin)

• 2 poin: defisiensi peringkat, ruang nol, dan keterestimasi kontras dibuktikan.
• 3 poin: dua rataan, SSE, df, \(s^2\), dan varians kontras dihitung dengan benar.
• 3 poin: independensi proyeksi menghasilkan pivot \(t_3\), statistik, dan selang numerik yang dihitung dengan benar.
• 2 poin: asumsi Gaussian, varians yang sama, desain/kontras tetap, dan kegagalan akibat heteroskedastisitas atau pemilihan pascadata dinyatakan.

Rubrik Masalah 6 (10 poin)

• 3 poin: \(P_1-P_0\) dibuktikan sebagai proyektor; peringkat dan kedua df ditentukan dengan benar.
• 2 poin: F parsial, nilai kritis, dan keputusan ditentukan dengan benar.
• 3 poin: tabel ANOVA, F keseluruhan, keputusan, dan dekomposisi bertingkat lengkap.
• 2 poin: ekuivalensi hipotesis linear serta perbedaan hipotesis dijelaskan; normalitas/sferisitas dan selisih peringkat disebut sebagai mekanisme validitas.

Rubrik Masalah 7 (10 poin)

• 3 poin: selang rataan titik demi titik dan perhitungannya benar.
• 3 poin: selang prediksi dan asal galat baru independen diturunkan dengan benar.
• 2 poin: pengali serta selang Scheffé berdimensi dua dihitung dengan benar.
• 2 poin: target cakupan titik demi titik/simultan dipisahkan dan kegagalan karena pemilihan, ekstrapolasi, atau respons baru tak independen disebutkan.

Rubrik Masalah 8 (10 poin)

• 2 poin: kedua varians sisaan, kovarians, dan korelasi dihitung dari \(\sigma^2(I-H)\).
• 3 poin: sisaan terstandar serta sisaan dari penghapusan satu observasi dihitung dan dibedakan.
• 3 poin: perubahan koefisien dan jarak Cook diturunkan dengan benar.
• 2 poin: leverage tinggi sebagai mekanisme sisaan kecil/pengaruh besar dijelaskan tanpa menjadikan jarak Cook aturan penghapusan.

Rubrik Masalah 9 (10 poin)

• 2 poin: bias variabel terlewat \(+1\) diturunkan dari rataan sebenarnya.
• 3 poin: persamaan normal dan perhitungan HC3 \(65/98\) lengkap.
• 2 poin: dinyatakan eksplisit bahwa galat baku kekar tidak memperbaiki bias rataan dan HC3 bukan pivot sampel kecil eksak.
• 3 poin: peluang pencarian 20 prediktor diturunkan dengan syarat eksplisit bahwa, ketika semua hipotesis nol berlaku, nilai-p saling independen dan berdistribusi Seragam; keterbatasan independensi prediktor serta kegagalan cakupan pascaseleksi dan batas perlindungan HC3 dijelaskan.

Rubrik Masalah 10 (10 poin)

• 3 poin: tiga MCSE, selang Monte Carlo, dan skor terhadap target dihitung dengan benar dengan asumsi replikasi independen.
• 2 poin: rasio SE, kesenjangan cakupan yang dikurangi, dan batas klaim HC3 ditafsirkan dengan benar.
• 3 poin: faktor leverage, sisaan penghapusan, perubahan kemiringan, dan rasio Cook dihitung dengan benar.
• 2 poin: kebutuhan kovarians indikator untuk MCSE berpasangan serta larangan menyimpulkan validitas universal atau penghapusan otomatis dinyatakan.