Dalam model statistik dasar, terdapat suatu populasi objek yang menjadi perhatian. Objek-objek tersebut dapat berupa orang, keluarga, cip komputer, atau petak lahan jagung. Selain itu, terdapat berbagai pengukuran atau variabel yang didefinisikan pada objek-objek tersebut. Kita memilih sampel dari populasi dan mencatat variabel yang menjadi perhatian untuk setiap objek dalam sampel. Berikut beberapa contoh berdasarkan himpunan data dalam proyek ini:
Contoh
Dengan demikian, hasil teramati dari suatu eksperimen statistik (yakni data) sering berbentuk \(\bs x = (x_1, x_2, \ldots, x_n)\), dengan \(x_i\) sebagai vektor pengukuran untuk objek ke-\(i\) yang dipilih dari populasi, untuk setiap \( i \in \{1, 2, \ldots, n\} \). Himpunan \(S\) yang memuat semua nilai yang mungkin bagi \(\bs x\) (sebelum eksperimen dilakukan) disebut himpunan sampel. Secara harfiah, himpunan ini adalah himpunan semua sampel. Jadi, meskipun hasil suatu eksperimen statistik dapat memiliki struktur yang cukup rumit (sebuah vektor dari vektor-vektor), ciri khas abstraksi matematika ialah kemampuan untuk meredupkan fitur-fitur yang tidak relevan pada suatu saat tertentu dan memperlakukan struktur kompleks sebagai satu objek. Itulah yang kita lakukan terhadap hasil \(\bs x\) dari eksperimen tersebut.
Teknik-teknik statistika telah mencapai keberhasilan yang sangat besar; teknik-teknik ini digunakan secara luas dalam hampir setiap bidang yang berkaitan dengan kuantifikasi—ilmu alam, ilmu sosial, hukum, dan kedokteran. Di sisi lain, statistika memiliki nuansa legalistik serta banyak istilah dan jargon yang pada awalnya dapat membuat bidang ini terasa agak menakutkan. Pada bagian selanjutnya, kita mulai membahas sebagian istilah tersebut.
Misalkan suatu eksperimen statistik menghasilkan data \(\bs x = (x_1, x_2, \ldots, x_n)\) untuk suatu \( n \in \N_+ \). Distribusi empiris yang terkait dengan \(\bs x\) adalah distribusi probabilitas yang menempatkan probabilitas \(1/n\) pada \(x_i\) untuk setiap \( i \in \{1, 2, \ldots, n\} \).
Jadi, jika nilainya berbeda-beda, distribusi empiris tersebut merupakan distribusi seragam diskret pada \(\{x_1, x_2, \ldots, x_n\}\). Secara lebih umum, jika \(x\) muncul \(k\) kali dalam data untuk suatu \( k \in \{1, 2, \ldots, n\} \), distribusi empiris memberikan probabilitas \(k / n\) kepada \(x\). Dengan demikian, setiap himpunan data hingga mendefinisikan suatu distribusi probabilitas. Distribusi empiris sangat penting, bukan hanya secara praktis, melainkan juga secara teoretis. Metode pengambilan sampel ulang modern didasarkan pada distribusi empiris.
Misalkan kembali bahwa suatu eksperimen statistik menghasilkan data \(\bs x = (x_1, x_2, \ldots, x_n)\) untuk suatu \( n \in \N_+ \).
Secara teknis, suatu statistik \(w = w(\bs x)\) adalah fungsi teramati dari hasil eksperimen \(\bs x\).
Dengan kata lain, statistik adalah fungsi yang dapat dihitung dan didefinisikan pada himpunan sampel \(S\). Istilah dapat diamati berarti bahwa fungsi tersebut tidak boleh memuat besaran yang tidak diketahui, sebab kita harus dapat menghitung nilai \(w\) dari statistik berdasarkan data teramati \(\bs x\). Seperti halnya data \(\bs x\), statistik \(w\) dapat memiliki struktur yang rumit; biasanya, \(w\) bernilai vektor. Bahkan, hasil \(\bs x\) eksperimen itu sendiri merupakan suatu statistik; semua statistik lainnya diturunkan dari \(\bs x\).
Statistik \(u\) dan \(v\) disebut ekuivalen jika terdapat fungsi satu-ke-satu \(r\) dari daerah hasil \(u\) ke seluruh daerah hasil \(v\) sedemikian sehingga \(v = r(u)\). Statistik ekuivalen memberikan informasi yang ekuivalen tentang \(\bs x\).
Statistik \(u\) dan \(v\) ekuivalen jika dan hanya jika kondisi berikut berlaku: untuk setiap \(\bs x \in S\) dan \(\bs{y} \in S\), \(u(\bs x) = u(\bs{y})\) jika dan hanya jika \(v(\bs x) = v(\bs{y})\).
Ekuivalensi benar-benar merupakan relasi ekuivalensi pada kumpulan statistik untuk suatu eksperimen statistik. Artinya, jika \(u\), \(v\), dan \(w\) adalah statistik sembarang, maka
Statistika memiliki dua cabang besar. Istilah statistika deskriptif merujuk pada metode untuk merangkum dan menyajikan data teramati \(\bs x\). Seperti tersirat dari namanya, metode statistika deskriptif biasanya mencakup perhitungan berbagai statistik (dalam arti teknis) yang memberikan informasi berguna tentang data: ukuran pemusatan dan penyebaran, ukuran keterkaitan, dan sebagainya. Dalam konteks statistika deskriptif, istilah parameter merujuk pada karakteristik seluruh populasi.
Cabang statistika yang lebih mendalam dan lebih berguna dikenal sebagai statistika inferensial. Sudut pandang kita dalam cabang ini adalah bahwa eksperimen statistik (sebelum dilakukan) merupakan eksperimen acak dengan suatu ukuran probabilitas \(\P\) pada ruang sampel yang mendasarinya. Dengan demikian, hasil \(\bs x\) eksperimen merupakan nilai teramati dari suatu variabel acak \(\bs{X}\) yang didefinisikan pada ruang probabilitas ini, sedangkan distribusi \(\bs{X}\) tidak kita ketahui sepenuhnya. Tujuan kita adalah menarik inferensi tentang distribusi \(\bs{X}\) dari nilai teramati \(\bs x\). Jadi, dalam arti tertentu, statistika inferensial merupakan dual dari probabilitas. Dalam probabilitas, kita berusaha memprediksi nilai \(\bs{X}\) dengan mengasumsikan pengetahuan lengkap tentang distribusinya. Sebaliknya, dalam statistika, kita mengamati nilai \(\bs x\) dari variabel acak \(\bs{X}\) dan berusaha menyimpulkan informasi tentang distribusi \(\bs{X}\) yang mendasarinya. Dalam statistika inferensial, suatu statistik (fungsi dari \(\bs{X}\)) juga merupakan variabel acak dengan distribusinya sendiri. Di sisi lain, istilah parameter merujuk pada karakteristik distribusi \(\bs{X}\). Sering kali masalah inferensialnya adalah menggunakan berbagai statistik untuk mengestimasi atau menguji hipotesis tentang suatu parameter. Cara lain untuk memandang statistika inferensial adalah bahwa kita berusaha menarik inferensi dari distribusi empiris yang terkait dengan data teramati \(\bs x\) menuju distribusi sebenarnya yang terkait dengan \(\bs{X}\).
Dalam ranah umum statistika inferensial terdapat dua jenis dasar eksperimen acak. Suatu eksperimen terancang, seperti tersirat dari namanya, dirancang dengan cermat untuk mengkaji pertanyaan inferensial tertentu. Pelaku eksperimen memiliki kendali yang cukup besar atas cara objek dipilih, variabel yang akan dicatat untuk objek tersebut, dan nilai beberapa variabel. Sebaliknya, dalam suatu studi observasional, peneliti hanya memiliki sedikit kendali atas faktor-faktor tersebut. Sering kali peneliti sekadar diberi himpunan data dan diminta untuk memaknainya. Sebagai contoh, uji lapangan polio merupakan eksperimen terancang untuk mengkaji keefektifan vaksin Salk. Para peneliti memiliki kendali yang cukup besar atas cara anak-anak dipilih dan ditempatkan ke dalam kelompok perlakuan dan kelompok kontrol. Sebaliknya, himpunan data Challenger yang digunakan untuk mengkaji hubungan antara suhu dan erosi cincin-O merupakan studi observasional. Tentu saja, fakta bahwa suatu eksperimen dirancang tidak serta-merta berarti bahwa eksperimen itu dirancang dengan baik.
Sejumlah kesulitan dapat timbul ketika kita berusaha mengkaji suatu pertanyaan inferensial. Masalah sering muncul karena variabel perancu, yaitu variabel yang (seperti tersirat dari namanya) mengganggu pemahaman kita terhadap pertanyaan inferensial tersebut. Dalam rancangan uji lapangan polio yang pertama, misalnya, usia dan persetujuan orang tua merupakan dua variabel perancu yang mengganggu penentuan keefektifan vaksin. Sebagai contoh lain, inti data penerimaan Berkeley adalah menunjukkan bagaimana suatu variabel perancu (departemen) dapat menciptakan korelasi semu antara dua variabel lain (jenis kelamin dan status penerimaan). Ketika kita mengoreksi gangguan yang disebabkan oleh suatu variabel perancu, kita mengatakan bahwa variabel tersebut telah dikendalikan.
Masalah juga sering timbul karena galat pengukuran. Beberapa variabel pada dasarnya sulit diukur, dan bias sistematis dalam pengukuran dapat mengganggu pemahaman kita terhadap pertanyaan inferensial. Rancangan uji lapangan polio yang pertama sekali lagi memberikan contoh yang baik. Pengetahuan mengenai status vaksinasi anak-anak menyebabkan bias sistematis pada dokter yang berusaha mendiagnosis polio pada anak-anak tersebut. Galat pengukuran kadang-kadang disebabkan oleh variabel perancu tersembunyi.
Variabel perancu dan galat pengukuran banyak dijumpai dalam jajak pendapat politik, ketika pertanyaan inferensialnya adalah siapa yang akan memenangi pemilihan. Bagaimana variabel perancu seperti ras, pendapatan, usia, dan jenis kelamin (untuk menyebut beberapa saja) memengaruhi pilihan seseorang? Bagaimana kita mengetahui bahwa seseorang benar-benar akan memilih kandidat yang menurut pengakuannya akan ia pilih, atau bahkan akan memberikan suara (galat pengukuran)? Jajak pendapat Literary Digest dalam pemilihan presiden tahun 1936 dan jajak pendapat profesional dalam pemilihan presiden tahun 1948 menggambarkan masalah-masalah ini.
Variabel perancu, galat pengukuran, dan penyebab lain sering mengakibatkan bias seleksi, yang berarti bahwa sampel tidak mewakili populasi sehubungan dengan pertanyaan inferensial yang sedang dikaji. Pengacakan sering digunakan untuk mengatasi dampak variabel perancu dan galat pengukuran.
Kasus khusus yang paling umum dan penting dari model statistik inferensial terjadi ketika variabel pengamatan \[ \bs{X} = (X_1, X_2, \ldots, X_n) \] merupakan barisan variabel acak yang saling bebas dan berdistribusi identik. Sekali lagi, dalam model pengambilan sampel baku, \(X_i\) itu sendiri merupakan vektor pengukuran untuk objek ke-\(i\) dalam sampel; karena itu, kita memandang \((X_1, X_2, \ldots, X_n)\) sebagai salinan-salinan bebas dari suatu vektor pengukuran dasar \(X\). Dalam hal ini, \((X_1, X_2, \ldots, X_n)\) disebut sampel acak berukuran \(n\) dari distribusi \(X\).
Operasi matematika yang bermakna bagi suatu variabel dalam eksperimen statistik bergantung pada jenis dan tingkat pengukuran variabel tersebut.
Ingat bahwa suatu variabel riil \(x\) disebut kontinu jika nilai-nilai yang mungkin membentuk interval bilangan riil. Sebagai contoh, variabel berat dalam himpunan data M&M serta variabel panjang dan lebar dalam data iris Fisher bersifat kontinu. Sebaliknya, suatu variabel diskret adalah variabel yang himpunan nilai mungkinnya membentuk himpunan diskret. Sebagai contoh, variabel hitungan dalam himpunan data M&M, variabel jenis dalam data iris Fisher, serta variabel nilai dan jenis kartu dalam eksperimen kartu bersifat diskret. Variabel kontinu menyatakan besaran yang, secara teoretis, dapat diukur hingga tingkat ketelitian berapa pun. Dalam praktiknya, tentu saja, alat ukur memiliki ketelitian terbatas sehingga data yang dikumpulkan dari variabel kontinu niscaya bersifat diskret. Artinya, hanya terdapat himpunan hingga (meskipun mungkin sangat besar) dari nilai yang benar-benar dapat diukur. Jadi, pembedaan antara variabel diskret dan kontinu didasarkan pada apa yang secara teoretis mungkin, bukan pada apa yang benar-benar diukur. Beberapa contoh tambahan dapat membantu:
Suatu variabel riil \(x\) juga dibedakan menurut tingkat pengukurannya.
Variabel kualitatif semata-mata menyandikan jenis atau nama; karena itu, hanya sedikit operasi matematika yang bermakna, sekalipun bilangan digunakan sebagai sandi. Variabel semacam ini memiliki tingkat pengukuran nominal. Sebagai contoh, variabel jenis dalam data iris Fisher bersifat kualitatif. Jenis kelamin, variabel yang umum dalam banyak penelitian mengenai manusia dan hewan, juga bersifat kualitatif. Variabel kualitatif hampir selalu diskret; sulit membayangkan tak terhingga banyak nama yang membentuk suatu kontinuum.
Variabel yang hanya urutannya bermakna dikatakan memiliki tingkat pengukuran ordinal; selisih tidak bermakna sekalipun bilangan digunakan sebagai sandi. Sebagai contoh, dalam banyak permainan kartu, jenis kartu diperingkat sehingga variabel jenis kartu memiliki tingkat pengukuran ordinal. Sebagai contoh lain, perhatikan skala baku lima poin (sangat buruk, buruk, sedang, baik, sangat baik) yang digunakan untuk memeringkat guru, film, restoran, dan sebagainya.
Variabel kuantitatif yang selisihnya bermakna, tetapi rasionya tidak bermakna, dikatakan memiliki tingkat pengukuran interval. Secara ekuivalen, variabel pada tingkat ini memiliki nilai nol relatif, bukan nilai nol mutlak. Contoh khasnya adalah suhu (dalam Fahrenheit atau Celsius) atau waktu (jam atau kalender).
Terakhir, variabel kuantitatif yang rasionya bermakna dikatakan memiliki tingkat pengukuran rasio. Variabel pada tingkat ini memiliki nilai nol mutlak. Variabel hitungan dan berat dalam himpunan data M&M serta variabel panjang dan lebar dalam data iris Fisher merupakan contohnya.
Dalam model statistik dasar, subsampel yang bersesuaian dengan beberapa variabel dapat dibentuk melalui penyaringan berdasarkan variabel lain. Hal ini sangat umum ketika variabel penyaring bersifat kualitatif. Sebagai contoh, perhatikan data tonggeret. Kita mungkin tertarik pada variabel kuantitatif berat tubuh, panjang tubuh, lebar sayap, dan panjang sayap menurut spesies, yaitu secara terpisah untuk spesies 0, 1, dan 2. Atau, kita mungkin tertarik pada variabel kuantitatif tersebut menurut jenis kelamin, yaitu secara terpisah untuk jantan dan betina.
Pelajari eksperimen Michelson untuk mengukur kelajuan cahaya.
Pelajari eksperimen Cavendish untuk mengukur densitas Bumi.
Pelajari eksperimen Short untuk mengukur paralaks Matahari.
Dalam data M&M, klasifikasikan setiap variabel menurut jenis dan tingkat pengukurannya.
Setiap variabel hitungan warna: diskret, rasio; berat bersih: kontinu, rasio
Dalam data tonggeret, klasifikasikan setiap variabel menurut jenis dan tingkat pengukurannya.
Berat tubuh, panjang sayap, lebar sayap, panjang tubuh: kontinu, rasio. Jenis kelamin, spesies: diskret, nominal
Dalam data iris Fisher, klasifikasikan setiap variabel menurut jenis dan tingkat pengukurannya.
Lebar mahkota, panjang mahkota, lebar kelopak, panjang kelopak: kontinu, rasio. Jenis: diskret, nominal
Pelajari eksperimen Challenger untuk mengkaji hubungan antara suhu dan erosi cincin-O.
Dalam data undian wajib militer era Perang Vietnam, klasifikasikan setiap variabel menurut jenis dan tingkat pengukurannya.
Bulan lahir: diskret, interval; tanggal lahir: diskret, interval
Dalam kedua himpunan data SAT, klasifikasikan setiap variabel menurut jenis dan tingkat pengukurannya.
Skor SAT Matematika dan Verbal: mungkin kontinu, rasio; negara bagian: diskret, nominal; tahun: diskret, interval
Pelajari eksperimen Literary Digest untuk memprediksi hasil pemilihan presiden tahun 1936.
Pelajari jajak pendapat tahun 1948 untuk memprediksi hasil pemilihan presiden antara Truman dan Dewey. Apakah jajak pendapat ini merupakan eksperimen terancang atau studi observasional?
Eksperimen-eksperimen terancang, tetapi dirancang dengan buruk
Pelajari eksperimen Pearson untuk mengkaji hubungan antara tinggi ayah dan tinggi anak laki-laki.
Pelajari uji lapangan polio.
Identifikasi parameter dalam masing-masing model berikut:
Catat parameter untuk setiap keluarga distribusi khusus berikut:
Selama Perang Dunia II, pihak Sekutu mencatat nomor seri tank Jerman yang berhasil direbut. Klasifikasikan variabel nomor seri yang mendasarinya menurut jenis dan tingkat pengukuran.
Diskret, ordinal.
Untuk pembahasan mengenai penggunaan nomor seri tersebut dalam mengestimasi jumlah seluruh tank, lihat bagian Statistik Terurut dalam Bab 11 mengenai model pengambilan sampel berhingga.