Probabilitas dan Statistika: Ilmu Ketidakpastian

📚 Ringkasan Konten

Kursus pengantar komprehensif tingkat universitas tentang dasar matematis probabilitas dan statistika. Dengan persyaratan satu tahun kalkulus, kursus ini mencakup model probabilitas, variabel acak, ekspektasi, distribusi sampel, likelihood dan inferensi Bayesian, serta hubungan antar variabel.

Menguasai ilmu matematika yang ketat mengenai ketidakpastian melalui probabilitas berbasis kalkulus dan inferensi statistik.

Penulis: Michael J. Evans dan Jeffrey S. Rosenthal

Ucapan Terima Kasih: Penulis mengucapkan terima kasih atas kontribusi dari berbagai pemeriksa dan rekan kerja di institusi seperti University of Toronto, McMaster University, dan Purdue University. Pendanaan dan dukungan infrastruktur dari University of Toronto juga disebutkan.

🎯 Tujuan Pembelajaran

1. Mendefinisikan model probabilitas formal menggunakan ruang sampel, kejadian, dan ukuran probabilitas.
2. Menerapkan prinsip kombinatorial (permutasi, subset, koefisien binomial) untuk menyelesaikan masalah probabilitas seragam.
3. Menggunakan Hukum Total Probabilitas dan Teorema Bayes untuk menganalisis sistem multi-tahap dan memperbarui keyakinan berdasarkan informasi baru.
4. Mendefinisikan dan membedakan antara variabel acak diskret dan absolut kontinu beserta fungsi probabilitas/kerapatan masing-masing.
5. Mengidentifikasi dan menerapkan distribusi probabilitas utama (Bernoulli, Binomial, Poisson, Normal, dll.) untuk memodelkan fenomena dunia nyata.
6. Menghitung densitas marginal, distribusi bersyarat, dan menilai independensi untuk distribusi multivariat.
7. Menghitung nilai harapan, varians, dan kovarians untuk variabel acak diskret, kontinu, dan campuran.
8. Menerapkan Hukum Statistik Tanpa Kesadaran (LOTUS) dan sifat linear untuk menghitung ekspektasi variabel yang ditransformasi.
9. Menurunkan momen menggunakan Fungsi Pembangkit Probabilitas (PGF) dan Fungsi Pembangkit Momen (MGF).
10. Mendefinisikan dan menurunkan distribusi sampel untuk fungsi urutan i.i.d.

🔹 Pelajaran 1: Dasar Model Probabilitas

Gambaran Umum: Pelajaran ini membangun kerangka matematis yang ketat untuk probabilitas, beralih dari konsep intuitif "ukuran ketidakpastian" menjadi model aksiomatik formal. Pelajaran ini mencakup sifat penting dari ukuran probabilitas, teknik perhitungan kombinatorial untuk ruang hingga, serta mekanisme dasar probabilitas bersyarat, termasuk Teorema Bayes dan kontinuitas ukuran probabilitas.

Hasil Pembelajaran:

• Mendefinisikan model probabilitas formal menggunakan ruang sampel, kejadian, dan ukuran probabilitas.
• Menerapkan prinsip kombinatorial (permutasi, subset, koefisien binomial) untuk menyelesaikan masalah probabilitas seragam.
• Menggunakan Hukum Total Probabilitas dan Teorema Bayes untuk menganalisis sistem multi-tahap dan memperbarui keyakinan berdasarkan informasi baru.

🔹 Pelajaran 2: Variabel Acak dan Distribusi Probabilitas

Gambaran Umum: Pelajaran ini menjelajahi kerangka matematis untuk mengukur ketidakpastian melalui variabel acak (RV). Mahasiswa akan berkembang dari mendefinisikan RV dan distribusinya (diskret dan kontinu) hingga memahami distribusi bersama, transformasi, dan metode simulasi numerik untuk variabel tersebut. Konten ini menyambungkan probabilitas berbasis kalkulus secara teoritis dengan aplikasi praktis dalam pemodelan dan simulasi statistik.

Hasil Pembelajaran:

• Mendefinisikan dan membedakan antara variabel acak diskret dan absolut kontinu beserta fungsi probabilitas/kerapatannya masing-masing.
• Mengidentifikasi dan menerapkan distribusi probabilitas utama (Bernoulli, Binomial, Poisson, Normal, dll.) untuk memodelkan fenomena dunia nyata.
• Menghitung densitas marginal, distribusi bersyarat, dan menilai independensi untuk distribusi multivariat.

🔹 Pelajaran 3: Ekspektasi Matematis dan Momen

Gambaran Umum: Pelajaran ini mengeksplorasi konsep dasar ekspektasi matematis sebagai "rata-rata jangka panjang" dari variabel acak, diperluas dari kasus sederhana diskret dan kontinu hingga variabel umum. Kita akan menganalisis variasi data melalui varians dan kovarians, menggunakan fungsi pembangkit (PGF, MGF, dan Fungsi Karakteristik) untuk menyederhanakan perhitungan momen, serta menerapkan ketidaksamaan probabilitas kuat untuk membentuk batas distribusi yang tidak diketahui. Akhirnya, kursus ini membahas ekspektasi bersyarat dan Hukum Total Ekspektasi, yang sangat penting untuk menganalisis proses acak kompleks multi-tahap.

Hasil Pembelajaran:

• Menghitung nilai harapan, varians, dan kovarians untuk variabel acak diskret, kontinu, dan campuran.
• Menerapkan Hukum Statistik Tanpa Kesadaran (LOTUS) dan sifat linear untuk menghitung ekspektasi variabel yang ditransformasi.
• Menurunkan momen menggunakan Fungsi Pembangkit Probabilitas (PGF) dan Fungsi Pembangkit Momen (MGF).

🔹 Pelajaran 4: Distribusi Sampel dan Teorema Batas

Gambaran Umum: Pelajaran ini mengeksplorasi perilaku variabel acak ketika merupakan fungsi dari sampel (distribusi sampel) dan bagaimana distribusi tersebut berperilaku seiring ukuran sampel meningkat (teorema batas). Mahasiswa akan menguasai transisi dari distribusi sampel hingga pendekatan asimtotik seperti Teorema Limit Pusat dan menyelidiki metode komputasi seperti aproksimasi Monte Carlo dan Sampling Penting.

Hasil Pembelajaran:

• Mendefinisikan dan menurunkan distribusi sampel untuk fungsi urutan i.i.d.
• Membedakan dan menerapkan Konvergensi dalam Probabilitas dan Konvergensi dalam Distribusi.
• Menggunakan Teorema Limit Pusat dan Aproksimasi Normal terhadap Binomial untuk memperkirakan probabilitas.

🔹 Pelajaran 5: Dasar Inferensi Statistik

Gambaran Umum: Pelajaran ini mengeksplorasi transisi dari probabilitas murni ke inferensi statistik, membahas bagaimana kita menggunakan data yang diamati untuk membuat pernyataan tentang ukuran probabilitas sejati di balik suatu sistem. Mahasiswa akan belajar membuat model statistik formal (Bernoulli dan Normal), memahami metode pengumpulan data yang ketat seperti sampling acak sederhana dan stratifikasi dari populasi hingga, serta merangkum temuan melalui statistik deskriptif, histogram, dan fungsi distribusi empiris.

Hasil Pembelajaran:

• Mendefinisikan peran inferensi statistik dalam mengatasi ketidakpastian akibat variasi dan data terbatas.
• Membuat dan menafsirkan model statistik, mengidentifikasi parameter dan ruang parameter.
• Membedakan antara karakteristik populasi dan estimasi sampel menggunakan teknik sampling acak sederhana dan stratifikasi.

🔹 Pelajaran 6: Inferensi Berbasis Likelihood

Gambaran Umum: Pelajaran ini mengeksplorasi dasar teoretis dan aplikasi praktis inferensi statistik berbasis likelihood. Transisi dilakukan dari konsep dasar seperti Prinsip Likelihood dan Keberadaan (Sufficiency) menuju estimasi parameter melalui Estimasi Maksimum Likelihood (MLE) dan evaluasi estimator tersebut melalui bias, konsistensi, dan kesalahan standar. Selain itu, pelajaran ini mencakup pendekatan parametrik (selang z, selang t, dan pengujian hipotesis) dan metode bebas distribusi (Metode Momen, Bootstrapping, dan Statistik Tanda), hingga studi lanjutan tentang Normalitas Asimtotik dan Informasi Fisher.

Hasil Pembelajaran:

• Mendefinisikan dan menerapkan Fungsi Likelihood dan Teorema Faktorisasi untuk mengidentifikasi Statistik Sufficient dan Minimal Sufficient.
• Menghitung Estimator Maksimum Likelihood (MLE) dan mengevaluasi kualitasnya menggunakan Mean Squared Error (MSE), Bias, dan Konsistensi.
• Membuat dan menafsirkan Selang Kepercayaan dan Nilai P untuk berbagai model statistik menggunakan teknik parametrik dan non-parametrik.

🔹 Pelajaran 7: Inferensi Statistik Bayesian

Gambaran Umum: Pelajaran ini mengeksplorasi kerangka inferensi statistik Bayesian, di mana parameter diperlakukan sebagai variabel acak dengan distribusi probabilitas. Mahasiswa akan belajar menggabungkan keyakinan awal (Distribusi Prior) dengan data yang diamati (Likelihood) untuk menghasilkan keyakinan yang diperbarui (Distribusi Posterior). Kurikulum mencakup dasar teoretis, teknik estimasi praktis (Faktor Bayes, Prediksi), metode komputasi (Sampling Gibbs, Normalitas Asimtotik), dan pemilihan prior secara strategis.

Hasil Pembelajaran:

• Menghitung distribusi posterior menggunakan Teorema Bayes untuk berbagai model, termasuk keluarga konjugat.
• Melakukan estimasi Bayesian (mean, mode) dan pengujian hipotesis menggunakan Faktor Bayes.
• Membuat distribusi prediktif posterior untuk observasi masa depan.

🔹 Pelajaran 8: Inferensi Optimal dan Teori Keputusan

Gambaran Umum: Pelajaran ini mengeksplorasi dasar matematis untuk menemukan "prosedur statistik terbaik". Kita beralih dari estimasi dasar ke estimasi tanpa bias optimal (UMVU), mengembangkan teori Uji Paling Kuat Seragam (UMP) melalui Teorema Neyman-Pearson, serta mengintegrasikan perspektif Bayesian dan Teori Keputusan untuk mengevaluasi estimator dan uji menggunakan fungsi rugi dan risiko.

Hasil Pembelajaran:

• Menerapkan Teorema Rao-Blackwell dan Teorema Lehmann-Scheffé untuk menurunkan estimator tanpa bias varian minimum seragam (UMVU).
• Menggunakan Ketidaksamaan Informasi Cramer-Rao untuk menentukan batas bawah fundamental pada varians estimator tanpa bias.
• Membuat Uji Paling Kuat Seragam (UMP) menggunakan Lemma Neyman-Pearson dan mengevaluasinya melalui fungsi daya dan jenis kesalahan.

🔹 Pelajaran 9: Pemeriksaan Model dan Diagnostik

Gambaran Umum: Pelajaran ini mengeksplorasi proses kritis validasi asumsi yang dibuat selama pemodelan statistik. Mahasiswa akan belajar menggunakan statistik diskrepansi dan ancillary untuk memeriksa model sampel, menggunakan alat visual seperti plot residual dan plot probabilitas, serta melakukan uji formal seperti uji Chi-Squared dan uji Exact Fisher. Selain itu, pelajaran ini mencakup pemeriksaan model Bayesian melalui analisis konflik prior-data dan memperingatkan tentang jebakan statistik dari melakukan banyak pemeriksaan simultan.

Hasil Pembelajaran:

• Mendefinisikan dan mengidentifikasi Statistik Ancillary dan Statistik Diskrepansi yang digunakan untuk mengukur deviasi model.
• Membuat dan menafsirkan Residual Standar dan Plot Probabilitas Normal untuk menilai normalitas dan kesesuaian model.
• Menerapkan Uji Kecocokan Goodness of Fit Chi-Squared dan Uji Exact Fisher untuk data kategorikal dan kelompok.

🔹 Pelajaran 10: Hubungan Antara Variabel dan Regresi

Gambaran Umum: Pelajaran ini mengeksplorasi bagaimana model statistik menggambarkan ketergantungan antar variabel berbeda. Pelajaran bergerak dari definisi dasar hubungan—berdasarkan perubahan dalam distribusi bersyarat—menuju teknik pemodelan canggih termasuk Regresi Linier Sederhana dan Ganda, Analisis Ragam (ANOVA) untuk prediktor kategorikal, serta Regresi Logistik untuk respons biner. Mahasiswa akan belajar memperkirakan parameter menggunakan Metode Kuadrat Terkecil, mengevaluasi kesesuaian model melalui R-squared dan dekomposisi ANOVA, serta memvalidasi asumsi melalui Analisis Residual.

Hasil Pembelajaran:

• Mendefinisikan dan mengidentifikasi hubungan antar variabel berdasarkan distribusi bersyarat.
• Menerapkan Metode Kuadrat Terkecil untuk memperkirakan parameter dalam model regresi linier sederhana dan ganda.
• Menggunakan dekomposisi ANOVA dan statistik F untuk menguji signifikansi prediktor dan mengidentifikasi interaksi.

🔹 Pelajaran 11: Pengantar Proses Stokastik

Gambaran Umum: Pelajaran ini memberikan dasar komprehensif dalam proses stokastik—sistem yang berkembang secara acak sepanjang waktu. Mahasiswa akan berkembang dari model waktu diskret, seperti Random Walk Sederhana dan Rantai Markov, ke teknik komputasi maju seperti Rantai Markov Monte Carlo (MCMC), dan akhirnya ke proses waktu kontinu termasuk Martingale, Gerak Brown, dan Proses Poisson.

Hasil Pembelajaran:

• Menghitung probabilitas untuk random walk dan menentukan kemungkinan "kehancuran" dalam model judi.
• Menganalisis rantai Markov untuk irreducibility, periodisitas, dan distribusi stasioner.
• Merancang dan menjelaskan algoritma Metropolis-Hastings dan Gibbs sampling untuk distribusi kompleks.