Regresi Linier Berganda

Regresi linier berganda (multiple linear regression) adalah teknik statistika yang memodelkan hubungan linier antara satu variabel dependen (tergantung) dengan dua atau lebih variabel independen (penjelas). Model ini memperkirakan nilai Y berdasarkan kombinasi linier dari variabelvariabel X, X, , X.

1. Persamaan Dasar

Persamaan umum regresi linier berganda dapat dituliskan sebagai:

Y =  + X + X +  + X + 

• Y variabel dependen yang ingin diprediksi.
• intercept (konstanta) yang menunjukkan nilai Y ketika semua X = 0.
• koefisien regresi yang mengukur perubahan ratarata Y tiap kenaikan satu unit pada masingmasing X, dengan asumsi variabel lain tetap konstan.
• galat (error) yang mewakili selisih antara nilai actual dan nilai prediksi.

2. Asumsiasumsi Model

Agar estimasi koefisien dapat diandalkan, beberapa asumsi harus dipenuhi:

1. Linearitas hubungan antara Y dan setiap X bersifat linear.
2. Independensi galat independen satu sama lain (tidak ada autokorelasi).
3. Homoskedastisitas varians galat konstan untuk semua nilai X.
4. Normalitas galat berdistribusi normal.
5. No multicollinearity variabel independen tidak saling berkorelasi kuat.

3. Estimasi Koefisien dengan Metode Kuadrat Terkecil

Koefisien biasanya dihitung menggunakan metode Ordinary Least Squares (OLS), yaitu meminimalkan jumlah kuadrat galat:

min  (Y  )

Dalam bentuk matriks:

 = (XX) XY

Di mana X adalah matriks desain yang berisi kolom satuan (intercept) dan semua variabel independen, sementara Y adalah vektor respons.

4. Interpretasi Koefisien

Setelah model diestimasi, interpretasi tiap koefisien melibatkan:

• (intercept) nilai ratarata Y ketika semua X = 0 (jika nilai 0 masuk akal dalam konteks).
• perubahan ratarata Y untuk kenaikan satu unit X, dengan asumsi X lain tetap.
• pvalue menilai signifikansi statistik tiap koefisien; biasanya p < 0.05 dianggap signifikan.
• R proporsi variasi Y yang dapat dijelaskan oleh semua X bersamasama.
• Adjusted R R yang telah disesuaikan dengan jumlah prediktor, menghindari overfitting.

5. Deteksi Masalah Multikolinearitas

Multikolinearitas terjadi ketika dua atau lebih variabel independen sangat berkorelasi, sehingga memperburuk kestabilan estimasi. Beberapa indikator:

• Variance Inflation Factor (VIF) nilai VIF > 5 atau 10 biasanya menandakan masalah.
• Condition Number nilai > 30 mengindikasikan kolinearitas tinggi.

Jika terdeteksi, solusi meliputi: menghapus variabel yang redundan, menggabungkan variabel (mis. Principal Component Analysis), atau menggunakan regularisasi (Ridge, Lasso).

6. Contoh Implementasi dengan Python

Berikut contoh sederhana menggunakan statsmodels:

import pandas as pdimport statsmodels.api as sm# Data contohdata = {    'pendapatan': [50, 60, 55, 70, 65],    'umur': [25, 30, 28, 35, 33],    'edukasi': [12, 14, 13, 16, 15],    'pengeluaran': [30, 35, 33, 40, 38]}df = pd.DataFrame(data)X = df[['umur', 'edukasi']]X = sm.add_constant(X)           # menambahkan intercepty = df['pengeluaran']model = sm.OLS(y, X).fit()print(model.summary())

7. Evaluasi Model

Setelah model dibangun, evaluasi meliputi:

• Memeriksa nilai R dan Adjusted R.
• Analisis residu: plot residual vs. fitted values untuk menguji homoskedastisitas.
• Uji normalitas residual (mis. ShapiroWilk) dan autokorelasi (DurbinWatson).
• Crossvalidation atau split data (train/test) untuk mengukur kemampuan prediksi di data baru.

8. Keterbatasan dan Perluasan

Regresi linier berganda hanya cocok untuk hubungan linier. Jika data menunjukkan pola nonlinier, pertimbangkan:

• Transformasi variabel (log, sqrt).
• Model polinomial atau spline.
• Metode nonparametrik (Decision Tree, Random Forest).

Selain itu, bila terdapat banyak prediktor dibandingkan jumlah observasi, regularisasi (Ridge, Lasso) dapat membantu mengurangi overfitting.

9. Kesimpulan

Regresi linier berganda merupakan alat analisis yang kuat untuk memodelkan pengaruh simultan beberapa variabel independen terhadap satu variabel dependen. Dengan memperhatikan asumsi, menghindari multikolinearitas, serta melakukan evaluasi model yang tepat, hasil regresi dapat memberikan insight yang berharga untuk pengambilan keputusan bisnis, riset ilmiah, maupun kebijakan publik.

Referensi

• Montgomery, D. C., Peck, E. A., & Vining, G. G. (2012). Introduction to Linear Regression Analysis.
• James, G., Witten, D., Hastie, T., & Tibshirani, R. (2013). An Introduction to Statistical Learning.
• Pedregosa, F., et al. (2011). Scikitlearn: Machine Learning in Python.