Optimasi Parameter Tuning Pada Model Regresi Logistik Lasso

Abstract

Regresi logistik LASSO merupakan metode klasifikasi biner yang efektif dalam mengatasi multikolinieritas dan menyederhanakan model melalui seleksi variabel otomatis. Penelitian ini bertujuan untuk mengevaluasi pengaruh kombinasi tiga metode validasi silang (KFold, Stratified KFold, dan Repeated KFold) dan tiga rentang nilai parameter tuning terhadap performa dan kesederhanaan model regresi logistik LASSO. Evaluasi dilakukan pada data sekunder dari Kaggle serta tiga dataset bangkitan dengan ukuran dan kompleksitas berbeda. Model dievaluasi menggunakan metrik log loss, F1 score, apparent error rate (APER), dan jumlah variabel terseleksi. Hasil menunjukkan bahwa nilai tuning optimal bergantung pada karakteristik data dan metode validasi silang yang digunakan. Stratified KFold memberikan performa terbaik pada data tidak seimbang, sedangkan KFold lebih efisien untuk dataset besar. LASSO terbukti mampu menyederhanakan model tanpa kehilangan akurasi secara signifikan.