Ensemble learning merupakan pendekatan pembelajaran mesin yang menggabungkan beberapa model dasar (base learner) untuk memperoleh hasil prediksi yang lebih baik dibandingkan penggunaan satu model saja. Salah satu metode ensemble learning adalah boosting, yaitu membangun model secara berurutan sehingga model berikutnya berupaya memperbaiki kesalahan yang masih dilakukan model sebelumnya (Bonaccorso, 2018; Forsyth, 2019).

Dalam analisis data, klasifikasi merupakan salah satu metode machine learning yang digunakan untuk mengelompokkan data ke dalam kelas tertentu berdasarkan karakteristik variabel prediktornya. Salah satu pendekatan yang dapat digunakan untuk meningkatkan kinerja klasifikasi adalah ensemble learning, yaitu metode yang menggabungkan beberapa model untuk menghasilkan prediksi akhir. Menurut Mienye dan Sun (2022), ensemble learning mencakup beberapa pendekatan utama, yaitu bagging, boosting, dan stacking, yang menggabungkan hasil prediksi dari model-model dasar untuk memperoleh hasil yang lebih baik. Secara umum, ensemble learning memiliki tiga jenis utama. Bagging (Bootstrap Aggregating) membangun beberapa model menggunakan sampel bootstrap dari data pelatihan, kemudian menggabungkan hasil prediksinya. Boosting membangun model secara bertahap dengan memberikan perhatian pada kesalahan prediksi sebelumnya, sedangkan stacking menggabungkan hasil prediksi beberapa model dasar menggunakan model lain sebagai penggabung. Mohammad (2023) menjelaskan bahwa penerapan ensemble learning dapat membantu meningkatkan kemampuan prediksi melalui penggabungan beberapa model pembelajaran.

Perkembangan teknologi pengolahan data mendorong pemanfaatan machine learning untuk membantu proses klasifikasi dan pengambilan keputusan. Salah satu metode yang dapat digunakan adalah Decision Tree, yaitu metode pembelajaran terawasi (supervised learning) yang membentuk aturan prediksi melalui pemisahan data berdasarkan variabel prediktor. Metode ini memiliki keunggulan karena hasil pemodelannya dapat divisualisasikan dalam bentuk pohon sehingga lebih mudah dipahami dan diinterpretasikan. Dalam bidang kesehatan, Decision Tree dapat diterapkan untuk mengklasifikasikan kondisi kanker payudara ke dalam kategori jinak (benign) dan ganas (malignant) berdasarkan karakteristik sel. Mellina dkk. (2024) membahas penerapan algoritma Decision Tree untuk prediksi kanker payudara, sedangkan Munir dkk. (2024) membandingkan algoritma Naive Bayes dan Decision Tree dalam klasifikasi penyakit kanker payudara.

Feature enginering merupakan salah satu tahapan krusial dalam pengembangan model machine learning (Guyon et al., 2006; Kuhn & Johnson, 2013). Proses ini melibatkan transformasi data mentah menjadi fitur-fitur yang dapat merepresentasikan pola mendasar dari data dengan lebih baik, sehingga meningkatkan kinerja model prediktif (Bengio et al., 2013; Domingos, 2012). Kualitas fitur yang digunakan sangat memengaruhi kemampuan model untuk mempelajari hubungan yang kompleks dalam data dan membuat prediksi yang akurat (Hastie et al., 2009; James et al., 2013). Dalam konteks analisis data cuaca, seperti dataset yang digunakan dalam penelitian ini, feature engineering menjadi sangat relevan (Krasnopolsky & Schmehl, 2011; McGovern et al., 2019). Data cuaca seringkali mengandung berbagai tantangan, termasuk nilai yang hilang (missing values), outlier, dan variabel kategorikal dengan kardinalitas tinggi (Junninen et al., 2004; Weerasinghe et al., 2019). Penanganan yang tepat terhadap isu-isu ini melalui teknik feature engineering dapat secara signifikan memperbaiki kualitas data input dan, pada gilirannya, meningkatkan akurasi model prediksi cuaca, seperti prediksi hujan (García et al., 2010; Lipton et al., 2016). Penelitian ini akan mengeksplorasi berbagai teknik feature engineering yang umum digunakan, seperti imputasi nilai hilang, penanganan outlier, pengurangan kardinalitas, encoding variabel kategorikal, dan scaling fitur numerik (Ciaburro & Barrinello, 2018; Geron, 2019). Dengan menerapkan teknik-teknik ini pada dataset cuaca, diharapkan dapat ditunjukkan bagaimana feature engineering dapat berkontribusi pada peningkatan performa model machine learning dalam memprediksi kejadian hujan (Krasnopolsky & Schmehl, 2011; Roebber et al., 2004).