Perbandingan kinerja extractive text summarization dokumen legislasi bahasa Inggris menggunakan variasi arsitektur berbasis DeBERTa

Penelitian ini bertujuan mengimplementasikan dan mengevaluasi variasi modifikasi model DeBERTa untuk tugas extractive text summarization pada dokumen legislasi bahasa Inggris menggunakan dataset BillSum. Metode yang digunakan meliputi pra-pemrosesan, segmentasi kalimat, tokenisasi, serta penambahan layer (Classifier, LSTM, dan Inter-Sentence Transformer) untuk memodelkan hubungan antarkalimat dengan variasi hyperparameter, yang dievaluasi menggunakan metrik ROUGE. Hasil eksperimen menunjukkan bahwa model DeBERTa dengan Inter-Sentence Transformer pada konfigurasi HP1 mencapai performa puncak pada metrik ROUGE-1 0,4276 dan ROUGE-2 0,2027, sedangkan skor ROUGE-L tertinggi diraih oleh DeBERTa dasar pada konfigurasi HP3 0,2547. Pengujian nilai standar deviasi yang sangat rendah (±0,001 hingga ±0,013) membuktikan stabilitas tinggi dari arsitektur yang diusulkan. Temuan ini mengonfirmasi bahwa modifikasi arsitektur berbasis DeBERTa efektif dan konsisten dalam mengidentifikasi kalimat penting guna menghasilkan ringkasan dokumen hukum yang representatif dan efisien.