Deteksi Komentar Judi Online Menggunakan Fine Tuning Large Language Model Llama 3.1 1b

TRIBUNJABAR.ID - Tingginya penyebaran komentar bermuatan judi online di platform YouTube menjadi perhatian serius bagi banyak pihak. Meski YouTube memiliki aturan ketat terkait konten perjudian, praktik penyebaran promosi judi masih marak, terutama melalui kolom komentar yang menyasar pengguna secara luas. Aktivitas ini kerap disamarkan dengan bahasa informal, singkatan, tautan tersembunyi, hingga penyamaran kata kunci, sehingga sangat sulit untuk dideteksi secara manual.

Menjawab tantangan tersebut, penelitian yang dilakukan oleh Dosen Bernama Diash Firdaus, S.T., M.T. dan Galih Ashari S.Si, M.T. beserta dengan Mahasiswa ITENAS berhasil mengembangkan sistem kecerdasan buatan berbasis Large Language Model (LLM), yakni LLaMa 3.2 1B, yang mampu mendeteksi dan menghapus komentar judi online di YouTube secara real time. Sistem ini melakukan klasifikasi otomatis terhadap setiap komentar, dan apabila ditemukan unsur perjudian, komentar tersebut langsung ditandai serta dihapus (client side) sebelum sempat dibaca user.

Menurut hasil pengujian, sistem tersebut menunjukkan kinerja yang sangat tinggi dengan akurasi validasi mencapai 97 persen, menggunakan total dataset 19.912 komentar normal dan 10.356 komentar bermuatan judi online. Temuan ini menandakan bahwa teknologi LLM dapat dimanfaatkan secara efektif dalam menjaga ruang digital agar tetap aman dan bersih dari konten berbahaya.

Ancaman komentar judi online dinilai bukan sekadar melanggar kebijakan platform, tetapi juga berpotensi menimbulkan dampak sosial. Paparan materi perjudian secara terus-menerus berisiko memicu kecanduan, gangguan psikologis, dan masalah keuangan, terutama pada kelompok rentan seperti remaja dan anak-anak.

Dengan adanya inovasi berbasis AI ini, diharapkan lingkungan digital — khususnya YouTube — dapat menjadi ruang yang lebih sehat, edukatif, dan aman bagi masyarakat. Teknologi penyaringan komentar ini membuka peluang lebih luas untuk diterapkan pada berbagai platform digital lainnya yang menghadapi ancaman serupa

Latar Belakang

Pertumbuhan pesat platform media sosial, khususnya YouTube, telah mengubah cara manusia berkomunikasi dengan menyediakan ruang interaksi yang luas melalui fitur komentar. Dengan lebih dari 2 miliar pengguna aktif bulanan dan miliaran komentar yang dipublikasikan setiap hari, YouTube telah menjadi salah satu pusat percakapan digital terbesar di dunia . 

Namun, di balik berbagai manfaat tersebut, YouTube juga menghadapi tantangan serius, salah satunya adalah munculnya konten ilegal berupa komentar yang mempromosikan perjudian online. Komentar-komentar ini sering disamarkan dengan berbagai cara, seperti penggunaan bahasa santai, singkatan, kode tertentu, atau tautan tersembunyi, sehingga sulit dideteksi jika hanya mengandalkan moderasi manual. 

Hal ini menegaskan perlunya teknologi deteksi yang lebih canggih Selain melanggar aturan platform, keberadaan komentar terkait perjudian juga dapat berdampak negatif bagi masyarakat, terutama kelompok rentan seperti anak-anak dan remaja. 

Penelitian menunjukkan bahwa paparan terhadap konten perjudian dapat meningkatkan keinginan untuk berjudi dan menimbulkan berbagai masalah, seperti kecanduan, kesulitan finansial, serta gangguan psikologis pada kalangan muda. 

Oleh karena itu, langkah pencegahan yang lebih aktif dan pengembangan sistem deteksi otomatis yang efektif sangat penting untuk melindungi pengguna dan menciptakan lingkungan digital yang lebih aman. Meskipun YouTube telah menerapkan sistem pelaporan dan moderasi otomatis berbasis deteksi kata kunci, efektivitasnya masih terbatas dalam menghadapi beragam variasi bahasa dan strategi pengelakan yang digunakan oleh pelaku.

Kombinasi antara tingginya penggunaan media sosial dan teknik promosi ilegal yang semakin adaptif menjadi tantangan besar di Indonesia, terutama karena regulasi yang ada sering kali tidak mampu mengimbangi perkembangan teknologi yang begitu cepat. 

Dampak sosial dan ekonomi dari perjudian online juga sangat mengkhawatirkan, karena menimbulkan konsekuensi negatif tidak hanya bagi individu, tetapi juga bagi masyarakat secara luas.
Berbagai penelitian telah menunjukkan bahwa Machine Learning (ML) dan Deep Learning (DL) memiliki potensi kuat dalam mendeteksi komentar promosi perjudian online, khususnya melalui teknik supervised learning. 

Namun demikian, pola bahasa yang digunakan dalam promosi perjudian terus berkembang, sehingga sistem deteksi harus mampu beradaptasi dengan baik dan mempertahankan keseimbangan antara precision dan recall. Keseimbangan ini penting untuk memastikan bahwa konten promosi yang sebenarnya tidak terlalu banyak terlewat, sekaligus mencegah komentar biasa diklasifikasikan secara keliru sebagai spam. 

Teknik tradisional seperti rule-based filtering atau model statistik klasik seperti Naive Bayes terbukti kurang memadai untuk menangani struktur kalimat yang lebih kompleks.