Deteksi malicious trafik pada jaringan terenkripsi menggunakan unsupervised machine learning = Detection of malicious traffic in encrypted networks using unsupervised machine learning

Latar Belakang. Perkembangan teknologi informasi yang pesat telah mempermudah akses informasi dan menyebabkan semakin banyak perangkat terkoneksi ke jaringan internet. Namun, kemajuan ini juga meningkatkan risiko serangan siber. Berdasarkan data dari Badan Siber dan Sandi Negara (BSSN) Indonesia, pada Agustus 2023 tercatat sebanyak 279.84 juta serangan siber, dengan 78.464.385 di antaranya berupa anomali trafik. Tujuan. Penelitian ini bertujuan untuk mendeteksi anomali trafik pada jaringan terenkripsi dengan menggunakan metode clustering, khususnya algoritma Density-Based Spatial Clustering of Applications with Noise (DBSCAN) dan K-Means. Selain itu, penelitian ini juga berfokus pada analisis perbandingan hasil evaluasi dari kedua metode tersebut. Metode. Metode yang digunakan dalam penelitian ini mencakup pengumpulan data trafik jaringan melalui proses capturing menggunakan topologi jaringan yang telah ditentukan. Data yang diperoleh kemudian diolah menggunakan Zeek Flow Meter untuk mengekstraksi fitur-fitur yang relevan, sehingga menghasilkan sebuah dataset. Clustering diterapkan untuk mendeteksi jenis serangan yang terdapat dalam trafik jaringan. Hasil. Hasil penelitian menunjukkan bahwa DBSCAN lebih unggul dibandingkan K-Means dalam mendeteksi anomali trafik. DBSCAN mencapai accuracy 98.12%, precision 98.12%, recall 98.12%, dan F1-Score 98.11% pada label biner. Di sisi lain, K-Means dengan 9 cluster hanya mencapai accuracy 94.51%, precision 94.79%, recall 94.51%, dan F1-Score 94.58%. Selain itu, nilai Adjusted Rand Index (ARI) pada DBSCAN sebesar 92.40% menunjukkan kemampuan clustering yang sangat baik dalam memisahkan label benign dan malicious secara efektif. Kesimpulan. Keunggulan DBSCAN terletak pada accuracy identifikasi label benign. Secara keseluruhan, DBSCAN menunjukkan performa yang lebih stabil dan akurat dibandingkan K-Means dalam mendeteksi anomali pada trafik jaringan terenkripsi.