Dalam konteks keamanan Siber yang terus berkembang, munculnya layanan kecerdasan buatan generatif (Artificial Intelligence/AI), yang secara khusus dirancang untuk memberdayakan aktivitas jahat, telah menimbulkan kekhawatiran yang signifikan. Sementara platform-model pembelajaran besar (Large Learning Model/LLM) yang telah mapan seperti ChatGPT dan Bing Chat telah menyertakan perlindungan untuk mencegah pembuatan konten berbahaya, tren mengkhawatirkan telah diamati. Pusat Keamanan Siber Nasional (NCSC) menyoroti perkembangan layanan kecerdasan buatan generatif khusus, seperti WormGPT, yang ditujukan untuk pelaku ancaman yang berusaha menciptakan konten jahat, termasuk malware dan umpan phishing.

Penetrasi teknologi ini ke dalam ekosistem kriminal yang lebih luas menunjukkan pergeseran dari kerangka yang terkendali dan aman ke area yang lebih mudah diakses dan berpotensi berbahaya. NCSC memperingatkan bahwa pelaku ancaman, termasuk yang terlibat dalam aktivitas ransomware, dengan aktif menggunakan kecerdasan buatan untuk meningkatkan berbagai aspek operasi siber, seperti rekognisi, phishing, dan pemrograman. Tren ini diperkirakan akan terus berlanjut dan meningkat hingga setelah tahun 2025.

Temuan kunci dari penilaian NCSC menekankan poin-poin berikut:

1. Evolusi Serangan Siber: Kecerdasan buatan diharapkan akan memperkuat serangan siber dalam beberapa tahun mendatang, mengembangkan taktik yang ada dan meningkatkan efisiensinya.

2. Pengadopsian Secara Luas Kecerdasan Buatan: Pelaku ancaman siber yang terampil dan kurang terampil, mencakup entitas negara dan non-negara, saat ini menggunakan kecerdasan buatan untuk tujuan jahat.

3. Peningkatan Rekognisi dan Rekayasa Sosial: Kecerdasan buatan meningkatkan efektivitas rekognisi dan rekayasa sosial, membuat kegiatan ini lebih kuat dan sulit dideteksi.

4. Terbatas untuk Pelaku yang Terlengkap Sumberdaya: Penggunaan canggih kecerdasan buatan dalam operasi siber diharapkan terbatas pada pelaku dengan akses ke data berkualitas, keahlian, dan sumberdaya hingga setidaknya tahun 2025.

5. Serangan Siber Bermakna: Kecerdasan buatan akan berkontribusi pada serangan siber yang lebih berdampak terhadap Inggris dengan memungkinkan analisis data yang lebih cepat dan efektif serta pelatihan model kecerdasan buatan.

6. Penurunan Hambatan Masuk bagi Pemula: Penggunaan kecerdasan buatan menurunkan hambatan masuk bagi cybercriminal pemula, yang berkontribusi pada ancaman ransomware global.

7. Pekembangan Kemampuan Kecerdasan Buatan: Hingga tahun 2025, pekembangan kemampuan kecerdasan buatan diharapkan dapat memperluas akses ke alat canggih bagi cybercriminal dan pelaku negara.

Laporan tersebut menekankan bahwa peran kecerdasan buatan dalam lanskap risiko siber diharapkan bersifat evolusioner, meningkatkan ancaman yang ada daripada menyebabkan perubahan transformatif. Laporan khususnya mencatat bahwa untuk Ancaman Persisten Lanjutan (Advanced Persistent Threats/APTs) yang canggih, kecerdasan buatan dapat membantu mereka menghasilkan malware kustom yang sulit dideteksi dengan lebih mudah dan cepat. Hacker tingkat menengah akan mendapatkan manfaat utama dalam rekognisi, rekayasa sosial, dan ekstraksi data, sedangkan pelaku ancaman yang kurang terampil akan melihat peningkatan di berbagai area kecuali pergerakan lateral, yang tetap sulit.

Sebagai kesimpulan, NCSC memperingatkan bahwa penyebaran kecerdasan buatan generatif dan model bahasa besar akan menjadi tantangan besar bagi individu dari semua tingkat pengalaman untuk mengidentifikasi upaya phishing, spoofing, dan rekayasa sosial. Integrasi kecerdasan buatan dalam operasi siber mewakili pergeseran paradigma, menuntut kewaspadaan dan adaptasi yang terus-menerus menghadapi ancaman siber yang berkembang.

Sumber: https://www.bleepingcomputer.com/news/security/uk-says-ai-will-empower-ransomware-over-the-next-two-years/