Waspada! Generative AI Berpotensi Jadi Alat Kejahatan Siber

Tekno105 Dilihat

JAKARTA – Trend Micro merilis laporan terbarunya mengenai Critical Scalability: Trend Micro Security. Dalam laporan tersebut, Trend Micro memperingatkan bahwa generative AI (GenAI) berpotensi menjadi alat yang digunakan para pelaku kejahatan siber untuk meningkatkan serangan siber pada tahun 2024.

Adapun salah satu yang diprediksi oleh laporan tersebut adalah kemungkinan terjadinya ‘tsunami’ taktik social engineering yang canggih dan pencurian identitas yang menggunakan GenAI tersebut.

GenAI pun diperkirakan akan mendisrupsi pasar phishing pada tahun 2024 karena semakin banyak digunakan dan kualitasnya juga meningkat, ditambah lagi dengan dukungan penggunaan Generative Adversarial Networks (GAN).

Trend Micro memprediksi transformasi ini akan memungkinkan pembuatan konten audio dan video yang sangat realistis dengan biaya yang lebih hemat. Hal ini dapat menyebabkan meningkatnya gelombang baru business email compromise (BEC), penculikan virtual, dan penipuan lainnya.

“Large Language Models (LLM) yang canggih dan menguasai berbagai bahasa akan menjadi ancaman yang signifikan karena mereka mampu menghilangkan indikator khas phishing seperti format yang janggal atau kesalahan tata bahasa, sehingga semakin sulit untuk dideteksi,” ujar Laksana Budiwiyono, Country Manager Trend Micro Indonesia dalam siaran pers, Kamis (1/2/2024).

Menurutnya saat ini, perusahaan-perusahaan di Indonesia harus melakukan transisi dari pelatihan phishing konvensional dan memberikan prioritas pada penerapan pengendalian keamanan modern.

Baca juga: Hati-hati Berselancar di Internet, Inilah Ancaman Tersembunyi di Dunia Maya

“Pertahanan canggih ini tidak hanya melampaui kemampuan manusia dalam mendeteksi tetapi juga memastikan ketahanan atau resiliensi terhadap taktik baru itu. Inisiatif semacam itu sangat penting seiring dengan kemajuan AI di negara ini, yang diperkirakan akan memberikan kontribusi hingga US$ 366 miliar terhadap PDB pada tahun 2030,” lanjutnya.

Di sisi lain, model AI juga kemungkinan bisa menghadapi serangan pada tahun 2024. Hal tersebut disebabkan dataset GenAI dan LLM sulit diutak-atik oleh para pelaku ancaman, mereka akan mengincar model pembelajaran mesin berbasis cloud yang terspesialisasi.

Dataset pelatihan yang lebih terfokus akan menjadi lebih menyasar pada penyusupan data dengan hasil antara lain pengambilan data yang sensitif hingga merusak fraud filter dan bahkan hal-hal yang terhubung. Untuk melakukan serangan semacam itu hanya membutuhkan biaya kurang dari US$100.

Tren ini, pada gilirannya akan meningkatkan pengawasan berdasarkan regulasi dan mendorong pengambilan tindakan sendiri oleh sektor keamanan siber.

“Di tahun mendatang, industri siber akan mulai mengungguli pemerintah dalam hal mengembangkan kebijakan atau peraturan khusus keamanan siber terkait AI,” ujar Laksana Budiwiyono.

Baca juga: 3 Teknologi yang Bakal Ubah Nasib HP di Masa Depan

Adapun laporan prediksi Trend Micro tahun 2024 juga menyoroti beberapa hal yakni seperti yang dijelaskan di bawah ini.

Lonjakan serangan cloud-native worm

Hal ini menargetkan kerentanan dan miskonfigurasi serta menggunakan otomatisasi tingkat tinggi untuk menjangkau banyak container, akun, dan layanan dengan mudah.

Keamanan cloud

Keamanan cloud menjadi hal yang sangat penting bagi perusahaan untuk mengatasi kesenjangan keamanan di lingkungan cloud dan serangan otomatis.

Tindakan proaktif termasuk mekanisme pertahanan yang kuat dan audit keamanan menyeluruh sangat penting untuk mengurangi risiko.

Lebih banyak serangan

Banyak serangan yang akan menargetkan tidak hanya komponen software open-source di upstream tetapi juga pada manajemen identitas inventaris, seperti SIM telco, yang sangat penting untuk sistem armada dan inventaris.

Penjahat siber juga akan mengeksploitasi software rantai pasokan yang ada di vendor melalui sistem CI/CD, dengan fokus serangan pada komponen pihak ketiga.

Serangan private blockchain

Terakhir, serangan juga diprediksi meningkat akibat adanya kerentanan dalam implementasi sejumlah private blockchain. Pelaku ancaman dapat secara langsung memodifikasi, menimpa, atau menghapus data yang ada, dan kemudian meminta uang tebusan.

Sebagai alternatif, bila memungkinkan mereka akan mencoba mengenkripsi seluruh blockchain untuk mengambil alih kendali atas cukup banyak node.***