Keterbatasan AI dalam Keamanan Siber, Tapi Tidak dalam Cybercrime

Keterbatasan AI dalam Keamanan Siber - Masuknya kecerdasan buatan ke dalam ranah keamanan siber telah menciptakan lingkaran setan. Para profesional keamanan siber kini menggunakan AI untuk meningkatkan tools dan kemampuan deteksi serta perlindungan mereka, namun para cybercriminal juga menggunakan AI untuk serangan mereka. Tim keamanan siber kemudian menggunakan lebih banyak AI sebagai respons terhadap ancaman siber yang dibantu AI, dan para pelaku ancaman meningkatkan AI mereka untuk tetap bersaing, dan siklus ini terus berlanjut.

Keterbatasan AI dalam Keamanan Siber

1. Solusi Keamanan AI

Meskipun memiliki potensi besar, AI sangat terbatas ketika digunakan dalam keamanan siber. Masalah kepercayaan muncul dengan solusi keamanan AI, dan model data yang digunakan untuk mengembangkan produk keamanan berbasis AI tampaknya selalu berisiko. Selain itu, pada implementasinya, AI sering bertentangan dengan kecerdasan manusia.

Sifat ganda AI membuatnya menjadi alat yang kompleks untuk dikelola, sesuatu yang perlu dipahami lebih dalam oleh organisasi dan digunakan dengan lebih hati-hati. Sebaliknya, para cybercriminal menggunakan AI hampir tanpa batasan.

Baca Juga: Apa yang Dicari Cybercriminal

2. Kurangnya Kepercayaan

Salah satu masalah terbesar dalam mengadopsi solusi yang dibantu AI dalam keamanan siber adalah membangun kepercayaan. Banyak organisasi skeptis terhadap produk-produk keamanan AI dari perusahaan keamanan siber. Ini bisa dimaklumi karena beberapa solusi keamanan AI ini sering kali terlalu dibesar-besarkan dan gagal memberikan hasil yang dijanjikan.

Salah satu manfaat yang paling banyak diiklankan dari produk-produk ini adalah bahwa mereka sangat menyederhanakan tugas keamanan, bahkan personel non-keamanan dapat menyelesaikannya. Klaim ini seringkali mengecewakan, terutama bagi organisasi yang kesulitan mencari tenaga keamanan siber. Meskipun AI diharapkan menjadi salah satu solusi untuk kekurangan tenaga keamanan siber, tetapi perusahaan yang berlebihan dalam promosi dan gagal memberikan hasil yang nyata. Hal ini tidak hanya gagal mengatasi masalah kekurangan tenaga keamanan siber, tetapi juga dapat merusak kredibilitas.

Namun demikian, beberapa vendor perangkat lunak keamanan siber memang menawarkan alat yang memaksimalkan manfaat AI. Sistem Extended Detection and Response (XDR) yang mengintegrasikan AI, misalnya, memiliki catatan yang baik dalam mendeteksi dan merespons serangkaian serangan siber yang kompleks. Dengan menggunakan machine learning untuk meningkatkan operasi keamanan dan memastikan proses deteksi dan respons yang lebih efisien dari waktu ke waktu, XDR memberikan manfaat besar yang dapat membantu organisasi dalam mengatasi skeptisisme terhadap produk keamanan AI.

3. Keterbatasan Model Data dan Keamanan

Masalah lain yang mengurangi efektivitas penggunaan AI untuk melawan ancaman siber yang dibantu AI adalah kecenderungan beberapa organisasi yang hanya fokus pada data terbatas atau tidak representatif. Idealnya, sistem AI harus diisi dengan data dunia nyata untuk menggambarkan apa yang terjadi di lapangan dan situasi-situasi khusus yang dihadapi oleh suatu organisasi. Namun, ini adalah PR yang sangat besar. Mengumpulkan data dari berbagai tempat di seluruh dunia untuk merepresentasikan semua ancaman dan skenario serangan yang mungkin sangat mahal, dan sesuatu yang bahkan perusahaan terbesar berusaha menghindarinya sebisa mungkin.

Vendor solusi keamanan yang bersaing di pasar yang ramai juga berusaha meluncurkan produk-produk mereka sesegera mungkin, dengan semua fitur yang mereka tawarkan, tetapi dengan sedikit atau tanpa memperhatikan keamanan data. Hal ini membuka peluang manipulasi atau korupsi data mereka.

Berita baiknya adalah ada banyak sumber daya yang hemat biaya dan gratis yang tersedia untuk mengatasi masalah ini, seperti MITRE ATT&CK. Selain itu, untuk mencerminkan perilaku dan aktivitas yang khusus dalam suatu organisasi, AI dapat dilatih pada perilaku pengguna atau entitas. Hal ini memungkinkan sistem untuk melampaui data intelijen ancaman umum untuk suatu organisasi.

Dalam hal keamanan, ada banyak solusi yang dapat berhasil menahan upaya pelanggaran data, tetapi tools ini saja tidak cukup. Penting juga untuk memiliki regulasi, standar, dan kebijakan internal yang sesuai agar dapat menghentikan serangan data yang bertujuan mencegah AI mengidentifikasi dan memblokir ancaman. Pembicaraan yang diinisiasi oleh pemerintah untuk regulasi AI dan kerangka regulasi keamanan AI yang diusulkan oleh MITRE merupakan langkah-langkah yang tepat.

4. Keunggulan Kecerdasan Manusia

Waktu di mana AI dapat menghindari keputusan manusia masih beberapa dekade atau bahkan mungkin masih beberapa abad lagi. Secara umum, ini adalah hal positif, tetapi ini juga memiliki sisi gelapnya. Bagus bahwa manusia dapat menolak penilaian atau keputusan AI, tetapi ini juga berarti ancaman yang ditargetkan manusia, seperti serangan social engineering, tetap berpotensi. Sebagai contoh, sebuah sistem keamanan AI mungkin secara otomatis menghapus tautan dalam email atau halaman web setelah mendeteksi risiko, tetapi manusia juga dapat mengabaikan atau menonaktifkan mekanisme ini.

Baca Juga: Cara Mengatasi Social Engineering

Singkatnya, ketergantungan akhir kita pada kecerdasan manusia menghambat kemampuan AI untuk melawan serangan siber yang dibantu AI. Sementara para pelaku ancaman dengan sembrono mengotomatiskan pembuatan malware dan penyebaran serangan, solusi keamanan AI yang ada dirancang untuk tunduk pada keputusan manusia dan mencegah tindakan otomatisnya, terutama mengingat "black box problem" dari AI.

Untuk saat ini, dorongan bukanlah untuk mencapai sistem keamanan siber AI yang dapat bekerja sepenuhnya sendiri. Kerentanan yang diciptakan dengan membiarkan kecerdasan manusia menang, dapat diatasi dengan pendidikan keamanan siber yang memadai. Organisasi dapat mengadakan pelatihan keamanan siber untuk memastikan bahwa karyawan menggunakan praktik keamanan terbaik dan membantu mereka menjadi lebih terampil dalam mendeteksi ancaman dan mengevaluasi insiden.

Kesimpulan

Lebih sulit untuk membangun dan melindungi sesuatu daripada menghancurkannya. Menggunakan AI untuk melawan ancaman siber akan selalu menantang karena berbagai faktor, termasuk kebutuhan untuk membangun kepercayaan, kehati-hatian yang diperlukan saat menggunakan data untuk pelatihan machine learning, dan pentingnya pengambilan keputusan manusia. Para cybercriminal dengan mudah dapat mengabaikan semua pertimbangan ini, sehingga terkadang tampak seperti mereka yang memiliki keunggulan.

Meskipun demikian, masalah ini bukannya tanpa solusi. Kepercayaan dapat dibangun dengan bantuan standar dan regulasi, serta upaya yang sungguh-sungguh dari penyedia keamanan dalam menunjukkan rekam jejak mereka sesuai dengan klaim mereka. Model data dapat diproteksi dengan solusi keamanan data yang canggih. Sementara itu, ketergantungan kita pada pengambilan keputusan manusia dapat diselesaikan dengan pendidikan keamanan siber dan pelatihan cyber security awareness yang memadai.

Lingkaran setan tetap bergerak, tetapi kita dapat menemukan harapan dalam kenyataan bahwa hal itu juga berlaku sebaliknya: seiring ancaman AI terus berkembang, pertahanan siber AI akan terus berkembang juga.