Laporan terbaru menunjukkan adopsi artificial intelligence (AI) untuk pertahanan siber mengalami peningkatan signifikan di kalangan organisasi global, namun tata kelola dan pengawasan belum mampu mengikuti kecepatan adopsi tersebut. Kesenjangan ini menciptakan risiko baru di mana organisasi menerapkan tool AI tanpa kerangka keamanan dan kebijakan yang memadai — membuka celah yang bisa dimanfaatkan oleh aktor ancaman.
APA YANG TERJADI?
Cybersecurity Dive melaporkan bahwa adopsi AI untuk pertahanan siber telah mengalami lonjakan tajam dalam beberapa tahun terakhir, dengan semakin banyak organisasi yang mengintegrasikan AI ke dalam operasi keamanan mereka — mulai dari SIEM berbasis AI, EDR yang didukung machine learning, hingga automasi respons insiden. Namun, kecepatan adopsi ini jauh melampaui kemampuan organisasi untuk mengembangkan dan menerapkan tata kelola yang tepat. Banyak organisasi yang menerapkan tool AI tanpa memahami implikasi keamanan, privasi, dan operasional dari penggunaan teknologi tersebut.
DETALIH TEKNIS
Kesenjangan tata kelola AI dalam keamanan siber mencakup beberapa dimensi kritis. Pertama, tidak adanya framework standar untuk menguji dan memvalidasi efektivitas tool AI sebelum di-deploy ke produksi. Kedua, kurangnya kebijakan mengenai data pelatihan yang digunakan oleh model AI — termasuk risiko data poisoning yang bisa mengorbankan integritas deteksi. Ketiga, tidak adanya mekanisme accountability ketika tool AI membuat keputusan yang salah, seperti false positive yang menyebabkan pengguna atau sistem yang tidak bersalah diblokir. Keempat, risiko bahwa aktor ancaman juga menggunakan AI untuk mengembangkan serangan yang lebih canggih dan personalisasi, menciptakan race condition antara pertahanan AI dan serangan AI.
DAMPAK TERHADAP INDONESIA
Indonesia sedang dalam fase transformasi digital yang masif, dengan banyak organisasi mulai mengadopsi teknologi AI untuk berbagai keperluan, termasuk keamanan siber. Namun, kesadaran akan pentingnya tata kelola AI masih relatif rendah di banyak organisasi Indonesia. Banyak perusahaan yang terburu-buru mengadopsi tool AI tanpa memahami risiko yang menyertainya, seperti potensi data leakage ke vendor AI asing, kurangnya penyesuaian dengan regulasi lokal seperti PDP Law, dan tidak adanya SDM yang memahami baik aspek teknis maupun tata kelola AI. Kesenjangan ini menjadi celah serius yang bisa dimanfaatkan oleh aktor ancaman untuk mengorbankan keamanan organisasi Indonesia.
REKOMENDASI MITIGASI
Organisasi harus mengembangkan framework tata kelola AI yang komprehensif sebelum atau bersamaan dengan adopsi tool AI. Lakukan penilaian risiko terhadap setiap tool AI yang akan diadopsi, termasuk evaluasi terhadap data pelatihan, mekanisme transparansi, dan dampak privasi. Pastikan tool AI yang digunakan memenuhi persyaratan regulasi data lokal seperti PDP Law di Indonesia. Tetapkan mekanisme accountability dan audit yang jelas untuk setiap keputusan yang dibuat oleh sistem AI. Investasikan dalam pelatihan SDM agar mampu mengelola dan mengawasi tool AI dengan efektif.
Ketika AI menjadi senjata baik di sisi pertahanan maupun serangan, organisasi yang tidak memiliki tata kelola yang memadai akan berada pada posisi paling rentan. AI bukan solusi ajaib — ia adalah amplifier yang memperbesar baik kemampuan pertahanan maupun kerentanan yang ada.
Sumber: Cybersecurity Dive
