Teknik serangan baru yang disebut “HalluSquatting” kini menimbulkan kekhawatiran serius di komunitas keamanan siber. Para peneliti berhasil mendemonstrasikan bagaimana AI coding assistants dapat dimanipulasi untuk menginstal botnet malware melalui halusinasi resource identifiers. Penelitian ini dilakukan oleh Aya Spira, Stav Cohen, Elad Feldman, Ron Bitton, Avishai Wool, dan Ben Nassi dari Tel Aviv University, Technion, dan Intuit. Mereka mengungkap eksploitasi baru yang menargetkan agentic large language model (LLM) applications.
Apa yang Terjadi?
Sistem ini banyak digunakan dalam tools seperti GitHub Copilot, Cursor, dan AI-powered coding assistants lainnya. Integrasi sistem tersebut dengan external resources seperti repositories dan plugins menciptakan attack surface baru. Berbeda dengan traditional prompt injection attacks yang bergantung pada direct interaction channels seperti email atau messages, HalluSquatting beroperasi tanpa direct access apa pun ke target. Serangan ini mengeksploitasi well-known limitation dari LLM, yakni kecenderungan model untuk berhalusinasi atau menghasilkan incorrect resource identifiers saat merespons permintaan pengguna.
Detail Teknis
Dalam serangan ini, threat actors pertama-tama menganalisis trending repositories, tools, atau skills yang sering dirujuk oleh pengembang. Mereka kemudian menguji sistem LLM untuk mengidentifikasi likely hallucinated names yang mungkin dihasilkan model saat diminta untuk mengambil atau menginstal sumber daya tersebut. Setelah diidentifikasi, penyerang akan mendaftarkan fake resources ini lebih awal dan menyisipkan malicious instructions di dalamnya.
Ketika pengembang meminta bantuan AI untuk melakukan tugas seperti cloning repository atau installing package, LLM mungkin berhalusinasi dan mengarahkan ke sumber daya milik penyerang, bukan yang asli. AI agent kemudian mengambil sumber daya berbahaya ini dan secara tidak sadar memasukkan instruksi jahat ke dalam alur eksekusinya. Hal ini menghasilkan apa yang disebut peneliti sebagai “promptware,” di mana poisoned context memicu sistem AI untuk mengeksekusi perintah yang ditentukan penyerang.
Konsekuensinya bisa sangat serius. Dalam skenario uji coba, serangan ini memungkinkan remote code dan tool execution di berbagai platform, sehingga penyerang dapat menginstal malware pada perangkat pengguna. Peneliti mendemonstrasikan bahwa teknik ini dapat diperluas untuk membuat botnet, di mana perangkat yang disusupi dapat dikendalikan dari jarak jauh setelah terinfeksi.
Salah satu temuan yang paling mengkhawatirkan adalah tingginya tingkat halusinasi di berbagai sistem. Studi ini mencatat tingkat halusinasi hingga 85 persen pada tugas repository cloning dan hingga 100 persen pada skenario instalasi skill tertentu. Selain itu, halusinasi ini terbukti dapat berpindah (transferable) antar model LLM dan aplikasi, yang secara signifikan meningkatkan jangkauan serangan.
Peneliti menekankan bahwa HalluSquatting mengubah ekonomi supply chain attacks secara fundamental. Biasanya, penyerang harus mengompromikan sumber daya populer (yang sulit) atau sumber daya kecil (yang dampaknya terbatas). Dengan menargetkan hallucinated identifiers, penyerang dapat secara andal menempatkan sumber daya berbahaya di tempat yang kemungkinan besar akan diakses oleh sistem AI. Meskipun temuannya cukup berbahaya, tim peneliti telah mengikuti praktik responsible disclosure dengan memberi tahu vendor, penyedia model, dan pengelola platform terkait sebelum mempublikasikan temuan ini.
Dampak Terhadap Indonesia
Indonesia memiliki komunitas pengembang yang berkembang pesat dan banyak menggunakan AI coding assistants seperti GitHub Copilot dan Cursor. Banyak startup dan perusahaan teknologi di Indonesia telah mengadopsi tools ini untuk meningkatkan produktivitas. Serangan HalluSquatting sangat relevan karena tidak memerlukan direct access ke target; penyerang hanya perlu memprediksi apa yang akan dihalusinasikan oleh AI dan melakukan pre-register pada sumber daya tersebut. Hal ini membuat pertahanan menjadi sangat menantang.
Rekomendasi Mitigasi
- Implementasikan validation mechanisms yang kuat pada AI-driven development tools—jangan memercayai resource identifiers yang disarankan AI secara membabi buta.
- Gunakan pinned/verified dependencies dan hindari instalasi dinamis dari sumber yang tidak tepercaya.
- Implementasikan software composition analysis (SCA) tools untuk memindai dependencies.
- Edukasi pengembang mengenai risiko HalluSquatting dan dorong verifikasi manual terhadap package yang disarankan AI.
- Monitor koneksi jaringan atau eksekusi proses yang mencurigakan dari perangkat pengembangan.
Analisis Retasan
HalluSquatting adalah perubahan paradigma dalam supply chain attacks. Alih-alih mengompromikan sumber daya asli, penyerang sekarang dapat “memprediksi” apa yang akan dihalusinasikan oleh AI dan menempatkan sumber daya berbahaya di sana. Ini adalah eksploitasi cerdas dari keterbatasan mendasar LLM—halusinasi—yang selama ini dianggap sebagai bug yang mengganggu namun tidak kritis dari sisi keamanan.
Temuan tingkat halusinasi 85-100% sangat mengejutkan. Ini berarti dalam banyak kasus, AI coding assistants justru lebih sering memberikan resource identifiers hasil halusinasi daripada yang asli. Hal ini mempertanyakan reliabilitas alur kerja pengembangan berbasis AI saat ini. Industri memerlukan solusi mendesak: entah mengurangi tingkat halusinasi secara drastis, atau menerapkan lapisan validasi wajib sebelum sumber daya yang disarankan AI dieksekusi.
Bagi pengembang dan organisasi di Indonesia, ini adalah peringatan keras. Jangan memercayai saran AI begitu saja. Terapkan pendekatan “percaya tapi verifikasi”: gunakan AI untuk mendapatkan saran, namun lakukan verifikasi secara manual oleh manusia. Dalam lingkungan di mana kecepatan pengembangan menjadi prioritas, validasi keamanan tidak boleh dilewati.
Sumber: Cyber Security News – New HalluSquatting Attack | By Abinaya | Research dari Tel Aviv University, Technion, Intuit | 9 Juli 2026
