Serangan terbaru yang melibatkan agen AI otonom mengungkapkan risiko bisnis yang sedang berkembang dan belum siap dihadapi oleh banyak organisasi: sistem AI yang mampu mengubah input tidak tepercaya menjadi aksi terotorisasi. Tidak ada kata sandi yang dicuri, tidak ada malware yang dikerahkan, tidak ada firewall yang ditembus. Dari sudut pandang sistem, transaksi tersebut sepenuhnya sah.
APA YANG TERJADI?
Menggunakan rangkaian titik dan garis Morse code, penyerang memanipulasi satu agen AI untuk menghasilkan instruksi yang tampak sah bagi sistem AI lain yang diotorisasi untuk mentransfer dana. Agen kedua menuruti perintah tersebut tanpa ragu. Insiden ini mungkin terdengar seperti eksploitasi crypto yang terisolasi. Namun, ini adalah peringatan dini bagi pemimpin IT di era agentic AI — sistem otonom yang tidak hanya mampu menghasilkan konten, tetapi juga menjalankan aksi di seluruh lingkungan enterprise.
Kerentanan yang diekspos oleh serangan ini adalah apa yang seharusnya dikenali oleh pemimpin keamanan sebagai “authority laundering” — proses di mana input eksternal yang tidak tepercaya diubah menjadi instruksi internal yang tampak tepercaya melalui perantara AI. Saat perusahaan memperluas otonomi AI di seluruh sistem bisnis, kekurangan arsitektural ini mungkin menjadi salah satu tantangan tata kelola yang paling menentukan di era AI.
Eksploitasi ini secara menipu sederhana. Penyerang terlebih dahulu memperluas izin sistem AI dengan menyetor kredensial digital ke wallet crypto yang terkait dengan agen AI. Perangkat lunak menafsirkan kepemilikan token sebagai bukti otorisasi, secara otomatis mengaktifkan kemampuan transaksi. Penyerang kemudian mengirimkan payload yang menyamar sebagai Morse code. Sistem keamanan tradisional mengabaikannya karena menyerupai teks yang tidak berbahaya, bukan malware yang dapat dieksekusi. Namun, model AI menginterpretasikan pesan sebagai teka-teki untuk dipecahkan.
DETAIL TEKNIS
Yang signifikan dari insiden ini bukan jumlah yang dicuri, tetapi serangan ini mempratinjau kategori kerentanan yang kemungkinan akan menjadi lebih umum saat sistem AI memperoleh otoritas di dalam jaringan enterprise. Selama beberapa dekade, keamanan siber enterprise berfokus pada mencegah sistem mencampur data dengan kode yang dapat dieksekusi. AI memperkenalkan masalah baru dan berpotensi lebih tidak stabil: sistem yang mencampur bahasa dengan otoritas.
Sebuah sistem AI tidak perlu menjadi berbahaya untuk menciptakan konsekuensi operasional yang serius. Sistem ini hanya perlu mengikuti instruksi dengan terlalu patuh. Perbedaan ini penting karena banyak organisasi secara cepat men-deploy AI copilots dan agen otonom ke lingkungan di mana output semakin mempengaruhi keputusan operasional. AI sudah digunakan untuk merangkum dokumen hukum, merutekan persetujuan internal, mengelola workflow procurement, menescalate tiket support, menghasilkan kode, dan berinteraksi dengan sistem enterprise yang sensitif.
Masalah yang lebih dalam adalah excessive agency — memberikan sistem AI kemampuan untuk mengambil aksi konsekuenial tanpa lapisan verifikasi yang memadai dan independen. Banyak organisasi tanpa sadar membangun arsitektur di mana model AI menginterpretasikan request sekaligus mengeksekusinya, menciptakan collapse pada boundary keamanan kritis.
DAMPAK TERHADAP INDONESIA
Di Indonesia, tren adopsi agentic AI sedang meningkat pesat, terutama di sektor perbankan dan fintech. Bank-bank besar seperti BCA, Mandiri, dan BRI mulai mengintegrasikan AI ke dalam workflow operasional mereka, termasuk customer service chatbot yang memiliki akses ke sistem internal. Jika arsitektur keamanan tidak memperhatikan konsep authority laundering, maka sistem ini menjadi target serangan yang sangat berharga.
UU Pelindungan Data Pribadi (PDP Law) mensyaratkan bahwa organisasi yang memproses data pribadi harus mengambil langkah-langkah teknis dan organisasi yang memadai untuk melindungi data tersebut. Jika agen AI yang dikompromikan mengakses dan memproses data pribadi pengguna tanpa otorisasi yang sah, organisasi tersebut berpotensi melanggar ketentuan UU PDP dan dapat dikenakan sanksi. Kementerian Kominfo dan BSSN perlu menerbitkan pedoman khusus mengenai penerapan prinsip Zero Trust dalam arsitektur AI enterprise.
Selain itu, adopsi AI di sektor publik Indonesia, termasuk penggunaan AI untuk pelayanan publik dan e-government, meningkatkan risiko jika sistem tersebut tidak memiliki boundary keamanan yang memadai antara interpretasi input dan eksekusi aksi. Serangan authority laundering terhadap sistem AI pemerintah dapat memiliki dampak yang jauh lebih luas dibandingkan di sektor swasta.
REKOMENDASI MITIGASI
Pertama, output yang dihasilkan AI tidak boleh secara otomatis mewarisi status tepercaya. Jika email eksternal, dokumen yang diunggah, chat pelanggan, atau panggilan API pihak ketiga dapat mempengaruhi sistem AI, maka output downstream harus diperlakukan sebagai berpotensi terkompromikan kecuali divalidasi secara independen.
Kedua, sistem AI seharusnya merekomendasikan aksi, bukan mengotorisasi secara mandiri aksi berisiko tinggi. Keputusan kritis yang melibatkan transfer keuangan, akses privileged, perubahan infrastruktur, deployment perangkat lunak, atau workflow operasional sensitif harus melewati deterministic policy engines dan checkpoint verifikasi manusia sebelum dieksekusi.
Ketiga, organisasi yang menerapkan agentic AI harus menerapkan prinsip Zero Trust terhadap arsitektur AI itu sendiri. Sistem AI harus beroperasi dalam batasan izin yang ketat, logging audit yang komprehensif, dan boundary persetujuan yang jelas didefinisikan. Implementasikan human-in-the-loop untuk semua keputusan berisiko tinggi. Monitoring dan alerting harus dikonfigurasi untuk mendeteksi anomali dalam pola request dan response AI.
Analisa Retasan
Serangan Morse code ini memperlihatkan sebuah kerentanan fundamental yang sudah lama diabaikan dalam keamanan AI: perbedaan antara kemampuan memahami bahasa dan kemampuan memverifikasi otoritas. Model LLM modern sangat baik dalam memecahkan teka-teki linguistik, namun tidak memiliki mekanisme bawaan untuk membedakan antara “instruksi yang valid secara linguistik” dan “instruksi yang diotorisasi secara sah.” Authority laundering memanfaatkan gap ini dengan mengubah input tidak tepercaya melalui beberapa lapis pemrosesan AI hingga outputnya dianggap tepercaya oleh sistem downstream. Ini mengingatkan pada klasik confused deputy problem dalam keamanan sistem operasi, tetapi dengan skala dan kompleksitas yang jauh lebih besar karena melibatkan interpretasi konteks yang kompleks.
Yang mengkhawatirkan adalah bahwa ini bukan serangan teoritis. Morse code yang digunakan dalam serangan ini berfungsi sebagai social engineering terhadap model AI itu sendiri — mengubah representasi data (dot dan dash) menjadi instruksi yang dipahami sebagai sah. Jika satu Morse code bisa melakukannya, teknik serupa dengan encoding yang lebih kompleks — seperti Base64, Unicode escape sequences, atau bahkan instruksi tersembunyi dalam konteks natural language — akan jauh lebih sulit dideteksi. Dalam konteks di mana AI agents mulai memiliki otoritas untuk melakukan aksi nyata di enterprise, ini menciptakan attack surface yang belum pernah ada sebelumnya. Setiap teks yang diproses oleh AI — email, dokumen, chat, API response — menjadi potensi vector serangan.
Bagi Indonesia, implikasinya sangat konkret. Organisasi seperti Bank Indonesia, OJK, dan Kementerian Keuangan sedang mengeksplorasi penggunaan AI untuk pengambilan keputusan regulasi dan pengawasan. Jika sistem AI yang digunakan untuk memproses laporan keuangan atau menganalisis transaksi keuangan dapat dimanipulasi melalui input yang tersembunyi, maka integritas seluruh sistem pengawasan keuangan nasional dapat terancam. Regulasi AI di Indonesia, yang masih dalam tahap pengembangan, harus secara eksplisit mengamanatkan adanya verification layer yang independen untuk semua output AI yang digunakan dalam pengambilan keputusan berisiko tinggi. Tanpa ini, konsep “blind trust” terhadap AI akan menjadi celah keamanan terbesar dalam transformasi digital Indonesia.
