Sebuah paper penelitian baru yang berjudul “V.O.I.C.E (Voice, Ownership, Identity, Control, Expression): Risk Taxonomy of Synthetic Voice Generation From Empirical Data” memperkenalkan taksonomi risiko yang komprehensif untuk generative voice models. Penelitian yang dipimpin oleh Tanusree Sharma bersama Anish Krishnagiri, Lili Dudas, Ahmed Adnan, dan Visar Berisha ini menjawab kesenjangan penting dalam pemahaman kita tentang risiko dari synthetic voice technology: kebutuhan akan threat model yang grounded dalam real-world empirical data, bukan hanya theoretical speculation.
Konteks penelitian ini adalah kemajuan pesat model suara generatif (generative voice models) dalam beberapa tahun terakhir. Teknologi seperti ElevenLabs, Resemble AI, dan Descript Overdub telah membuat pembuatan suara sintetis (synthetic voice generation) dapat diakses oleh jutaan pengguna. Kemampuan untuk meniru suara dari sampel audio singkat, menghasilkan ucapan yang tidak dapat dibedakan dari ucapan manusia, dan bahkan mengubah karakteristik suara secara waktu nyata (real-time) memiliki aplikasi yang sah dalam bidang aksesibilitas, hiburan, pendidikan, dan produktivitas. Namun, kemampuan yang sama juga membuka pintu bagi penyalahgunaan yang signifikan.
Pengumpulan, penggunaan kembali, dan sintesis data suara tanpa persetujuan memperkenalkan kelas risiko baru dalam privasi, keamanan, dan tata kelola yang belum terpetakan dengan baik oleh model ancaman (threat models) yang ada. Model ancaman tradisional untuk teknologi suara cenderung berfokus pada aspek-aspek seperti penipuan verifikasi pembicara atau serangan voice phishing (vishing). Namun, lanskap risiko dari model suara generatif jauh lebih luas dan bernuansa—mencakup masalah seperti hak kepemilikan suara, pencurian identitas, kerugian psikologis, dan terkikisnya kepercayaan terhadap bukti audio.
Untuk mengisi kesenjangan ini, tim peneliti mengembangkan taksonomi V.O.I.C.E melalui upaya pemodelan ancaman dari berbagai sumber yang ekstensif. Data yang digunakan dalam penelitian ini berasal dari empat sumber utama: 569 insiden dari basis data insiden AI utama (termasuk AI Incident Database, Partnership on AI database, dan lainnya), 1.067 laporan insiden langsung dari partisipan di Amerika Serikat dari berbagai kelompok, 2.221 diskusi Reddit tentang penyalahgunaan suara sintetis, serta analisis mendalam dari dokumen regulasi dan laporan berita.
Hal yang membuat taksonomi V.O.I.C.E unik adalah pemodelan eksplisit tentang bagaimana risiko muncul dan berinteraksi dengan faktor-faktor kontekstual. Taksonomi ini tidak hanya mengategorikan jenis kerugian, tetapi juga mempertimbangkan faktor-faktor seperti tingkat paparan (seberapa terkenal seseorang), visibilitas sosial (seberapa mudah target ditemukan secara daring), dan ketersediaan perlindungan hukum bagi berbagai kelompok terdampak. Pendekatan ini mengakui bahwa risiko dari penyalahgunaan suara sintetis tidak terdistribusi secara merata—kelompok tertentu menghadapi risiko yang tidak proporsional berdasarkan keadaan sosial, ekonomi, dan politik mereka.
Akronim V.O.I.C.E merangkum lima dimensi utama dari taksonomi tersebut: Voice (karakteristik teknis dari sintesis suara), Ownership (siapa yang memiliki hak atas suara), Identity (bagaimana suara terkait dengan identitas pribadi), Control (siapa yang memiliki kendali atas penggunaan suara), dan Expression (bagaimana suara sintetis memengaruhi kebebasan berekspresi). Kelima dimensi ini saling terhubung dan memengaruhi satu sama lain—keputusan mengenai kepemilikan memengaruhi kendali, yang kemudian memengaruhi ekspresi, dan seterusnya.
Dalam dimensi Voice, taksonomi mengategorikan berbagai kemampuan teknis dari sistem suara sintetis dan vektor penyalahgunaan yang terkait. Ini mencakup kloning suara (voice cloning), konversi suara (voice conversion), sintesis ucapan (speech synthesis), dan penyuntingan suara (voice editing). Setiap kemampuan memiliki profil risiko yang berbeda dan memerlukan tindakan penanggulangan yang berbeda pula.
Dimensi Ownership membahas pertanyaan mendasar tentang siapa yang memiliki hak atas suara seseorang. Dalam kerangka hukum yang ada, hak suara adalah area yang belum berkembang. Beberapa yurisdiksi mengakui suara sebagai bagian dari hak kepribadian, sementara yang lain tidak memberikan perlindungan khusus. Taksonomi ini mengidentifikasi berbagai skenario di mana kepemilikan suara menjadi sengketa—mulai dari kloning suara selebritas untuk hiburan hingga penggunaan suara tanpa izin dalam deepfake politik.
Dimensi Identity mengeksplorasi bagaimana suara terkait dengan identitas pribadi dan bagaimana penyalahgunaan suara sintetis dapat membahayakan integritas identitas. Suara adalah pengidentifikasi biometrik yang unik—seperti sidik jari atau fitur wajah, suara dapat digunakan untuk mengidentifikasi individu. Namun, tidak seperti sidik jari, suara juga merupakan media ekspresi yang intim. Ketika suara seseorang dapat ditiru tanpa persetujuan, hal ini tidak hanya membahayakan keamanan (seperti dalam konteks verifikasi pembicara), tetapi juga merupakan pelanggaran terhadap otonomi pribadi dan integritas identitas.
Dimensi Control berfokus pada mekanisme untuk kendali individu dan masyarakat atas teknologi suara sintetis. Ini mencakup kendali teknis (seperti penanda air suara atau sistem deteksi), kendali hukum (seperti persyaratan persetujuan dan sanksi bagi penyalahguna), dan kendali sosial (seperti norma dan praktik terbaik). Taksonomi ini mengidentifikasi kesenjangan dalam mekanisme kendali yang ada dan mengusulkan arah untuk perbaikan.
Dimensi Expression membahas ketegangan antara melindungi individu dari penyalahgunaan suara sintetis dan melestarikan kebebasan berekspresi. Teknologi suara sintetis memiliki penggunaan yang sah dalam parodi, satire, aksesibilitas (bagi individu yang kehilangan kemampuan untuk berbicara), dan ekspresi kreatif. Regulasi yang terlalu restriktif dapat menghambat ekspresi yang sah, sementara kurangnya regulasi memungkinkan terjadinya penyalahgunaan. Taksonomi ini membantu menavigasi ketegangan ini dengan membedakan antara berbagai jenis penggunaan suara sintetis beserta nilai sosial dan risikonya masing-masing.
Temuan empiris dari penelitian ini mengungkap beberapa pola yang mengkhawatirkan. Aktor pengisi suara dan pesohor internet menghadapi risiko yang tidak proporsional karena sampel suara mereka tersedia secara publik dan adanya insentif ekonomi bagi penyerang (kloning suara dapat digunakan untuk penipuan atau pemerasan). Personel politik menghadapi risiko dari kampanye disinformasi berbasis suara yang dapat merusak proses demokrasi. Masyarakat umum menghadapi risiko yang lebih tersebar namun berpotensi luas—mulai dari penipuan voice phishing hingga pelecehan menggunakan suara yang ditiru.
Penelitian ini juga mengidentifikasi kesenjangan signifikan dalam perlindungan hukum. Meskipun beberapa yurisdiksi mulai mengembangkan undang-undang untuk mengatasi deepfake dan media sintetis, perlindungan terhadap penyalahgunaan khusus suara masih bersifat fragmentaris dan tidak konsisten. Korban sering kali tidak memiliki upaya hukum yang jelas, dan tantangan penegakan hukum sangat signifikan bahkan ketika undang-undang sudah tersedia.
Analisis Retasan
Taksonomi V.O.I.C.E adalah kontribusi penting bagi bidang tata kelola AI yang sedang berkembang. Dengan mendasarkan model ancaman pada data empiris dari ratusan insiden dunia nyata, taksonomi ini memberikan fondasi yang kokoh untuk mengembangkan tindakan penanggulangan dan regulasi yang efektif. Pendekatan empiris ini penting karena memastikan bahwa rekomendasi kebijakan didasarkan pada pola kerugian aktual, bukan spekulasi.
Bagi Indonesia, penelitian ini memiliki relevansi yang signifikan. Indonesia adalah pasar yang besar untuk media sosial dan konten digital, dan penyalahgunaan suara sintetis sudah mulai muncul dalam berbagai konteks—mulai dari deepfake suara selebritas hingga penipuan voice phishing. Regulator di Indonesia seperti Kominfo dan BSSN perlu memahami lanskap risiko ini untuk mengembangkan kerangka kerja regulasi yang tepat. Taksonomi seperti V.O.I.C.E dapat menjadi titik awal untuk penilaian risiko lokal dan pengembangan kebijakan.
Hal yang juga penting untuk diingat adalah bahwa solusi teknologi saja tidak cukup. Sistem deteksi suara dan penanda air (watermarking) adalah langkah yang diperlukan tetapi tidak memadai. Pendekatan komprehensif memerlukan kombinasi dari kendali teknis, kerangka hukum, swaregulasi industri, dan kesadaran publik. Kolaborasi multi-pemangku kepentingan sangat penting untuk mengatasi kompleksitas risiko suara sintetis.
Sumber: arXiv:2604.24794 – V.O.I.C.E: Risk Taxonomy of Synthetic Voice Generation From Empirical Data | Authors: Tanusree Sharma, Anish Krishnagiri, Lili Dudas, Ahmed Adnan, Visar Berisha
