Sebuah paper penelitian baru yang diterima di Second Workshop on Technical AI Governance Research (TAIGR) di ICML 2026 mengangkat pertanyaan kritis yang semakin mendesak: informasi apa yang seharusnya diungkapkan oleh frontier AI developers tentang internal deployment model mereka? Penelitian yang dipimpin oleh Jacob Charnock, Raja Mehta Moreno, Justin Miller, dan William L. Anderson ini menjawab kesenjangan penting dalam AI governance — sementara banyak research sebelumnya telah menyoroti risiko internal deployment dan mengusulkan pendekatan luas untuk transparency, masih sedikit guidance spesifik tentang informasi apa yang sebenarnya harus di-disclose.
Konteks dari penelitian ini sangat relevan dengan kondisi industri AI saat ini. Frontier AI developers — perusahaan yang mengembangkan model AI paling capable di dunia — semakin banyak mendeploy model mereka secara internal untuk mengotomatisasi AI R&D mereka sendiri. Ini adalah praktik yang secara fundamental mengubah landscape pengembangan AI: model AI tidak lagi hanya produk yang dijual ke customer, tetapi juga tool yang digunakan untuk mengembangkan AI generasi berikutnya. Namun, deployment internal ini saat ini menghadapi limited external oversight, menciptakan kebutuhan mendesak untuk transparency yang bermakna.
Framework yang diusulkan dalam paper ini mengidentifikasi empat kategori utama informasi yang seharusnya di-disclose oleh AI developers tentang internal deployment mereka. Kategori pertama adalah Capabilities — informasi tentang apa yang model mampu lakukan. Ini termasuk benchmark performance, task-specific capabilities, dan limitation yang diketahui. Transparansi tentang capabilities penting karena memungkinkan regulator, researcher, dan public untuk memahami potensi risiko yang mungkin timbul dari deployment model tertentu.
Kategori kedua adalah Usage — informasi tentang bagaimana model sebenarnya digunakan dalam praktik. Ini mencakup use cases spesifik, volume deployment, dan konteks operasional di mana model dioperasikan. Transparansi tentang usage penting karena model yang sama bisa memiliki risk profile yang sangat berbeda tergantung pada bagaimana model tersebut digunakan. Sebuah model yang digunakan untuk internal data analysis memiliki risiko yang berbeda dengan model yang digunakan untuk automated decision making yang berdampak pada publik.
Kategori ketiga adalah Safety Mitigations — informasi tentang langkah-langkah yang diambil untuk memastikan model beroperasi dengan aman. Ini termasuk technical safeguards, monitoring systems, incident response procedures, dan escalation protocols. Transparansi tentang safety mitigations memungkinkan stakeholder untuk menilai apakah developer mengambil risiko dengan cukup serius dan apakah mitigasi yang diterapkan memadai untuk skala dan nature dari deployment.
Kategori keempat dan terakhir adalah Governance — informasi tentang struktur oversight, decision-making processes, dan accountability mechanisms yang mengatur deployment model. Ini mencakup struktur tim safety, proses approval untuk deployment baru, audit procedures, dan mekanisme untuk external input. Governance transparency penting karena bahkan technical safeguards yang terbaik tidak akan efektif tanpa governance structure yang kuat untuk memastikan safeguards tersebut benar-benar diterapkan dan dipatuhi.
Untuk setiap kategori, paper ini menganalisis secara mendalam manfaat dan keterbatasan dari disclosure. Manfaat disclosure termasuk increased accountability, improved public trust, better regulatory oversight, dan knowledge sharing yang bisa mempercepat pengembangan best practices di industri. Namun, ada juga keterbatasan dan risiko yang perlu dipertimbangkan, termasuk risiko competitive disadvantage, potential for gaming the metrics, information overload yang bisa mengurangi signal-to-noise ratio, dan risiko disclosure bisa disalahgunakan oleh bad actors.
Yang menarik dari framework ini adalah penekanan pada proporsionalitas — tidak semua informasi harus di-disclose kepada semua audience. Paper ini mengusulkan tiered disclosure model di mana informasi yang berbeda di-share dengan stakeholder yang berbeda berdasarkan legitimate need-to-know mereka. Public transparency documents seperti model system cards bisa berisi informasi tingkat tinggi yang accessible untuk general public, sementara private periodic reports yang diwajibkan di bawah emerging frontier AI regulation bisa berisi detail lebih mendalam untuk regulator dan auditor yang ditunjuk.
Framework ini juga mengakui bahwa disclosure requirements perlu evolve seiring dengan perkembangan industri AI. Apa yang dianggap adequate transparency hari ini mungkin tidak cukup dalam dua atau tiga tahun ke depan ketika model menjadi lebih capable dan deployment menjadi lebih luas. Oleh karena itu, framework ini dirancang untuk iteratif dan adaptive, dengan mekanisme regular review dan update berdasarkan lessons learned, technological developments, dan emerging risks.
Analisa Retasan
Paper ini mengangkat isu yang sangat fundamental dalam AI governance: bagaimana kita bisa memastikan accountability tanpa stifling innovation? Disclosure requirements yang terlalu burdensome bisa menghambat perkembangan AI, terutama untuk startup dan researcher dengan resource terbatas. Namun, tanpa transparency yang memadai, kita tidak bisa memiliki meaningful oversight over teknologi yang memiliki potensi dampak societal yang sangat besar.
Bagi Indonesia, kerangka disclosure ini sangat relevan karena pemerintah sedang mengembangkan regulasi AI nasional. Framework dari paper ini bisa menjadi dasar untuk mengembangkan disclosure requirements yang balanced — cukup comprehensive untuk memastikan accountability, tetapi cukup flexible untuk tidak menghambat inovasi. Yang penting adalah memastikan bahwa disclosure tidak hanya menjadi box-ticking exercise, tetapi benar-benar memberikan informasi yang actionable untuk oversight dan risk assessment.
Implementasi disclosure yang efektif juga memerlukan kapasitas teknis dari regulator. Regulator tidak bisa hanya menerima laporan dan menyimpannya di rak — mereka perlu memiliki in-house expertise untuk memahami, menganalisis, dan menindaklanjuti informasi yang di-disclose. Tanpa capacity ini, disclosure requirements hanya akan menjadi formalitas tanpa substansi.
Sumber: arXiv:2604.23065 – What Should Frontier AI Developers Disclose About Internal Deployments? | TAIGR Workshop ICML 2026
