Pengawasan agen AI menjadi tantangan baru bagi perusahaan seiring meningkatnya penggunaan kecerdasan buatan otonom. Studi Dataiku/Harris Poll mengungkap 81% CIO global tidak memiliki pengawasan lengkap atas agen AI di luar sistem resmi perusahaan.
Temuan dalam Global AI Confessions Report: CIO Edition 2026 menunjukkan perkembangan agen AI melampaui kemampuan perusahaan mengelola teknologi tersebut. Perusahaan kini menghadapi persoalan baru, yakni memastikan setiap agen AI tetap terkendali dan menghasilkan manfaat bisnis.
Studi terhadap 685 CIO global menemukan 84% responden mengakui karyawan mengembangkan agen dan aplikasi AI lebih cepat daripada kemampuan tim TI mengelolanya.
Sebanyak 67% CIO memperkirakan perusahaan mereka menjalankan sedikitnya 51 agen AI di lingkungan produksi. Namun, hanya 21% CIO memiliki visibilitas penuh dan hampir real-time terhadap biaya AI.
Kesenjangan tersebut memperlihatkan bahwa perusahaan tidak cukup hanya mengembangkan dan menjalankan agen AI. Mereka juga perlu membangun mekanisme untuk mengukur kinerja, mengendalikan operasional, dan mengevaluasi manfaat bisnis setiap agen.
Agen AI otonom membutuhkan mekanisme pengendalian
Perkembangan agen AI menghadirkan tantangan berbeda dibandingkan penggunaan aplikasi AI konvensional. Agen AI dapat menjalankan tugas secara otonom, berinteraksi dengan sistem perusahaan, dan mengambil tindakan berdasarkan instruksi maupun konteks operasional.
Perusahaan perlu memastikan setiap agen tetap relevan, aman, dan sesuai dengan tujuan bisnis. Namun, banyak organisasi belum memiliki mekanisme pengelolaan yang memadai.
Dataiku menemukan 83% CIO belum memiliki standar manajemen siklus hidup agen AI di seluruh organisasi. Sebanyak 47% bahkan telah menonaktifkan lebih dari 20 agen AI sepanjang 2026.
Perusahaan juga menghadapi kesulitan dalam mengukur efektivitas teknologi tersebut. Hampir tiga dari empat CIO tidak dapat memastikan secara konsisten apakah agen AI menghasilkan manfaat bisnis sesuai tujuan awal.
Selain itu, 60% CIO belum memiliki lapisan tata kelola AI terpusat yang mencakup aplikasi, perangkat, dan lingkungan TI perusahaan.
Kondisi tersebut memperkuat urgensi penerapan pengawasan agen AI yang mencakup seluruh siklus hidup teknologi. Perusahaan perlu mengawasi proses pengembangan, implementasi, evaluasi, hingga penghentian operasional agen AI.
Florian Douetteau, Co-founder dan CEO Dataiku, menilai perusahaan perlu beralih dari sekadar memantau aktivitas agen AI menuju pengelolaan operasionalnya.
Menurutnya, pemantauan hanya menunjukkan apakah agen sedang berjalan. Sebaliknya, pengelolaan membantu perusahaan menentukan apakah agen masih layak beroperasi.
“Kontrol yang andal kini menjadi kunci memaksimalkan nilai AI, sekaligus memastikan kinerjanya tetap konsisten,” ujar Douetteau.
Tata kelola AI tidak harus memusatkan seluruh pengembangan
Perusahaan menghadapi dilema dalam mengembangkan agen AI. Mereka perlu memberikan keleluasaan kepada tim bisnis untuk berinovasi, tetapi tetap menjaga keamanan dan konsistensi operasional.
Dataiku menemukan 91% CIO sepakat strategi AI paling efektif tidak harus memusatkan seluruh pengembangan aplikasi dan agen. Perusahaan dapat memberikan ruang bagi tim bisnis untuk berinovasi dalam lingkungan yang memiliki tata kelola jelas.
Pendekatan ini membuka peluang bagi perusahaan untuk mengembangkan AI secara terdistribusi. Tim bisnis dapat membangun solusi sesuai kebutuhan operasional tanpa harus menunggu seluruh proses pengembangan dari tim TI pusat.
Namun, perusahaan tetap membutuhkan mekanisme pengawasan yang dapat menjangkau berbagai tim, aplikasi, dan platform AI.
Pendekatan tersebut juga berkaitan dengan strategi perusahaan dalam mengurangi ketergantungan pada satu model AI.
Sebanyak 75% CIO berencana menggunakan lebih banyak model atau model berbeda untuk menjaga keberlanjutan operasional AI. Sebanyak 74% mempertimbangkan model open-source atau open-weight sebagai alternatif ketika model tertentu tidak lagi tersedia.
Selain itu, 80% CIO telah melakukan atau berencana mengevaluasi risiko ketergantungan pada AI.
Strategi multi-model memungkinkan perusahaan menyesuaikan teknologi dengan kebutuhan operasional. Perusahaan juga dapat mengurangi risiko gangguan ketika penyedia model mengubah layanan atau menghentikan akses.
Perusahaan kesulitan mengukur ROI agen AI
Persoalan pengawasan agen AI juga berdampak pada kemampuan perusahaan membuktikan manfaat investasi teknologi.
Dataiku menemukan hanya 28% CIO yang secara konsisten mengukur kinerja operasional dan hasil bisnis seluruh agen AI. Sementara itu, 76% CIO mengaku perusahaan mereka belum memiliki metode pengukuran ROI AI yang matang dan andal.
Kesenjangan pengukuran tersebut dapat menyulitkan perusahaan menentukan agen AI mana yang perlu dipertahankan, dikembangkan, atau dihentikan.
Perusahaan juga menghadapi persoalan pembagian tanggung jawab ketika agen AI mengalami kegagalan.
Sebanyak 23% CIO menempatkan tim gabungan sebagai pihak yang paling bertanggung jawab. Sebanyak 21% menunjuk TI pusat, sedangkan 20% memilih tim data atau AI.
Tim keamanan, risiko, dan kepatuhan memperoleh porsi 18% dalam pembagian tanggung jawab tersebut.
Data ini menunjukkan perusahaan membutuhkan model tata kelola yang menghubungkan fungsi teknologi, bisnis, dan keamanan.
Tekanan bisnis mendorong CIO memperkuat pengawasan AI
Persoalan tata kelola agen AI kini tidak hanya menyangkut aspek teknis. CIO juga menghadapi tekanan dari jajaran eksekutif untuk membuktikan manfaat investasi AI.
Sebanyak 88% CIO mengatakan reputasi profesional atau perkembangan karier mereka bergantung pada keberhasilan penerapan AI.
Sebanyak 87% mengungkapkan CEO telah mengaitkan keberlangsungan posisi mereka dengan hasil penerapan AI.
Tekanan tersebut juga datang dari dewan direksi. Sebanyak 97% CIO melaporkan peningkatan tekanan untuk menunjukkan ROI AI yang terukur.
Bahkan, 72% CIO memperkirakan perusahaan akan membekukan atau memangkas anggaran AI jika target kinerja tidak tercapai pada akhir 2026.
Sebanyak 76% CIO juga meyakini posisi mereka terancam jika perusahaan gagal menghasilkan manfaat bisnis AI yang terukur hingga akhir 2027.
Situasi tersebut menempatkan pengawasan agen AI sebagai bagian penting dari strategi bisnis perusahaan. CIO perlu memastikan perusahaan tidak hanya meningkatkan adopsi AI, tetapi juga mengendalikan risiko dan membuktikan nilai investasi.
Studi Dataiku juga memperlihatkan tekanan yang lebih besar di Amerika Serikat. Sebanyak 94% CIO di negara tersebut mengakui karyawan mengembangkan agen dan aplikasi AI lebih cepat daripada kemampuan tim TI mengelolanya.
Sebanyak 87% CIO AS memperkirakan perusahaan akan membekukan atau memangkas anggaran AI jika target kinerja tidak tercapai pada akhir 2026.
Selain itu, 82% CIO AS menyesali setidaknya satu keputusan besar pemilihan vendor atau platform AI dalam 18 bulan terakhir.
Temuan tersebut memperlihatkan bahwa tantangan AI perusahaan semakin bergeser. Keberhasilan tidak lagi hanya bergantung pada kemampuan mengadopsi teknologi, tetapi juga pada kemampuan mengendalikan operasionalnya.
Ketika agen AI semakin otonom dan tersebar di berbagai fungsi bisnis, perusahaan perlu membangun sistem pengawasan yang mampu menghubungkan inovasi, keamanan, kinerja, dan manfaat bisnis.
Be First to Comment