Perkembangan AI memasuki fase baru. Sistem AI semakin cerdas, dan kini tidak hanya menjawab pertanyaan atau memberikan rekomendasi.
Teknologi ini mulai mampu memecah tujuan menjadi beberapa tugas.
Sistem kemudian dapat menjalankan tugas tersebut dengan intervensi manusia yang lebih sedikit.
Perkembangan itu memunculkan pertanyaan baru tentang keselamatan AI.
Siapa yang memastikan AI tetap aman ketika kemampuannya semakin mandiri?
Pertanyaan tersebut kini juga muncul di Indonesia.
Badan Riset dan Inovasi Nasional (BRIN) mendorong pembentukan AI Safety Institute.
Lembaga tersebut dapat menguji dan mengaudit sistem AI sebelum penggunaannya berdampak luas.
AI Mulai Beralih dari Menjawab ke Bertindak
Anggota Dewan Pengarah BRIN Marsudi Wahyu Kisworo melihat perubahan besar dalam perkembangan AI. Sistem generasi awal terutama menjalankan perintah pengguna. Kini, AI semakin cerdas.
Sekarang, pengembang dapat memberikan tujuan kepada sistem.
AI kemudian dapat menentukan rangkaian tindakan untuk mencapai tujuan tersebut.
Sistem juga dapat mengakses berbagai perangkat dan layanan digital.
Pada tahap tertentu, AI bahkan dapat menjalankan tindakan dengan sedikit campur tangan manusia.
“AI yang tadinya pasif akan menjadi AI yang aktif. AI tidak lagi sebatas menjawab pertanyaan, tetapi sudah bisa mengeksekusi dan melakukan aksi,” kata Marsudi, dalam keterangannya.
Perubahan itu terlihat dalam perkembangan agentic AI.
Teknologi ini memungkinkan sistem AI menjalankan serangkaian langkah untuk mencapai tujuan tertentu.
Kemampuan tersebut membuka peluang baru di banyak bidang.
Namun, kemampuan yang sama juga menambah tantangan keselamatan dan keamanan.
Kekhawatiran AI Otonom Muncul di Dunia
Perdebatan tersebut tidak hanya terjadi di Indonesia.
Industri AI global juga tengah memperdebatkan seberapa cepat pengembang harus meningkatkan kemampuan model AI.
CEO Anthropic Dario Amodei pada September 2026 menyerukan agar perusahaan AI memperlambat laju pengembangan frontier AI. Ia juga mengusulkan evaluasi independen terhadap sistem AI.
CEO OpenAI Sam Altman kemudian menyatakan dukungan terhadap gagasan untuk mengatur tempo pengembangan AI. Elon Musk juga menyatakan dukungan terhadap usulan tersebut.
Perdebatan itu muncul ketika AI semakin cerdas dan mampu menjalankan tugas secara mandiri.
Sejumlah laporan terbaru juga membahas potensi recursive self-improvement.
Konsep tersebut menggambarkan AI yang dapat membantu meningkatkan kemampuan sistem AI berikutnya.
Para peneliti masih memperdebatkan kapan kemampuan seperti itu dapat terwujud.
Namun, perkembangan tersebut membuat isu keselamatan AI semakin mendapat perhatian.
Bagi Marsudi, perkembangan agentic AI membuat Indonesia perlu memperkuat kemampuan pengujian.
Indonesia tidak harus menghentikan pengembangan AI.
Sebaliknya, Indonesia perlu memastikan teknologi tersebut melewati pengujian sebelum menerima kewenangan lebih besar.
BRIN Usulkan AI Safety Institute
BRIN mengusulkan pembentukan AI Safety Institute sebagai lembaga pengujian dan pengawasan independen.
Lembaga itu dapat menjalankan audit terhadap sistem AI. Lembaga tersebut juga dapat menyediakan regulatory sandbox atau ruang uji terisolasi.
Pengembang dapat menguji AI dalam lingkungan yang terkendali.
Pengujian itu dapat berlangsung sebelum sistem masuk ke sektor dengan dampak besar terhadap masyarakat.
“Lembaga ini bukan untuk menambah birokrasi, melainkan bertindak sebagai benteng penguji,” ujar Marsudi.
Ia juga menekankan fungsi audit independen dan ruang uji terisolasi.
Tujuh Hal yang Perlu Diuji Sebelum AI Bertindak
BRIN mengusulkan tujuh aspek pengujian sebelum AI mendapat kewenangan menjalankan keputusan berdampak luas.
Pertama, penguji perlu melihat potensi bias dan diskriminasi.
Kedua, penguji perlu memeriksa transparansi dasar pengambilan keputusan.
Ketiga, sistem harus melindungi data pribadi.
Keempat, pengujian harus mengukur kontrol dan intervensi manusia.
Kelima, sistem harus memiliki mekanisme penghentian.
Keenam, organisasi harus menetapkan pihak yang bertanggung jawab secara hukum.
Ketujuh, sistem harus memiliki ketahanan terhadap serangan siber.
Ketujuh aspek tersebut menjadi semakin penting ketika AI mengambil keputusan yang berdampak langsung pada masyarakat.
Contohnya mencakup pemberian kredit dan bantuan sosial.
AI juga dapat memengaruhi akses layanan kesehatan dan pendidikan.
Sistem AI bahkan dapat masuk ke sektor transportasi dan infrastruktur kritis.
Kesalahan pada sektor-sektor tersebut dapat membawa dampak jauh lebih besar daripada kesalahan pada aplikasi berisiko rendah.
Manusia Harus Tetap Bisa Mengambil Alih AI
BRIN menekankan pentingnya human control. AI dapat membantu menghitung, menganalisis, dan memberikan rekomendasi.
Namun, manusia tetap perlu memegang kendali atas keputusan penting.
Sistem juga harus menyediakan mekanisme untuk mengambil alih kendali.
Manusia perlu dapat menghentikan sistem ketika AI melakukan kesalahan.
Kebutuhan tersebut semakin besar ketika AI memperoleh otonomi lebih tinggi.
Marsudi mencontohkan sistem AI pada kendaraan.
Pengemudi tetap membutuhkan kemampuan untuk mengambil alih ketika sistem tidak bekerja sesuai harapan.
Kontrol manusia juga dapat mencegah ketergantungan berlebihan terhadap AI.
Manusia tetap perlu memeriksa dan menilai keluaran AI secara kritis.
Risiko tidak selalu muncul karena AI mengambil tindakan yang salah.
Risiko juga muncul ketika manusia menerima keluaran AI tanpa pemeriksaan.
BRIN Dorong Aturan AI yang Mengikat
BRIN juga mendorong perubahan pendekatan dalam tata kelola AI.
Menurut Marsudi, Indonesia perlu bergerak dari sekadar imbauan etika menuju aturan yang memiliki konsekuensi hukum.
“Sudah saatnya Indonesia mulai memikirkan aspek-aspek keselamatan AI ini bergeser dari sebatas imbauan etika menjadi kewajiban hukum yang mengikat dalam koridor governance, risk, and compliance,” katanya.
Menurut Marsudi, aturan tersebut tidak harus menghambat inovasi.
Aturan justru dapat memberikan batas keselamatan yang lebih jelas.
Aturan juga dapat menentukan pihak yang bertanggung jawab ketika sistem AI menimbulkan masalah.
Semakin besar kemampuan AI, semakin penting kejelasan tanggung jawab tersebut.
Indonesia Perlu Punya Kapasitas AI Sendiri
BRIN juga melihat kebutuhan untuk memperkuat kemampuan AI dalam negeri.
Marsudi menyebut Organisasi Riset Elektronika dan Informatika (OREI) BRIN dapat berperan dalam pengembangan model AI.
Ia mendorong pengembangan model yang mempertimbangkan data dan karakteristik Indonesia.
Faktor budaya dan kondisi lokal juga perlu masuk dalam pengembangan tersebut.
Marsudi juga mengusulkan pusat komputasi kognitif nasional untuk mendukung riset AI.
Menurutnya, kapasitas komputasi akan menjadi bagian penting dari pengembangan AI.
Indonesia perlu memiliki kemampuan strategis untuk menghadapi penyedia teknologi global.
Namun, kedaulatan digital tidak berarti Indonesia harus membangun seluruh teknologi dari nol.
Indonesia tetap dapat menggunakan teknologi dari negara lain.
Pada saat yang sama, Indonesia perlu memiliki kapasitas untuk memahami, menguji, dan mengendalikan teknologi tersebut.
AI Safety Menjadi Bagian dari Perlombaan Teknologi
Perkembangan AI menempatkan dunia pada dilema baru.
Pengembang ingin meningkatkan kemampuan AI dengan cepat.
Masyarakat juga ingin memanfaatkan manfaat teknologi tersebut.
Namun, peningkatan kemampuan membawa risiko baru ketika AI semakin cerdas dan memperoleh banyak kewenangan.
Perdebatan global tentang perlambatan frontier AI menunjukkan meningkatnya perhatian terhadap persoalan tersebut.
Indonesia kini menghadapi pertanyaan yang sama dari sisi tata kelola.
BRIN mengusulkan agar negara memiliki kemampuan untuk menguji AI sebelum teknologi tersebut mendapat kewenangan besar.
Pendekatan itu tidak bertujuan menghentikan inovasi.
Fokusnya adalah memastikan kemampuan AI berkembang bersama kemampuan manusia untuk menguji, mengawasi, dan menghentikannya ketika diperlukan.
Be First to Comment