Kecerdasan buatan (AI) mungkin suatu hari menjadi jauh lebih pintar daripada manusia, yang kini dikenal dengan istilah AI Superintelligence. Namun, menurut Geoffrey Hinton, dunia sebaiknya tidak terburu-buru mengejar kemampuan tersebut sebelum ilmuwan menemukan cara untuk mengendalikan risikonya.
Hinton, ilmuwan komputer Inggris-Kanada yang mendapat julukan “Godfather of AI”, bahkan memperingatkan bahwa AI superintelligence dapat membawa manusia menuju kepunahan.
“Kita akan sangat bodoh jika mengembangkan superintelligence sekarang, ketika belum ada konsensus ilmiah bahwa kita dapat mengembangkannya dengan aman dan tetap mengendalikannya,” kata Hinton, seperti dilansir Daily Mail
“Kehilangan kendali atas AI yang lebih cerdas daripada kita dapat menimbulkan bencana dan bahkan menyebabkan kepunahan manusia.”
Hinton menyampaikan peringatan itu bersamaan dengan rancangan UK Artificial Superintelligence Security Bill. Kelompok kampanye ControlAI menyusun rancangan tersebut, sedangkan anggota parlemen Inggris dari Partai Buruh, Alex Sobel, mengajukannya ke Parlemen Inggris.
Rancangan undang-undang itu akan melarang pengembangan AI superintelligence di Inggris.
Ketika AI melampaui kemampuan manusia
Hinton memiliki alasan kuat untuk memperingatkan risiko tersebut. Selama puluhan tahun, ia mengembangkan riset mengenai jaringan saraf tiruan, teknologi yang kemudian membantu membentuk fondasi perkembangan AI modern.
Ia bahkan meraih penghargaan Nobel Fisika pada 2024 bersama John Hopfield atas pekerjaan mereka mengenai fondasi pembelajaran mesin dengan jaringan saraf tiruan.
Namun, kemajuan teknologi yang dulu ia bantu dorong kini juga membuat Hinton khawatir.
Dalam konteks AI, istilah superintelligence merujuk pada sistem yang melampaui kemampuan kognitif manusia dalam berbagai bidang. Sistem semacam itu secara hipotetis dapat memiliki kemampuan yang jauh melebihi individu, perusahaan, bahkan institusi atau negara dalam tugas-tugas tertentu.
Masalah terbesar, menurut Hinton, bukan sekadar seberapa pintar AI tersebut. Persoalannya terletak pada kemampuan manusia untuk tetap mengendalikan sistem yang jauh lebih cerdas dan lebih kuat daripada manusia sendiri.
“Kita perlu menemukan solusi agar kita tetap ada ketika mereka jauh lebih cerdas dan jauh lebih kuat daripada kita. Jika tidak, kita akan tamat,” kata Hinton dalam pernyataannya tahun lalu.
Dilema regulasi AI
ControlAI menggunakan peringatan Hinton untuk mendorong pemerintah Inggris memperketat aturan terhadap sistem AI paling kuat.
Kelompok tersebut membedakan AI khusus dengan superintelligence. AI khusus yang membantu penelitian ilmiah, kedokteran, dan layanan publik, menurut ControlAI, dapat mendorong pertumbuhan dan inovasi.
Sebaliknya, AI superintelligence dapat membawa risiko yang jauh lebih besar terhadap keamanan nasional dan global.
ControlAI menilai Inggris dapat mengambil manfaat dari AI sekaligus mengurangi risikonya dengan menerapkan aturan yang mengikat untuk sistem AI berkemampuan paling tinggi.
Pernyataan tersebut mencerminkan perdebatan yang semakin tajam di industri teknologi. Sebagian tokoh AI mendorong regulasi yang lebih ketat, sementara sebagian lainnya khawatir aturan berlebihan justru menghambat inovasi.
CEO OpenAI berbeda pandangan
CEO OpenAI Sam Altman sebelumnya juga pernah menyerukan regulasi terhadap AI. Namun, dalam beberapa kesempatan, ia kemudian memperingatkan dampak regulasi berlebihan terhadap perkembangan teknologi.
Saat berbicara di hadapan Senat Amerika Serikat pada Mei tahun lalu, Altman menilai regulasi seperti yang berlaku di Uni Eropa dapat membawa dampak buruk bagi inovasi.
“Kita membutuhkan ruang untuk berinovasi dan bergerak cepat,” kata Altman.
Sebulan sebelumnya, dalam sebuah konferensi besar mengenai privasi, Altman juga mengatakan bahwa pembuat kebijakan sulit menetapkan seluruh sistem pengamanan AI sebelum teknologi tersebut menimbulkan masalah nyata.
Pandangan itu berseberangan dengan Hinton.
Hinton justru melihat pendekatan menunggu masalah muncul sebagai risiko yang terlalu besar. Menurut dia, manusia mungkin tidak memiliki kesempatan kedua jika AI superintelligence sudah berkembang melampaui kemampuan manusia untuk mengendalikannya.
Karena itu, Hinton menyerukan tekanan yang berlawanan terhadap para pemimpin teknologi yang menolak regulasi AI. “Kita membutuhkan tekanan tandingan terhadap para pengusaha teknologi yang mengatakan bahwa AI tidak membutuhkan regulasi,” ujar Hinton.
Perlombaan menuju AI superintelligence
Perdebatan ini pada akhirnya membawa dunia pada satu pertanyaan mendasar: seberapa jauh manusia harus mendorong perkembangan AI?
AI saat ini sudah membantu manusia menulis, membuat kode, menganalisis data, menemukan pola dalam penelitian ilmiah, hingga mendukung pekerjaan medis. Namun, superintelligence masih berada dalam wilayah hipotetis dan para ilmuwan belum memiliki konsensus mengenai kapan atau apakah teknologi tersebut benar-benar akan tercapai.
Hinton meminta manusia menghadapi pertanyaan tersebut sebelum teknologi mencapai titik yang sulit dikendalikan.
Baginya, persoalannya bukan memilih antara AI atau manusia. Dunia tetap dapat mengembangkan AI untuk ilmu pengetahuan, kesehatan, ekonomi, dan layanan publik.
Yang perlu manusia pikirkan sejak sekarang adalah bagaimana menjaga kendali ketika kecerdasan mesin suatu hari melampaui kecerdasan manusia.
Pertanyaan itu membuat perdebatan mengenai regulasi AI tidak lagi sekadar menyangkut kecepatan inovasi. Bagi Hinton, perdebatan tersebut menyangkut sesuatu yang jauh lebih mendasar: apakah manusia mampu memastikan teknologi paling kuat yang mereka ciptakan tetap berada dalam kendali mereka.
Be First to Comment