Ringkasan Berita
DeepMind Usulkan Badan Standar AI Global: Pengawasan Model Frontier yang Lebih Ketat
CEO Google DeepMind Demis Hassabis secara resmi mengusulkan pembentukan badan standar AI global yang terinspirasi dari FINRA, dengan kewenangan menguji dan meninjau model AI frontier sebelum dirilis ke publik. Proposal ini mendapat dukungan dari sejumlah pemimpin industri, namun juga menuai kritik dari para analis yang meragukan efektivitas self-regulation oleh perusahaan teknologi raksasa.
 |
| Ilustrasi Demis Hassabis AI |
Pendahuluan
Demis Hassabis, CEO Google DeepMind dan peraih Nobel Kimia 2024, telah meluncurkan proposal ambisius untuk membentuk badan pengawas AI global yang independen. Dalam manifesto berjudul "A Framework for Frontier AI and the Dawning of a New Age," Hassabis berargumen bahwa kecerdasan buatan umum (AGI) "mungkin hanya tinggal beberapa tahun lagi" dan dunia belum siap menghadapinya.
Proposal ini muncul di tengah meningkatnya kekhawatiran tentang risiko AI frontier, terutama setelah peluncuran model Mythos dari Anthropic pada April 2026 yang menunjukkan kemampuan keamanan siber yang "jauh melampaui perkiraan." Hassabis menyebut peristiwa itu sebagai "tanda peringatan" yang mendorongnya untuk mempercepat pengumuman proposal yang telah ia rancang selama berbulan-bulan.
Usulan Badan Standar AI
Model FINRA untuk AI
Hassabis mengusulkan pembentukan badan standar AI yang terinspirasi dari Financial Industry Regulatory Authority (FINRA), sebuah organisasi nirlaba yang mengawasi broker dan pelaku pasar keuangan di AS. FINRA didanai oleh industri yang diaturnya namun beroperasi di bawah pengawasan SEC dan memiliki wewenang penegakan hukum.
"AS berada dalam posisi yang baik, mengingat status ekonomi dan teknisnya, untuk mengambil langkah pertama dalam mengembangkan kerangka kerja semacam itu," tulis Hassabis. "Ini dapat membentuk Badan Standar baru yang dimodelkan pada kemitraan publik-swasta atau organisasi pengaturan mandiri yang diawasi federal, dengan dewan yang mencakup pakar teknis independen terkemuka dan perwakilan sumber terbuka."
Struktur dan Pendanaan
Badan ini akan memiliki beberapa karakteristik utama:
- Pendanaan: Sebagian besar berasal dari industri AI, dengan jumlah yang substansial untuk menarik talenta teknis kelas dunia dan menyediakan sumber daya komputasi yang diperlukan untuk pengujian skala besar
- Dewan: Didominasi oleh pakar teknis independen (termasuk peraih Turing Award), dengan kursi untuk perwakilan industri, pemerintah, dan komunitas sumber terbuka
- Cakupan: Berlaku untuk semua model yang mencapai ambang batas "frontier-class", terlepas dari negara asal atau status sumber terbuka
Proses Tinjauan 30 Hari
Mekanisme utama yang diusulkan adalah tinjauan pra-rilis selama 30 hari:
- Tahap Awal: Laboratorium frontier secara sukarela membagikan model mereka ke Badan Standar hingga 30 hari sebelum rilis untuk ditinjau
- Formalisasi: Setelah protokol penilaian terbukti efektif, model frontier diwajibkan lulus tinjauan untuk dapat digunakan di pasar AS
- Evaluasi Berkala: Tolok ukur akan diperbarui setiap kuartal untuk mengikuti perkembangan kemampuan AI
Evaluasi Risiko
Badan ini akan melakukan evaluasi ilmiah yang ketat di berbagai domain berisiko tinggi:
- Kemampuan keamanan siber
- Ancaman biologis dan nuklir
- Tanda-tanda perilaku menipu (deception)
- Upaya melewati pagar pengaman (safety guardrails)
"Tes AI agenik spesifik dapat mencari upaya untuk melewati pagar pengaman keamanan atau tanda-tanda penipuan, dan memastikan praktik terbaik seperti watermarking digital pada gambar yang dihasilkan AI dan menghasilkan token output yang dapat dibaca manusia untuk memahami penalaran model," tulis Hassabis.
Mekanisme "Rem Darurat"
Fitur paling kontroversial dari proposal ini adalah wewenang badan untuk "mengoordinasikan perlambatan pengembangan di antara Laboratorium Frontier jika dianggap perlu." Ini adalah proposal yang luar biasa dari seorang eksekutif industri—meminta mekanisme untuk menghentikan industrinya sendiri.
Dukungan dan Kritik
Dukungan dari Pemimpin Industri
Proposal Hassabis mendapat sambutan positif dari sejumlah pemimpin industri teknologi:
- Sam Altman (OpenAI): Menyebut gagasan itu "cukup bijaksana"
- Elon Musk: Menggambarkannya sebagai "titik awal yang baik untuk diskusi"
- Satya Nadella (Microsoft): Menyebutnya "bagian penting" dan menekankan perlunya menghindari "satu model yang menghancurkan dunia"
- Sundar Pichai (Google): Memberi komentar singkat "Well said Demis!"
Dukungan dari para pesaing yang biasanya berseteru ini menandai momen langka dalam industri AI.
Kritik dari Analis
Namun, proposal ini juga menuai kritik tajam dari para analis dan akademisi:
Nader Henein, VP Analyst Gartner: "Regulasi mandiri tidak layak karena itu menyiratkan semua orang mampu mengatur diri sendiri dan akan melakukannya sesuai dengan kepentingan terbaik publik. Sebagian besar vendor teknologi tidak memiliki kapasitas untuk mengatur diri sendiri."
Carmi Levy, Analis Teknologi Independen: "Meminta perusahaan teknologi besar untuk mengawasi diri sendiri sama dengan membiarkan rubah menjaga kandang ayam. Ini belum pernah berhasil, dan tidak akan berhasil ke depannya."
Sanchit Vir Gogia, Chief Analyst Greyhound Research: "Keamanan nasional adalah akselerator proposal di Washington dan racunnya di luar negeri. Brussels memberlakukan kekuasaan penegakan atas model tujuan umum, London menjalankan AI Security Institute, dan Beijing memberi lisensi dengan ketentuannya sendiri."
Aman Mahapatra, Chief Strategy Officer Tribeca Softtech: "Ketika CEO dari lima perusahaan yang akan diatur juga merupakan perancang utama standar, standar akan mencerminkan kepentingan perusahaan tersebut."
Latar Belakang dan Konteks
Pemicu Langsung: Model Mythos
Hassabis mengungkapkan bahwa pemicu langsung proposal ini adalah peluncuran model Mythos dari Anthropic pada April 2026. Model ini menunjukkan kemampuan keamanan siber yang "jauh melampaui perkiraan," memicu kekhawatiran tentang "era baru kejahatan siber yang digerakkan AI."
Insiden Regulasi Terbaru
Proposal ini juga merespons serangkaian intervensi pemerintah AS yang baru-baru ini terjadi:
- Pembekuan Model Anthropic: Washington tiba-tiba memberlakukan kontrol ekspor pada model Fable dan Mythos Anthropic karena kekhawatiran keamanan siber, baru dicabut pada 30 Juni 2026
- Penundaan GPT-5.6: OpenAI menunda rilis GPT-5.6 Sol atas permintaan pemerintah
Kedua insiden ini mengungkapkan betapa "improvisasinya" proses saat ini, dengan tinjauan ad hoc yang dikritik karena keahlian tipis dan keputusan yang tidak jelas.
Peta Regulasi Global yang Beragam
Hassabis mengakui bahwa lanskap regulasi global saat ini sangat terfragmentasi:
- Uni Eropa: Mulai memberlakukan kekuasaan penegakan atas model tujuan umum mulai Agustus 2026
- Inggris: Menjalankan AI Security Institute
- China: Memberi lisensi dengan ketentuannya sendiri
- AS: California dan New York telah memberlakukan undang-undang untuk model frontier di tingkat negara bagian
Analisis: Mengapa Proposal Ini Penting
AGI Sudah di Depan Mata
Hassabis secara eksplisit menyatakan bahwa AGI "mungkin hanya tinggal beberapa tahun lagi." Dalam manifesto, ia menulis: "Ketika kita melihat kembali masa ini dalam beberapa dekade mendatang, saya pikir kita akan menyadari bahwa kita berdiri di kaki bukit singularitas - tidak kurang dari awal zaman baru bagi umat manusia."
Jendela Waktu yang Singkat
Ia menggambarkan periode sebelum AGI tiba sebagai "jendela berharga" yang semakin menutup. "Apa yang kita lakukan secara kolektif sekarang akan menentukan bagaimana fase berikutnya dari peradaban berlangsung," tulisnya.
Respons terhadap Kritik Regulasi Ad Hoc
Usulan ini juga merupakan respons terhadap kritik bahwa proses regulasi saat ini terlalu improvisasi. Tinjauan ad hoc yang dilakukan pemerintah AS terhadap model Anthropic dan OpenAI dikritik karena kurangnya keahlian teknis dan pengambilan keputusan yang tidak transparan.
Tantangan Implementasi
Meskipun mendapat dukungan industri, proposal ini menghadapi tantangan implementasi yang signifikan:
Hambatan Politik
- Kongres AS: Belum meloloskan undang-undang AI federal yang berarti
- Pemerintahan Trump: Sikap terhadap AI berayun antara laissez-faire dan intervensi
- Perbedaan Global: AS, UE, dan China memiliki pendekatan regulasi yang sering berbenturan
Siapa yang Akan Memegang "Palu"?
Meskipun para pemimpin industri setuju bahwa regulasi diperlukan, mereka berbeda pendapat tentang siapa yang memegang kendali. Dario Amodei dari Anthropic menginginkan model seperti FAA, sementara Hassabis mengusulkan model FINRA.
Pertanyaan tentang Independensi
Kritik utama tetap pada independensi badan yang didanai oleh industri yang diaturnya. Seperti yang ditunjukkan oleh para analis, ada konflik kepentingan inheren ketika perusahaan yang diatur juga merupakan penyandang dana utama regulator.
Penutup
Proposal Hassabis untuk badan standar AI global menandai momen penting dalam perdebatan tentang tata kelola AI. Untuk pertama kalinya, para pemimpin industri AI terkemuka menunjukkan kesepakatan yang langka tentang perlunya regulasi yang berarti. Namun, perbedaan tentang bentuk regulasi—dan pertanyaan apakah self-regulation dapat benar-benar efektif—tetap menjadi penghalang besar.
Hassabis berencana melobi Washington minggu depan untuk proposalnya, dengan harapan badan tersebut dapat mulai beroperasi pada akhir 2026. "Tidak ada proposal yang kebal terhadap eksekusi yang buruk," akunya. "Tapi waktu singkat, saatnya sudah larut... inilah waktunya."
FAQ
1. Apa yang diusulkan Demis Hassabis?
Hassabis mengusulkan pembentukan badan standar AI global yang terinspirasi dari FINRA, dengan kewenangan menguji dan meninjau model AI frontier sebelum dirilis ke publik.
2. Mengapa proposal ini diajukan sekarang?
Pemicu langsungnya adalah peluncuran model Mythos dari Anthropic pada April 2026 yang menunjukkan kemampuan keamanan siber di luar perkiraan. Selain itu, serangkaian intervensi pemerintah AS yang improvisasi menunjukkan perlunya kerangka regulasi yang lebih terstruktur.
3. Siapa yang mendukung proposal ini?
Proposal ini didukung oleh Sam Altman (OpenAI), Elon Musk, Satya Nadella (Microsoft), dan Sundar Pichai (Google). Ini menandai momen langka di mana para pesaing industri setuju.
4. Apa kritik terhadap proposal ini?
Kritik utama adalah bahwa regulasi mandiri oleh industri yang diatur tidak akan efektif. Ada juga kekhawatiran bahwa fokus pada keamanan nasional AS akan mengasingkan negara lain.
5. Kapan badan ini diharapkan mulai beroperasi?
Hassabis berharap badan ini dapat mulai beroperasi pada akhir 2026, meskipun ini menghadapi tantangan politik yang signifikan.
Kesimpulan
Proposal Demis Hassabis untuk badan standar AI global adalah langkah berani yang mencerminkan kekhawatiran mendalam tentang risiko AI frontier dan AGI yang semakin dekat. Meskipun mendapat dukungan luas dari pemimpin industri, proposal ini menghadapi tantangan implementasi yang signifikan—baik dari segi politik maupun keraguan tentang efektivitas self-regulation. Pertanyaan yang tersisa adalah apakah industri dapat mengatasi konflik kepentingan inheren dan menciptakan regulator yang benar-benar independen, atau apakah ini hanya akan menjadi upaya lain untuk mengatur diri sendiri dengan cara yang menguntungkan perusahaan besar.
Baca
Sumber dan Referensi
Berikut adalah daftar sumber resmi dan referensi yang digunakan dalam penulisan artikel ini:
- BBC – DeepMind boss calls for global AI watchdog inspired by Wall St
- CNBC – DeepMind CEO proposes global AI watchdog modeled after FINRA
- The Guardian – Demis Hassabis proposes global AI watchdog
- Financial Times – DeepMind's Hassabis calls for global AI standards body
- The New York Times – DeepMind Leader Proposes Global AI Watchdog
- WIRED – DeepMind's Demis Hassabis Wants a Global AI Watchdog
- Nature – AI leaders back global standards body proposal