PBB Luncurkan Inisiatif Kepercayaan AI Agent Melalui ITU di Jenewa

Badan digital PBB, International Telecommunication Union (ITU), resmi meluncurkan inisiatif global untuk membangun kepercayaan pada AI agent pada 9 Juli 2026. Inisiatif ini diumumkan di ajang AI for Good Summit di Jenewa dan akan membentuk Focus Group untuk merumuskan standar identitas dan akuntabilitas sistem AI otonom.

Lead

International Telecommunication Union (ITU), badan PBB yang bertanggung jawab atas teknologi digital, meluncurkan inisiatif baru pada 9 Juli 2026 untuk memastikan AI agent tetap dapat dipercaya. Langkah ini diumumkan di AI for Good Summit di Jenewa, di tengah kekhawatiran bahwa sistem AI yang semakin otonom bergerak lebih cepat dari kemampuan kita untuk mempercayainya.

ITU PBB mengumumkan inisiatif kepercayaan AI agent di AI for Good Summit Jenewa dengan fokus pada identitas digital dan akuntabilitas

Ilustrasi AI

AI agent adalah generasi baru sistem kecerdasan buatan yang dirancang untuk bertindak secara mandiri atas nama pengguna. Mereka dapat melakukan berbagai tugas, mulai dari menjadwalkan pertemuan hingga mengelola proses bisnis yang kompleks. Namun, kemampuan ini juga membawa risiko: AI agent dapat menyamar sebagai manusia, mengambil keputusan yang tidak diotorisasi, dan mengurangi kendali manusia atas proses-proses kritis.

Inisiatif ITU ini bertujuan untuk mengatasi risiko tersebut dengan menciptakan kerangka kerja yang memastikan AI agent dapat diidentifikasi, dipercaya, dan tetap berada di bawah kendali manusia yang bermakna.

Ringkasan Berita

ITU PBB meluncurkan Focus Group on Trust and Identity for Humans and Agentic AI di AI for Good Summit Jenewa pada 9 Juli 2026. Group ini akan mengembangkan kerangka kerja untuk identitas digital dan perilaku AI agent yang dapat dipercaya. Fokus pada memastikan AI agent tetap teridentifikasi, akuntabel, dan di bawah kendali manusia, terutama di sektor keuangan dan infrastruktur kritis. Pertemuan pertama direncanakan di Paris pada November 2026, dan pertemuan kedua di Jenewa pada Januari 2027.

Penjelasan Lengkap

Apa Itu AI Agent dan Mengapa Perlu Diatur?

AI agent adalah sistem AI yang tidak hanya menjawab pertanyaan, tetapi dapat bertindak secara mandiri untuk mencapai tujuan tertentu.

Perbedaan utama dengan chatbot biasa:

Chatbot Biasa	AI Agent
Hanya merespons pertanyaan	Bisa bertindak dan mengambil keputusan
Pasif	Proaktif dan otonom
Tidak bisa melakukan tugas lintas aplikasi	Bisa mengelola proses bisnis kompleks

Karena kemampuan ini, AI agent membawa risiko baru:

Impersonasi: AI agent bisa menyamar sebagai manusia atau organisasi
Keputusan tidak sah: AI agent bisa mengambil tindakan tanpa otorisasi
Kurangnya akuntabilitas: Sulit melacak siapa yang bertanggung jawab atas tindakan AI agent

Seperti yang dikatakan ITU Secretary-General Doreen Bogdan-Martin: "Masa depan AI bergantung pada kepercayaan. Saat AI menjadi lebih otonom, kita perlu bekerja sama lintas industri, pemerintah, akademisi, dan masyarakat sipil untuk memastikan kepercayaan terbesar pada sistem AI."

Focus Group: Mekanisme Standarisasi ITU

Alih-alih menerbitkan aturan yang mengikat, ITU memilih pendekatan yang lebih kolaboratif: membentuk Focus Group yang akan mengumpulkan para ahli untuk merumuskan rekomendasi sebelum standar formal ada.

Focus Group on Trust and Identity for Humans and Agentic AI ini akan menghadirkan para ahli dari berbagai bidang:

Ahli teknologi
Ahli kebijakan dan regulasi
Ahli hukum

Co-Chair Focus Group Debora Comparin menjelaskan: "AI agent akan segera bernegosiasi, bertransaksi, dan membuat keputusan atas nama kita. Sebelum masa depan itu menjadi kenyataan, kita membutuhkan fondasi internasional bersama yang menetapkan siapa agen-agen ini, kapan mereka dapat dipercaya, dan bagaimana manusia akan tetap mengendalikan. Itulah tantangan yang dibuat Focus Group ini untuk diatasi."

Co-Chair lainnya, Amir Banifatemi, menambahkan: "AI agent memperkenalkan kelas baru aktor digital yang akan semakin berkolaborasi dengan manusia dan satu sama lain. Identitas memberi tahu kita siapa yang bertindak, dan kepercayaan memberi tahu kita bagaimana aktor itu dapat diharapkan berperilaku. Menyatukan keduanya menciptakan fondasi bersama yang diperlukan untuk sistem AI yang interoperabel, akuntabel, dan terpercaya dalam skala global."

Apa yang Akan Dikerjakan Focus Group?

Focus Group ini akan mengembangkan:

Terminologi dan definisi bersama untuk AI agent
Arsitektur referensi untuk identitas, kepercayaan, penemuan agen, dan interoperabilitas
Kerangka kerja kepercayaan dan model siklus hidup (assurance)
Mekanisme interoperabilitas untuk identitas digital dan kredensial
Kriteria keamanan dan tolok ukur untuk penilaian berkelanjutan AI agent
Peta jalan standardisasi untuk mengoordinasikan tindakan di seluruh komunitas ahli

Focus Group akan melapor ke ITU-T Study Group 17, kelompok ahli ITU untuk standar keamanan.

Jadwal dan Target

ITU bergerak dengan sengaja tetapi juga cepat. Arnaud Taddei, Ketua Study Group 17, mengatakan: "Kami bergerak secara strategis dan cepat tetapi dengan sengaja meluangkan waktu untuk mendapatkan fondasi yang tepat. Kami tahu arahnya dan secara luas apa yang ingin kami bangun. Kami sekarang merakit kepemimpinan dan struktur yang tepat, dan AI for Good adalah tempat yang tepat di mana kami akan bertemu mitra yang ingin bergabung dengan kami."

Acara	Tanggal	Lokasi
Pertemuan Pertama	November 2026	Paris
Pertemuan Kedua	Januari 2027	Jenewa

Mengapa ITU dan Mengapa Sekarang?

ITU adalah badan yang sama yang selama puluhan tahun merumuskan standar di balik jaringan telepon, spektrum radio, dan infrastruktur internet—kesepakatan yang memungkinkan sistem dari berbagai negara berkomunikasi satu sama lain. Menerapkan mesin yang sama untuk AI agent adalah perpanjangan logis, meskipun kecepatan teknologi menguji batas-batasnya.

Waktu inisiatif ini juga penting. Industri telah menghabiskan tahun lalu menemukan bahwa keamanan agen sebagian besar belum terpecahkan, dengan banyak organisasi tidak dapat mengatakan berapa banyak agen yang mereka jalankan atau apa yang diizinkan dilakukan oleh masing-masing agen.

Inisiatif ITU bertujuan untuk mengatasi di tingkat standar internasional apa yang selama ini dilakukan perusahaan secara improvisasi di dalam perusahaan.

Latar Belakang

Kekosongan Kepercayaan dan Fragmentasi Regulasi

Inisiatif ITU ini muncul dari pengakuan bahwa AI agent bergerak lebih cepat dari kemampuan siapa pun untuk mempercayainya.

Kekhawatiran ini tidak unik di Jenewa. Seluruh industri telah menghabiskan tahun lalu menyadari bahwa keamanan agen sebagian besar belum terpecahkan. Banyak organisasi bahkan tidak dapat mengatakan berapa banyak agen yang mereka jalankan atau apa yang diizinkan dilakukan oleh masing-masing agen.

Fragmentasi regulasi juga menjadi masalah nyata. Yurisdiksi yang berbeda menulis aturan yang tidak kompatibel untuk teknologi yang sama, sering kali pada waktu yang sama:

China telah mengeluarkan standar nasional tentang bagaimana agen mengidentifikasi diri dan berinteraksi
Uni Eropa memiliki pendekatan yang berbeda melalui AI Act
AS mengambil pendekatan sukarela melalui perintah eksekutif Trump

ITU, sebagai badan PBB, berupaya menyelaraskan bidang ini—sebuah pengakuan bahwa tambal sulam saat ini tidak dapat diskalakan.

Keterbatasan Inisiatif Ini

ITU menetapkan standar, tetapi tidak menegakkannya. Pengaruhnya tergantung pada apakah industri dan pemerintah memilih untuk mengadopsi apa yang dihasilkannya.

Ada juga batasan inheren dari pendekatan focus group: ini adalah instrumen yang lambat, sementara AI agent adalah target yang bergerak cepat. Antara November dan apa pun yang akhirnya direkomendasikan kelompok itu, teknologi akan terus berkembang, dan perusahaan yang menerapkannya akan menetapkan standar de facto mereka sendiri, seperti yang mereka lakukan dengan identitas agen.

Namun demikian, standardisasi adalah tempat interoperabilitas cenderung berasal, dan identitas adalah jenis masalah yang diuntungkan dari bahasa teknis bersama. Jika agen dari vendor yang berbeda akan bertransaksi satu sama lain dan dengan manusia, beberapa cara umum untuk membuktikan apa itu agen dan kepada siapa ia bertanggung jawab harus ada. ITU bertaruh bahwa mereka dapat membantu menulis tata bahasa itu sebelum pasar mengunci sesuatu yang lebih buruk.

Dampak bagi Masyarakat, Industri, dan Pengguna

Bagi Pengguna Akhir

Inisiatif ini bertujuan untuk melindungi pengguna dari risiko AI agent, seperti:

AI agent yang menyamar sebagai manusia
Keputusan yang diambil tanpa otorisasi pengguna
Kurangnya transparansi tentang siapa yang bertanggung jawab

Bagi Perusahaan dan Developer

Perusahaan yang mengembangkan AI agent akan memiliki pedoman yang lebih jelas tentang cara membangun sistem yang dapat dipercaya. Ini dapat membantu:

Mengurangi risiko hukum dan reputasi
Mempercepat adopsi dengan membangun kepercayaan pengguna
Memastikan interoperabilitas antar sistem dari vendor berbeda

Namun, sampai standar final diterbitkan—dan diadopsi—perusahaan masih harus menavigasi lanskap yang tidak pasti.

Bagi Industri Secara Keseluruhan

Jika berhasil, inisiatif ini dapat menjadi preseden penting untuk tata kelola AI global. ITU telah berhasil merumuskan standar untuk teknologi transformatif lainnya (telepon, radio, internet). Menerapkan pendekatan yang sama untuk AI agent dapat membantu menciptakan fondasi bersama untuk ekosistem AI global.

Analisis: Mengapa Ini Penting

Langkah Awal yang Berani

Inisiatif ITU ini adalah langkah pembuka. Belum ada standar yang diterbitkan, belum ada perusahaan yang berkomitmen pada apa pun, dan pertemuan pertama masih berbulan-bulan lagi.

Namun, apa yang telah dilakukan ITU adalah menanamkan bendera pada masalah yang selama ini ditunda oleh industri, dan mengundang semua orang ke meja sebelum sistem otonom mulai menentukan sendiri aturannya.

Dari Prinsip ke Protokol

Inisiatif ini mencerminkan pergeseran dari "tata kelola AI berbasis prinsip" ke pendekatan yang lebih operasional. Seperti yang diserukan XRSI dalam intervensi formalnya ke Dialog Global PBB tentang Tata Kelola AI: "Trust must be measurable, enforceable, and continuous."

Artinya, tidak cukup lagi hanya memiliki prinsip etika. Diperlukan protokol teknis, sistem verifikasi, dan mekanisme penegakan.

Penutup

Peluncuran inisiatif ITU untuk kepercayaan AI agent menandai langkah penting dalam tata kelola AI global. Di tengah kekhawatiran bahwa AI agent bergerak lebih cepat dari kemampuan kita untuk mempercayainya, ITU membentuk Focus Group yang akan merumuskan standar identitas dan akuntabilitas.

Inisiatif ini adalah pengakuan bahwa tambal sulam regulasi saat ini tidak dapat diskalakan, dan bahwa diperlukan fondasi bersama untuk memastikan AI agent tetap dapat diidentifikasi, dipercaya, dan berada di bawah kendali manusia.

Meskipun masih terlalu dini untuk menilai efektivitasnya—pertemuan pertama baru akan diadakan di Paris pada November 2026—langkah ini memberikan harapan bahwa komunitas global dapat bekerja sama untuk mengatur teknologi yang bergerak cepat ini. Seperti yang dikatakan ITU: "The consensus we build while developing ITU standards creates the clarity we need for new innovation ecosystems to grow."

FAQ

1. Apa itu inisiatif kepercayaan AI agent dari PBB?

Inisiatif ini adalah upaya ITU (badan digital PBB) untuk mengembangkan kerangka kerja dan standar bagi AI agent. Tujuannya memastikan AI agent tetap dapat diidentifikasi, dipercaya, dan berada di bawah kendali manusia yang bermakna.

2. Mengapa AI agent dianggap berisiko?

AI agent dapat bertindak secara mandiri atas nama pengguna. Risikonya termasuk impersonasi (menyamar sebagai manusia), pengambilan keputusan tanpa otorisasi, dan kurangnya akuntabilitas atas tindakan yang diambil.

3. Apa itu Focus Group yang dibentuk ITU?

Focus Group adalah mekanisme ITU untuk mengumpulkan para ahli sebelum standar formal ada. Focus Group on Trust and Identity for Humans and Agentic AI akan merumuskan rekomendasi tentang identitas, kepercayaan, dan akuntabilitas AI agent.

4. Kapan Focus Group akan bertemu?

Pertemuan pertama dijadwalkan di Paris pada November 2026, dan pertemuan kedua di Jenewa pada Januari 2027.

5. Apakah standar ini bersifat mengikat?

Tidak. ITU menetapkan standar, tetapi tidak menegakkannya. Pengaruhnya tergantung pada apakah industri dan pemerintah memilih untuk mengadopsi standar yang dihasilkan.

6. Apa hubungan inisiatif ini dengan Dialog Global PBB tentang Tata Kelola AI?

Inisiatif ITU ini merupakan bagian dari upaya PBB yang lebih luas dalam tata kelola AI, yang juga mencakup Dialog Global tentang Tata Kelola AI (yang pertama kali diadakan di Jenewa pada Juli 2026) dan Panel Ilmiah Internasional tentang AI.

Kesimpulan

ITU PBB telah meluncurkan inisiatif penting untuk membangun kepercayaan pada AI agent. Dengan membentuk Focus Group on Trust and Identity for Humans and Agentic AI, ITU berupaya menciptakan fondasi bersama untuk identitas dan akuntabilitas sistem AI otonom.

Inisiatif ini muncul di saat yang kritis: AI agent semakin otonom dan bergerak lebih cepat dari kemampuan kita untuk mempercayainya. Tanpa standar bersama, risiko impersonasi, keputusan tidak sah, dan kurangnya akuntabilitas akan terus tumbuh.

Baca

• Micron Tingkatkan Investasi Menjadi US$250 Miliar untuk Infrastruktur AI

• Google Finance Resmi Hadir sebagai Aplikasi Android, Saingi Yahoo Finance dengan AI

• OpenAI Jadikan ChatGPT Platform Kerja Terpadu, Saingi Microsoft dan Google

Sumber dan Referensi

Berikut adalah daftar sumber resmi dan referensi yang digunakan dalam penulisan artikel ini:

ITU PBB meluncurkan inisiatif global untuk membangun kepercayaan pada AI agent pada 9 Juli 2026. Focus Group on Trust and Identity for Humans and Agentic AI akan merumuskan kerangka kerja identitas, kepercayaan, dan akuntabilitas. Pertemuan pertama di Paris November 2026 dan kedua di Jenewa Januari 2027.

Younara

Cari Blog Ini