Kecerdasan Buatan
Microsoft Rilis Guardian Agents, AI Pengawas untuk Agen AI di Kantor
Microsoft merilis Guardian Agents dan fitur keamanan baru yang memperlakukan agen AI seperti orang dalam. Ini isi pengumumannya, cara kerja izin dinamis, daftar
Microsoft mengumumkan rangkaian fitur keamanan baru untuk agen AI pada 19 Oktober 2026 waktu AS, atau Senin malam WIB. Yang paling banyak dibicarakan adalah Guardian Agents, yaitu agen AI yang tugasnya mengawasi agen AI lain di dalam perusahaan. Ini adalah bagian dari Project Perception, platform keamanan Microsoft yang pertama kali diperkenalkan pada Juni lalu.
Pengumuman ini menarik karena nadanya cukup keras. Microsoft secara terbuka menyebut agen AI sebagai "orang dalam" yang bisa berisiko, mirip karyawan yang punya akses ke data penting. Artikel ini akan menjelaskan apa saja yang dirilis, bagaimana cara kerja izin dinamis untuk agen, agen apa saja yang kini bisa dideteksi, bagaimana reaksi warganet, serta apa artinya bagi perusahaan dan developer di Indonesia.
Kenapa Microsoft menyebut agen AI sebagai orang dalam
Agen AI sekarang tidak cuma menjawab pertanyaan. Agen bisa menulis kode, membaca email, memproses klaim biaya, sampai mengubah data di sistem perusahaan. Supaya berguna, agen butuh akses ke data, aplikasi, dan alat kerja. Akses inilah yang menurut Microsoft membawa risiko baru.
Kepala bisnis keamanan Microsoft, Hayete Gallot, menulis kalimat yang langsung dikutip banyak media: model frontier, dari mana pun asalnya, tidak bisa dipercaya. Gallot menegaskan alasannya bukan karena model itu jahat atau mudah diretas, tetapi karena perilakunya sulit ditebak. Model dilatih untuk menyelesaikan tugas, bukan untuk mengikuti norma dan pertimbangan organisasi.
Beberapa alasan yang disebut Microsoft dalam pengumumannya:
- Agen bisa salah langkah, karena output model bisa berbeda-beda untuk input yang mirip.
- Agen bisa dimanipulasi, misalnya lewat prompt injection yang diselipkan di dokumen dari luar.
- Agen bisa diambil alih kalau sistem di sekitarnya dibobol.
- Agen bekerja terus-menerus dengan kecepatan mesin, jadi kesalahan kecil bisa cepat membesar.
CEO Microsoft Satya Nadella merangkum prinsipnya dalam satu kalimat: pasokan kecerdasan harus dipisahkan dari wewenang atas kecerdasan itu. Artinya, aturan soal apa yang boleh diakses dan dilakukan agen harus berada di luar model, di tempat yang tidak bisa diakali atau diubah oleh model itu sendiri.

Nadella juga menulis bahwa sistem agen yang paling bisa dipercaya bukan yang modelnya paling dipercaya, melainkan yang dirancang supaya model bisa dipercaya sesedikit mungkin. Ini cara pandang yang mirip dengan prinsip Zero Trust untuk karyawan manusia.
Catatan: TechCrunch menyoroti bahwa sikap ini cukup unik, karena Microsoft adalah investor di OpenAI dan Anthropic. Di sisi lain, Microsoft juga jelas ingin perusahaan membeli produk pengaman agen dari Microsoft, bukan dari pembuat modelnya.
Isi pengumuman Project Perception yang baru
Project Perception awalnya hadir dengan tiga kelompok agen keamanan: tim merah yang berperan sebagai peretas, tim biru yang mendeteksi serangan dan menilai celah, serta tim hijau yang memperbaikinya. Saat itu fokusnya adalah ancaman dari luar, sebagai jawaban atas model peretas kuat seperti Mythos dan Fable dari Anthropic serta Daybreak dari OpenAI.
Kini Microsoft memperluas Project Perception untuk menjaga dari ancaman di dalam, yaitu agen milik perusahaan sendiri. Sistem ini juga berbagi sinyal dan daftar agen dengan Microsoft Agent 365, jadi tim IT dan tim keamanan melihat data yang sama.

Microsoft membagi pekerjaan pengamanan agen menjadi empat tugas yang berjalan bersamaan:
- Kenali (Know): tahu agen apa saja yang ada, siapa pemiliknya, untuk apa dibuat, dan sedang mengerjakan apa.
- Batasi (Contain): atur apa yang boleh diakses dan dilakukan agen sebelum agen bertindak.
- Lindungi (Protect): amankan data, alat, runtime, dan sistem yang dilewati agen.
- Sesuaikan (Adapt): ubah perlindungan secara terus-menerus saat perilaku dan risiko agen berubah.
Daftar fitur baru yang diumumkan dalam paket ini:
- Guardian Agents dan Playbooks di Project Perception.
- Dynamic Permissions, izin agen yang dibatasi per tugas dan per waktu.
- Dynamic Agent Risk, skor risiko agen yang terus diperbarui.
- Dynamic Conditional Access untuk agen di Microsoft Entra.
- Deteksi 35 jenis agen lokal tambahan, sehingga totalnya menjadi 60.
- Perluasan Microsoft Entra Agent ID untuk agen lokal dan agen yang sebelumnya tidak dikenal.
Claude Code, Codex, dan 58 agen lain kini terdeteksi
Masalah pertama di banyak kantor adalah tim keamanan tidak tahu agen apa saja yang dipakai karyawan. Ada agen yang dibuat lewat platform Microsoft, ada yang lewat platform partner, dan ada juga yang dipasang sendiri oleh karyawan di laptop tanpa izin tim IT.
Microsoft kini memperluas kemampuan deteksi dengan 35 jenis agen lokal baru, sehingga totalnya mencapai 60 jenis agen. Beberapa nama yang disebut langsung adalah:
- Claude Code dari Anthropic
- OpenAI Codex
- GitHub Copilot
- OpenClaw, yang disebut TechCrunch dalam laporannya
Agen yang ditemukan lalu bisa dimasukkan ke satu daftar terpusat. Dari situ tim keamanan bisa melihat siapa pemilik agen, apa aktivitasnya, dan seberapa besar risikonya.
Langkah berikutnya adalah memberi setiap agen identitas sendiri lewat Microsoft Entra Agent ID, terpisah dari identitas karyawan yang memakainya. Dengan cara ini, sistem bisa membedakan mana yang dikerjakan karyawan dan mana yang dikerjakan agen atas nama karyawan itu. Microsoft menambah tipe identitas baru supaya agen lokal yang ditemukan sensor keamanan juga bisa langsung dikenai aturan, walaupun agen itu awalnya tidak terhubung ke Microsoft Security.
Tips: Buat tim IT, poin ini yang paling praktis. Sebelum bicara soal izin, langkah pertama memang mendata dulu agen apa saja yang sudah terpasang di laptop karyawan.
Cara kerja izin dinamis untuk agen
Selama ini banyak agen langsung mewarisi semua akses milik penggunanya. Kalau karyawan punya akses ke folder keuangan, agen yang ia jalankan juga ikut bisa membuka folder itu. Microsoft ingin mengubah kebiasaan ini.
Lewat Dynamic Permissions, agen dimulai tanpa izin sama sekali, lalu hanya diberi akses yang dibutuhkan untuk tugas yang sedang dikerjakan. Aturannya kira-kira seperti ini:
- Kebijakan organisasi menjadi batas paling luar, termasuk melarang agen punya wewenang lebih besar dari penggunanya.
- Izin dibatasi per tugas, bukan izin permanen.
- Izin punya batas waktu, dan bisa dikurangi atau dicabut saat tugas berubah atau selesai.
- Tindakan berdampak besar bisa diwajibkan mendapat persetujuan manusia yang terverifikasi.
Selain izin, Microsoft juga membatasi tempat agen berjalan. Model dan harness agen dijalankan di dalam sandbox seperti Microsoft Execution Container (MXC). Tujuannya supaya kalau agen atau harness-nya dibobol, agen tidak bisa mematikan sistem yang sedang mengawasinya.
Baca juga Cek Tulisan AI atau Bukan Gratis: Seberapa Akurat Hasilnya?
Akses agen ke alat juga diawasi. Agen tidak bebas memanggil API, server MCP (Model Context Protocol), atau agen lain yang ia temukan. Sistem keamanan ikut memeriksa isi data yang keluar masuk, termasuk apakah ada data dari luar yang tidak tepercaya dan berpotensi memengaruhi perilaku agen.
Skor risiko yang terus berubah
Izin yang ketat saja belum cukup. Microsoft memberi contoh agen persetujuan klaim biaya. Agen ini mulai bekerja dengan akses yang benar, lalu membaca dokumen dari luar yang ternyata berisi prompt injection. Pengaturan agen tidak berubah, tetapi perilaku dan risikonya berubah.
Untuk itu Microsoft memperkenalkan Dynamic Agent Risk. Skor risiko ini menggabungkan sinyal dari identitas, data, perangkat, cloud, jaringan, runtime, dan aktivitas agen itu sendiri. Skornya tidak ditetapkan sekali saat agen dibuat, tetapi terus diperbarui selama agen bekerja.

Microsoft juga akan memakai sinyal dari dalam model, seperti chain-of-thought atau jejak penalaran, untuk mendeteksi saat rencana agen mulai melenceng dari tugas yang diberikan. Meski begitu, Microsoft menegaskan keputusan keamanan tetap diambil oleh sistem terpisah, bukan oleh model.
Saat skor risiko naik, Dynamic Conditional Access di Microsoft Entra mengambil tindakan secara bertahap, bukan langsung mematikan agen. Urutannya kira-kira seperti diagram berikut.
flowchart LR
A[Agen bekerja normal] --> B{Risiko naik?}
B -- Tidak --> A
B -- Sedikit --> C[Kurangi izin<br/>hanya boleh baca]
B -- Sedang --> D[Batasi data dan jaringan<br/>wajib persetujuan manusia]
B -- Tinggi --> E[Isolasi runtime<br/>hentikan agen]Dengan pendekatan ini, karyawan tetap bisa bekerja, sementara agen yang mulai mencurigakan dibatasi tanpa harus dimatikan untuk setiap perubahan kecil.
Guardian Agents, agen yang mengawasi agen
Di perusahaan besar, jumlah agen bisa mencapai ribuan bahkan ratusan ribu. Tim keamanan jelas tidak sanggup memeriksa setiap peringatan secara manual. Karena itu Microsoft membuat pengamanan agen juga dikerjakan oleh agen.
Pembagian tugasnya seperti ini:
- Manusia menentukan kebijakan, batas persetujuan, dan aturan delegasi.
- Playbooks menentukan hasil keamanan yang diinginkan dan mengatur langkah perlindungan.
- Guardian Agents menjalankan pekerjaannya dengan kecepatan mesin.
Guardian Agents bisa membantu menjelaskan kenapa risiko sebuah agen berubah, menyelidiki bukti yang relevan, menyarankan atau langsung menerapkan pembatasan, lalu memakai temuan itu untuk memperketat kebijakan. Microsoft menegaskan ini bukan soal menyerahkan keputusan ke mesin. Tujuan dan keputusan penting tetap dipegang manusia.
Microsoft juga menyebut dirinya sebagai Customer Zero, yaitu pengguna pertama produk ini. Menurut Terrell Cox, Deputy CISO Microsoft, perusahaan itu sudah mengelola ratusan ribu agen secara internal. Pelajaran dari pengalaman itulah yang dipakai untuk merancang fitur-fitur baru ini.
Catatan: Dalam pengumumannya, Microsoft belum merinci harga atau jadwal ketersediaan tiap fitur. Microsoft mengarahkan pembaca untuk mengikuti informasi lanjutan di acara Microsoft Ignite.
Reaksi warganet di X
Pengumuman ini cukup ramai di X sejak Senin malam WIB. Unggahan akun TFTC yang mengutip kalimat "frontier models, regardless of their origin, cannot be trusted" dilihat lebih dari 2.500 kali dalam beberapa jam. Ringkasan dalam bahasa Jepang dan Korea juga bermunculan, tanda topik ini menarik perhatian di luar AS.
Beberapa reaksi yang muncul:
- Nada bercanda soal agen yang kini punya "petugas pengawas" berupa agen lain.
- Sorotan soal izin dan dompet. Seorang pengguna mengaitkannya dengan kasus kebocoran API key OpenCode di hari yang sama, ketika sebagian developer kena tagihan lebih dari US$1.000. Menurutnya, masalah agen AI tahun 2026 bukan soal kecerdasan, tetapi soal izin dan dompet.
- Pertanyaan soal siapa yang mengawasi pengawas. Ada yang menilai bagian paling penting adalah siapa yang memegang kunci Guardian Agents itu sendiri.
- Sorotan angka deteksi yang naik dari 25 menjadi 60 jenis agen, termasuk Claude Code dan Codex.
Tren ini juga tidak hanya datang dari Microsoft. TechCrunch mencatat Microsoft termasuk anggota awal Open Agent Safety Platform milik Nvidia yang didukung lebih dari 100 perusahaan teknologi. Platform itu mengisolasi agen di lingkungan aman dan bisa menghentikan perilaku agen lewat perangkat keras, mirip tombol darurat.
Buat perusahaan dan developer di Indonesia
Fitur-fitur ini menyasar perusahaan yang memakai ekosistem Microsoft, terutama Microsoft Entra, Microsoft Defender, dan Microsoft Agent 365. Banyak perusahaan, bank, dan instansi di Indonesia sudah memakai Microsoft 365 dan Entra ID, jadi pengumuman ini cukup relevan untuk tim IT di sini.
Hal praktis yang perlu diperhatikan:
- Cek lisensi yang dimiliki. Fitur seperti Conditional Access untuk agen terkait dengan Microsoft Entra, jadi tim IT perlu memastikan paket lisensi yang dipakai perusahaan.
- Data agen tetap data pribadi. Kalau agen membaca data pelanggan, aturan UU Pelindungan Data Pribadi tetap berlaku. Pembatasan izin agen membantu menunjukkan bahwa akses data dikendalikan dengan baik.
- Jangan tunggu fitur Microsoft untuk mulai. Prinsip dasarnya bisa diterapkan sekarang, misalnya memberi agen API key terpisah dan akses seminimal mungkin.
- Developer yang memakai Claude Code atau Codex di laptop kantor sebaiknya siap kalau nanti alat itu muncul di dasbor tim keamanan. Ini bukan berarti dilarang, tetapi pemakaiannya akan lebih terlihat.
- Pasang batas biaya. Kasus tagihan membengkak karena API key bocor menunjukkan bahwa batas pemakaian sama pentingnya dengan batas izin.
Peringatan: Agen yang diberi akses penuh ke email, drive, dan sistem keuangan sekaligus adalah sasaran empuk prompt injection. Lebih aman memecah tugas dan memberi izin sesuai kebutuhan tiap tugas.
Checklist
- Data semua agen AI yang dipakai karyawan, termasuk yang dipasang sendiri di laptop
- Pastikan setiap agen punya pemilik dan tujuan yang jelas
- Pisahkan API key dan akun agen dari akun pribadi karyawan
- Beri izin seminimal mungkin dan batasi waktunya
- Wajibkan persetujuan manusia untuk tindakan berdampak besar
- Pasang batas biaya dan pantau tagihan API secara rutin
- Ikuti pengumuman lanjutan Microsoft soal harga dan ketersediaan
Poin penting
- Microsoft merilis Guardian Agents di Project Perception untuk mengawasi agen AI di perusahaan.
- Microsoft menyebut model frontier tidak bisa dipercaya, karena perilakunya sulit ditebak.
- Deteksi agen lokal naik menjadi 60 jenis, termasuk Claude Code, Codex, dan GitHub Copilot.
- Dynamic Permissions membuat agen mulai tanpa izin, lalu diberi akses per tugas dan per waktu.
- Dynamic Agent Risk dan Dynamic Conditional Access membatasi agen secara bertahap saat risikonya naik.
- Harga dan jadwal ketersediaan tiap fitur belum dirinci.
Referensi
- Microsoft Security Blog (2026). Agents are your newest insiders. Security must move at their speed.
- The Official Microsoft Blog (2026). Securing the agentic insider.
- TechCrunch (2026). Microsoft says AI agents are like insider threats as 'frontier models can't be trusted'.
- Microsoft Learn (2026). Microsoft Entra Agent ID documentation.
- Microsoft Learn (2026). Conditional Access for Agents in Microsoft Entra.
- SiliconANGLE (2026). Microsoft targets the 'agentic insider' with new controls for rogue AI agents.
- TFTC di X (2026). Microsoft just published "Securing the Agentic Insider".
- AGTP di X (2026). Microsoft just expanded Project Perception to treat AI agents as insider threats.
Pertanyaan Umum
Guardian Agents dari Microsoft itu untuk apa?
Kenapa Microsoft bilang model AI tidak bisa dipercaya?
Agen AI apa saja yang bisa dideteksi Microsoft?
Bagaimana cara kerja Dynamic Permissions?
Berapa harga Guardian Agents dan kapan tersedia?
Apakah fitur ini relevan untuk perusahaan di Indonesia?
Kesimpulan
Pengumuman Guardian Agents menunjukkan arah baru dalam keamanan AI di kantor. Microsoft tidak lagi hanya bicara soal peretas dari luar, tetapi juga soal agen milik perusahaan sendiri yang bisa salah langkah, dimanipulasi, atau dibobol. Solusinya adalah memberi agen identitas sendiri, izin seminimal mungkin, skor risiko yang terus diperbarui, dan agen pengawas yang bekerja secepat agen yang diawasinya.
Harga dan jadwal ketersediaan memang belum jelas, tetapi prinsipnya sudah bisa diterapkan sekarang. Bagi perusahaan dan developer di Indonesia, langkah paling sederhana adalah mendata agen yang dipakai, memisahkan akses agen dari akun karyawan, dan memasang batas izin serta batas biaya sebelum agen diberi pekerjaan yang lebih penting.
Komentar (0)
Belum ada komentar. Jadilah yang pertama berbagi pendapat!
Tinggalkan komentar