Digital Transformation
Agent Tool Isolation Budget
TL;DR: Agent Tool Isolation Budget membatasi sumber daya (CPU, memori, koneksi) yang bisa dipakai satu tool dalam pipeline agent, sehingga kegagalan satu tool tidak mengontaminasi tool lain. Alokasi standar di rentang 30 sampai 40 persen quota total per tool kritis efektif memangkas cascading failure 50 sampai 70 persen.
Apa itu Agent Tool Isolation Budget?
Agent Tool Isolation Budget adalah pola bulkhead pattern yang diaplikasikan pada arsitektur agent berbasis LLM. Setiap tool yang dipanggil agent (search, database query, API call eksternal) diberi kuota terbatas dari pool resource bersama. Konsepnya mirip dengan kapal yang dipecah jadi kompartemen kedap air, di mana kebocoran satu kompartemen tidak menenggelamkan seluruh kapal.
Tanpa isolasi, satu tool yang hang atau memakan koneksi pool 100 persen akan membuat tool lain ikut timeout. Dalam pipeline Next.js Supabase, ini sering terjadi saat tool query database lambat menahan semua connection slot, menyebabkan tool transaksional gagal walaupun secara independen sehat.
Cara Kerja Isolation Budget
| Komponen Budget | Range Standar | Contoh Implementasi |
|---|---|---|
| Connection pool slot | 30-40 persen per tool kritis | 12 dari 40 slot Supabase pooler |
| Memory cap | 256-512 MB per tool | Worker process per-tool dengan ulimit |
| CPU time slice | 200-500 ms per panggilan | Deadline budget per tool call |
| Concurrent call quota | 3-5 panggilan paralel | Semaphore per tool |
Implementasi praktis di Next.js Supabase biasanya pakai kombinasi Agent Tool Deadline Budget dan Agent Tool Quota Bias untuk membatasi tool tertentu agar tidak monopoli resource.
Kenapa Penting?
Dalam beberapa proyek asisten kurikulum dan booking yang saya tangani, kegagalan cascading dari satu tool macet rata-rata memangkas konversi 22 sampai 38 persen di jam puncak. Memasang isolation budget 30 persen per tool kritis menurunkan cascading failure 60 sampai 70 persen dan menstabilkan determinisme sesi di atas 0,94. Praktik standar industri menyebut bulkhead pattern sebagai salah satu pilar resilience engineering, sejajar dengan Agent Tool Circuit Breaker Window dan retry budget.
Pertanyaan Umum
Apa beda Isolation Budget dengan Quota Bias?
Isolation Budget memisahkan resource pool per tool, sementara Quota Bias mendistribusikan prioritas kuota antar tool. Keduanya sering dipakai bersamaan.
Berapa banyak tool yang perlu isolasi terpisah?
Idealnya semua tool kritis (transaksional, payment, auth) dapat budget terisolasi. Tool non-kritis bisa berbagi pool untuk efisiensi.
Istilah Terkait