Digital Transformation
Agent Tool Deadlock Window
TL;DR: Agent Tool Deadlock Window adalah ambang waktu, biasanya 4 sampai 12 detik, saat dua atau lebih agent tool saling menunggu resource yang dipegang pihak lain. Setelah window habis, deadlock detector memutus salah satu tool dan mengembalikan error terkontrol. Tanpa window ini, sesi agent bisa menggantung total dan menghabiskan kuota inferensi.
Apa itu Agent Tool Deadlock Window?
Agent Tool Deadlock Window adalah mekanisme timeout dua-arah di orchestrator agent. Saat tool A menunggu lock dari tool B, dan tool B sedang menunggu lock dari tool A, sistem mendeteksi siklus dan menunggu maksimal selama window untuk satu pihak melepas. Jika tidak, sistem memilih korban berdasarkan prioritas lalu mengirim sinyal abort. Konsep ini mirip dengan deadlock detection di database transaksi, hanya saja resource yang dipertaruhkan adalah konteks LLM dan slot tool, bukan baris tabel.
Mekanismenya bekerja erat dengan Agent Tool Bulkhead Isolation dan [Agent Tool Circuit Breaker Window](/glosarium/agent-tool-circuit-breaker-window). Ketiganya merupakan lapisan defensif berbeda di pipeline agent.
Sweet Spot per Skenario
| Skenario | Window Tipikal |
|---|---|
| Tool transaksional (booking, payment) | 4 sampai 6 detik |
| Tool retrieval RAG | 6 sampai 9 detik |
| Tool batch background | 9 sampai 12 detik |
Window terlalu pendek memicu false positive (abort padahal lock segera lepas). Window terlalu panjang membuat sesi gagal terdeteksi terlambat dan kuota inferensi habis percuma.
Kenapa Penting?
Saat membangun asisten kurikulum di Atmo LMS, tim sempat mengalami sesi agent yang menggantung 30 detik karena tool retrieval dan tool quiz-generation saling menunggu resource embedding. Setelah dipasang deadlock window 6 detik, sesi gagal yang sebelumnya menyentuh 8 persen turun ke bawah 2 persen, dan kuota inferensi yang sebelumnya hangus tiap kali deadlock dapat dipangkas hampir 5 juta rupiah per bulan.
Pertanyaan Umum
Bagaimana cara memilih korban saat window habis?
Praktik standar memakai prioritas berbasis SLA: tool dengan SLA latency lebih ketat dipertahankan, tool background di-abort. Beberapa orchestrator memberi opsi LIFO atau random untuk skenario simetris.
Apakah deadlock window menggantikan circuit breaker?
Tidak. Deadlock window menangani siklus tunggu antar tool, sementara circuit breaker memutus tool yang gagal berulang ke layanan eksternal. Keduanya saling melengkapi.
Istilah Terkait