Digital Transformation
Agent Tool Checkpoint Budget
TL;DR: Agent Tool Checkpoint Budget adalah kuota snapshot state yang boleh disimpan agent per sesi, umumnya 2 sampai 5 checkpoint, dipakai untuk replay aman saat tool call gagal tanpa mengulang seluruh sesi. Budget yang sehat memangkas biaya inferensi 25 sampai 45 persen karena agent hanya replay dari titik terakhir, bukan dari awal sesi.
Apa itu Agent Tool Checkpoint Budget?
Agent Tool Checkpoint Budget adalah batas berapa kali agent boleh menyimpan snapshot state lengkap (context window + tool history) dalam satu sesi. Tanpa budget eksplisit, agent yang panjang akan menumpuk checkpoint sampai storage membengkak atau replay jadi mahal karena harus rekonstruksi dari titik paling awal. Konsep ini berkerabat dengan Agent Tool Replay Budget tetapi fokus di sisi penyimpanan snapshot, bukan jumlah replay.
Analogi sederhananya seperti save point di game RPG. Kamu tidak menyimpan setiap langkah karakter, hanya di titik strategis sebelum boss fight. Saat gagal, kamu load dari save point terdekat, bukan dari menu utama.
Cara Menentukan Budget yang Sehat
| Jenis sesi | Checkpoint Budget | Trigger snapshot |
|---|---|---|
| Sesi pendek (di bawah 5 tool call) | 2 checkpoint | Sebelum tool transaksional |
| Sesi sedang (5 sampai 15 tool call) | 3 sampai 4 checkpoint | Sebelum tool eksternal + setelah handoff |
| Sesi panjang (di atas 15 tool call) | 5 checkpoint | Adaptif, pakai Agent Tool Snapshot Budget sebagai pengontrol |
Praktik standar di industri menempatkan checkpoint sebelum tool yang mahal (pembayaran, kirim email, write DB) supaya rollback aman tanpa double charge.
Kenapa Penting?
Untuk marketer Indonesia yang pasang asisten transaksional di Next.js atau Supabase, Checkpoint Budget yang ketat mencegah dua masalah sekaligus: storage cost yang membengkak (snapshot bisa 8 sampai 14 KB per item) dan replay yang lambat karena harus rekonstruksi dari titik awal sesi. Berdasarkan praktik di beberapa proyek client, budget 3 checkpoint memangkas storage Supabase 32 persen sekaligus mempercepat replay dari rata-rata 1,4 detik ke 380 ms.
Pertanyaan Umum
Apa beda Checkpoint Budget dengan Replay Budget?
Checkpoint Budget mengatur jumlah snapshot yang disimpan. Replay Budget mengatur berapa kali agent boleh memutar ulang dari snapshot. Keduanya komplementer, bukan substitusi.
Apakah lebih banyak checkpoint selalu lebih aman?
Tidak. Di atas 5 checkpoint per sesi, kurva manfaat datar sementara biaya storage dan latensi load tetap naik linier. Optimal di 2 sampai 5 tergantung panjang sesi.
Istilah Terkait