Digital Transformation
Rate Limit
TL;DR: Rate limit adalah batas jumlah permintaan yang boleh diterima sebuah API dalam rentang waktu tertentu, misalnya 100 request per menit. Tujuannya melindungi server dari kelebihan beban dan penyalahgunaan.
Apa itu Rate Limit?
Rate limit adalah aturan yang membatasi seberapa sering sebuah klien boleh memanggil API dalam jangka waktu tertentu. Analoginya seperti loket tiket yang hanya melayani sejumlah orang per jam agar antrean tetap teratur. Ketika batas terlampaui, server biasanya membalas dengan kode status 429 Too Many Requests.
Konsep ini erat kaitannya dengan rate limiting sebagai mekanisme penegakannya, dan sering dipasangkan dengan autentikasi seperti JWT untuk menghitung kuota per pengguna, bukan per alamat IP saja.
Cara Kerja
| Metode | Cara membatasi |
|---|---|
| Fixed window | Reset hitungan tiap interval tetap (misal tiap menit) |
| Sliding window | Menghitung berdasarkan jendela waktu bergerak |
| Token bucket | Klien punya jatah token yang terisi ulang perlahan |
Kenapa Penting?
Bagi developer dan marketer yang mengandalkan integrasi pihak ketiga, memahami rate limit mencegah kegagalan saat traffic melonjak. Dalam beberapa proyek integrasi yang saya tangani, mengabaikan header sisa kuota membuat sinkronisasi data terputus di jam sibuk. Membaca header seperti Retry-After dan menerapkan jeda otomatis adalah praktik dasar yang menghemat banyak waktu debugging.
Pertanyaan Umum
Apa arti error 429?
Kode 429 Too Many Requests berarti Anda melampaui rate limit. Tunggu sesuai nilai header Retry-After sebelum mencoba lagi.
Bagaimana cara menghindari kena rate limit?
Terapkan caching, kurangi panggilan berulang, dan gunakan exponential backoff saat menerima respons 429.