Digital Transformation
Cold Start (Serverless)
TL;DR: Cold start adalah jeda yang muncul saat sebuah fungsi serverless dijalankan pertama kali atau setelah lama tidak dipakai. Platform harus boot container, load runtime, dan inisialisasi kode sebelum request bisa diproses. Tambahan latensinya berkisar 100 ms sampai 3 detik, tergantung runtime, ukuran bundle, dan region edge.
Apa itu Cold Start?
Cold start terjadi pada arsitektur serverless seperti AWS Lambda, Vercel Functions, Cloudflare Workers, atau Google Cloud Functions. Saat fungsi tidak menerima traffic dalam jangka tertentu (idle), platform mematikan instance untuk hemat resource. Ketika request berikutnya masuk, platform harus boot ulang. Jeda ini disebut cold start, lawan dari warm start (instance sudah hidup).
Contoh konkret: sebuah API route Next.js di Vercel Functions idle selama 30 menit. Request pertama setelahnya butuh 800 ms hanya untuk boot, padahal eksekusi kode sebenarnya 50 ms. Pengguna melihat halaman lambat di first impression, padahal kode tidak salah.
Faktor Penyebab Cold Start
| Faktor | Pengaruh |
|---|---|
| Runtime | Node.js lebih cepat dari Python; Cloudflare Workers (V8 isolate) hampir 0 ms |
| Ukuran bundle | Bundle 1 MB boot lebih lama dari 100 KB |
| Dependency berat | ORM, AWS SDK, Puppeteer menambah 200-1000 ms |
| Region | First invocation di region jauh lebih lambat |
| Memory allocation | Memory lebih besar dapat alokasi CPU lebih cepat di Lambda |
Cara Mengurangi Cold Start
Beberapa praktik standar industri: pindahkan logic ringan ke Edge Runtime (Cloudflare Workers atau Vercel Edge), bukan Node.js function. Edge runtime pakai V8 isolate dengan cold start mendekati 0 ms. Untuk fungsi yang harus pakai Node.js, kurangi bundle size lewat tree shaking, lazy import dependency berat, dan hindari import seluruh AWS SDK saat hanya butuh satu service. Cara lain: provisioned concurrency di AWS Lambda atau scheduled warm-up cron, walau ini menambah biaya.
Kenapa Penting?
Untuk website bisnis Indonesia yang melayani traffic organik, cold start memengaruhi LCP di halaman yang butuh API call awal. Saat membangun halaman dashboard di Atmo (LMS), saya pernah melihat cold start 1,2 detik di route checkout yang baru pertama kali diakses pagi hari. Setelah migrasi ke edge function, jadi 90 ms. Selisih ini langsung terasa di perceived performance.
Pertanyaan Umum
Apakah cold start bisa hilang sepenuhnya?
Hampir bisa di edge runtime (Cloudflare Workers, Vercel Edge). Untuk Node.js function di AWS Lambda, cold start tetap ada walau bisa dipersingkat hingga 100-200 ms.
Apakah pengguna merasakan cold start setiap kali buka website?
Tidak. Cold start cuma di request pertama setelah idle. Request berikutnya pakai instance yang sudah warm sampai idle lagi.