Digital Transformation
Context Window
Context window adalah batas maksimum teks yang bisa diproses model AI dalam satu permintaan. Mencakup prompt, instruksi, dokumen, dan jawaban.
TL;DR: Context window adalah jumlah maksimum token (potongan kata) yang dapat diproses model AI dalam satu sesi. Semakin besar context window, semakin banyak dokumen, instruksi, dan riwayat percakapan yang bisa dimasukkan sekaligus. Per April 2026, Claude Sonnet 4.6 memiliki context window 200 ribu token, sementara model premium tertentu mencapai 1 juta token.
Apa itu Context Window?
Context window adalah ruang kerja temporer model bahasa. Semua yang dikirim ke model, mulai dari instruksi sistem, prompt pengguna, dokumen referensi, hingga jawaban yang sedang dibangun, harus muat dalam batas ini. Saat batas terlampaui, bagian paling awal akan dilupakan atau permintaan ditolak.
Token bukan kata. Satu kata dalam bahasa Indonesia rata-rata 1,5 sampai 2,5 token. Artinya context window 200 ribu token kira-kira setara dengan 80 sampai 100 ribu kata. Untuk gambaran teknik input AI, lihat juga prompt engineering dan tokenization.
Implikasi Praktis untuk Marketer dan Developer
| Skenario | Context Window Disarankan |
|---|---|
| Chatbot FAQ singkat | 8 sampai 32 ribu token |
| Asisten penulisan blog | 32 sampai 128 ribu token |
| Analisis kontrak panjang | 200 ribu token ke atas |
| Pemrosesan kodebase besar | 1 juta token |
Context window besar memang berguna, tetapi makin besar input makin lambat dan mahal. Praktik standar di industri menunjukkan untuk sebagian besar tugas marketing harian, 32 sampai 128 ribu token sudah cukup. Strategi alternatif adalah memakai retrieval augmented generation untuk hanya mengambil potongan paling relevan.
Kenapa Penting?
Context window menentukan kompleksitas tugas yang bisa dikerjakan AI. Tim marketing yang ingin menganalisis ratusan iklan kompetitor sekaligus, atau developer yang ingin AI memahami struktur project utuh, perlu model dengan jendela besar. Bagi UMKM Indonesia, memilih model dengan context window cukup, bukan terbesar, akan menekan biaya inferensi sambil tetap menjaga kualitas jawaban.
Pertanyaan Umum
Apakah context window besar selalu lebih baik?
Tidak. Konteks lebih besar berarti biaya lebih tinggi dan respons lebih lambat. Untuk tugas spesifik seperti klasifikasi atau ringkasan singkat, context window kecil justru lebih efisien.
Apa yang terjadi jika input melebihi context window?
Permintaan akan ditolak atau bagian paling awal akan dipotong. API umumnya memberi pesan error eksplisit. Solusi praktis adalah memecah dokumen panjang atau memakai RAG.
Istilah Terkait