Digital Transformation
Token Cost (Biaya Token)
TL;DR: Token cost adalah cara model AI menagih penggunaan, dihitung dari jumlah token (potongan kata) pada input dan output. Memahami token cost penting agar fitur AI di produk atau alur kerja bisnis tetap hemat dan terukur.
Apa itu Token Cost?
Token cost adalah biaya yang muncul setiap kali Anda memakai model AI lewat API. Model tidak menghitung per kata, melainkan per token, yaitu potongan kata. Satu kata bahasa Indonesia bisa terdiri dari satu atau beberapa token. Biaya biasanya dipisah antara token input (teks yang Anda kirim) dan token output (teks yang dihasilkan model), dengan output umumnya lebih mahal. Konsep ini berkaitan erat dengan context window, karena semakin panjang konteks, semakin banyak token yang ditagih.
Komponen Biaya
| Komponen | Penjelasan |
|---|---|
| Token input | Prompt, instruksi, dan data yang dikirim ke model |
| Token output | Jawaban yang dihasilkan model |
| Konteks tambahan | Hasil tool calling atau dokumen yang diselipkan ikut dihitung |
Kenapa Penting?
Untuk bisnis yang membangun fitur berbasis AI, token cost menentukan apakah sebuah fitur layak secara ekonomi. Prompt yang bertele-tele atau konteks yang tidak diperlukan langsung menambah biaya di setiap pemanggilan. Dalam praktik membangun alur kerja AI, saya melihat penghematan signifikan hanya dengan merapikan prompt dan membatasi konteks ke yang relevan. Rincian harga resmi tiap model bisa dicek di dokumentasi penyedia, misalnya dokumentasi harga Anthropic.
Pertanyaan Umum
Bagaimana cara menghemat token cost?
Ringkas prompt, hapus konteks yang tidak perlu, dan gunakan model yang lebih kecil untuk tugas sederhana. Output yang lebih pendek juga menekan biaya.
Apakah satu token sama dengan satu kata?
Tidak persis. Rata-rata satu token setara sekitar 0,75 kata dalam bahasa Inggris. Bahasa Indonesia bisa berbeda tergantung tokenizer model.
Istilah Terkait