Context window adalah jumlah token (potongan kata) yang bisa 'dilihat' sekaligus oleh model AI dalam satu sesi — termasuk prompt kamu, riwayat percakapan, dan dokumen yang di-upload. Begitu percakapan melebihi batas ini, bagian paling awal biasanya terpotong atau diringkas, dan model 'lupa' konteks itu.
Kenapa Ukurannya Penting
Model dengan context window kecil akan mulai kehilangan detail spesifik setelah beberapa putaran percakapan panjang — instruksi di awal chat bisa hilang begitu saja. Model modern seperti Claude sudah mendukung context window ratusan ribu token, cukup untuk memuat satu buku penuh sekaligus.
Context window besar tidak otomatis berarti model lebih pintar dalam menalar — itu cuma menentukan seberapa banyak informasi mentah yang bisa dipegang sekaligus, bukan seberapa baik model itu menggunakannya.
Context Window vs Memory
Banyak orang menyamakan context window dengan 'memori' AI, padahal keduanya beda. Context window itu sementara — begitu sesi selesai, semuanya hilang kecuali aplikasi di atasnya sengaja menyimpan riwayat. Ini juga kenapa AI kadang lupa preferensi yang kamu sebutkan minggu lalu di percakapan berbeda.
Dampaknya ke Cara Kita Pakai AI
Buat kerja teknis — coding, riset dokumen panjang — context window besar berarti kamu bisa paste seluruh codebase atau paper tanpa AI kehilangan jejak. Tapi ini juga bikin biaya API naik, karena provider biasanya mengenakan tarif berdasarkan jumlah token yang diproses, bukan cuma output yang dihasilkan.