AI Batch: tunggu beberapa jam, bayar lebih murah
Tidak semua permintaan ke AI sama mendesaknya. Sebagian kamu ajukan sambil menulis dan butuh jawaban sekarang; sebagian lain bisa kamu jalankan sebelum menutup laptop dan menemukannya selesai keesokan harinya. NovLore memperlakukan dua kasus ini berbeda, dan mengetahui mana yang mana menghemat kredit.
Apa itu AI Batch
AI Batch menaruh pekerjaanmu dalam antrean alih-alih menjalankannya seketika. Jawaban datang setelah berjam-jam, bukan hitungan detik. Sebagai ganti penantian, pemrosesannya lebih murah: API yang dipakai NovLore untuk pekerjaan ini — Batch API milik Claude — ditarifkan sekitar separuh dari permintaan yang sama secara real time.
Ini bukan versi model yang lebih buruk. Model yang sama, dengan pengiriman tertunda.
Kapan menunggu itu menguntungkan
Batch menguntungkan saat tugasnya berat dan kamu tidak menungguinya:
- membuat satu bab utuh dari kerangka dan alkitab cerita;
- satu sapuan luas atas struktur buku;
- pekerjaan borongan yang memang berniat kamu biarkan berjalan sambil mengerjakan hal lain.
Dalam semua kasus itu, duduk di depan layar dengan bilah berputar tak memberimu keuntungan apa pun. Lebih baik pindahkan pekerjaan ke antrean dan bayar lebih murah.
Kapan kamu memang butuh jawaban sekarang
Real time tetap pilihan tepat saat latensi justru intinya:
- obrolan dengan Scintilla, tempat kamu berpikir bersama asisten;
- menyunting bagian yang dipilih, yang kamu lakukan dan tinjau dalam hitungan detik;
- koreksi sambil jalan ketika menulis.
Di sini menunggu berjam-jam akan mematahkan alur kerja alih-alih membantunya. Biaya penuh adalah harga dari kesigapan, dan dalam kasus ini kesigapan itu sepadan.
Bagaimana cara kerjanya di NovLore
Kamu kirim pekerjaan ke antrean, aplikasi mencatat job-nya dan membiarkanmu terus menulis. Secara berkala ia memeriksa status; ketika hasil siap, ia sudah menunggumu. Kamu tak perlu membiarkan halaman terbuka atau komputer menyala.
Aturan praktisnya cuma satu: kalau tak perlu menungguinya bekerja, kirim ke batch. Kalau kamu memakainya untuk berpikir, biarkan real time.
Pertanyaan yang sering diajukan
Berapa lama persisnya saya harus menunggu?
Tergantung beban. Umumnya berjam-jam, bukan berhari-hari. Ini dirancang untuk pekerjaan yang kamu jalankan lalu kamu ambil lagi nanti, bukan untuk sesuatu yang kamu butuhkan dalam sesi yang sama.
Apakah hasil batch kualitasnya lebih rendah?
Tidak. Modelnya sama dan instruksinya sama: yang berubah hanya waktu pengiriman. Satu-satunya kompromi adalah waktu, bukan teks.