Hitung biaya token dan pilih model

Produk yang disukai pengguna bisa tetap gagal kalau biayanya tidak masuk akal. Di sini kamu menghitung kasar, tanpa menebak harga.

1. Ambil satu percakapan khas dari produkmu. Hitung tokennya. Cara mudah: tempel di AI Studio, jumlah token biasanya tampil di layar. Patokan kasar untuk teks Indonesia: 1 token kira-kira 3-4 karakter.
2. Catat: token masuk (prompt sistem + dokumen RAG + pesan pengguna) dan token keluar (jawaban) per permintaan.
3. Perkirakan pemakaian: berapa permintaan per pengguna per bulan. Misalnya pedagang bawang bertanya 3 kali sehari, 30 hari, jadi 90 permintaan.
4. Buka halaman harga resmi model yang kamu pakai (misalnya dari https://ai.google.dev atau https://docs.anthropic.com). Catat harga per 1 juta token masuk dan keluar hari ini.
5. Minta AI membantu menyusun tabel hitungan dengan prompt di bawah.

Bantu aku menghitung biaya kasar produk AI per bulan untuk 1000 pengguna.
Data:
- Token masuk per permintaan: [angka]
- Token keluar per permintaan: [angka]
- Permintaan per pengguna per bulan: [angka]
- Model A: harga per 1 juta token masuk [angka], keluar [angka] (dari halaman harga resmi, tanggal [tgl])
- Model B: harga per 1 juta token masuk [angka], keluar [angka]
Buat tabel: model, total token per bulan, biaya per bulan, biaya per pengguna.
Tunjukkan rumusnya langkah demi langkah supaya bisa kucek di Google Sheets.
Jangan menambah angka yang tidak kuberikan.

6. Salin rumusnya ke Google Sheets dan cek ulang sendiri. Jangan percaya hitungan AI mentah-mentah.
7. Jalankan eval set dari materi sebelumnya di model A dan model B. Taruh skor di sebelah biaya.

Yang perlu diperhatikan: model termurah dengan skor eval yang masih memenuhi batasmu biasanya pilihan terbaik. Cara hemat lain: perpendek prompt sistem, batasi panjang jawaban, dan jangan kirim dokumen yang tidak relevan. Kalau data sangat sensitif atau biaya harus nol, bandingkan juga dengan model lokal lewat Ollama.