Pola orchestrator-workers dan kapan TIDAK perlu multi-agent

Multi-agent terdengar keren. Tapi setiap agen tambahan berarti token tambahan, waktu tambahan, dan tempat baru untuk salah. Orkestrator yang baik justru pandai menahan diri.

Tangga arsitektur

1. Satu panggilan AI. Prompt bagus + data yang tepat. Cukup untuk sebagian besar tugas: meringkas notulen, membuat draf surat desa.
2. Rantai prompt. Langkah tetap berurutan: ekstrak data dari nota, cek format, lalu tulis laporan. Mudah diuji karena urutannya pasti.
3. Routing. Satu langkah awal memilah jenis permintaan, lalu diteruskan ke prompt khusus. Misalnya pesan toko dipilah jadi pesanan, komplain, atau tanya harga.
4. Orchestrator-workers. Pengatur memecah tugas yang bentuknya tidak bisa ditebak, membagi ke beberapa pekerja, lalu menggabungkan.
5. Agen otonom. Agen memutuskan sendiri langkah dan alat yang dipakai, berputar sampai selesai. Paling fleksibel, paling berisiko.

Contoh orchestrator-workers yang masuk akal

Dinas ingin laporan harga bawang merah dari 20 pasar di Nganjuk, masing-masing dengan sumber berbeda. Pengatur membagi per pasar, pekerja mencari dan merangkum paralel, pengatur menyatukan dan menandai data yang saling bertentangan. Tugasnya lebar, bisa paralel, dan jumlah sub-tugas bisa berubah.

Kapan TIDAK perlu

• Langkahnya selalu sama. Pakai rantai prompt.
• Sub-tugas saling bergantung ketat dan harus berurutan. Paralel tidak membantu.
• Belum ada eval set. Kamu tidak akan tahu apakah agen tambahan membantu.
• Anggaran token kecil. Multi-agent bisa memakai token berkali lipat dibanding satu agen.

Aturan praktis: tambahkan kerumitan hanya kalau skor eval naik cukup besar untuk membayar biaya dan risikonya.