Penggunaan artificial intelligence atau AI semakin mudah diakses. Perusahaan dapat memanfaatkan AI untuk menjawab pertanyaan pelanggan, membuat konten, membaca dokumen, menganalisis data, membantu pemrograman, hingga menjalankan berbagai pekerjaan secara otomatis.
Namun, kemudahan tersebut memunculkan pertanyaan baru:
Apakah semua pekerjaan harus menggunakan model AI paling canggih dan paling mahal?
Jawabannya adalah tidak.
Model AI terbaik bukan selalu model yang paling pintar atau paling mahal, melainkan model yang paling sesuai dengan tingkat kesulitan, risiko, dan nilai suatu pekerjaan.
Menggunakan model premium untuk semua tugas ibarat mempekerjakan seorang profesor untuk mengelompokkan email, memindahkan data, atau mengganti format tanggal. Profesor tersebut tentu mampu mengerjakannya, tetapi biaya yang dikeluarkan menjadi tidak efisien.
Karena itu, perusahaan perlu memiliki strategi dalam memilih dan mengoptimalkan penggunaan model AI.
1. Apa Itu Model AI?
Model AI adalah sistem yang telah dilatih menggunakan data dalam jumlah besar agar mampu memahami instruksi, mengenali pola, mengolah informasi, dan menghasilkan jawaban.
Ketika seseorang mengetikkan pertanyaan ke ChatGPT, Claude, Gemini, DeepSeek, atau aplikasi AI lainnya, sebenarnya pertanyaan tersebut sedang diproses oleh sebuah model AI.
Setiap model memiliki kemampuan yang berbeda-beda, antara lain:
- memahami instruksi;
- menulis dan merangkum;
- melakukan penalaran;
- membaca gambar atau dokumen;
- menulis program;
- menggunakan tools;
- memproses konteks panjang;
- menghasilkan jawaban dalam format terstruktur.
Perlu dibedakan antara aplikasi, model, dan API.
- ChatGPT, Claude, Gemini, dan Kimi Chat merupakan aplikasi yang digunakan manusia.
- GPT, Claude Sonnet, Gemini Flash, Qwen, DeepSeek, GLM, dan Kimi merupakan keluarga model AI.
- API merupakan jalur yang memungkinkan model AI dipasang ke dalam website, chatbot, CRM, ERP, atau aplikasi perusahaan.
Dalam penggunaan melalui API, biaya biasanya dihitung berdasarkan jumlah token yang diproses dan dihasilkan.
Token adalah satuan teks yang dibaca atau ditulis oleh model. Semakin panjang dokumen, percakapan, dan jawaban yang diproses, semakin banyak token yang digunakan.
2. Memahami Tingkatan Model AI
Model AI dapat dianalogikan seperti tenaga kerja dengan tingkat kemampuan yang berbeda.
Model kecil: staf administrasi
Model kecil biasanya cepat dan murah. Model ini cocok untuk pekerjaan sederhana dan berulang, seperti:
- mengelompokkan email;
- mengekstrak nama, tanggal, atau nomor;
- memperbaiki format teks;
- menjawab pertanyaan sederhana;
- membuat ringkasan singkat;
- melakukan moderasi awal.
Model menengah: analis berpengalaman
Model menengah cocok untuk pekerjaan yang membutuhkan pemahaman lebih baik, seperti:
- menulis artikel;
- membuat caption;
- menjawab FAQ yang lebih kompleks;
- menyusun laporan;
- menganalisis dokumen;
- membantu pekerjaan pemrograman tingkat menengah.
Model premium: konsultan senior
Model premium memiliki kemampuan penalaran lebih kuat dan biasanya digunakan untuk:
- analisis bisnis;
- penyusunan strategi;
- pemrograman kompleks;
- audit dokumen;
- perencanaan multi-langkah;
- penggunaan AI agent;
- pekerjaan yang membutuhkan konsistensi tinggi.
Model reasoning: tim spesialis
Model reasoning dirancang untuk mengerjakan masalah yang membutuhkan proses berpikir lebih panjang. Model ini dapat digunakan untuk analisis mendalam, matematika, pemrograman kompleks, riset, dan pengambilan keputusan multi-langkah.
Namun, model reasoning biasanya lebih lambat dan menggunakan lebih banyak token.
Dengan demikian, model premium atau reasoning tidak harus digunakan untuk seluruh pekerjaan. Seorang konsultan senior memang dapat mengisi data administrasi, tetapi staf administrasi dapat mengerjakan pekerjaan tersebut dengan biaya lebih rendah dan kecepatan lebih tinggi.
3. Mengenal Pilihan Model AI dan Biayanya
Saat ini terdapat banyak penyedia model AI dari Amerika Serikat, China, Eropa, dan komunitas open-source.
Beberapa keluarga model yang populer antara lain:
Harga penggunaan API biasanya dinyatakan dalam dolar AS per satu juta token input dan output.
Sebagai gambaran, model kecil dapat berharga mulai dari sekitar US$0,10 per satu juta token input, sedangkan model premium dapat berharga beberapa dolar hingga puluhan dolar per satu juta token.
Model China seperti Qwen, DeepSeek, GLM, dan Kimi menawarkan pilihan harga yang sangat kompetitif. Dalam beberapa kelas model, biaya penggunaannya dapat jauh lebih rendah dibandingkan model premium.
Sebagai contoh, harga resmi GLM-5.3 Flash pada periode promosi tercatat sekitar US$0,075 per satu juta token input dan US$0,25 per satu juta token output. Sebaliknya, model premium seperti Claude Sonnet 5 tercatat sekitar US$2 untuk input dan US$10 untuk output.
Namun, perbandingan tersebut tidak sepenuhnya setara karena setiap model memiliki kemampuan, kecepatan, panjang konteks, dukungan tools, dan tingkat konsistensi yang berbeda.
Harga model juga sangat cepat berubah. Oleh karena itu, tabel harga dalam sebuah artikel sebaiknya diberi tanggal pembaruan dan dihubungkan ke halaman harga resmi penyedia, seperti OpenAI, Anthropic, Google Gemini, Z.AI, dan Kimi.
4. Apakah Model AI China Layak Digunakan?
Model AI China tidak lagi hanya menjadi alternatif murah. Beberapa di antaranya telah memiliki kemampuan reasoning, coding, konteks panjang, multimodal, dan penggunaan tools yang kompetitif.
Ada beberapa alasan mengapa model AI China dapat ditawarkan dengan harga rendah.
Pertama, terdapat persaingan harga yang sangat agresif di antara perusahaan AI China.
Kedua, perusahaan seperti Alibaba tidak hanya menjual model AI. AI dapat menjadi pintu masuk untuk menawarkan layanan cloud, server, aplikasi, dan ekosistem teknologi lainnya.
Ketiga, banyak model China dirilis sebagai model open-weight. Model tersebut dapat diunduh, dikembangkan, dan dalam kondisi tertentu dijalankan pada server milik perusahaan sendiri.
Meskipun demikian, harga murah bukan satu-satunya pertimbangan. Perusahaan tetap perlu menilai:
- kualitas bahasa Indonesia;
- konsistensi jawaban;
- kemampuan mengikuti instruksi;
- dukungan structured output dan function calling;
- keamanan dan privasi data;
- lokasi pemrosesan data;
- stabilitas API;
- rate limit;
- dukungan teknis;
- lisensi penggunaan.
Untuk pekerjaan umum dan berisiko rendah, model China dapat menjadi pilihan yang menarik. Namun, untuk data kesehatan, keuangan, pemerintahan, hukum, atau rahasia perusahaan, aspek keamanan dan tata kelola harus diperiksa lebih dahulu.
Model open-weight juga tidak otomatis berarti gratis. Jika dijalankan sendiri, perusahaan tetap membutuhkan GPU, server, listrik, penyimpanan, monitoring, keamanan, dan tenaga teknis.
5. Harga Token Murah Belum Tentu Lebih Hemat
Kesalahan yang sering terjadi adalah membandingkan model hanya berdasarkan harga token.
Misalnya, Model A membutuhkan biaya Rp1.000 dan mampu menyelesaikan pekerjaan dalam satu kali proses. Model B hanya membutuhkan biaya Rp300, tetapi hasilnya harus diperbaiki atau diulang sebanyak empat kali.
Biaya Model B akhirnya menjadi Rp1.200, belum termasuk waktu yang dibutuhkan manusia untuk memeriksa dan memperbaiki hasilnya.
Karena itu, ukuran yang lebih tepat adalah biaya per pekerjaan yang berhasil, bukan sekadar biaya per token.
Beberapa indikator yang perlu dibandingkan meliputi:
Sebelum mengganti model, perusahaan sebaiknya membuat benchmark menggunakan data dan pekerjaan nyata milik perusahaan.
Siapkan 50 sampai 200 contoh tugas, kemudian uji beberapa model dengan prompt yang sama. Bandingkan ketepatan, kecepatan, konsistensi, dan biaya setiap model.
Model yang menang dalam benchmark umum belum tentu menjadi model terbaik untuk kebutuhan perusahaan.
6. Mengoptimalkan AI dengan Model Routing
Apabila sebuah aplikasi menggunakan banyak model, mengganti model secara manual tentu merepotkan. Solusinya adalah menggunakan model routing.
Model routing adalah sistem yang memilih model secara otomatis berdasarkan jenis, tingkat kesulitan, dan risiko suatu permintaan.
Sebagai contoh:
Ketika pengguna mengirimkan permintaan, sistem dapat menjalankan proses berikut:
- Mengidentifikasi jenis dan kompleksitas tugas.
- Memeriksa sensitivitas data.
- Mengirim tugas sederhana ke model hemat.
- Mengirim tugas kompleks ke model premium.
- Menaikkan tugas ke model yang lebih kuat jika hasilnya gagal atau meragukan.
- Mencatat biaya, waktu respons, dan kualitas hasil.
Dengan cara ini, model premium hanya digunakan pada bagian yang benar-benar membutuhkan kemampuan tinggi.
Beberapa software yang dapat digunakan untuk mengelola banyak model antara lain:
OpenRouter
OpenRouter menyediakan akses ke banyak model melalui satu API. Fitur Auto Router dapat membantu memilih model berdasarkan jenis tugas, kemampuan, dukungan tools, dan preferensi biaya.
LiteLLM
LiteLLM merupakan AI Gateway yang dapat menghubungkan aplikasi dengan berbagai penyedia model. LiteLLM mendukung routing, load balancing, retry, budget, monitoring, dan fallback.
Portkey
Portkey menyediakan AI Gateway dengan routing, fallback, retry, load balancing, observability, dan guardrails.
Amazon Bedrock
Amazon Bedrock menyediakan Intelligent Prompt Routing untuk mengarahkan permintaan ke model yang sesuai berdasarkan prediksi kualitas dan biaya.
Perusahaan juga dapat membangun routing sederhana sendiri. Misalnya, permintaan klasifikasi dikirim ke model kecil, analisis dikirim ke model menengah, dan keputusan berisiko tinggi dikirim ke model premium serta diperiksa manusia.
7. Strategi Praktis Mengurangi Biaya AI
Model routing hanyalah salah satu bagian dari optimasi. Penghematan yang lebih besar dapat diperoleh dengan beberapa strategi berikut.
Gunakan model terkecil yang memenuhi standar
Mulailah dari model hemat. Gunakan model lebih besar hanya jika model kecil tidak mampu mencapai standar kualitas yang telah ditentukan.
Batasi panjang jawaban
Token output biasanya lebih mahal daripada token input. Jangan meminta penjelasan panjang apabila aplikasi hanya membutuhkan kategori, nilai, atau jawaban singkat.
Untuk aplikasi, gunakan format JSON yang terstruktur agar hasil lebih mudah diproses.
Kurangi konteks yang tidak relevan
Jangan mengirim seluruh riwayat percakapan atau seluruh dokumen jika hanya sebagian kecil yang diperlukan.
Gunakan pencarian atau RAG untuk mengambil potongan informasi yang relevan sebelum dikirim kepada model.
Gunakan prompt caching
Instruksi, SOP, atau dokumen yang digunakan berulang kali dapat disimpan dalam cache. Dengan demikian, aplikasi tidak selalu membayar biaya input penuh untuk informasi yang sama.
Gunakan batch processing
Pekerjaan yang tidak harus selesai secara langsung dapat dikumpulkan dan diproses sekaligus.
Batch processing cocok untuk:
- klasifikasi dokumen;
- analisis survei;
- pembuatan deskripsi produk;
- pemrosesan database;
- pembuatan ringkasan massal.
Beberapa penyedia memberikan potongan harga khusus untuk pemrosesan batch.
Jangan gunakan AI untuk semua proses
Validasi tanggal, perhitungan pajak, pengecekan ID, pencarian database, dan penerapan rumus bisnis sering kali lebih tepat dikerjakan menggunakan program biasa.
Gunakan AI hanya untuk pekerjaan yang benar-benar membutuhkan pemahaman bahasa, interpretasi, atau penalaran.
Pasang budget dan monitoring
Perusahaan perlu memonitor:
- biaya per pengguna;
- biaya per divisi;
- biaya per workflow;
- jumlah token input dan output;
- penggunaan model premium;
- tingkat kegagalan;
- biaya per pekerjaan yang berhasil.
Tanpa monitoring, perusahaan baru mengetahui pemborosan setelah tagihan membengkak.
8. Model yang Tepat untuk Setiap Tingkat Risiko
Pemilihan model sebaiknya mempertimbangkan tiga hal:
- Seberapa sulit pekerjaannya?
- Seberapa besar risiko jika hasilnya salah?
- Seberapa besar volumenya?
Panduan sederhananya adalah sebagai berikut:
Untuk keputusan penting, manusia tetap harus berada dalam proses persetujuan. AI sebaiknya membantu menyiapkan analisis dan rekomendasi, bukan menjadi satu-satunya pihak yang mengambil keputusan berisiko tinggi.
Kesimpulan
Perkembangan model AI murah, termasuk model dari China, membuka peluang besar bagi perusahaan untuk menekan biaya penggunaan AI.
Namun, strategi yang tepat bukan mengganti seluruh model premium dengan model termurah.
Model kecil dapat digunakan untuk pekerjaan rutin. Model menengah dapat menangani sebagian besar kebutuhan operasional. Model premium digunakan untuk pekerjaan kompleks, sedangkan manusia tetap memeriksa keputusan yang berisiko tinggi.
Masa depan aplikasi AI bukanlah satu perusahaan menggunakan satu model untuk semua pekerjaan. Masa depannya adalah sistem yang mampu menggunakan beberapa model dan memilihnya secara otomatis.
Karena itu, pertanyaan yang seharusnya diajukan bukan:
“Model AI mana yang paling pintar?”
Pertanyaan yang lebih tepat adalah:
“Model mana yang mampu memberikan kualitas yang dibutuhkan, dengan risiko yang dapat diterima, pada biaya yang paling efisien?”
Pada akhirnya, strategi AI yang baik bukan tentang menggunakan teknologi paling mahal, tetapi tentang mengalokasikan kemampuan AI secara tepat sesuai kebutuhan.