Cohere Embed 5: Apa Itu & Harga Pro vs Fast

Cohere merilis Embed 5 pada 30 September 2026: keluarga model embedding baru buat search enterprise, RAG, dan retrieval di alur agen. Ada dua tier — Pro (kualitas maksimal) dan Fast (lebih murah, lebih kencang) — yang berbagi satu ruang embedding, jadi bisa index dengan Pro lalu query dengan Fast tanpa bangun index ulang.

Ini artikel berita spek + harga, bukan tutorial setup panjang. Di bawah: apa itu Embed 5, apa yang baru, banding Pro vs Fast, harga API (plus kira-kira rupiah), pola pakai yang disarankan Cohere, dan catatan praktis buat yang nge-build dari Indonesia.

Apa itu Cohere Embed 5

Embedding model mengubah teks, gambar, atau dokumen jadi vektor yang bisa dicari berdasarkan makna — bukan cuma kata kunci. Di stack RAG modern, lapisan ini yang memutuskan dokumen/ potongan mana yang masuk ke LLM sebelum jawaban digenerate. Salah ambil konteks = jawaban jelek, meski model generatornya mahal.

Embed 5 adalah penerus garis Embed 4. Cohere memosisikannya sebagai fondasi retrieval buat:

1. Search enterprise — dokumen keuangan, PDF padat, manual teknis
2. RAG — chatbot internal, knowledge base, asisten customer
3. Agentic retrieval — agen yang memanggil search berkali-kali per tugas
4. Multimodal — teks, gambar halaman, atau gabungan teks+gambar

Dua nama model di API (contoh di docs resmi):

• embed-v5.0-pro — kualitas indexing & retrieval maksimal
• Tier Fast — latency & biaya lebih rendah di jalur query

Catatan: Angka benchmark di bawah mayoritas klaim Cohere dari evaluasi internal (termasuk metode RCP-nDCG@10 yang mereka perkenalkan). Tetap uji di korpus sendiri sebelum naik production.

Apa yang baru dibanding Embed 4

Bukan cuma “naik versi”. Perubahan yang paling kebaca di pengumuman resmi:

Highlight rilis

Angka yang sering dikutip dari blog Cohere (ViDoRe V3, parsed text):

• Embed 5 Pro: rata-rata 85,8
• Embed 5 Fast: sekitar 84,5
• Voyage 4 Large: 83,7
• Gemini Embedding 2: 83,2
• Embed 4: ~77
• OpenAI text-embedding-3-large: 75,5

Di suite dokumen keuangan (FinanceBench, FinQA, ViDoRe V3 Finance), Cohere bilang Pro juara di ketiga tes, Fast runner-up. Di fused text-image, Pro rata-rata 82,3 vs Gemini Embedding 2 61,3 (angka Cohere).

Throughput: Fast diklaim rata-rata 2,4× dokumen per detik dibanding Pro di tes mereka — relevan buat ingest besar dan query berulang di agen.

Spek Pro vs Fast

Kalau mau cepat milih, pakai tabel ini dulu.

Rekomendasi Cohere buat banyak tim: index dengan Pro, query dengan Fast. Di 40 dataset development mereka, query Fast ke index Pro skor relatif 98,4 (baseline Pro→Pro = 100). All-Fast 96,6. Tidak ada dataset yang “jeblok” besar di tes campuran itu — tapi angka ini rata-rata suite Cohere, bukan jaminan di data kamu.

Syarat penting: dimensi output harus sama di sisi corpus dan query. Pola ini juga jalan dengan Matryoshka truncation dan kuantisasi int8.

flowchart LR
  D[Dokumen / PDF / gambar] --> P[Embed 5 Pro]
  P --> V[(Vector DB)]
  Q[Query user / agen] --> F[Embed 5 Fast]
  F --> V
  V --> R[Top-k konteks]
  R --> L[LLM / agen]

Harga API Embed 5

Angka resmi dari pengumuman Cohere (teks vs gambar):

Kira-kira di rupiah (asumsi kurs ~Rp16.500/US$ — cek kurs bank/kartu kamu):

• Pro teks ≈ Rp1.980 per 1M token
• Fast teks ≈ Rp1.320 per 1M token
• Gambar (kedua tier) ≈ Rp6.600 per 1M token

Fast sepertiga lebih murah dari Pro di jalur teks. Itu baru biaya embed. Biaya vector DB, reranker, dan token LLM generator biasanya jauh lebih besar di tagihan bulanan — tapi hemat di query path tetap terasa kalau agen nembak search puluhan kali per tugas.

Hemat storage vektor (bukan cuma token)

Cohere menekankan: index vektor sering lebih mahal dioperasikan daripada model yang menghasilkan vektornya.

Baca juga Google Buka SynthID untuk Umum, Begini Cara Cek Foto dan Video Buatan AI

• Vektor 2048-dim float32 ≈ 8 KB
• 1024-dim int8 ≈ 1 KB (rekomendasi “sweet spot” mereka)
• 256-dim binary ≈ 32 bytes (~256× lebih hemat dari float32 penuh)

Untuk 100 juta chunk: dari ~819 GB (2048 float32) turun ke ~3,2 GB (256 binary). Int8 diklaim tetap dekat kualitas full precision di kedua tier.

Tips: Mulai dari 1024-dim int8 untuk staging. Baru naik float / dimensi lebih besar kalau evaluasi retrieval di data Indo kamu memang butuh.

Ketersediaan & integrasi

Embed 5 generally available lewat:

1. Cohere API + batch embedding buat ingest besar
2. Model Vault (opsi single-tenant)
3. Microsoft Foundry
4. Amazon SageMaker
5. Langsung di platform North
6. Self-host di VPC / on-prem dengan vLLM

Integrasi yang disebut di blog: LangChain, Haystack, Weaviate, Qdrant, Pinecone, Elasticsearch, MongoDB, Redis, Milvus, OpenSearch.

Cuplikan pola embed dokumen + query (disederhanakan dari contoh resmi Cohere; cek docs terbaru sebelum production):

import os
import cohere
import numpy as np

co = cohere.ClientV2(api_key=os.environ["CO_API_KEY"])

documents = [
    "Margin bunga bersih menyempit 12 bps ke 2,61%.",
    "Karyawan mendapat 1,5 hari cuti per bulan masa kerja.",
]

doc_emb = co.embed(
    model="embed-v5.0-pro",
    input_type="search_document",
    texts=documents,
    output_dimension=1024,
    embedding_types=["float"],
).embeddings.float_

q_emb = co.embed(
    model="embed-v5.0-pro",
    input_type="search_query",
    texts=["Bagaimana margin bunga bersih kuartal lalu?"],
    output_dimension=1024,
    embedding_types=["float"],
).embeddings.float_[0]

docs = np.array(doc_emb)
q = np.array(q_emb)
scores = docs @ q / (np.linalg.norm(docs, axis=1) * np.linalg.norm(q))
print(documents[int(np.argmax(scores))])

Di production banyak tim ganti model query ke Fast (ID model Fast ikut docs Cohere terbaru) dengan dimensi sama, tanpa re-embed seluruh korpus.

Yang relevan buat yang di Indonesia

Coverage bahasa Inggris soal Embed 5 sudah ada. Yang sering kurang: angka harga dalam konteks Rp, skor bahasa Indonesia, dan pola bayar buat UMKM/startup lokal.

Fakta yang berguna minggu ini:

1. Bahasa Indonesia ada di evaluasi Cohere — skor yang mereka tampilkan: Pro 85, Fast 83 (tabel multilingual di blog; Gemini Embedding 2 lebih tinggi di baris itu). Artinya model ini memang dilatih multilanguage, bukan “Inggris dulu baru sisanya”.
2. Billing dolar — bayar kartu internasional / akun cloud (Foundry, SageMaker). Siapkan buffer FX + fee konversi.
3. RAG dokumen Indo — PDF laporan, SOP, katalog produk, chat support. Mulai index Pro + query Fast biar biaya query tidak meledak saat traffic naik.
4. Data sensitif — opsi Model Vault / SageMaker / self-host vLLM kalau kebijakan perusahaan melarang data keluar ke shared API.
5. Jangan bandingkan cuma harga embed — di Indo biaya terbesar sering LLM generator + vector DB managed. Hemat Fast tetap masuk akal, tapi ukur end-to-end.

Teman-teman yang sudah punya knowledge base di Weaviate/Qdrant/Pinecone bisa uji A/B Embed 4 vs Embed 5 di subset dokumen Indo dulu — 1–2 hari cukup buat lihat nDCG / hit rate sebelum migrasi penuh.

Banding singkat dengan alternatif embedding

Kalau kamu sedang milih stack, jangan cuma lihat harga per juta token. Bandingkan juga konteks, multimodal, dan apakah index–query bisa dipisah.

Faktor praktis yang biasanya ditanya tim Indo:

1. OpenAI text-embedding-3-large — familiar, ekosistem luas; di chart ViDoRe V3 milik Cohere angkanya kalah jauh (75,5 vs 85,8 Pro). Tetap valid kalau kamu sudah lock ke OpenAI end-to-end.
2. Gemini Embedding 2 — kuat di beberapa bahasa Asia di tabel Cohere; di ViDoRe V3 dan fused text-image, Cohere klaim Pro unggul.
3. Voyage 4 Large — kompetitor dekat di angka Cohere (83,7 vs 85,8 Pro). Perlu tes mandiri.
4. Embed 4 (Cohere lama) — migrasi paling natural; cek apakah gain Pro/Fast worth biaya re-embed.

Yang unik di Embed 5 bukan “juara semua leaderboard”, melainkan satu ruang vektor untuk dua tier harga. Alternatif lain sering memaksa kamu pilih satu model buat index dan query, atau maintain dua index.

Peringatan: Jangan belanja model hanya karena chart marketing. Ambil 200–500 query nyata dari log support atau search internal, lalu ukur recall@k dan latency p95.

Kalau agen kamu memanggil retrieval 10–30 kali per tugas, selisih US$0,04 per juta token (Pro vs Fast) cepat terasa. Di situ pola index Pro + query Fast jadi alasan utama cobain Embed 5 — bukan sekadar naik versi dari Embed 4.

Checklist

• Baca blog resmi Cohere Embed 5 (30 Sep 2026) + tabel Pro vs Fast
• Catat harga: teks Pro US$0,12 / Fast US$0,08; gambar US$0,40
• Pilih dimensi (mulai 1024) dan format (int8 vs float)
• Rancang pola: index Pro, query Fast, dimensi sama
• Uji di korpus Indo (PDF + FAQ + chat) — jangan andalkan ViDoRe saja
• Bandingkan latency & biaya vs Embed 4 / OpenAI / Gemini Embedding
• Putuskan jalur deploy: API bersama vs Foundry/SageMaker vs vLLM
• Hitung storage 100k–1M chunk sebelum pilih binary/int8/float

Poin penting

• Cohere Embed 5 rilis 30 September 2026: Pro + Fast, satu ruang embedding
• Konteks 128K, multimodal, 100+ bahasa, Matryoshka + int8/binary
• Harga teks: US$0,12 (Pro) dan US$0,08 (Fast) per 1M token; gambar US$0,40
• Pola hemat: index Pro → query Fast (skor relatif ~98,4 di tes Cohere)
• Fast ~2,4× throughput dokumen vs Pro (klaim Cohere)
• Tersedia di API, Model Vault, Microsoft Foundry, Amazon SageMaker, North; self-host vLLM
• Benchmark mayoritas evaluasi Cohere — validasi di data sendiri
• Dari Indo: skor bahasa Indonesia ada di tabel resmi; billing tetap dolar

Referensi

1. Cohere (2026). Introducing Embed 5—A New Family of Frontier Embedding Models
2. Cohere (2026). Embed product page and pricing snapshot (Pro / Fast)
3. Runtime Wire (2026). Cohere launches Embed 5 with a cheaper model for live enterprise search
4. The New Stack (2026). Cohere's faster query model barely dents retrieval quality in its tests
5. TAO Media (2026). Cohere Launches Embed 5 Pro and Fast Frontier Embedding Models
6. Let's Data Science (2026). Cohere Launches Embed 5 With Pro and Fast Retrieval Models
7. Digg / syndication (2026). Cohere launches Embed 5 Pro and Fast with a shared embedding space
8. Cohere (2026). RCP-nDCG@10: A more complete way to measure retrieval relevance
9. Cohere (2026). Compass is coming to the cloud — related retrieval platform context
10. Microsoft Foundry / Amazon SageMaker listings coverage via Cohere launch notes (2026)
11. Cohere docs (2026). Embed API examples — ClientV2 embed-v5.0-pro
12. Secondary AI news digests (2026). Embed 5 availability across API, Model Vault, and cloud marketplaces