Cohere Compass Cloud: Pencarian Enterprise Masuk Private Beta

Cohere resmi buka Compass Cloud sebagai private beta lewat blog produk pada 25 September 2026. Intinya: platform retrieval enterprise yang selama ini banyak dipakai di belakang North (workspace agen Cohere) sekarang bisa dipakai sebagai layanan managed. Cohere yang pegang pipeline dan inference model; tim fokus bikin aplikasi.

Ini bukan ganti opsi self-host. VPC, on-prem, dan lingkungan ketat tetap ada. Cloud beta ditujukan buat tim yang mau kualitas pencarian Cohere tanpa ribet merakit stack sendiri.

Buat teman-teman yang lagi bikin chatbot dokumen, knowledge base internal, atau agen yang sering “nyari dulu baru jawab”, ini sinyal jelas: retrieval lagi jadi produk sendiri, bukan cuma lem RAG di samping LLM.

Apa yang diumumkan Cohere minggu ini

Ringkas dari blog resmi Cohere, halaman produk Compass, liputan Unite.AI, dan konteks North dari TechCrunch:

1. Compass Cloud = versi managed dari Compass, platform retrieval Cohere buat data perusahaan.
2. Dipakai buat RAG, search, dan alur agen yang butuh konteks dari corpus internal.
3. Akses lewat Compass API, MCP server yang di-version sendiri, dan Python SDK (cohere-compass-sdk).
4. Cohere mengelola pipeline penuh + model inference di Cloud; self-host tetap tersedia buat proyek yang tidak boleh ke SaaS.
5. Connector siap pakai ke SharePoint, OneDrive, Google Drive, plus upload lokal; klaim kompatibel multilingual, multimodal, dan banyak format file.
6. Pipeline inti: Connect → Parse → Embed → Index → Retrieve → Rerank → Govern.
7. Private beta terbuka buat tim yang bangun aplikasi retrieval-heavy / agentic; ada sesi live di X pada 8 Oktober 2026.
8. Benchmark internal High Finance: nDCG@10 naik dari 64,8 (Azure Search + GPT-4.1 Mini parse) ke 81,1 di Compass — selisih sekitar 14–16 poin (angka vendor).

Catatan: Statusnya private beta. Fitur, kuota, dan harga publik belum digelar detail di blog. Ajukan akses lewat formulir di halaman Compass, dan perlakukan angka benchmark sebagai sinyal awal, bukan jaminan di dataset Indo.

Secara posisi produk, Compass Cloud mengisi celah antara “pakai Embed + Rerank sendiri” dan “pasang stack penuh di cluster sendiri”. Tim bisa ambil kualitas retrieval Cohere tanpa jadi operator vector DB tiap malam.

Kenapa enterprise search berubah buat agen AI

Cohere membingkai peluncuran ini di tiga tekanan yang makin terasa sejak agen AI jalan di production:

1. Ekonomi token — hasil tidak relevan yang masuk konteks = token terbuang + jawaban melenceng. Retrieval yang lebih tajam = input lebih kecil, biaya generate lebih hemat.
2. Pola akses agen — satu tugas bisa memicu puluhan query, reformulasi, dan lompat antar sumber. Latency menumpuk; permission harus dicek tiap langkah, bukan sekali di awal.
3. Stack yang pecah-pecah — ingest, index, rerank, ACL, dan orkestrasi sering beda vendor. Waktu habis di glue code, bukan di kualitas retrieval.

Compass diklaim menjawab ketiga itu: konteks yang relevan + governed buat beban generative; mendukung search biasa dan agentic; dan mengonsolidasikan stack inti jadi satu platform.

Ini selaras dengan apa yang dikatakan VP Product Engineering Cohere di VB Transform 2026: search multimodal sudah jadi bagian integral alur agen, bukan sekadar “sisipkan chunk ke prompt”. Token agen naik jauh lebih cepat dari harga token yang turun — jadi kualitas retrieval jadi tuas biaya, bukan nice-to-have.

Tujuh tahap di dalam Compass

Dari diagram arsitektur di blog Cohere, alurnya kira-kira begini:

1. Connect — tarik data dari file share / cloud storage (SharePoint, OneDrive, Google Drive) atau upload langsung.
2. Parse — ubah PDF, PPT, DOCX, XLSX, dan konten multimodal jadi struktur yang siap diindeks. Vision dipakai hanya saat menambah nilai, biar tidak boros model.
3. Embed — dense + sparse bareng, supaya match semantik dan istilah domain (ticker, kode SKU, jargon hukum).
4. Index — file asli, hasil parse, dan embedding disimpan terpisah. Ganti model embedding tidak harus crawl ulang seluruh drive.
5. Retrieve — semantic, sparse, dan keyword bisa digabung dalam satu request; permission ditegakkan di tahap retrieval.
6. Rerank — reranker Cohere menyaring kandidat jadi passage paling relevan sebelum dikirim ke LLM.
7. Govern — multi-tenant ACL, permission level dokumen, retention yang expire otomatis, dan cegah dokumen yang sudah dihapus tersync lagi.

flowchart LR
  S[SharePoint / Drive / Upload] --> C[Connect]
  C --> P[Parse]
  P --> E[Embed dense+sparse]
  E --> I[Index + metadata]
  Q[Query / Agen] --> R[Retrieve hybrid]
  I --> R
  R --> RR[Rerank]
  RR --> G[Govern / ACL]
  G --> App[RAG app / MCP agent]

Buat developer, inti janjinya sederhana: satu interface configurable, bukan tujuh layanan yang harus dijahit sendiri.

Satu detail yang sering disepelekan: Index memisahkan file asli, hasil parse, dan embedding. Itu artinya eksperimen ganti model embed tidak otomatis memaksa upload ulang seluruh SharePoint. Di tim kecil yang bandwidth-nya terbatas, ini menghemat seminggu kerja diam-diam.

Di sisi Govern, permission ditegakkan saat retrieve — bukan “tarik dulu semua, filter di app”. Pola lama itu rawan bocor lewat log, cache, atau bug filter. Kalau agen boleh panggil tool search berkali-kali, ACL di layer retrieval jadi jauh lebih penting daripada dulu.

API, MCP, atau SDK — pilih jalur mana

Compass Cloud menawarkan dua jalur integrasi utama di blog, plus SDK yang sudah ada di GitHub/PyPI:

Agentic retrieval yang digambarkan Cohere: agen memutuskan apa yang dicari, mengevaluasi hasil, lalu mempersempit corpus sebelum jawab — bukan satu hop “query → top-k → generate”. MCP Compass mendukung loop itu tanpa bikin adapter beda-beda buat tiap framework agen.

Tips: Kalau sudah punya agen di Claude / Cursor / stack MCP lain, coba jalur MCP dulu buat proof-of-concept. Kalau lagi bangun search product sendiri (UI, ranking policy, A/B), API biasanya lebih longgar.

Contoh mental model singkat:

# Ilustrasi alur — sesuaikan endpoint & auth beta Compass Cloud
# pip install cohere-compass-sdk  (versi publik di PyPI; Cloud beta ikut onboarding)

from compass_sdk import CompassClient  # nama modul mengikuti rilis SDK

client = CompassClient(base_url="<COMPASS_CLOUD_URL>", api_key="<KEY>")

# 1) pastikan index + dokumen sudah di-parse & di-insert lewat Parser/SDK
hits = client.search(
    index_name="kb-internal",
    query="berapa SLA refund untuk merchant VIP?",
    top_k=20,
)

# 2) hasil hybrid biasanya masih lebar → rerank / filter permission di sisi Compass
# 3) kirim passage teratas ke LLM aplikasi (Command / model lain)
for h in hits[:5]:
    print(h.score, h.snippet[:120])

Detail auth, base URL Cloud, dan kuota beta mengikuti onboarding Cohere — jangan hardcode asumsi dari self-host lama tanpa cek docs beta.

Peringatan: Jangan expose API key Compass di frontend atau repo publik. Treat sama seperti key OpenAI/Anthropic: server-side, rotate, dan batasi index mana yang boleh diakses service account agen.

Kalau agen production sudah jalan di channel Slack/Telegram, mulai dari satu tool MCP (misalnya search_docs) dengan allowlist index. Baru kemudian tambah tool yang lebih “nakal” seperti deep browse folder atau multi-hop research.

Angka High Finance dan apa artinya

Baca juga Google Buka SynthID untuk Umum, Begini Cara Cek Foto dan Video Buatan AI

Di workload High Finance (set pertanyaan internal Cohere soal materi presentasi investment banking / hedge fund), Compass dilaporkan mencapai nDCG@10 = 81,1, dibanding 64,8 di Azure Search (dokumen Azure diparse dengan GPT-4.1 Mini; Embed 4 Cohere meng-embed PDF langsung sebagai image tanpa parser terpisah di setting itu).

Yang perlu diingat:

• Ini benchmark vendor, domain keuangan, berbahasa dan gaya dokumen tertentu.
• Metodologi parse beda antar sisi — gap besar, tapi bukan apples-to-apples sempurna.
• nDCG@10 mengukur ranking relevan di 10 hasil teratas, bukan “jawaban chat selalu benar”.

Praktik yang masuk akal: ambil 20–50 query golden set dari dokumen sendiri (SOP, kontrak, FAQ produk), bandingkan stack sekarang vs Compass Cloud begitu akses beta masuk. Kalau recall naik dan token konteks turun, baru bahas production.

Metrik yang cukup buat POC dua minggu:

1. Recall@10 — apakah dokumen yang “harusnya ketemu” muncul di 10 besar?
2. Sitasi dipakai — berapa persen jawaban model yang benar-benar mengutip passage relevan?
3. Token per jawaban — rata-rata token konteks yang dikirim ke LLM
4. Latency p95 — end-to-end dari query user sampai jawaban (termasuk multi-hop agen)
5. Insiden ACL — ada tidaknya hasil yang bocor ke role yang tidak berhak (harus nol)

Kalau empat metrik pertama naik/turun ke arah benar dan ACL bersih, baru masuk diskusi harga dan SLA.

Cocok dicoba dari Indo minggu ini

Compass Cloud relevan buat startup, SI, dan tim data di Indonesia yang sudah bangun RAG tapi capek jaga vector DB, parser PDF jelek, dan ACL yang bocor di layer aplikasi.

Praktik minggu ini:

1. Cek apakah data boleh ke managed cloud. Kalau ada data nasabah, rekam medis, atau kontrak pemerintah, self-host / VPC mungkin tetap wajib — Cohere eksplisit bilang opsi itu tidak hilang.
2. Bayar dan billing. Private beta belum pasang harga publik di blog. Siapkan kartu / kontrak USD seperti vendor AI lain; konversi ke Rupiah belakangan setelah ada quote.
3. Bahasa Indonesia & dokumen lokal. Klaim multilingual/multimodal bagus di kertas. Uji sendiri: PDF scan KTP/kontrak, slide pitch deck Indo, spreadsheet harga — apakah parse + retrieve tetap tajam.
4. Connector yang dipakai di sini. SharePoint/OneDrive sering di korporat; Google Drive umum di startup. Kalau sumber utamanya Notion, Confluence self-host, atau folder NAS, tanya tim Cohere saat apply beta.
5. MCP buat agen yang sudah jalan. Banyak tim Indo sudah mainin agen di n8n, Claude, atau coding agent. MCP Compass bisa jadi “tool search internal” tanpa rewrite stack.
6. Bandingkan dengan stack yang sudah ada. pgvector + Embed, Elastic + Rerank, Azure AI Search, atau Vespa — ukur di golden set yang sama, termasuk biaya token generate.

Teman-teman di fintech, edtech, atau B2B SaaS yang punya knowledge base tebal: mulai dari satu use case sempit (FAQ CS atau SOP ops), bukan “indeks seluruh Google Drive perusahaan” di hari pertama.

Contoh pekerjaan yang masuk akal diuji:

• Bot CS yang jawab dari PDF kebijakan refund + FAQ terbaru, dengan sitasi halaman.
• Agen sales yang cari clause kontrak & price book sebelum bikin quotation.
• Asisten internal HR yang hanya boleh lihat dokumen sesuai role (ACL document-level).

Kalau hasil beta bagus tapi compliance belum cocok, jalur hybrid/self-host Compass tetap jadi opsi — itu poin yang Cohere ulang di pengumuman Cloud.

Checklist

• Baca blog Compass Cloud (25 Sep 2026) + halaman produk Compass
• Putuskan: data boleh managed cloud atau wajib self-host/VPC
• Siapkan 20–50 query golden set + 1–2 corpus kecil (PDF/Drive)
• Apply private beta lewat formulir di cohere.com/compass
• Pilih jalur: API (custom RAG) atau MCP (agen) — jangan keduanya sekaligus di POC
• Ukur: recall@k, nDCG kasar, token per jawaban, latency p95
• Cek ACL: user A tidak boleh lihat dokumen user B
• Catat pertanyaan buat sesi live Cohere di X (8 Oktober 2026)
• Kalau lolos POC, bahas kuota, SLA, dan harga sebelum production

Poin penting

• Compass Cloud = managed retrieval Cohere, private beta sejak 25 September 2026
• Fokus: RAG, search enterprise, dan agentic retrieval dengan permission di tiap langkah
• Akses: API, MCP server, Python SDK; self-host tetap tersedia
• Pipeline: Connect → Parse → Embed → Index → Retrieve → Rerank → Govern
• Connector awal: SharePoint, OneDrive, Google Drive (+ upload)
• Klaim High Finance: nDCG@10 81,1 vs 64,8 Azure Search (vendor-reported)
• Live session produk: 8 Oktober 2026 di X
• Dari Indo: cocok diuji buat knowledge base & agen internal — asal data & billing USD sudah jelas

Referensi

1. Cohere Blog (2026). Compass is coming to the cloud — Compass Cloud private beta announcement
2. Cohere (2026). Compass product page — Intelligent Search and Discovery
3. Cohere (2026). North — enterprise AI agent workspace powered in part by Compass
4. Unite.AI (2026). Cohere opens Compass Cloud private beta for managed enterprise search
5. TechCrunch (2025). Cohere’s new AI agent platform, North, promises to keep enterprise data secure
6. VentureBeat (2026). Cohere VP on enterprise AI sovereignty and multimodal search at VB Transform
7. GitHub cohere-ai/cohere-compass-sdk (2026). Python SDK for Compass parsing and indexing
8. PyPI (2026). cohere-compass-sdk package documentation
9. Cohere Docs (2026). Reranking quickstart — Rerank endpoint and models
10. Cohere (2026). Rerank product page — enterprise search quality boost
11. Cohere Blog / Compass Cloud (2026). High Finance nDCG@10 benchmark notes vs Azure Search
12. Cohere Blog / Compass Cloud (2026). Seven-stage architecture — Connect through Govern
13. Cohere Blog / Compass Cloud (2026). MCP server for agentic retrieval and October 8 live session
14. Cohere (2026). Embed / retrieval models positioning for Compass hybrid search
15. Model Context Protocol ecosystem (2026). Open standard context for Compass MCP portability