MCP dan OpenTelemetry: Observability untuk Workflow Agentic

✦ GEO.OR.ID KNOWLEDGE SYSTEM

MCP dan OpenTelemetry: Observability untuk Workflow Agentic

◆ FormatPost
↻ Diperbarui13 October 2026
◷ Waktu baca8 menit
✦ KonteksPanduan praktis

Kalau aplikasi biasa error, kita biasanya punya jejak yang cukup jelas. Request masuk, service A memanggil service B, database lambat, lalu latency naik. Tim SRE membuka trace, mencari span yang aneh, dan mulai mengisolasi sumber masalah.

Workflow agentic tidak sesederhana itu.

Satu task user bisa berubah menjadi rangkaian keputusan model, discovery tool, pemanggilan MCP server, validasi schema, eksekusi API eksternal, retry, fallback, approval manusia, lalu response akhir. Di tengah jalan, model bisa memilih tool yang berbeda dari ekspektasi developer. Server bisa mengembalikan output valid tetapi tidak cukup berguna. Authorization bisa lolos di satu layer dan ditolak di layer lain.

Lalu user hanya melihat satu kalimat: “Maaf, saya tidak dapat menyelesaikan permintaan itu.”

Buat tim operasional, itu nightmare.

Karena itulah pergeseran MCP 2026-07-28 terkait observability penting. Logging sebagai fitur protokol dideprekasi, sementara dokumentasi MCP mengarahkan structured observability ke OpenTelemetry. Ini bukan sekadar ganti library logging. Ini mencerminkan perubahan cara kita perlu melihat workflow agentic: bukan sebagai deretan pesan teks, tetapi sebagai distributed execution yang harus bisa ditelusuri lintas komponen.

Agentic Workflow Itu Distributed System dengan Variabel Tambahan

Kita sebenarnya sudah punya disiplin observability untuk microservices.

Ada metrics.

Ada logs.

Ada traces.

Ada correlation ID.

Ada service map.

Masalahnya, tim AI sering memulai dari notebook atau demo chat. Ketika sistem tumbuh, telemetry masih diperlakukan seperti console.log.

Padahal begitu agent punya akses ke tool, sistemnya sudah masuk wilayah distributed execution.

Contoh sederhana.

User berkata, “Cari tiga vendor yang sesuai budget, cek ketersediaannya, lalu buat draft request proposal.”

Agent mungkin melakukan:

1. discovery tool;
2. query katalog;
3. filter hasil;
4. panggil CRM;
5. cek procurement policy;
6. menghasilkan draft;
7. menunggu approval user.

Kalau step keempat gagal, kita perlu tahu bukan hanya “tool error”, tetapi tool apa, server mana, tenant siapa, request mana, versi schema apa, latency berapa, dan workflow mana yang sedang berjalan.

Tanpa konteks ini, debugging berubah menjadi tebakan.

Kenapa Logging Saja Kurang

Log tetap berguna. Bahkan dokumentasi MCP 2026-07-28 masih merekomendasikan stderr untuk stdio transport.

Tetapi log baris-per-baris tidak otomatis memberi hubungan antar-event.

Misalnya ada lima server MCP yang semuanya menulis:

“tool call failed.”

Kita punya lima error, tetapi belum tahu apakah semuanya bagian dari satu task user atau lima task berbeda.

Trace menyelesaikan problem correlation.

Dalam model distributed tracing, satu operasi besar memiliki trace. Setiap komponen atau langkah bisa memiliki span. Span tersebut membawa atribut dan hubungan parent-child.

Dengan begitu, tim bisa melihat jalur lengkap.

User request masuk.

Agent memilih tool.

MCP client mengirim request.

Gateway meneruskan.

MCP server mengeksekusi.

Server memanggil API pembayaran.

API lambat.

Retry terjadi.

User akhirnya melihat timeout.

Tanpa trace, kita hanya melihat potongan kejadian. Dengan trace, kita melihat cerita lengkapnya.

MCP Semakin Ramah terhadap Infrastruktur Observability

MCP 2026-07-28 juga membawa standardisasi header seperti Mcp-Method dan Mcp-Name pada Streamable HTTP. Dampaknya bukan cuma routing.

Header tersebut memberi reverse proxy, gateway, WAF, rate limiter, dan observability tooling lebih banyak konteks tentang trafik MCP tanpa harus membaca body JSON secara mendalam.

Ini penting karena produksi jarang sesederhana client langsung bicara ke server.

Biasanya ada layer:

load balancer,
API gateway,
identity proxy,
security inspection,
service mesh,
rate limiting,
monitoring,
kemudian baru server.

Kalau semua layer itu tidak memahami apa yang sedang terjadi, MCP menjadi black box di tengah infrastruktur yang sebenarnya sudah mature.

OpenTelemetry membantu menjembatani dunia agentic dengan observability stack yang sudah dikenal perusahaan.

Apa yang Sebaiknya Ditelusuri

Kesalahan umum adalah menginstrumentasikan terlalu sedikit atau terlalu banyak.

Terlalu sedikit menghasilkan trace yang tidak berguna.

Terlalu banyak bisa membocorkan data sensitif, membuat biaya telemetry meledak, dan menghasilkan noise.

Untuk workflow MCP, beberapa dimensi yang biasanya relevan antara lain:

  • nama service;
  • operasi MCP;
  • tool name;
  • status success atau error;
  • latency;
  • retry count;
  • protocol version;
  • tenant atau environment identifier yang aman;
  • authorization outcome;
  • downstream dependency;
  • correlation dengan workflow atau task ID.

Yang tidak boleh otomatis dimasukkan adalah seluruh prompt, credential, token akses, payload customer, dokumen privat, atau output sensitif.

Observability bukan alasan untuk membuat salinan data rahasia di telemetry backend.

Jangan Log Prompt Mentah sebagai Default

Ini salah satu temptation terbesar.

Saat debugging AI, engineer ingin melihat semuanya.

Prompt apa yang dikirim?

Context apa yang masuk?

Tool output apa yang kembali?

Secara teknis itu sangat membantu. Secara governance, bisa sangat berbahaya.

Prompt dapat berisi data pelanggan, nomor kontrak, informasi finansial, data kesehatan, source code, atau materi internal.

Tool output juga bisa mengandung data sensitif.

Kalau semuanya dikirim ke observability vendor, kita mungkin menciptakan jalur exfiltration baru tanpa sadar.

Pendekatan yang lebih aman adalah metadata-first.

Catat ukuran payload, hash bila perlu, kategori data, status validasi, schema version, atau identifier yang bisa dipakai untuk mencari data asli di sistem yang punya akses kontrol lebih ketat.

Kalau raw payload memang diperlukan untuk debugging tertentu, gunakan mode terbatas dengan retention pendek dan authorization jelas.

Trace ID Harus Menembus Boundary

Bayangkan tim platform punya trace di gateway, tetapi MCP server membuat trace baru yang tidak terkait.

Hasilnya tetap terputus.

Nilai distributed tracing muncul ketika context propagation benar.

Trace context perlu mengalir lintas boundary sejauh arsitektur mengizinkan.

Tujuannya bukan membuat semua vendor dan service berbagi semua data. Tujuannya membuat tim dapat menghubungkan satu operasi dengan operasi berikutnya.

Kalau downstream API sudah mendukung OpenTelemetry, integrasi menjadi lebih mudah.

Kalau belum, kita masih bisa membuat span di sisi caller yang mencatat dependency tersebut.

Minimal, kita tahu di mana waktu habis.

Metrics yang Benar untuk MCP Bukan Hanya Request per Second

RPS tetap penting, tetapi agentic workflow punya failure mode yang lebih kaya.

Contoh metric yang berguna:

Tool discovery success rate.

Tool invocation success rate.

Schema validation failure rate.

Authorization denial rate.

P95 dan P99 tool latency.

Retry rate.

Timeout rate.

Fallback rate.

Human approval rate untuk action tertentu.

Persentase workflow yang selesai tanpa manual intervention.

Persentase task yang berhenti karena policy guardrail.

Metric ini membantu membedakan “server sehat” dari “workflow benar-benar usable”.

Server bisa punya uptime 99,99 persen tetapi agent gagal menyelesaikan 20 persen workflow karena schema ambiguity.

Kalau kita hanya mengukur infra uptime, problem itu tidak terlihat.

Observability Harus Bisa Menjawab Pertanyaan Produk

Ini bagian yang sering dilupakan.

Telemetry bukan hanya milik SRE.

Product manager juga perlu tahu bagaimana agent memakai capability.

Tool mana paling sering dipanggil?

Tool mana sering dipilih tetapi gagal?

Workflow mana paling banyak berhenti di approval?

Di step mana user sering mengambil alih?

Apakah agent menemukan tool yang salah karena naming buruk?

Apakah suatu capability hampir tidak pernah dipakai?

Data seperti ini bisa mengubah roadmap.

Misalnya sebuah tim mengira tool “generate_report” adalah fitur utama. Telemetry menunjukkan agent lebih sering memakai “search_records” lalu berhenti karena report membutuhkan permission yang tidak dimiliki sebagian besar user.

Masalahnya bukan model. Masalahnya entitlement design.

Tanpa observability, tim mungkin menghabiskan minggu memperbaiki prompt yang salah sasaran.

Bedakan Error Teknis dan Error Keputusan

Agentic system bisa gagal walaupun semua service mengembalikan HTTP 200.

Model memilih tool yang salah.

Tool berhasil, tetapi hasilnya tidak relevan.

Agent menjalankan step dalam urutan yang buruk.

Agent meminta approval terlalu cepat.

Agent menganggap output incomplete sebagai final.

Ini bukan error transport.

Karena itu observability perlu membedakan kategori failure.

Teknis: timeout, network error, schema invalid, server crash.

Security: denied scope, policy rejection, invalid credential.

Semantic: tool dipilih tetapi tidak cocok dengan intent.

Workflow: dependency belum tersedia, approval belum ada, state tidak konsisten.

Business: action valid secara teknis tetapi melanggar rule organisasi.

Dengan klasifikasi seperti ini, dashboard menjadi jauh lebih actionable.

Human-in-the-Loop Juga Harus Terlihat

Kalau workflow berhenti untuk konfirmasi manusia, itu bukan necessarily failure.

Justru bisa jadi guardrail yang benar.

Observability harus mencatat transisi tersebut sebagai state, bukan error.

Misalnya:

agent proposed action,
user reviewed,
user edited parameters,
user approved,
action executed.

Dari data ini, tim bisa melihat apakah agent memberi proposal yang cukup baik.

Kalau 90 persen user selalu mengubah nominal sebelum approve, mungkin input extraction agent bermasalah.

Kalau approval selalu instan untuk action berisiko rendah, mungkin policy terlalu konservatif.

Telemetry membantu menyeimbangkan safety dan friction berdasarkan data nyata.

Multi-Tenant Membutuhkan Disiplin Lebih Tinggi

Platform yang melayani banyak tenant harus sangat hati-hati dengan telemetry.

Trace dari tenant A tidak boleh mengungkap data tenant B.

Tagging harus cukup untuk filtering tetapi tidak memasukkan identifier sensitif sembarangan.

Access control di observability backend juga perlu tenant-aware atau setidaknya role-aware.

Satu hal yang sering luput: engineer support kadang punya akses telemetry lebih luas daripada akses aplikasi utama.

Itu bisa menjadi blind spot governance.

Kalau observability berisi payload sensitif, privilege support team secara tidak langsung menjadi sangat besar.

Sampling Jangan Asal Acak

Pada traffic besar, menyimpan 100 persen trace bisa mahal.

Sampling menjadi perlu.

Tetapi agentic workflow tidak selalu cocok dengan random sampling sederhana.

Kita mungkin ingin menyimpan lebih banyak trace untuk:

  • error;
  • high-latency request;
  • action berisiko tinggi;
  • workflow baru;
  • tenant pilot;
  • versi deployment yang baru dirilis.

Normal successful traffic bisa disample lebih agresif.

Dengan policy seperti ini, biaya tetap terkendali tanpa kehilangan kasus yang paling bernilai untuk diagnosis.

Jangan Menunggu Insiden untuk Membuat Trace

Observability yang ditambahkan setelah produksi bermasalah biasanya terlambat.

Insiden pertama justru terjadi ketika kita belum punya data.

Lebih efisien mendesain telemetry saat membuat MCP server.

Tentukan span boundary.

Tentukan atribut aman.

Tentukan error taxonomy.

Tentukan retention.

Tentukan dashboard minimum.

Tentukan alert yang benar-benar actionable.

Lalu uji apakah trace bisa menjawab skenario nyata.

“Kenapa request customer X gagal kemarin jam 14.20?”

Kalau tim tidak bisa menjawab tanpa membuka lima sistem berbeda, observability belum cukup matang.

Dari Black Box ke Operable System

Agentic AI sering dibicarakan dalam bahasa intelligence: model lebih pintar, reasoning lebih jauh, tool lebih banyak.

Tetapi begitu masuk produksi, pertanyaannya berubah menjadi operability.

Bisakah kita tahu apa yang terjadi?

Bisakah kita menjelaskan kenapa workflow gagal?

Bisakah kita mengukur latency di setiap boundary?

Bisakah kita membedakan problem model, tool, policy, dan network?

Bisakah kita melakukan audit tanpa menyimpan data berlebihan?

Di sinilah MCP dan OpenTelemetry bertemu.

MCP menyediakan contract untuk interaksi tool dan context. OpenTelemetry menyediakan bahasa observability yang sudah familiar bagi distributed systems.

Kombinasi keduanya tidak otomatis membuat agent aman atau benar. Tetapi ia membuat sistem lebih terlihat.

Dan visibility operasional adalah prasyarat sebelum kita bisa memperbaiki reliability, security, performance, dan UX.

Agent yang bisa melakukan banyak hal memang impressive.

Agent yang bisa dioperasikan, diaudit, dan diperbaiki ketika gagal jauh lebih bernilai untuk bisnis.

Leave a Comment

Your email address will not be published. Required fields are marked *