AI Retrieval Security

Ada satu momen yang sering bikin tim agentic AI terlalu percaya diri. Demo berjalan mulus. Model membaca website, memilih tool, mengambil data, lalu menyelesaikan task. Semua terlihat seperti satu sistem cerdas yang utuh. Padahal dari sisi security, justru sebaiknya kita melihatnya sebagai…

Ada dua cara buruk menguji prompt injection. Pertama, tidak pernah mengetes sama sekali. Kedua, mengetes production dengan payload agresif tanpa guardrail lalu berharap semuanya baik-baik saja. Keduanya problem. Prompt injection perlu diuji karena agent membaca content dari luar: web, email, PDF, ticket,…

Hari pertama pilot AI agent biasanya penuh excitement. Tim melihat agent bisa mencari knowledge base, membaca dokumen, merangkum ticket, membuka website, lalu memanggil tool. “Ini bisa potong banyak kerja manual,” kata operations lead. Benar. Lalu security bertanya: “Dokumen mana yang boleh dibaca?”…

Bayangkan sebuah agent productivity. User menghubungkan Gmail, Calendar, Drive, CRM, dan billing. Satu kali authorization. Satu interface. Agent bisa “bantu semua”. Dari sisi UX, ini dream. Dari sisi security, ada pertanyaan yang jauh lebih penting: agent sebenarnya diberi izin apa saja? Karena…

Knowledge poisoning tidak selalu datang seperti serangan film. Tidak ada layar hitam. Tidak ada tulisan “you have been hacked”. Tidak ada alert otomatis yang pasti bunyi. Kadang bentuknya cuma satu dokumen baru. Judulnya normal. Bahasanya meyakinkan. Formatnya sama dengan dokumen internal lain.…

Website, dokumen, dan knowledge records dapat memuat instruksi yang mencoba mengambil alih agent melalui retrieval context. Konten eksternal harus selalu diperlakukan sebagai untrusted data.