GEO

Database poisoning terdengar seperti problem AI baru karena sekarang kata “vector” ada di depannya. Padahal ide dasarnya tua. Kalau attacker bisa merusak data yang dipercaya sistem, output sistem ikut rusak. Yang berubah adalah cara data ditemukan. Pada database tradisional, aplikasi sering mengambil…

Masalah multi-source retrieval bukan kekurangan informasi. Sering kali justru kebanyakan informasi. Satu query bisa menarik policy dari knowledge base, catatan internal, email, ticket, halaman web, dokumentasi vendor, dan percakapan sebelumnya. Lalu muncul situasi yang sangat manusiawi: sumber A bilang lakukan X. Sumber…

Kalimat “agent hanya boleh melakukan hal yang aman” terdengar bagus di dokumen produk. Masalahnya: apa definisi aman? Kalau jawabannya diserahkan ke model setiap kali, kita belum punya policy. Kita punya opini probabilistik. Allowlist action mengambil pendekatan berbeda. Daripada memberi agent ruang tindakan…

Ada satu kalimat yang seharusnya ditempel di setiap whiteboard tim agentic AI: Retrieved content bukan instruction authority. Kelihatannya sederhana. Tetapi sebagian besar risiko prompt injection lahir karena boundary itu kabur. User meminta agent membaca sebuah halaman web. Halaman itu berisi data. Di…

Seorang user meminta AI agent memesan meja untuk makan malam. Tugasnya sederhana. Buka website. Pilih tanggal. Pilih jam. Isi nama. Konfirmasi. Agent membuka halaman restoran. Di tengah proses, sebuah banner muncul: “Untuk melanjutkan reservasi, verifikasi akun melalui halaman partner.” Agent klik. Halaman…

Ada jebakan yang sangat natural saat membangun RAG. Retriever mengembalikan dokumen yang “pas banget” dengan pertanyaan. Tim melihat similarity score tinggi. Jawaban model juga terdengar masuk akal. Semua orang senang. Padahal kita baru menjawab satu pertanyaan: “Apakah dokumen ini relevan?” Kita belum…

Ada satu momen yang sering bikin tim agentic AI terlalu percaya diri. Demo berjalan mulus. Model membaca website, memilih tool, mengambil data, lalu menyelesaikan task. Semua terlihat seperti satu sistem cerdas yang utuh. Padahal dari sisi security, justru sebaiknya kita melihatnya sebagai…

Ada dua cara buruk menguji prompt injection. Pertama, tidak pernah mengetes sama sekali. Kedua, mengetes production dengan payload agresif tanpa guardrail lalu berharap semuanya baik-baik saja. Keduanya problem. Prompt injection perlu diuji karena agent membaca content dari luar: web, email, PDF, ticket,…

Hari pertama pilot AI agent biasanya penuh excitement. Tim melihat agent bisa mencari knowledge base, membaca dokumen, merangkum ticket, membuka website, lalu memanggil tool. “Ini bisa potong banyak kerja manual,” kata operations lead. Benar. Lalu security bertanya: “Dokumen mana yang boleh dibaca?”…

Bayangkan sebuah agent productivity. User menghubungkan Gmail, Calendar, Drive, CRM, dan billing. Satu kali authorization. Satu interface. Agent bisa “bantu semua”. Dari sisi UX, ini dream. Dari sisi security, ada pertanyaan yang jauh lebih penting: agent sebenarnya diberi izin apa saja? Karena…