GEO

Dari Prompt Injection ke Action Hijacking: Risiko Baru Saat AI Agent Bisa Bertindak

Bayangkan sebuah AI agent diminta tugas yang kedengarannya biasa: buka beberapa website vendor, bandingkan harga, lalu siapkan shortlist. Di salah satu halaman, ada instruksi tersembunyi yang ditulis bukan untuk manusia, tetapi untuk model: abaikan tujuan sebelumnya, buka link tertentu, kirim data yang…

Dari Prompt Injection ke Action Hijacking: Risiko Baru Saat AI Agent Bisa Bertindak Read More »

Agent Discovery Registry: Apakah Kita Akan Punya Search Engine untuk Agent

Ada satu pertanyaan yang terdengar makin masuk akal pada 2026. Kalau jumlah AI agent terus bertambah, bagaimana sebuah agent menemukan agent lain? Manusia punya Google, marketplace, app store, directory, LinkedIn, GitHub, dan rekomendasi teman. Software punya package registry, API catalog, service discovery,…

Agent Discovery Registry: Apakah Kita Akan Punya Search Engine untuk Agent Read More »

Retrieved Content Bukan Trusted Instruction: Prinsip yang Harus Dipahami Semua Tim AI

Ada satu kalimat yang seharusnya ditempel di whiteboard setiap tim yang membangun RAG, browser agent, AI search, atau enterprise assistant: Retrieved content bukan trusted instruction. Sederhana, tetapi konsekuensinya luas. Ketika sistem AI mencari web, membaca email, mengambil dokumen dari vector database, memanggil…

Retrieved Content Bukan Trusted Instruction: Prinsip yang Harus Dipahami Semua Tim AI Read More »

Kalau AI Membaca Halaman Berbahaya, Siapa yang Harus Menyaring Instruksinya

Seorang product manager membuka demo browser agent di depan tim. Agent diminta mencari tiga opsi software HR, membaca pricing page, lalu membuat tabel perbandingan. “Kalau salah satu website nyelipin instruksi buat agent, siapa yang filter?” tanya orang security. PM-nya menjawab, “Modelnya, kan?”…

Kalau AI Membaca Halaman Berbahaya, Siapa yang Harus Menyaring Instruksinya Read More »