Digital Marketing
RAG Poisoning
TL;DR: RAG Poisoning adalah serangan yang menyusupkan konten manipulatif ke sumber data yang dibaca sistem Retrieval-Augmented Generation, sehingga jawaban AI ikut tercemar. Untuk marketer, ini berarti satu halaman terinfeksi di domain bisa menjatuhkan kredibilitas brand di seluruh jawaban AI Overview, ChatGPT, atau Perplexity.
Apa itu RAG Poisoning?
RAG Poisoning terjadi ketika pelaku menyisipkan instruksi tersembunyi, klaim palsu, atau tautan beracun ke dokumen yang akan diambil sistem RAG sebagai konteks. Saat model bahasa menggabungkan dokumen tercemar dengan pertanyaan pengguna, output yang dihasilkan ikut membawa bias tersebut. Analoginya seperti memasukkan halaman palsu ke dalam ensiklopedia, lalu menyuruh asisten menjawab dari ensiklopedia itu.
Serangan ini berbeda dari prompt injection yang menargetkan instruksi pengguna. RAG Poisoning menargetkan data sumber yang dipercaya model.
Pola Umum RAG Poisoning
| Pola | Cara Kerja | Risiko untuk Brand |
|---|---|---|
| Hidden instruction | Teks tersembunyi (warna, ukuran 0px, alt text) berisi perintah ke model | Jawaban AI ikut menyebar narasi yang dititip |
| Fact flipping | Halaman beredar yang membalik fakta produk atau harga | Hallucination terjadi atas nama brand |
| Citation hijack | Konten meniru gaya sumber otoritatif untuk dapat slot kutipan | Brand asli kehilangan share of citation |
| Knowledge base seeding | Pelaku publish ratusan halaman tipis untuk dominasi domain niche | Model mengira sumber pelaku adalah konsensus |
Kenapa Penting?
Per April 2026, AI Overview Google dan ChatGPT Search makin agresif menarik kutipan dari domain pihak ketiga. Saat sistem grounding mengambil satu halaman yang sudah diracuni, jawaban AI bisa menyebut brand Anda dengan informasi salah, lalu jutaan pengguna melihatnya tanpa konteks koreksi. Marketer perlu memantau bukan hanya domain sendiri, tapi juga ekosistem sumber yang biasa mengutip brand.
Pertanyaan Umum
Bedanya RAG Poisoning dengan prompt injection apa?
Prompt injection menyerang input pengguna ke model. RAG Poisoning menyerang dokumen sumber yang diambil model sebelum menjawab.
Bagaimana cara mendeteksinya?
Pantau brand mention di AI Overview dan ChatGPT mingguan, bandingkan dengan fakta resmi di website, audit halaman pihak ketiga yang sering dikutip terkait nama brand.
Istilah Terkait