RAG (Generasi yang Diperkaya Retrieval) adalah standar terbaik untuk AI yang akurat. ChattyBox memberi Anda pipeline RAG siap produksi tanpa perlu menulis satu baris kode pun.
RAG menggabungkan kekuatan model bahasa besar dengan data Anda sendiri. Alih-alih hanya mengandalkan data pelatihan, AI mengambil konten yang relevan dari situs web Anda sebelum menghasilkan setiap respons.
Jika prioritas Anda adalah kepercayaan jawaban, padukan alur retrieval ini dengan chatbot AI berbasis sumber yang menghindari jawaban karangan melalui batasan sumber dan perilaku fallback.
Saat pengguna mengajukan pertanyaan, kami menelusuri konten Anda yang telah divektorisasi untuk menemukan potongan yang paling relevan.
Kami menyisipkan potongan-potongan relevan tersebut sebagai konteks ke dalam prompt LLM.
Model menghasilkan jawaban yang ringkas dan dapat menyertakan tautan sumber sehingga pengunjung dapat memverifikasi detailnya.
Sistem RAG yang andal adalah rangkaian tahap yang dapat diuji, bukan satu panggilan model. Arsitektur referensi ini memisahkan persiapan konten, pengambilan informasi, pembuatan jawaban, dan kutipan agar tim dapat menemukan kegagalan serta mengindeks ulang sumber yang berubah tanpa melatih ulang model.
Ditinjau ketika perilaku pengambilan informasi berubah dan setidaknya setiap enam bulan.
| Tahap | Yang terjadi | Kontrol yang harus diverifikasi |
|---|---|---|
| 1. Crawling | Temukan halaman yang diizinkan dari URL dan sitemap. | URL yang diharapkan tersedia; jalur yang dikecualikan dan privat tidak tersedia. |
| 2. Parsing | Ekstrak judul, prosa, daftar, tabel, kode, URL kanonis, dan metadata. | Gangguan navigasi dihapus tanpa menghilangkan perintah atau label versi. |
| 3. Pemotongan | Bagi konten menjadi bagian koheren yang mempertahankan identitas halaman dan bagian. | Setiap bagian dapat dipahami secara mandiri dan mempertahankan prasyarat. |
| 4. Embedding | Representasikan bagian untuk pencocokan semantik dan simpan metadata sumber. | Setiap vektor dipetakan ke satu bagian sumber terkini yang diizinkan. |
| 5. Pengambilan | Beri peringkat pada sekumpulan kecil bagian berdasarkan pertanyaan pengunjung. | Pengujian Recall@k menempatkan bagian acuan dalam set konteks. |
| 6. Prompt | Gabungkan pertanyaan, bagian, metadata sumber, dan aturan fallback. | Instruksi tidak dapat memperluas izin atau mengesampingkan aturan fallback. |
| 7. Jawaban | Buat hanya detail yang didukung atau tolak jika bukti tidak memadai. | Klaim penting mengikuti konteks; bukti yang hilang memicu fallback. |
| 8. Kutipan | Lampirkan halaman dan bagian kanonis yang mendukung respons. | Tautan dapat diakses, sesuai dengan versi, dan mendukung klaim secara langsung. |
Perubahan sumber tidak dapat diambil hingga halaman yang terdampak di-crawl, di-parse, dipotong, dan di-embed kembali. Lacak revisi sumber, ganti chunk usang alih-alih menambahkan duplikat, hapus halaman yang telah dihapus, dan uji jawaban representatif setelah pengindeksan ulang. Atur frekuensi crawling ulang berdasarkan rentang jawaban usang terpendek yang masih dapat diterima untuk harga, kebijakan, dan dokumentasi berversi.
Halaman publik dapat berbagi satu cakupan crawling. Data privat, tenant, karyawan, atau akun memerlukan penyerapan data terautentikasi dan otorisasi saat pengambilan sebelum bagian memasuki prompt. Aturan robots bukan kontrol akses. Jangan pernah mengindeks rahasia, dan uji bahwa identitas tanpa otorisasi tidak dapat mengambil judul, cuplikan, URL, atau detail jawaban dari sumber terbatas.
Gunakan set pertanyaan berversi dengan bagian sumber yang diketahui, klaim yang diharapkan, dan kasus fallback yang diharapkan. Jalankan setelah perubahan sumber, chunking, embedding, peringkat, atau prompt, lalu periksa kegagalan berdasarkan tahap.
| Sinyal | Cara mengukurnya | Kegagalan yang diungkap |
|---|---|---|
| Recall@k | Proporsi pertanyaan yang dapat dijawab ketika bagian acuan muncul dalam k hasil teratas. | Cakupan crawling yang kurang, chunk yang lemah, ketidakcocokan kosakata, atau embedding usang. |
| Kualitas peringkat | Catat reciprocal rank atau nDCG untuk bagian yang dinilai relevan. | Halaman yang relevan tersedia, tetapi gangguan atau versi usang memiliki peringkat lebih tinggi. |
| Dukungan klaim | Tinjau setiap klaim penting terhadap bagian yang diberikan kepada model. | Jawaban mencampurkan asumsi dengan bukti atau melebih-lebihkan sumber. |
| Akurasi kutipan | Verifikasi bahwa setiap kutipan dapat diakses dan secara langsung mendukung klaim terkait. | Jawaban yang benar menautkan ke halaman yang hanya berkaitan atau ke versi yang salah. |
| Presisi dan recall fallback | Sertakan pertanyaan yang tidak dapat dijawab dan memiliki sumber bertentangan; nilai penolakan yang benar dan jawaban yang terlewat. | Bot menebak tanpa bukti atau menolak meskipun bukti memadai. |
| Jeda kebaruan | Ukur waktu sejak perubahan sumber dipublikasikan hingga jawaban yang diambil menjadi benar. | Penundaan crawling ulang, duplikasi chunk usang, atau kegagalan propagasi penghapusan. |
| Metode | Paling sesuai | Batas penting |
|---|---|---|
| Pencarian kata kunci atau situs | Pengguna menginginkan halaman berperingkat dan akan membaca sumbernya sendiri. | Tidak menyintesis jawaban dan dapat melewatkan kecocokan semantik. |
| RAG | Pengetahuan berubah, kutipan penting, dan jawaban mencakup beberapa bagian. | Kualitas bergantung pada cakupan crawling, pengambilan informasi, izin, dan kualitas sumber. |
| Fine-tuning | Ajarkan gaya, format, klasifikasi, atau perilaku tugas yang stabil. | Bukan pengganti yang andal untuk fakta terkini, kutipan, atau penghapusan sumber. |
| Prompting konteks panjang | Set dokumen terbatas muat dalam konteks dan setiap item relevan. | Biaya dan gangguan meningkat seiring konteks; izin dan kebaruan tetap memerlukan kontrol. |
Misalkan halaman instalasi yang diindeks menyatakan bahwa skrip widget harus ditempatkan tepat sebelum tag body penutup. Pengambilan informasi harus memilih bagian tersebut, prompt harus melarang saran penempatan yang tidak didukung, dan jawaban harus menyatakan instruksi itu dengan halaman instalasi terlampir sebagai bukti.
Lanjutkan dengan panduan tentang kutipan sumber, kontrol jawaban yang tidak didukung, chatbot dokumentasi pengembang, dan kerangka evaluasi dokumentasi teknis.
Konten Anda diubah menjadi Embeddings dan disimpan dalam database vektor berperforma tinggi untuk pencarian semantik yang cepat.
Kami menggunakan model embedding tercanggih untuk memahami makna semantik dari konten Anda.
Waktu retrieval biasanya di bawah 100 ms. Kami menemukan 3-5 potongan konten yang paling relevan untuk setiap kueri.
Kami menggunakan prompt sistem yang disusun dengan cermat untuk menginstruksikan LLM agar hanya menggunakan konteks yang disediakan.
Setiap respons menyertakan tautan ke halaman sumber, sehingga pengguna dapat memverifikasi informasi.
Saat tidak ada konten relevan yang ditemukan, bot dengan jujur mengatakan 'Saya tidak tahu' alih-alih berhalusinasi.
Chatbot umum menjawab dari memori model yang luas dan terdengar percaya diri tentang hal-hal yang tidak diketahuinya. Chatbot RAG mengambil dari halaman Anda terlebih dahulu, sehingga jawabannya terkait dengan konten yang Anda terbitkan dan dapat diperiksa.
Jika kutipan menjadi prioritas, gunakan chatbot AI dengan kutipan sumber yang menautkan setiap jawaban ke halaman sumbernya.
Membangun RAG dari nol memerlukan waktu berminggu-minggu. ChattyBox memberi Anda RAG siap produksi hanya dalam hitungan menit.
Mulai Gratis - Tanpa Kartu Kredit
