Meghatározás
A retrieval-augmented generation (RAG) olyan technika, amelyben az AI-modell először kikeresi a releváns szövegrészeket egy megbízható forrásból, majd ezekre támaszkodva írja meg a válaszát.
Egy nagy nyelvi modell önmagában a tanítás során elsajátított minták alapján válaszol, a tanítóadatokban pedig nincs benne sem a visszaküldési szabályzatod, sem a legfrissebb áraid. Erre ad megoldást a RAG: amikor kérdés érkezik, a rendszer átkeresi a dokumentumaidat (súgócikkeket, weboldalakat, PDF-eket), a legjobban illeszkedő szövegrészeket átadja a modellnek, és utasítja, hogy ezek alapján válaszoljon.
Az ügyfélszolgálati botoknál a RAG a bevett módszer arra, hogy a válaszok a vállalkozásra szabottak és naprakészek maradjanak: ha frissíted a cikket, a bot válasza is megváltozik, és a modellt nem kell újratanítani.
A RAG csökkenti a hallucinációkat, de nem szünteti meg őket. Előfordul, hogy a keresés nem találja meg a megfelelő szövegrészt, vagy a modell félreérti. Sokat segít, ha a forrástartalom világos és jól tagolt, és ha minden válasz mellett megjelenik a forrás linkje.
Példa
Egy ügyfél megkérdezi: „Szállítotok Norvégiába?” A rendszer kikeresi a szállítási országokról szóló cikket, a bot pedig erre a cikkre hivatkozva válaszol: „Igen, a Norvégiába történő kiszállítás 4–6 munkanapot vesz igénybe.”
Hogyan segít a Yaplet
A Yaplet AI ügynöke a weboldalad tartalmából és a tudásbázisodból válaszol, így a válaszai a saját információidon alapulnak, nem az internetről származó általános tudáson.