Meghatározás
Az AI-hallucináció egy AI-modell magabiztos, de hamis vagy alá nem támasztott állítása, például egy kitalált szabályzat, ár, funkció vagy hivatkozás.
A nyelvi modellek statisztikailag valószínű szöveget állítanak elő, nem tényekkel ellenőrzött szöveget. Ha a modell nem rendelkezik a szükséges információval, a hiányt kitöltheti valamivel, ami hihetően hangzik.
Az ügyfélszolgálaton sokba kerülnek a hallucinációk: ha egy bot a szabályzat által nem engedélyezett visszatérítést vagy a termékben nem létező funkciót ígér, abból valós kötelezettségek és dühös ügyfelek lesznek.
A kockázat csökkentésének eszközei: a válaszok jóváhagyott tartalomra alapozása (RAG), annak előírása a modellnek, hogy jelezze, ha nem tudja a választ, a megválaszolható témák korlátozása, forráslinkek megjelenítése, a beszélgetések átnézése, valamint a beszélgetés átadása egy emberi ügyintézőnek, ha a modell bizonytalan a válaszában.
Példa
Egy ügyfél a diákkedvezményről kérdezi a botot. Mivel a témáról nincs cikk, a bot kitalálja, hogy „15% kedvezmény diákigazolvánnyal”, pedig a cég ilyen kedvezményt soha nem kínált.
Hogyan segít a Yaplet
A Yaplet AI ügynöke a saját weboldalad és tudásbázisod tartalmából válaszol, és ha nem tud válaszolni, átadhatja a beszélgetést a csapatodnak.