Kodėl DI pokalbių robotai haliucinuoja ir kaip tai sustabdyti: RAG, DI instrukcijų taisyklės, perdavimas konsultantui, QA ir modelio pasirinkimas, remiantis 38 640 realių klientų aptarnavimo pokalbių duomenimis (0,2% buvo pateikta netiksli informacija).

DI pokalbių agentai klysta tada, kai trūkstamas žinias modelis užpildo įtikinamai skambančiu spėjimu. Tai vadinama DI haliucinacija. Dažniausiai taip nutinka, kai agentas neturi patikimo šaltinio atsakymui rasti, kai jo instrukcijos yra pernelyg abstrakčios arba kai po paleidimo niekas netikrina jo teiginių.
Šis nerimas yra plačiai paplitęs. Deloitte duomenimis, 77% įmonių nerimauja dėl haliucinacijų savo DI sistemose. Gera žinia ta, kad šią problemą galima suvaldyti. Tinkamai paruoštas Open24.lt DI pokalbių agentas 2026 m. gegužę visiškai išsprendė 74% klientų užklausų, o dar 11% išsprendė iš dalies, neišsigalvodamas taisyklių ar kainų.
El. parduotuvėje klaidingas atsakymas apie pristatymo terminus, grąžinimo taisykles ar prekių suderinamumą kainuoja prarastą pardavimą arba virsta skundu. Griežtai reguliuojamuose sektoriuose, pavyzdžiui, sveikatos priežiūros ar finansų, tai gali sukelti ir atitikties problemų. Bet kuriuo atveju būtent tikslumas lemia, ar klientai pasitikės DI agentu.
Šiame gide aptariame keturis patikrintus būdus, kaip išvengti klaidingų atsakymų: paieška papildytą generavimą (angl. Retrieval Augmented Generation, RAG), kokybės užtikrinimą (QA), DI instrukcijų kūrimą (angl. prompt engineering) ir modelio pasirinkimą. Pabaigoje parodysime, kaip juos praktiškai taiko Parnidia.
Įvertinome 38 640 realių klientų pokalbių, kuriuos nuo 2026 m. vasario iki spalio aptarnavo 39 Parnidia DI pokalbių agentai (daugiausia el. parduotuvėse). Kiekvieną pokalbį automatiškai įvertino „AI Evaluations“ sistema. Tą pačią sistemą mūsų klientai naudoja ir DI klientų aptarnavimo platformoje.
Klaidingi atsakymai nebuvo atsitiktiniai. Beveik visi jie kilo dėl kasdien kintančių duomenų: prekių likučio ir dydžių (27 atvejai), kainų ir nuolaidų kodų (15) bei pristatymo ar užsakymo būsenos (15). 15-oje iš 74 atvejų DI agentas pats save ištaisė vėliau tame pačiame pokalbyje.
Išvada aiški: klientų aptarnavime DI haliucinacijos dažniausiai kyla ten, kur pokalbių robotas į klausimus apie kintančią situaciją atsako remdamasis statiniu turiniu. Tiesioginė integracija su el. parduotuvės duomenimis yra kur kas svarbesnė už didesnę žinių bazę.
Tos pačios spragos išryškėja ir analizuojant klausimus, į kuriuos pokalbių robotai apskritai negali atsakyti. Mūsų 16 908 pokalbių el. prekybos pokalbių robotų statistikos tyrime neatsakytų klausimų sąrašo viršuje atsidūrė prekių specifikacijos ir tinkamumas (19,5%), konkrečios prekės pristatymo laikas (15,2%) bei konkretūs užsakymai (13,7%).
Metodika: „klaidinga informacija“ apima tuos pokalbius, kuriuose vertinimo sistema aiškiai užfiksavo klaidingą ar netikslų atsakymą. Tai yra apatinė riba, o ne garantija.
RAG apsaugo nuo klaidų, nes priverčia DI prieš atsakant surasti informaciją jūsų patvirtintame turinyje, užuot pasikliovus tuo, ką modelis įsiminė apmokymo metu. Jei žinių bazėje informacijos nėra, tinkamai sukonfigūruotas RAG agentas jos neišsigalvoja, o tiesiai tai pasako.
RAG yra hibridinis metodas, sujungiantis didžiojo kalbos modelio (LLM) kalbinius gebėjimus su paieškos sistemos tikslumu.
Įprastas kalbos modelis žino tik tai, kas buvo jo apmokymo duomenyse. Šios žinios yra sustingusios tam tikrame laiko taške ir jose nėra nieko apie jūsų parduotuvę, kainas ar grąžinimo taisykles. Būtent iš čia ir kyla haliucinacijos.
Pasak AWS, „RAG yra didžiojo kalbos modelio atsakymų optimizavimo procesas, kurio metu modelis remiasi patikima išorine žinių baze, neįtraukta į jo apmokymo duomenis“. Klientų aptarnavime ši žinių bazė yra jūsų svetainė, pagalbos centras, prekių katalogas ir taisyklės.
Kai klientas užduoda klausimą, RAG sistema pirmiausia suranda aktualiausias ištraukas iš jūsų šaltinių. Tik tada modelis suformuluoja atsakymą, naudodamas tas ištraukas kaip pagrindą.
Ši seka (pirma surasti, tada generuoti) užtikrina, kad atsakymai būtų paremti faktais ir aktualūs. Kai klientas paklausia, ar įkroviklis tinka konkrečiam nešiojamajam kompiuteriui, DI agentas patikrina naujausius prekės duomenis, o ne spėlioja. Kai grąžinimo terminas pasikeičia nuo 14 iki 30 dienų, agentas pradeda taikyti naują taisyklę iškart, kai tik atnaujinamas šaltinis.
Tipinė RAG sistema susideda iš trijų dalių:
Kaip DI agentas randa atsakymą
Pasirinkite pirkėjo klausimą ir pažiūrėkite, ką sistema daro kiekviename žingsnyje.
Iliustracinis pavyzdys. Aktualumo balai supaprastinti.
RAG ypač naudingas šiose klientų aptarnavimo situacijose:
Kokybės užtikrinimo procesas leidžia susekti klaidas dar prieš paleidimą testuojant DI agentą su klausimais, kurių teisingi atsakymai yra žinomi, o po paleidimo - peržiūrint realius pokalbius. Tai apsauginis barjeras tarp netobulos DI sistemos ir jūsų klientų, ir šis darbas iš tiesų niekada nesibaigia.
Zendesk tyrimas parodė, kad 60% klientų dažnai nusivilia pokalbių robotais. Didžioji šio nusivylimo dalis kyla dėl tikslumo problemų, kurias tinkamas kokybės užtikrinimas būtų padėjęs rasti ir ištaisyti.
DI kokybės užtikrinimas skiriasi nuo tradicinio programinės įrangos testavimo. Įprasta programa, gavusi tuos pačius pradinius duomenis, visada pateikia tokį patį rezultatą. DI veikia tikimybiniu principu, todėl jo tikslumą, aktualumą, saugumą ir nuoseklumą tenka vertinti naudojant daugybę to paties klausimo variacijų.
Tikslumo testavimas
Aktualumo vertinimas
Tai užtikrina, kad atsakymai bus ne tik techniškai teisingi, bet ir realiai išspręs kliento problemą.
Atsparumo testavimas
Saugumas ir atitiktis reikalavimams
Kaip teigia Zendesk: „Su DI paremtu automatiniu QA, skirtu DI agentams, galite automatizuoti visų DI agento sąveikų vertinimą, todėl tampa lengviau anksti pastebėti svarbius pokalbius ir galimas problemas.“
DI instrukcijų (angl. prompts) metodai, kurie labiausiai sumažina klaidingų atsakymų skaičių, yra aiškios žinių ribos („naudok tik pateiktus šaltinius“), aiškus leidimas pasakyti „nežinau“ ir tiksliai apibrėžtas vaidmuo. DI instrukcijų tobulinimas taip pat yra greičiausias ir pigiausias sprendimas, nes jam nereikia jokios naujos infrastruktūros.
DI instrukcijų inžinerija (angl. prompt engineering) yra instrukcijų rašymo praktika, nukreipianti DI modelį link tikslių, aktualių ir naudingų atsakymų. Kaip aiškina Analyst Uttam: „DI instrukcijų inžinerija yra įvesties duomenų kūrimo ir struktūrizavimo praktika, skirta optimizuoti DI modelių atsakymus.“
Pagrindinis principas yra tikslumas. Žmonės toleruoja miglotas instrukcijas ir patys užpildo trūkstamą kontekstą. DI modeliai geriausiai veikia gaudami aiškias, gerai struktūrizuotas instrukcijas.
Nuoseklus samprotavimas
Keletas pavyzdžių (angl. few-shot examples)
Sistemos ir vartotojo vaidmens apibrėžimas
Aiškios tikslumo instrukcijos
Šios instrukcijos nurodo modeliui, kaip elgtis, kai jis nėra tikras, ir skatina atsargumą vietoj per didelio pasitikėjimo savimi.
Žinių ribų užtikrinimas
Tai neleidžia DI agentui peržengti įgaliojimų, kai trūksta informacijos, ir vietoj spėjimo suteikia jam naudingą tolimesnį žingsnį.
Šaltinių citavimo reikalavimai
Citatos daro atsakymus skaidrius ir leidžia klientams patiems patikrinti svarbias detales.
Paprasta sisteminė DI instrukcija (angl. system prompt) klientų aptarnavimo robotui galėtų atrodyti taip:
Tu esi [Įmonės] DI klientų aptarnavimo asistentas, kurio specializacija yra [produktas / paslauga].
Tavo pagrindiniai tikslai yra:
- Teikti tikslią, faktais grįstą informaciją apie mūsų produktus ir paslaugas
- Aiškiai ir glaustai atsakyti į klientų klausimus
- Pasakyti, kai neturi pakankamai informacijos, ir pasiūlyti susisiekti su žmogumi
Atsakydamas:
- Naudok tik oficialią [Įmonės] dokumentaciją ir taisykles
- Kai aktualu, įtrauk konkrečias produkto detales
- Jei dėl kurios nors detalės nesi tikras, aiškiai tai pasakyk
- Niekada nepatvirtink prekių likučio, kainų, nuolaidų kodų ar užsakymo būsenos, nebent šie duomenys gaunami realiuoju laiku
- Jei klausimas susijęs su sąskaitomis ar pinigų grąžinimu ir negali patvirtinti atsakymo, pasiūlyk sujungti su žmogumi
DI pokalbių robotas turėtų perduoti pokalbį žmogui, kai neturi pakankamai informacijos, kai klientas du kartus užduoda tą patį klausimą ir negauna atsakymo arba kai tema yra didelės rizikos. Sklandus perdavimas žmogui yra saugi priemonė, sulaikanti robotą nuo spėliojimo.
Nustatykite griežtesnes taisykles temoms, kuriose klaidingas atsakymas kainuoja brangiausiai:
Praktikoje perdavimas veikia laikantis dviejų taisyklių. Pirma, DI agentas pasako klientui, kas bus toliau, pavyzdžiui: „Perdaviau tai mūsų komandai, jie paprastai atsako per 2 valandas.“ Antra, pokalbį perėmęs žmogus mato visą susirašinėjimą, todėl klientui niekada nereikia kartoti to paties klausimo. Atviras perdavimas kuria pasitikėjimą. Užtikrintas, bet klaidingas atsakymas jį sugriauna.
Kiekvieną savaitę stebėkite keturis skaičius. Kartu jie parodo, ar DI haliucinacijų mažėja, ar jas tiesiog sunkiau pastebėti.
Vertinkite juos kartu. Jei atsisakymo atsakyti dalis krenta, o klaidingų atsakymų dalis kyla, DI agentas pradėjo išsigalvoti atsakymus. Patikrinkite pokalbius, slypinčius už kiekvieno šuolio, ištaisykite šaltinį ir iš naujo ištestuokite su tais pačiais realiais klientų klausimais.
Taip, tačiau mažesnę, nei daugelis tikisi, ir mažesnę nei susiejimas su duomenimis bei nuolatinė peržiūra. Modeliai skiriasi tuo, kaip dažnai jie spėlioja, tačiau net ir stipriausias modelis išsigalvos atsakymus apie jūsų verslą, jei nebus susietas su jūsų duomenimis. Reitingai keičiasi kas kelis mėnesius, kai išleidžiamos naujos versijos, todėl bet koks modelių palyginimas pasensta beveik iškart po paskelbimo.
Pasirinkimas priklauso nuo trijų veiksnių: tikslumo, greičio ir kainos.
Nesirinkite modelio vien pagal viešus reitingus. Atlikite bandomąjį testą su savo klientų klausimais ir savo žinių baze, kiekvienam modeliui pamatuokite klaidingų atsakymų ir atsisakymo atsakyti dalį, o išėjus naujai versijai testą pakartokite. Mūsų patirtis rodo, kad susiejimas su duomenimis, DI instrukcijos ir nuolatinė peržiūra yra svarbesni už tai, kuris pažangiausias modelis veikia po gaubtu. Todėl Parnidia platforma veikia su kelių pirmaujančių tiekėjų modeliais, ir kiekvienas agentas gali naudoti tą, kuris geriausiai tinka jo užduočiai.
Parnidia užtikrina savo DI pokalbių agento tikslumą derindama visus keturis metodus su nenutrūkstančiu peržiūros ciklu. Agentas atsako remdamasis jūsų parduotuvės turiniu, kiekvienas pokalbis gali būti įvertintas, o jūsų komanda užpildo žinių spragas pagal klausimus, į kuriuos agentas negalėjo atsakyti.
Rezultatas yra išmatuojamas. Open24.lt parduotuvėje 2026 m. gegužę DI pokalbių agentas visiškai išsprendė 74% pokalbių, o dar 11% išsprendė iš dalies. Home by NB klientai agentą įvertino 87% klientų pasitenkinimo (CSAT) balu iš 805 įvertinimų. Skaičiuojant visus klientus, tik 0,2% iš 38 640 įvertintų pokalbių buvo netikslios informacijos.
Jei lyginate įrankius, peržiūrėkite mūsų gidą apie geriausius DI pokalbių robotus el. prekybai 2026 m. Norėdami pamatyti, kaip tikslūs atsakymai veikia pardavimus, skaitykite, kaip DI pokalbių robotai didina el. prekybos klientų įsitraukimą.
Geriausias būdas išvengti klaidingų atsakymų yra derinti visus keturis metodus: susieti agentą su savo duomenimis naudojant RAG, pateikti jam griežtas DI instrukcijas (angl. prompts), pasirinkti modelį remiantis testais su jūsų pačių klausimais ir nuolat peržiūrėti realius pokalbius. Nė vieno metodo vieno paties nepakanka.
Tikslumas nėra vienkartinis nustatymas. Tai nuolatinis susiejimo su duomenimis, testavimo ir mokymosi iš kiekvieno pokalbio procesas. Komandos, kurios tokį procesą susikuria, gali drąsiai leisti DI atsakyti į daugumą klientų klausimų.
Norite sužinoti, kaip tai veikia su jūsų prekėmis, taisyklėmis ir klientų klausimais? Užsisakykite demonstraciją. Susipažinsime, kaip šiandien veikia jūsų klientų aptarnavimas, parodysime aktualius esamų klientų pavyzdžius ir pademonstruosime pačią programą, įskaitant DI vertinimus bei DI klientų aptarnavimo platformą.
DI instrukcijų (angl. prompts) kūrimas yra greičiausias ir pigiausias metodas, nes jam nereikia jokių naujų technologijų. Parašykite šabloną, kuris apibrėžia DI vaidmenį, nustato žinių ribas („Naudok tik pateiktus dokumentus“) ir reikalauja, kad modelis pasakytų, kai nežino atsakymo. Galite tai pritaikyti jau šiandien ir dažnai pamatyti aiškius patobulėjimus dar prieš investuodami į RAG ar kitą architektūrą.
Ji prideda tris tikslumo patikros taškus. Pirmas sluoksnis, informacijos paieška (angl. retrieval): sistema ištraukia aktualias ištraukas iš jūsų patvirtintos žinių bazės. Antras sluoksnis, generavimas: didysis kalbos modelis (LLM), naudodamas struktūruotą DI instrukciją, iš tų ištraukų suformuluoja atsakymą. Trečias sluoksnis, patikra: antra, paprastesnė modelio užklausa sutikrina atsakymą su šaltiniais, pavyzdžiui: „Ar pateiktas tekstas pagrindžia šį atsakymą? Atsakyk TAIP arba NE.“
Bazinis RAG sistemos variantas nėra sudėtingas: jį galima sukurti per kelias dienas naudojant atvirojo kodo įrankius, tokius kaip LangChain ar LlamaIndex, ir nemokamą vektorinę duomenų bazę, pavyzdžiui, Chroma. Tikrieji kaštai yra nuolatinis programuotojų laikas, skiriamas žinių bazei prižiūrėti ir informacijos paieškai derinti. Būtent ši nuolatinė priežiūra, o ne pirminis įdiegimas, yra sunkioji dalis.
Pasirinkimas priklauso nuo trijų veiksnių: tikslumo, greičio ir kainos.
Modelių reitingai keičiasi kas kelis mėnesius, todėl visada atlikite bandomąjį testą su keliais modeliais ir savo klausimais, o išėjus naujoms versijoms jį pakartokite.
Tobulinkite paieškos etapą, nes modelio tikslumas priklauso nuo ištraukų, kurias jis gauna. Suskaidykite dokumentus į mažesnes, konkrečiai temai skirtas dalis, kad atitikmenys būtų tikslesni. Išbandykite kitą tekstų vektorizavimo (angl. embedding) modelį, geriau tinkantį jūsų turiniui. Pridėkite rezultatų perrikiavimą (angl. re-ranking), kai antras modelis surikiuoja paieškos rezultatus pagal aktualumą prieš jiems pasiekiant LLM. Tada iš naujo patikrinkite sistemą su realiais klientų klausimais.
Registruokitės konsultacijai. Parodysime panašių klientų pavyzdžių ir pačią sistemą.