AI-hallucináció: hogyan ellenőrizd a választ, mielőtt továbbküldöd?
A magabiztosan megfogalmazott AI-válasz lehet téves, elavult, hiányos vagy olyan hivatkozásra épülő, amely nem támasztja alá az állítást. A felhasználható végeredményhez az ellenőrzés legyen a munkafolyamat része, ne utólagos remény.
Frissítve:
Olvasási idő: kb. 2 perc
SzerzőSzabó Norbert
Ebben a cikkben
Miért nem elég azt kérni, hogy „ne hallucinálj”?
A generatív modell szöveg- vagy multimodális választ készít a bemenet és a tanult minták alapján. A helyesnek tűnő mondat ezért nem feltétlenül azonos egy kereshető, elsődleges forrással igazolt tényállítással. A generatív AI profiljában a NIST is foglalkozik a confabulation, azaz a magabiztos, de téves kimenet kockázatával.
A prompt javíthat a munkameneten: megadhatod a forrásokat, kérheted a bizonytalanság jelzését vagy egy táblázatos állításlistát. Ez nem szünteti meg az ellenőrzés szükségességét, különösen gyorsan változó termékfunkciónál, jognál, pénznél vagy személyeket érintő döntésnél.
Ötlépéses ellenőrzési menet
- 1
Bontsd állításokra
Jelöld meg külön a számokat, dátumokat, neveket, jogi állításokat, idézeteket és ajánlásokat.
- 2
Nyisd meg a megadott forrást
Ellenőrizd, hogy a forrás valódi, aktuális, az állítás tárgyáról szól, és ténylegesen azt támasztja alá.
- 3
Keresd meg a primer adatot
Termékfunkciónál gyártói dokumentációt, jogszabálynál hivatalos szöveget, kutatásnál eredeti tanulmányt használj.
- 4
Számold újra
Pénzügyi vagy táblázatos értéknél állítsd helyre a képletet, mértékegységet, időszakot és bemeneti értékeket.
- 5
Jegyezd fel a bizonytalanságot
Ha nem igazolható, hagyd ki vagy jelezd, mi hiányzik; ne töltsd ki becsléssel.
Ha promptolsz, kérd a választ állítás és forrás oszlopokkal, de kezeld a forráslistát keresési segítségként, nem bizonyítékként. Lásd a promptolási útmutatót és a promptolás alapjait.
Az ellenőrzés mélységét igazítsd a döntés tétjéhez
| Kimenet | Javasolt ellenőrzés |
|---|---|
| Belső ötlet vagy vázlat | A felelős kolléga nézze át a feladathoz, célhoz és tiltott adatokhoz. |
| Ügyfélnek küldött válasz | Minden konkrét termékállítás, ár, határidő és vállalás forrásellenőrzése. |
| Jogszabályi vagy pénzügyi összefoglaló | Hivatalos forrásszöveg és szakértői felülvizsgálat; a modell válasza ne legyen önálló jogi vélemény. |
| Embert érintő döntéstámogatás | Adatforrás, elfogultság, alkalmazandó eljárás és kijelölt emberi döntéshozó külön vizsgálata. |
A NIST AI Risk Management Framework a mérés, tesztelés és rendszeres felülvizsgálat szerepét hangsúlyozza. Alakíts ki visszajelzési utat a hibás válaszra, és javítsd a forrásrendszert vagy folyamatot is, ha ugyanaz a probléma ismétlődik. Az AI-kimenetek minőségbiztosításáról további rubrikát találsz.
Gyakori kérdések
Források
Az oldalon szereplő dátumokat és állításokat a fenti források alapján ellenőriztük. Utolsó ellenőrzés: 2026. október 2.
