Čo je halucinácia AI?

Prečo halucinácie vznikajú

Jazykový model nevie, čo je pravda. Predpovedá text, ktorý najlepšie sedí na otázku. Keď nemá dostatok informácií alebo je otázka nejasná, aj tak vygeneruje odpoveď, a niekedy je presvedčivo nesprávna. Problém je, že znie rovnako isto ako správna odpoveď.

Ako riziko znížiť

• Vlastné dáta: nechať AI odpovedať len z vašich overených podkladov, nie z celého internetu.
• Odovzdanie človeku: pri neistote radšej presmerovať na živého človeka.
• Kontrola: dôležité výstupy si overiť, hlavne čísla, ceny a fakty.

Prečo to majiteľa firmy zaujíma

Ak nasadzujete AI smerom k zákazníkom, halucinácia môže poškodiť dôveru alebo dať mylný sľub. Preto sa AI riešenia nemajú púšťať naslepo. Správne postavené AI je bezpečné, lebo pracuje s vašimi dátami a vie, kedy má mlčať a odovzdať to človeku.

Kedy je riziko najvyššie

Halucinácie hrozia najviac tam, kde model nemá dosť informácií alebo je otázka nejasná, napríklad pri detailných faktoch, číslach, dátumoch či pri veciach mimo jeho znalostí. Naopak, keď pracuje s jasne zadanými, vlastnými podkladmi, riziko je oveľa nižšie. Preto sa firemné AI stavia tak, aby čerpalo z overených zdrojov.

Časté otázky

Dá sa halucináciám úplne zabrániť?

Úplne nie, ale dá sa riziko výrazne znížiť správnym nasadením: vlastné dáta, jasné hranice a odovzdanie neistých prípadov človeku.

Znamená to, že AI sa nedá dôverovať?

Dá, ale s rozumom. Na správne úlohy a so správnym nastavením je AI spoľahlivá. Problém je slepé spoliehanie sa bez kontroly.

Ako spoznám halucináciu?

Často podľa toho, že odpoveď znie priveľmi hladko a konkrétne na vec, o ktorej by model nemal mať istotu. Pri dôležitých údajoch si ich vždy overte v pôvodnom zdroji, nespoliehajte sa slepo.