Co je halucinace AI?
Když si AI věrohodně vymyslí fakt, citaci nebo zdroj, který neexistuje.
Jazykový model skládá text, který zní pravděpodobně. Když odpověď nezná, často ji nepřizná, ale vytvoří něco, co vypadá správně – jméno, číslo, paragraf zákona nebo knihu, která nikdy nevyšla.
Halucinace nejsou chyba, kterou by šlo jednoduše vypnout. Proto se důležité údaje z AI vždy ověřují v původním zdroji.
Příklad
AI k referátu „najde“ tři knihy s autory a roky vydání – a dvě z nich neexistují.