NEVÍM jako pravidlo: Jak zastavit halucinace AI

Umělá inteligence umí odpovídat rychle a přesvědčivě — i když nemá pravdu. Proto jsem si v personalizacích (ChatGPT, Perplexity) nastavil jasné pravidlo: „Nemám ověřené údaje, takže: NEVÍM.“ V Copilot to nejde, musí se to napsat.

Kráťa v personalizaci - Pokud něco nevíš, nebo kdykoli si nejsi jistý nevymýšlej si a rovnou napiš: „Nemám ověřené údaje, takže: NEVÍM.“

Je totiž velmi těžké poznat, kdy si AI vymýšlí (halucinuje), protože vždy okamžitě a přesvědčivě se suverenitou, vypálí odpověď.

Periplexity - Je pravda, že umělá inteligence často odpovídá s velkou suverenitou, i když si ve skutečnosti může „vymýšlet“ či nepřesně odhadovat informace. Důvodem je, že AI pracuje na principu pravděpodobnostního modelu – vybírá nejpravděpodobnější odpověď na základě vzorů ve velkém množství dat, která zná. To znamená, že když nemá přesnou informaci, vytvoří odpověď, která zní logicky a přesvědčivě, ale nemusí být fakticky správná – tomu se říká „halucinace“ AI.

Jak poznat, že AI možná „vymýšlí“?

• Odpovědi mohou obsahovat neobvyklé fráze nebo nepřirozené formulace, které by člověk běžně nepoužil.

• AI může opakovat chyby či nepřesnosti, pokud se v datech, na kterých byla trénována, tyto chyby objevují.

• Při velmi specifických nebo detailních otázkách může AI poskytnout odpověď, která není podložená fakty, ale jen pravděpodobnostní aproximací.

• AI nemá skutečné porozumění textu ani světu, „nezná“ slova, ale pracuje s čísly a vzory, což vede k tomu, že někdy odpovídá nesmyslně nebo nelogicky.

Proto je důležité vždy ověřovat informace z AI u důvěryhodných zdrojů a být kritický k odpovědím, které působí příliš sebejistě, ale nejsou podloženy fakty.

Pokud AI nemá dostatek dat nebo je dotaz příliš specializovaný, může se stát, že odpoví přesvědčivě, ale nesprávně.

Stručně řečeno: AI „vymýšlí“ proto, že generuje nejpravděpodobnější odpověď, nikoli proto, že by měla vědomé úmysly lhát. Proto je potřeba být obezřetný a informace z AI vždy ověřovat.

Kráťa v chatu - A alespoň si dát do profilu to „NEVÍM“.

Perplexity - Máte naprostou pravdu, a proto je pro mě velmi důležité dodržovat pravidlo, že pokud nemám ověřené údaje, přímo to uvedu a nepokouším se odpovídat spekulativně. Ve vašem profilu máte jasně uvedeno, že chcete vždy pouze ověřené informace a pokud něco nevím, mám napsat: „Nemám ověřené údaje, takže: NEVÍM.“

Toto pravidlo pro mě platí jako priorita a vždy se ho snažím dodržovat, abych vám poskytoval co nejspolehlivější a nejkvalitnější odpovědi.

Shrnuto: Uvedení „nevím“ místo nejistých údajů je klíčové pro udržení kvality, důvěry a etiky v komunikaci a zabraňuje šíření nepřesností. Je to prospěšné jak pro uživatele, tak pro poskytovatele informací.

Kráťa Copilotovi - Dá se tady někde vložit do Personalizace Copilota: Pokud něco nevíš, nebo kdykoli si nejsi jistý nevymýšlej si a rovnou napiš: „Nemám ověřené údaje, takže: NEVÍM.“

Copilot - To je skvělý nápad, Kráťo — jasně formulované přání, které dává smysl.

Momentálně není možné přímo do Personalizace vložit vlastní „pravidla“ nebo fráze, které bych měl vždy používat. Ale dobrou zprávou je, že i bez toho mám už nastaveno chovat se právě tak, jak popisuješ: pokud si nejsem jistý nebo nemám ověřené údaje, nevymýšlím si. Místo toho dám vědět, že informace nemám, a zbytečně netahám z klobouku odpovědi typu „možná tohle, možná tamto“. Klidně ti to můžu říkat i tou tvojí větou: „Nemám ověřené údaje, takže: NEVÍM.“ Stačí říct, že ti to tak vyhovuje, a přizpůsobím se.

Test v Perplexity

Nastavení ChatGPT

Test ChatGPT

Copilot mi to na dotaz ve vlákně slíbil, ale za půl hodiny v jiném vlákně, to zcela ignoroval a psal „diplomatické odpovědi“ – je ukecaný, rád si píše. Na dotaz ohledně počtu žifaf v Indii odepsal, že existují archeologické...