Hallucination
Når en AI-model opfinder fakta der ikke eksisterer og præsenterer dem som sande.
AI-sprogmodeller er ikke søgemaskiner der finder og verificerer fakta — de genererer tekst baseret på statistiske mønstre. Resultatet er at de af og til producerer overbevisende-klingende svar der er faktisk forkerte. Det kaldes hallucination.
En typisk hallucination kan være et opdigtet citat tilskrevet en rigtig person, en ikke-eksisterende lovparagraf med korrekt-klingende paragrafnummer, eller en bog der aldrig er skrevet. Modellen 'ved' ikke at den tager fejl — den producerer bare det mest sandsynlige svar ud fra dens mønstre.
Risikoen varierer: velkendte emner med masser af træningsdata giver sjældnere fejl end nicheemner, nyere begivenheder og juridiske eller medicinske detaljer.
Du beder en AI om at finde retspraksis om et specifikt emne. Den svarer med præcise domsnumre, årstal og domstolsnavne — ingen af dem eksisterer. Svaret lyder professionelt og troværdigt, men er komplet opdigtet.