Hallucinatie
Hallucinatie is wanneer een large language model met overtuiging informatie produceert die fout, verzonnen of bedacht is — namen, bronvermeldingen en feiten die kloppen lijken maar dat niet zijn. Het is geen bug, het is een eigenschap van statistische tekstgeneratie.
Een large language model zoekt dingen standaard niet op. Het voorspelt het volgende token op basis van patronen uit de training, dus als die patronen een overtuigende maar verkeerde richting op wijzen, schrijft het model vrolijk een bronvermelding die niet bestaat of een klantnaam die het nog nooit gezien heeft. De output leest vloeiend, en juist dat maakt hallucinaties lastig te herkennen.
De eerlijke kijk: je dringt hallucinaties terug, je elimineert ze niet. De hefboom met het grootste effect is het model gronden in je eigen data via retrieval-augmented generation, zodat het antwoord op echte documenten leunt in plaats van op het geheugen van het model. Daarbovenop komen evals om regressies te vangen, guardrails om buiten-scope vragen te weigeren, en een mens in de loop overal waar de kosten van een fout antwoord hoog liggen.
De veelgemaakte fout is een LLM behandelen als bron van waarheid en hem direct naar gebruikers sturen of, erger, naar een AI-agent die acties kan uitvoeren. De vuistregel is simpel: als een fout antwoord je in verlegenheid brengt of geld kost, heeft het model grounding, controles en een mens op het pad nodig voordat het productie raakt.
