Von einer Halluzination spricht man, wenn ein KI-Modell Inhalte erzeugt, die plausibel und selbstsicher klingen, aber sachlich falsch oder frei erfunden sind. Ursache ist, dass Sprachmodelle Wahrscheinlichkeiten für den nächsten Text berechnen und nicht „wissen", ob eine Aussage stimmt. Deshalb sind Faktenprüfung und Quellen wichtig.