Sind Halluzinationen wirklich ein Bug, den man irgendwann wegpatcht?

Alle tun so, als wären Halluzinationen ein Fehler, der mit dem nächsten Modell verschwindet. MMn ist das eher ein Nebeneffekt davon, dass Sprachmodelle Plausibles erzeugen und nicht Wahres, z.B. hat mir neulich ein Chatbot ein Kant-Zitat untergejubelt, das so nie existiert hat, aber verdammt nach ihm klang. Was wäre, wenn man das Problem gar nicht löst, sondern bestenfalls einhegt, bzw. wir schlicht lernen müssen, damit umzugehen? 🤔