Mich beschäftigt seit kurzem die Frage ob wir KI-Systemen nicht viel zu viel beibringen, schnelle und selbstsichere Antworten zu geben. Ich meine, Menschen lernen ja gerade durch Zweifel und durch das Zugeben von Wissenslücken, aber moderne LLMs werden ja im Grunde darauf optimiert Halluzinationen zu vermeiden und dabei maximal plausibel zu klingen. Kann man das eigentlich umkehren und ein Modell so trainieren dass es genuinely unsicher wird wenn es sollte ... oder geht das gegen die grundlegende Architektur?
Trainiert ihr eure Modelle eigentlich auch bewusst auf "Unsicherheit"?
Jetzt mitmachen!
Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!