Halluzinationen in KI-Support-Bots reduzieren
· 10 Minute Lesezeit
Ein KI-Support-Bot kann sicher klingen und einem Kunden dabei eine erfundene Erstattungsregel, einen veralteten Einrichtungsschritt oder eine plausible, aber falsche kontobezogene Antwort geben. Eine vollständige Garantie gegen Halluzinationen ist nicht möglich. Sie können die Wahrscheinlichkeit und die Auswirkungen unbelegter Antworten jedoch deutlich reduzieren, indem Sie den Bot, seine Quellen und den Betriebsprozess so gestalten, dass er bei schwacher Beleglage weniger sagt.