KI-Halluzination

Halluzinationen werden reduziert, indem Antworten auf freigegebene Quellen gestützt, Belege für behauptete erfolgreiche Aktionen verlangt und Aussagen wie „Ich weiß es nicht“ zugelassen werden. Warum es passiert: Sprachmodelle erzeugen wahrscheinlich klingenden Text. Fehlen die richtigen Informationen, können sie Lücken mit plausiblen, aber falschen Angaben füllen, etwa einer erfundenen Rückgaberichtlinie oder einer nicht existierenden Sendungsnummer. Im Kundenservice entstehen daraus gebrochene Versprechen. Aussagen vor dem Kundenkontakt mit echten Datensätzen abzugleichen ist der zuverlässigste Schutz.