Was bedeutet das für Ihren Betrieb?
Ein Gast fragt einen allgemeinen Chatbot, ob das Hallenbad eines bestimmten Hotels im Ahrntal am Sonntag geöffnet ist. Weiß das Modell es nicht, kann es trotzdem eine glatte Antwort liefern. Der Gast steht dann vor verschlossener Tür, und das Haus bekommt die Beschwerde, obwohl es die Antwort nie gegeben hat.
Vermeiden lässt sich das nicht durch den Wunsch, das Modell möge nicht irren, sondern durch den Aufbau: Es darf nur aus freigegebenen Informationen antworten, bei Lücken ehrlich sagen, dass es etwas nicht weiß, und an einen Menschen übergeben. Solche Regeln lassen sich vorab testen, indem man gezielt Fragen stellt, auf die der Assistent keine Antwort haben darf.
Worauf Sie achten sollten
- Antworten nur aus einer geprüften Wissensbasis erlauben.
- Keine Zusagen zu Preisen, Verfügbarkeit oder Stornierung ohne Datenquelle.
- Bei Unsicherheit eine Rückfrage oder die Übergabe an einen Menschen vorsehen.
- Vor dem Start mit Testfragen prüfen, auch mit absichtlich schwierigen.
- Gesprächsverläufe regelmäßig durchsehen und Lücken in der Wissensbasis schließen.
So handhabt es Alpin Systems
Der Digitale Assistent von Alpin Systems antwortet nur mit Informationen, die Sie freigegeben haben, und übergibt bei allem anderen an einen Menschen. Wie das funktioniert, lesen Sie unter Wissensbasis und Übergabe an einen Menschen.
Häufige Fragen
Warum erfinden Sprachmodelle Antworten?
Weil sie Texte nach Wahrscheinlichkeit erzeugen und nicht in einer Datenbank nachschlagen. Fehlt ihnen eine Information, füllen sie die Lücke oft plausibel, statt zu schweigen.
Lässt sich das ganz ausschließen?
Nicht mit Sicherheit. Man kann das Risiko aber stark senken: freigegebene Quellen, klare Regeln, Testfragen und die Übergabe an einen Menschen.
Wer haftet für eine falsche Antwort?
Für Aussagen auf Ihrer Website oder in Ihrem Kanal sind Sie als Betreiber verantwortlich. Deshalb sollte ein Assistent so eingerichtet sein, dass er nur Geprüftes sagt.