Halluzinationen bei RAG-Chatbot

@Jan Reinhardt (geb. Nicklaus) und ich werden immer wieder gefragt, ob ein Chatbot, der auf dem sog. Retrieval Augmented Generation (RAG) Verfahren basiert, halluziniert.

Das Risiko der Halluzinationen ist wichtiges und ein zentrales Thema für die öffentliche Wahrnehmung eines KI-Chatbots. Jan hat daher dem Thema einen Blogbeitrag gewidmet.

Was sind Eure Erfahrungen mit KI-Chabots? Wie schätzt ihr das Halluzinationsrisiko ein?