Auf AI würde ich mich nicht unbedingt verlassen!
Ich auch nicht, aber probiere es selbst aus! (Gerade für Skeptiker:innen - und Skepsis ist beim gegenwärtigen AI Hype sicherlich angebracht - hatte ich den Link geteilt 😉)
Der Trick ist hier - und bei vielen anderen "ernsthaften" conversational AI Anwendungen - die AI sinnvoll einzuschränken. Das Sprachverständnis basiert auf "breitbandigen" Trainingsdaten wie z. B. bei ChatGPT. Das Fachwissen wird beschränkt auf die explizit angeschlossenen Datenquellen. Genau das macht den Unterschied aus.
Ich kenne halluzinierende AI Search natürlich selber, von den allgemein zugänglichen Modellen. Das betrifft aber i. d. R. Usecases, wo das LLM nicht auf eine konkrete Domain eingeschränkt ist, sondern mit dem "Wissen" aus dem gesamten Internet - inklusive jeglichem Schwachsinn der da steht - die statistisch wahrscheinlichste Wortfolge als Antwort auf eine Frage generiert. Dass das in Fachfragen nicht besonders belastbar ist, liegt auf der Hand. Dass der Unfug plausibel klingt - wenn man sich in der Domäne nicht auskennt - ist auch logisch.
AI ist ein sehr vielschichtiges Thema. Da muss man schon sehr genau hinschauen, wie eine Lösung implementiert wurde.