Begriff des Tages

KI-Halluzination

Was ist KI-Halluzination? Eine KI-Halluzination liegt vor, wenn ein großes Sprachmodell (engl. Large Language Model, LLM) wie GPT-4 von OpenAI oder Google PaLM falsche Informationen oder Fakten erfindet, die nicht auf realen Daten oder Ereignissen beruhen. Avivah Litan, VP Analyst bei Gartner, erklärt: „Halluzinationen sind komplett erfundene Ausgaben von großen Sprachmodellen. Obwohl sie völlig ausgedachte Fakten darstellen, präsentiert das LLM sie mit Vertrauen und Autorität.“ Chatbots mit generativer KI können jede Art von Sachinformation fabrizieren,…

Relevante Themen