Ich nutze ChatGPT für Arbeitssachen und es ist meistens ziemlich hilfreich, aber manchmal erzählt es mir selbstbewusst Dinge, die einfach faktisch falsch sind. Letzte Woche hat es mir zum Beispiel ein spezifisches historisches Datum genannt, das völlig falsch war. Sollte ich einfach davon ausgehen, dass es immer potenziell falsch sein kann, oder gibt es einen Weg, es zuverlässiger zu machen?
Das Vertrauen ist das eigentliche Problem - es generiert plausibel klingende Texte ohne interne Faktenprüfung, daher kommen falsche Antworten genauso glatt raus wie richtige. Was wirklich hilft, ist, es weniger als Quelle und mehr als Brainstorming-Partner zu behandeln: nutze es für Struktur, Ideen oder Erklärungen von Konzepten, dann überprüfe alle spezifischen Behauptungen (Daten, Namen, Statistiken) gegen etwas, dem du vertraust, bevor du dich darauf verlässt. Eine praktische Sache, die die meisten übersehen: wenn du eine faktische Antwort bekommst, frag es, Quellen zu nennen oder zu erklären, woher diese Information kommt - manchmal merkt es seinen Fehler selbst oder gibt dir zumindest etwas zu überprüfen. Besonders bei der Arbeit spart dir dieser eine zusätzliche Verifikationsschritt vielleicht 30 Sekunden und bewahrt dich davor, später blöd dazustehen.
Es ist nicht so, dass es *manchmal* falsch ist - es ist eher so, dass es grundsätzlich das nächste Wort basierend auf Mustern errät, weshalb es völlig selbstsicher klingen kann, während es total daneben liegt, besonders bei spezifischen Fakten wie Daten oder Namen. Dein bester Ansatz ist, es als Ausgangspunkt zu behandeln, den du überprüfen musst, vor allem bei allem Faktischen oder bei Dingen, die für deine Arbeit kritisch sind.
Überprüfe alle sachlichen Angaben, bevor du dich darauf verlässt - das ist die einzige echte Verteidigung hier. Ich habe das auf die harte Tour gelernt, indem ich verschiedene Tools für Recherchen genutzt habe: Diese Systeme sind Musterkennungsmaschinen, die Unsinn mit exakt dem gleichen Ton wie genaue Informationen ausgeben können. Das Gruselige ist, dass ChatGPT keine Möglichkeit hat zu wissen, was es nicht weiß, also füllt es Lücken mit plausibel klingenden Texten. Du bekommst auf beide Arten eine glatte, selbstsichere Antwort.
Die Falle, die jeder übersieht, ist zu denken, dass du die falschen Antworten einfach durch Lesen erkennen kannst. Das kannst du nicht, besonders nicht bei spezialisierten oder historischen Details. Ein erfundenes Datum sieht genauso aus wie ein echtes, wenn es getippt wird. Die einzige zuverlässige Methode ist, es tatsächlich gegen eine Quelle zu überprüfen - Wikipedia für Geschichte, offizielle Dokumente für technische Spezifikationen, was auch immer zutrifft. Es ist zusätzliche Arbeit, aber notwendig, wenn die Einsätze hoch sind.
Um die Zuverlässigkeit in deinem tatsächlichen Workflow zu verbessern: Fordere es auf, Quellen zu nennen oder sein Denken Schritt für Schritt aufzuschlüsseln, was manchmal Lücken in seiner Logik offenlegt. Nutze es als Ausgangspunkt oder Brainstorming-Tool, nicht als Wahrheitsquelle. Und wenn du es wiederholt für die gleiche Art von Aufgabe nutzt, wirst du anfangen, Muster zu erkennen, wo es dazu neigt zu scheitern. Nachdem du auf diese Weise eine Weile gearbeitet hast, entwickelst du einen Instinkt dafür, welche Outputs Überprüfung brauchen und welche wahrscheinlich solid sind.
Bei konkreten Fakten - Daten, Namen, Statistiken - frag es, Quellen zu zitieren oder zu erklären, woher die Info kommt, und es wird sich oft selbst ertappen, wie es Sachen erfindet. Wenn es nichts Reales angeben kann, vertrau ihm nicht, und der eigentliche Trick ist, Folgefragen zu stellen, die dem widersprechen, was es gesagt hat: Wenn es selbstbewusst auf der gleichen falschen Antwort beharrt, ist das dein Signal, es anderswo zu überprüfen, bevor du es nutzt.
Anmeldenzum Beantworten.
