KI korrigieren – wenn ChatGPT sich irrt

Seit der Einführung von ChatGPT fürchten Lehrkräfte, von Studenten nur noch computergenerierte Präsentationen und Hausarbeiten vorgelegt zu bekommen. Doch inzwischen hat sich gezeigt, dass man der Künstlichen Intelligenz von OpenAI, obgleich beeindruckend und bahnbrechend, auch auf die Schliche kommen kann. Das liegt nicht nur am meist leicht erkennbaren, starren Textaufbau, sondern auch an Informationen, die teilweise an den Haaren herbeigezogen wirken. Obwohl sich ChatGPT auch irren kann, gibt es doch Möglichkeiten, den Schreibassistenten als wertvollen Partner für das Verfassen von Studienaufgaben zu gewinnen. Wie kann man die KI korrigieren und den Wahrheitsgehalt der generierten Texte verbessern? Alle Fragen findet ihr hier beantwortet.

Macht ChatGPT Fehler?

Oh ja, ChatGPT macht Fehler. Zwar wurden einige Diskrepanzen, wie Rechtschreibung, Grammatik oder die Überforderung durch simple Mathematik oder Logikrätsel, behoben, als die KI ans World Wide Web angeschlossen wurde, doch noch immer generiert Chat GPT häufig falsche oder ausgedachte Antworten. Grund ist, dass die KI als Sprachmodul und Schreibassistent nicht wie eine Suchmaschine das Internet nach richtigen Antworten durchforstet, sondern spekuliert, was logisch gesehen im Kontext der gefütterten Informationen die nächste Antwort sein müsste.

Was für die KI logisch ist, ist aber nicht immer korrekt. Auch ist die KI nicht fähig, Wahrheit von Unwahrheit zu unterscheiden. So können Sachverhalte, die im Internet fälschlicherweise wiederholt werden oder von voreingenommenen Quellen sind, von ChatGPT als faktisch richtig eingestuft werden. Es fehlt schlichtweg die kognitive Fähigkeit des Menschen, Informationen zu nuancieren und in den richtigen Kontext zu setzen. Dies führt dann nicht nur zu spekulativen Antworten, sondern gegebenenfalls auch zu etwas, was in der Welt der Künstlichen Intelligenzen inzwischen einen eigenen Namen hat – Halluzinationen.

KI korrigieren – was sind Halluzinationen?

Halluzinationen bezeichnen Fälle, in denen ein KI-Modell wie ChatGPT scheinbar plausible, aber tatsächlich falsche oder erfundene Informationen generiert. Dieses Phänomen ist wieder auf die Funktionsweise eines Schreibassistenten zurückzuführen, Informationen nicht zu recherchieren, sondern aufgrund der eigenen massiven Datenbank und Wahrscheinlichkeiten zu spekulieren, was das jeweils nächste Wort sein müsste. Vorstellen kann man sich dies wie eine sehr viel komplexere Version der autocomplete Funktion des eigenen Handys – ein Angebot an mehr oder weniger schlüssigen Nachfolge-Wörtern, denen es am nötigen Kontext mangelt. Weiß ChatGPT die Antwort also nicht, wird oftmals halluziniert, was für die KI an der Stelle logisch wäre. Deswegen ist es, wie bei jeder wissenschaftlichen Online-Recherche wichtig, die generierten Texte auf ihre Richtigkeit zu testen.

KI korrigieren - Informationen überprüfen

Um herausfinden zu können, ob ChatGPT sich geirrt hat, sollte man die Behauptungen per cross-referencing bei vertrauenswürdigen Seiten überprüfen. Am einfachsten geht dies, wenn man Chat GPT folgenden Prompt gibt:



So lassen sich die Informationen runterbrechen und schneller überprüfen, als durch den verfassten Fließtext schnüffeln zu müssen. Auch kannst – und solltest - du die angegebenen Links direkt auf Richtigkeit, Relevanz sowie Vertrauenswürdigkeit untersuchen, also die Quellen kritisch analysieren. Natürlich ist dies anstrengender, als sich von ChatGPT einfach einen fertigen Text ausspucken zu lassen, aber wie bereits erläutert, läuft man dann Gefahr, Falschaussagen generiert zu bekommen. Den Prompt kannst du übrigens auch bei deiner Recherche für Hausarbeiten oder Präsentationen verwenden. So kannst du sowohl (vorher von deiner Seite überprüfte) Informationen sammeln als auch mögliche neue Quellen finden.

KI korrigieren - Feedback geben

Was soll man nun also tun, wenn man Halluzinationen und Fehler entdeckt hat? Man teilt es der KI mit. OpenAI, die Organisation hinter Chat GPT, sagt selbst, das Modell würde durch neue Daten und Informationen, fortlaufende Forschungen und User-Feedback funktionieren und kontinuierlich verbessert werden. Eine der bedeutsamsten Maßnahmen ist also die Implementierung eines Feedback Mechanismus. Chat GPT ist absichtlich als Chat, als Dialog, aufgebaut – User sollen mit dem Modul interagieren, es korrigieren, herausfordern und Feedback geben.

So kann man, wie unser eigener Test zeigt, der KI direkt in der Konversation mitteilen, dass die behaupteten Fakten fehlerhaft sind. Daraufhin wird sich bedankt. Öffnet man dann aber den nächsten Chat und stellt dieselbe Frage, kommt wahrscheinlich die gleiche, falsche Antwort. Deswegen ist es wichtig, dass man zusätzlich die integrieren Features des Chats benutzt.

Die Antworten im Dialog sollten mit Daumen-hoch und Daumen-runter Buttons ausgestattet sein. Klickt man auf letzteres Icon, kann man detaillierteres Feedback geben, wie beispielsweise "Faktisch nicht richtig”. Das gesammelte Feedback wird dann in regelmäßigen Intervallen von den Entwicklern genutzt, um neue Versionen des Modells zu optimieren. Dies kann je nach der Implementierung allerdings Wochen oder Monate dauern.

KI korrigieren – unser Test

Die Fehlerhaftigkeit ChatGPTs fiel uns zufällig in einem Dialog über alte Münzen auf, bei welchem die KI behauptete, eine bestimmte 5-Mark-Münze hätte es nur in Silber, nie in Gold gegeben. Bei der Korrektur des Fehlers stachen die Worte „Vielen Dank für die Quelle“ sowie „Vielen Dank für die Korrektur und das Bereitstellen der Information“ heraus, welche die stetige Weiterentwicklung von ChatGPTs Datenbank durch Interaktion mit den Usern suggerieren. Öffneten wir danach allerdings einen neuen Text mit der selben Frage, kam die selbe, falsche Antwort.



Daraufhin suchten wir nach einer leichten Lösung um Chat GPTs Behauptungen auch bei längeren Texten leicht überprüfen zu können. Um einen Aufsatz über die Wichtigkeit von Mülltrennung checken zu können, wurde der oben genannte Prompt verwendet. Die Faktenliste sah nun wie folgt aus und ließ sich Behauptung für Behauptung, Quelle um Quelle schnell überprüfen und gegebenenfalls anpassen.



Nur ist dies lediglich eine Möglichkeit, Fehler schnell aufzuspüren. Für das langfristige Korrigieren der Künstlichen Intelligenz bleibt Stand jetzt nur die Verwendung des Feedback-Tools via Daumen-runter Button um ChatGPT in kommenden Updates klüger zu machen.

KI korrigieren - Fazit

Letztlich ist zu sagen, dass Chat GPT keine Suchmaschine wie beispielsweise Google ist, deren Fokus darauf liegt, die richtigen Antworten zu finden. Open AI’s KI ist ein Schreibassistent, welcher zwar mit allerlei Informationen gefüttert wurde, letztlich aber sein eigenes “Logiksystem” anwendet und so zu fragwürdigen, falschen oder ausgedachten Lösungen kommen kann. Es empfiehlt sich also, über den vorgestellten Prompt die von Chat GPT ausgespuckten Daten zu überprüfen und eine kritische Quellenanalyse vorzunehmen, bevor du die Behauptungen in deine Studienaufgaben einfügst. Bei auftretenden Fehlern können die Feedback-Funktion sowie direkte Anmerkungen im Dialog genutzt werden, um langfristig Korrekturen vorzunehmen und die KI klüger zu machen. Dennoch sei gesagt - für das Brainstorming oder Schreiben von manuell gesammelten, tatsächlichen Fakten ist Chat GPT besser geeignet.

Bilderquellen: Vielen Dank an Emiliano Vittoriosi ©unsplash.com, MART PRODUCTION und Solen Feyissa ©pexels.com

Diese Artikel könnten dich auch interessieren:
Wird ChatGPT an Hochschulen verboten?
ChatGPT vs. Akademisches Ghostwriting
Immer mehr Studierende nutzen KI für Bewerbungen