Dabei greift ChatGPT auf eine riesige Menge eingespeister Daten zurück und berechnet auf dieser Basis, welche Wortfolge am wahrscheinlichsten ist. So entstehen in wenigen Sekunden neue Star-Wars-Drehbücher, Erläuterungen über die Fressgewohnheiten von Seerobben oder Abhandlungen über die Philosophie von Judith Butler.
Warum ist ChatGPT problematisch?
Das Problem an ChatGPT ist zunächst, dass die KI-generierten Texte nicht direkt als solche erkennbar sind. Aufsätze für die Schule oder Universität können spielend leicht von dem Sprachmodell generiert und dann als eigene Arbeitsleistung ausgegeben werden. Da ChatGPT noch so neu ist, gibt es bisher keine zuverlässige Methode, die künstlich erstellten Texte sicher zu erkennen. Es gibt daher Bedenken, ob Schulaufsätze und Hausarbeiten nun ausgedient haben – können sie doch ganz einfach künstlich erstellt werden.
Noch wichtiger aber ist, dass ChatGPT regelmäßig Falschinformationen produziert, da die KI zwar auf viele Daten zugreifen, aber nicht selbst nachdenken und reflektieren kann. So entstehen Texte, die auf den ersten Blick logisch und überzeugend wirken. Sie verfügen jedoch nicht über Quellenangaben und sind häufig fehlerhaft oder komplett unwahr.
Über Uniturm.de schreibt die KI beispielsweise Folgendes:
Uniturm.de wurde nicht 2004 gegründet, sondern 2007 und unseren Hauptsitz haben wir in Leipzig, nicht in Berlin. Bedenklich hierbei ist vor allem auch, dass dir KI auch nachdem sie ausdrücklich auf die Fehlinformationen hingewiesen wurde noch falsche Angaben macht!
ChatGPT verleitet durch Schnelligkeit und einen überzeugenden Schreibstil also dazu, die Produkte der KI unhinterfragt für bare Münze zu nehmen. Tatsächlich muss die Richtigkeit der generierten Texte aber dringend von einem Menschen gegengeprüft werden. Des Weiteren sind manche Antworten zu einfach. Bleiben wir bei unserem Beispiel. Eigentlich wurde die Firma Pharetis GmbH 2007 gegründet und erst im Oktober 2008 wurde Uniturm.de bundesweit frei geschalten, welches sich bis dahin in einer closed beta Phase befand. Manchmal ist es eben komplexer und einen kostenlosen KI-Selbsttest, ohne Anmeldung oder Registrierung, könnt ihr hier mit einer Finanzfrage durchführen.
ChatGPT an Hochschulen verbieten?
Vielerorts wird kontrovers diskutiert, wie ChatGPT und die damit verbundenen Konsequenzen für das wissenschaftliche Schreiben an Schulen und Hochschulen zu bewerten sind.
Ein kleiner Tipp: Im Magazin haben wir dir Tipps zum wissenschaftlichen Schreiben zusammengestellt.
Der Schulbezirk New York hat beispielsweise entschieden, den Zugriff auf ChatGPT in öffentlichen Netzwerken und Geräten der Schulen zu verbieten. Begründet wird diese Entscheidung laut Pressesprecherin Jenna Lyle mit „Bedenken angesichts möglicher negativer Auswirkungen auf das Lernen der Schüler und Schülerinnen sowie Bedenken in Bezug auf die Sicherheit und Korrektheit von Informationen“. Da New York der größte Schulbezirk der USA ist, gilt diese Entscheidung als wegweisend für den Rest des Landes.
Auch die International Conference on Machine Learning ICML hat beschlossen, die Nutzung von ChatGPT einzuschränken. Wissenschaftliche Beiträge dürfen fortan nicht von Sprachmodellen wie ChatGPT verfasst werden – lediglich die „leichte Bearbeitung“ der von Autoren selbst verfassten Texte ist noch zulässig. Die ICML begründet diese Entscheidung vor allem mit Unklarheiten rund um das Urheberrecht, Plagiate und die Authentizität eingereichter Artikel.
Auch in Deutschland schlägt das Thema Wellen: Erik Stohn, SPD-Abgeordneter in Brandenburg, bat den Landtag in einer sogenannten Kleinen Anfrage, sich mit künstlicher Intelligenz an Universitäten und Hochschulen auseinanderzusetzen. Dabei geht es ihm aber nicht nur um die Verhinderung von Betrugsversuchen, sondern auch darum, inwiefern „technologische Fortschritte auf dem Gebiet der Textproduktion in die Lehrpläne der Hochschulen aufgenommen werden“ könnten.
Ein kleiner Tipp: Hier erfährst du, wie du am besten wissenschaftlich lesen kannst.
Die Zukunft von ChatGPT
Obwohl die künstliche Intelligenz einige Schwachstellen und Nachteile aufweist, könnte sie sich auch im Hochschulkontext als Mehrwert herausstellen. Dafür argumentiert beispielsweise Robert Lepenies, Präsident der Karlshochschule gegenüber der WirtschaftsWoche. Den Studierenden direkt Interesse am Betrügen zu unterstellen, heiße, sie und ihr Interesse am Lernen nicht ernstzunehmen. Dabei könnten KIs wie ChatGPT auch produktiv eingesetzt werden. „Wichtig ist, dass die alten Kulturtechniken des Lesens, Schreibens und das Nachdenken im Kern erhalten bleiben – nur eben unter anderen Voraussetzungen.“
Die Firma Open AI, die ChatGPT veröffentlicht hat, hebt außerdem hervor, dass das Sprachmodell noch nicht fertig entwickelt sei und viele Schwachstellen noch behoben werden könnten. Künftig könnten von ChatGPT erstellte Texte beispielsweise mit einem Wasserzeichen gekennzeichnet werden, um ihren Ursprung klar erkennbar zu machen.
Übrigens: Die Entwicklung von Programmen, die mit ChatGPT geschriebene Texte erkennen können, ist in vollem Gange. So hat beispielsweise der 22-jährige Student Edward Tian eine App entwickelt, die KI-Texte entlarven soll.
Fazit
ChatGPT ist eine künstliche Intelligenz, die völlig neue Möglichkeiten im Bereich der Texterstellung bietet. Wer sich der Risiken bewusst ist und die KI intelligent und reflektiert nutzt, kann sie auch beim Studieren gewinnbringend einsetzen. Wie Deutschlands Hochschulen mit der neuen Situation umgehen, muss sich noch zeigen - Deine nächste Hausarbeit solltest du trotzdem lieber selbst schreiben.
Vielen Dank für die Bilder an geralt @pixabay.com, Christina Morillo, Tara Winstead @pexels.com.
Diese Artikel könnten dich auch interessieren:
KI korrigieren - wenn ChatGPT sich irrt
Welche Anforderungen muss ein wissenschaftliche Arbeit erfüllen?
So schreibst du in der Vorlesung richtig mit
Vorteile professioneller Hilfe für deine Bachelorarbeit oder Masterarbeit
Die 8 bester Lernstrategien für die Uni-Prüfungen
Energie sparen als Student: Die 10 besten Energiespartipps
