Wenn Sie Partnerlinks in unseren Inhalten folgen, erhalten wir möglicherweise eine Provision. Dabei entstehen Ihnen keine zusätzliche Kosten. Wir zeigen transparent, wie 
OpenAI hat die Entwicklung eines Text-Wasserzeichen-Tools bestätigt, mit dem KI-generierte Inhalte identifiziert und Schüler/innen, die den Chatbot zum Schummeln nutzen, entlarvt werden können.
Diese Entwicklung findet vor dem Hintergrund wachsender Bedenken über die Auswirkungen von KI auf die Bildung und die Authentizität von Inhalten statt.
In einem Blogeintrag vom 7. Mai, der am 4. August aktualisiert wurde, erklärte OpenAI, dass sein Team “eine Methode für Textwasserzeichen entwickelt hat, die wir weiterhin in Betracht ziehen, während wir nach Alternativen suchen”.
Mögliche Bedenken und Einschränkungen
Das Wall Street Journal berichtete zuerst über das Tool und hob seine hohe Genauigkeit bei der Erkennung von ChatGPT-generierten Aufsätzen und Texten hervor, aber es gab eine Debatte darüber, ob das Wasserzeichen-Tool veröffentlicht werden sollte.
NEW: @OpenAI can reliably detect when someone uses ChatGPT to write a term paper. The watermarking method is ready to go & can be 99.9% effective, per sources & internal documents.
But OAI won’t release it.
Exclusive w @matt_barnumhttps://t.co/2eqf3qgPFZ (gift link)
— Deepa Seetharaman (@dseetharaman) August 4, 2024
OpenAI erklärte, das Tool sei besonders effektiv gegen lokale Manipulationen wie Paraphrasierung, aber “weniger robust gegen globale Manipulationen … was es böswilligen Akteuren leicht macht, es zu umgehen”.
Dazu gehören die Verwendung von Übersetzungssystemen, die Umformulierung mit einem anderen generativen Modell oder das Einfügen von Sonderzeichen wie Emoticons zwischen Wörtern und deren spätere Entfernung.
Das Unternehmen ist auch besorgt über mögliche negative Auswirkungen des Tools auf bestimmte Gruppen. Zum Beispiel könnte die Verwendung von KI als Schreibhilfe für Nicht-Muttersprachler/innen stigmatisierend wirken. OpenAI ist hier sehr vorsichtig und räumt ein, dass die Einführung eines solchen Tools diese Nutzer/innen unverhältnismäßig stark beeinträchtigen könnte.
Darüber hinaus ergab eine Umfrage, dass fast 30 % der ChatGPT-Nutzer/innen ihre Nutzung einschränken würden, wenn ein Wasserzeichen eingeführt würde.
Aufgrund der potenziell schwerwiegenderen Auswirkungen von KI-generierten Multimedia-Inhalten, wie z.B. Deepfakes, konzentriert sich OpenAI derzeit jedoch auf Wasserzeichentechnologien für Audio- und visuelle Inhalte.
Das Unternehmen sieht Text-Wasserzeichen als zusätzliches Tool neben Lösungen wie Klassifikatoren und Metadaten.
Einfluss von KI auf Bildung
Die Überlegungen zu Text-Wasserzeichen kommen zu einem Zeitpunkt, an dem sich Pädagog/innen über den Einfluss von KI auf die akademische Integrität beschweren.
Das Center for Democracy and Technology berichtete, dass 59 % der Mittel- und Oberschullehrer/innen davon überzeugt sind, dass einige Schüler/innen KI für Schularbeiten verwendet haben. Dies ist ein Anstieg von 17 Prozentpunkten im Vergleich zum Vorjahr.
Während OpenAI über Text-Wasserzeichen nachdenkt, entwickelt es seine Sprachmodelle weiter. Kürzlich wurde GPT-4o Long Output mit Unterstützung für 64K Output Tokens angekündigt.
🚨 Breaking: OpenAI launches GPT-4o mini, the most cost-efficient AI model! 🚀
1/ Key Highlights:
– Affordable: Just 15 cents per million input tokens.
– High Performance: 82% on MMLU, surpassing GPT-4.
– Versatile: Text, vision, soon image, video, & audio.#AI #TechInnovation… pic.twitter.com/vboZpb9Dza— Renjit Philip 🔭💡 (@RenjitPhilip) July 18, 2024
Diese Entwicklung findet vor dem Hintergrund eines zunehmenden Wettbewerbs im Bereich der KI statt, nachdem Google die Preise für sein Gemini 1.5 Flash-Modell gesenkt hat, so dass es fast 50 % günstiger ist als OpenAIs GPT-4o mini.
