Prompt-basiertes Lernen

Was bedeutet Prompt-basiertes Lernen?

Prompt-basiertes Lernen ist eine Strategie, die Ingenieure des maschinellen Lernens verwenden können, um große Sprachmodelle (LLMs) zu trainieren, so dass dasselbe Modell für verschiedene Aufgaben ohne erneutes Training verwendet werden kann.

Herkömmliche Strategien zum Trainieren großer Sprachmodelle wie GPT-3 und BERT erfordern, dass das Modell zunächst mit unbeschrifteten Daten trainiert und dann mit beschrifteten Daten für bestimmte Aufgaben feinabgestimmt wird. Im Gegensatz dazu können sich prompt-basierte Lernmodelle selbständig auf verschiedene Aufgaben einstellen, indem sie das durch Prompts eingeführte Domänenwissen übertragen. Im weitesten Sinne handelt es sich um eine generative KI.

Die Qualität der von einem prompt-basierten Modell erzeugten Ausgabe hängt in hohem Maße von der Qualität des Prompts ab. Ein gut formulierter Prompt kann dem Modell helfen, genauere und relevante Ergebnisse zu erzeugen, während ein schlecht formulierter Prompt zu inkohärenten oder irrelevanten Ergebnissen führen kann. Die Kunst, nützliche Prompts zu schreiben, wird Prompt Engineering genannt.

Techopedia erklärt Prompt-Based Learning

Prompt-basiertes Lernen macht es Ingenieuren der künstlichen Intelligenz (KI) leichter, Basismodelle für verschiedene Arten von nachgelagerten Anwendungen zu verwenden.

Dieser Ansatz zur Optimierung großer Sprachmodelle hat zu einem verstärkten Interesse an anderen Arten des Zero-Shot-Lernens geführt. Zero-Shot-Lernalgorithmen können Wissen von einer Aufgabe auf eine andere übertragen, ohne dass zusätzliche markierte Trainingsbeispiele benötigt werden. Dies funktioniert dank der Automatisierung von Logikmodellen.

Vorteile und Herausforderungen

Prompt-basierte Trainingsmethoden dürften für Unternehmen von Vorteil sein, die keinen Zugang zu großen Mengen an gekennzeichneten Daten haben, sowie für Anwendungsfälle, in denen einfach nicht viele Daten zur Verfügung stehen. Die Herausforderung bei der Verwendung von Prompt-basiertem Lernen besteht darin, nützliche Prompts zu erstellen, die sicherstellen, dass dasselbe Modell erfolgreich für mehr als eine Aufgabe verwendet werden kann.

Prompt-Engineering wird oft mit der Kunst der Abfrage einer Suchmaschine in den ersten Tagen des Internets verglichen. Sie erfordert ein grundlegendes Verständnis von Struktur und Syntax – und eine Menge Versuch und Irrtum.

ChatGPT und Prompt-basiertes Lernen

ChatGPT verwendet Eingabeaufforderungen, um genauere und relevantere Antworten auf eine breite Palette von Eingaben zu generieren, und wird ständig mit Benutzeraufforderungen, die für eine bestimmte Aufgabe relevant sind, verfeinert.

Der Prozess besteht darin, dem Modell eine Aufforderung zu geben und ihm dann zu erlauben, eine Antwort zu generieren. Die erzeugte Ausgabe wird dann von einem menschlichen Bewerter bewertet, und das Modell wird auf der Grundlage des Feedbacks angepasst. Der Feinabstimmungsprozess wird so lange wiederholt, bis die Ergebnisse des Modells akzeptabel sind.

Verwandte Begriffe

Margaret Rouse

Margaret Rouse ist eine preisgekrönte technische Autorin und Dozentin. Sie ist für ihre Fähigkeit bekannt, komplexe technische Themen simpel und nachvollziehbar zu erklären. In den letzten zwanzig Jahren sind ihre Erklärungen auf TechTarget-Websites erschienen und sie wurde in Artikeln der New York Times, des Time Magazine, USA Today, ZDNet, PC Magazine und Discovery Magazine als Quelle und Expertin zitiert. Wenn Sie einen Vorschlag für eine neue Definition haben oder eine technische Erklärung verbessern möchten, schicken Sie einfach Margaret eine E-Mail oder kontaktieren Sie sie auf LinkedIn oder Twitter.