Prompt-based Learning

Wat is prompt-based learning?

Prompt-based learning is een strategie die machine learning ingenieurs kunnen gebruiken om grote taalmodellen (LLM’s) te trainen zodat hetzelfde model voor verschillende taken kan worden gebruikt zonder hertraining.

Traditionele strategieën voor het trainen van grote taalmodellen, zoals GPT-3 en BERT, vereisen dat het model eerst wordt getraind met ongelabelde gegevens en vervolgens wordt verfijnd met gelabelde gegevens voor specifieke taken. Leermodellen op basis van prompts, dat zijn korte stukjes tekst die als startpunt worden gebruikt voor het genereren van een antwoord, kunnen zich daarentegen autonoom aanpassen aan verschillende taken door domeinkennis over te dragen die door prompts wordt geïntroduceerd. In de breedste zin van het woord is dit generatieve AI.

De kwaliteit van de output van een prompt-based model is sterk afhankelijk van de kwaliteit van de prompt. Een goed geformuleerde prompt kan het model helpen nauwkeurigere en relevantere resultaten te produceren, terwijl een slecht geformuleerde prompt kan leiden tot onsamenhangende of irrelevante resultaten. De kunst van het schrijven van nuttige prompts wordt prompt engineering genoemd.

Techopedia verklaart: ”Leren op basis van prompts
Prompt-based learning maakt het makkelijker voor artificial intelligence (AI) engineers om basismodellen te gebruiken voor verschillende soorten downstream toepassingen.”

Deze aanpak voor het optimaliseren van grote taalmodellen heeft geleid tot meer belangstelling voor andere soorten zero-shot learning. Zero-shot learning-algoritmen kunnen kennis overdragen van de ene taak naar de andere zonder dat er extra gelabelde trainingsvoorbeelden nodig zijn. Dit lukt dankzij de automatisering van logische modellen.

Voordelen en uitdagingen

Op prompts gebaseerde trainingsmethoden zijn waarschijnlijk gunstig voor organisaties die geen toegang hebben tot grote hoeveelheden gelabelde gegevens, en voor gebruikssituaties waarin er gewoonweg niet veel gegevens beschikbaar zijn. De uitdaging bij het gebruik van prompt-based learning is het creëren van bruikbare prompts die ervoor zorgen dat hetzelfde model met succes kan worden gebruikt voor meer dan één taak.

Prompt engineering wordt vaak vergeleken met de kunst van het zoeken in een zoekmachine in de begindagen van het internet. Het vereist een basiskennis van structuur en syntaxis, en veel vallen en opstaan.

ChatGPT en prompt-based learning

ChatGPT gebruikt prompts om nauwkeurigere en relevantere antwoorden te genereren op een breed scala van inputs, en wordt voortdurend verfijnd met userprompts die relevant zijn voor een bepaalde taak.

Het proces bestaat ui het model een prompt te laten geven en het dan een antwoord te laten genereren. De gegenereerde output wordt vervolgens geëvalueerd door een menselijke beoordelaar en het model wordt aangepast op basis van de feedback. Dit verfijningsproces wordt herhaald totdat de resultaten van het model aanvaardbaar zijn.

Gerelateerde begrippen

Margaret Rouse

Margaret Rouse is een bekroond technisch schrijver en docent die bekend staat om haar vermogen om complexe technische onderwerpen uit te leggen aan een niet-technisch, zakelijk publiek. In de afgelopen twintig jaar is haar uitleg verschenen op vele websites en is ze als autoriteit aangehaald in artikelen van de New York Times, Time Magazine, USA Today, ZDNet, PC Magazine en Discovery Magazine. Margaret geniet ervan om IT- en business professionals te helpen om elkaars zeer gespecialiseerde talen te begrijpen. Als je een suggestie hebt voor een nieuwe definitie of hoe je een technische uitleg kunt verbeteren, stuur Margaret dan een…