Prompt engineering
Prompt engineering is het ambacht van het schrijven van instructies, voorbeelden en structuur voor een large language model, zodat het betrouwbare en bruikbare output levert. Het model ligt vast; de prompt is de hefboom, en daarom gebeurt het meeste productiewerk rond LLM's hier en niet in het model zelf.
Prompt engineering omvat alles wat je rond de vraag van de gebruiker zet voordat die het model bereikt: de systeemboodschap, de rol en de toon, het formaat van het antwoord, een paar uitgewerkte voorbeelden, de opgehaalde context uit een retrieval-augmented generation-pipeline en de randvoorwaarden die de output bruikbaar maken voor de volgende stap. Het is de goedkoopste en snelste hefboom in elke applicatie rond een large language model — ruim voordat fine-tuning of het wisselen van foundation model in beeld komt, dicht een betere prompt meestal het grootste deel van het gat.
In de praktijk lijkt een goede prompt meer op een kleine spec dan op een slimme oneliner: hij benoemt de taak, de input, het formaat, de randgevallen en wat het model moet doen als het iets niet weet. Structuur wint van slimheid.
De eerlijke kant is dat prompt engineering pas echt loont in combinatie met evals. Een prompt die vandaag werkt kan stilletjes verslechteren wanneer het model wordt geüpdatet of er een nieuw randgeval in de data opduikt, en zonder testset merk je dat pas wanneer een gebruiker het meldt. De vuistregel: als een prompt belangrijk genoeg is om live te zetten, is hij belangrijk genoeg om te meten.
