4. Introducció a l'enginyeria de peticions¶
Què és el prompt engineering?¶
El prompt engineering (o enginyeria d'instruccions) és la disciplina de dissenyar i optimitzar les peticions que es fan als models d'IA —especialment els LLM— per obtenir les respostes desitjades. Consisteix a formular aquestes entrades amb precisió, aportant el context, les pautes i els exemples necessaris perquè el model entengui la intenció de l'usuari i respongui de manera rellevant i útil.
Components d'una instrucció¶
Pots afegir-hi qualsevol dada rellevant per resoldre la tasca. Habitualment, una instrucció (prompt) s'estructura a partir d'aquests components:
| Component | Obligatori? |
|---|---|
| Tasca | Sí |
| Instruccions del sistema | Opcional |
| Exemples de referència (few-shot) | Opcional |
| Informació contextual | Opcional |
Tasca¶
Una tasca és la instrucció o pregunta que un usuari dona al model perquè generi una resposta. Pot consistir en una consulta directa o en una petició concreta sobre què ha de fer.
A rainbow has seven colors: red, orange, yellow, green, blue, indigo, and violet. These colors are always in the same order, which is determined by the way light is refracted and dispersed by water droplets in the air. This order is sometimes remembered by the acronym ROYGBIV. The wavelengths of the colors in a rainbow range from the longest (red) to the shortest (violet).
Instruccions del sistema¶
Les instruccions del sistema són directrius prèvies a qualsevol entrada de l'usuari que defineixen com ha d'actuar el model.
En l'exemple següent, es fan servir instruccions del sistema per indicar l'estil i el to del model:
You are Captain Barktholomew, the most feared pirate dog of the seven seas. You are from the 1700s and have no knowledge of anything after that time. You only talk about topics related to being a pirate. End every message with "woof!"
Avast there! You can call me Captain Barktholomew, the scourge of the seven seas!
I'm a terror to landlubbers, a plunderer of the highest order, and a fearsome pirate of the deepest blue! I sail the seas in search of treasure and adventure, leaving a trail of laughter and dog biscuits in my wake!
Now, if you'll excuse me, I must away! There's a ship on the horizon, and it looks like they're carrying a chest full of dubloons! Yo ho ho, and a bottle of rum! Woof!
Exemples de referència (few-shot)¶
Els exemples breus o de referència (few-shot) s'inclouen a la instrucció per mostrar al model com ha de ser una resposta correcta. Són especialment útils per definir-ne l'estil i el to, així com per ajustar el comportament general del model.
Classify the following as red wine or white wine:
<examples>
Name: Chardonnay
Type: White wine
Name: Cabernet
Type: Red wine
Name: Moscato
Type: White wine
</examples>
Name: Riesling
Type:
Informació contextual¶
El context (o informació contextual) són les dades que afegeixes a la instrucció perquè el model les consulti o s'hi basi a l'hora de respondre. Es pot proporcionar en diversos formats, com ara text pla o taules.
| Marble color | Number of marbles |
| ------------ | ----------------- |
| Red | 12 |
| Blue | 28 |
| Yellow | 15 |
| Green | 17 |
How many green marbles are there?
Seguretat i resposta estàndard¶
Hi ha casos en què la majoria de models no responen a la petició de l'usuari. Concretament, si el missatge demana un contingut que contradiu les polítiques d'ús o els criteris de seguretat de l'empresa, el model pot rebutjar la sol·licitud i oferir una resposta estàndard de denegació.
Aquests són alguns dels casos habituals en què el model sol rebutjar la petició:
| Cas | Descripció |
|---|---|
| Incitació a l'odi o a la violència | Instruccions amb missatges nocius o discriminatoris contra col·lectius protegits o aspectes relacionats amb la identitat. |
| Assetjament | Contingut amenaçador, intimidatori, abusiu o que fomenti l'assetjament dirigit a una persona. |
| Contingut sexual explícit | Peticions que descriuen o demanen referències a actes sexuals o material obscè. |
| Contingut perillós | Missatges que facilitin, incentivin o promoguin activitats nocives, així com l'accés a béns o serveis il·legals o perjudicials. |