In pratica, da quando GPT-2 era ancora un neonato nella sua culla meccanica, le persone cercano di capire come tirare fuori pensieri migliori da questi nostri amici robot (padroni?).

Lo standard è quello che ho incluso in un esempio sulle variabili dinamiche, oggi chiamato Chain of Thought prompting, descritto per la prima volta qui, e consiste nell’aggiungere la seguente riga a qualunque prompt:

Pensiamo passo dopo passo.

I risultati dell’aggiunta di quella piccola riga sono stati drastici: text-davinci-002 (aka GPT-3), nel paper qui sopra, è passato da 17.7 a 78.7 in un benchmark aritmetico.

E ancora oggi viene usato comunemente dagli “ingegneri dei prompt”.

Ora, perché funziona?

Quella frase semplice spinge il modello linguistico a suddividere un compito grande in blocchi più piccoli, permettendogli di riuscire in attività più complicate di quelle che riuscirebbe a gestire da solo.

In sostanza, ho trovato un paper interessante chiamato Self-Discover: Large Language Models Self-Compose Reasoning Structures (febbraio 2024), che si basa su Promptbreeder (I know… I know…). Ci sono sforzi simili a Microsoft e Northeastern, oltre che alla Tsinghua University, come Connecting Large Language Models with Evolutionary Algorithms Yields Powerful Prompt Optimizers.

Per ottimizzare la risoluzione dei problemi, hanno bruciato quantità significative di tempo GPU per far ottimizzare ai modelli linguistici i propri prompt, arrivando a prompt unici per gestire problemi diversi.

Il modello linguistico poi adatta quei prompt specifici al compito concreto, e alla fine usa quel super prompt generato automaticamente per rispondere in modo molto più efficace rispetto alla richiesta originale.

Ho una versione personalizzata ed estesa di questa tecnica, adattata ai casi d’uso più comuni in chat: è tutta disponibile con un clic su una casella apparentemente innocua, “Enhanced Reasoning”.

Sono anche riuscito a farlo in modo conveniente dal punto di vista dei costi: mi piacerebbe molto conoscere la tua esperienza mentre continuo a rifinire e ottimizzare le capacità di ragionamento sul lavoro che stai facendo.

Sentiti libero di mandare un’email a team @ brightrobot.ai per lasciare feedback o fare qualsiasi domanda: sarei felice di sentirti.