Il est temps de dévoiler quelque chose d’excitant qui mijotait dans le labo - DB-1, notre framework pour booster les capacités de raisonnement des LLM.

Nous voulions faire quelque chose de nouveau après avoir créé notre fonctionnalité de Raisonnement Amélioré il y a un moment, et nous sommes plutôt satisfaits jusqu’ici, bien que je le qualifierais definitivement de produit beta.

Note : Bien que ceci soit affiche dans l’interface comme une selection de modèle, sous le capot c’est un framework spécifique enveloppe autour d’autres modèles - je ne veux pas pretendre que nous faisons quelque chose que nous ne faisons pas ici, surtout que ce que nous FAISONS est assez unique.

Vous avez peut-être vu le buzz autour de modèles comme o3 et Gemini 2.5, où, si vous faites vraiment attention, Sky-T1 qui sont capables de raisonner en augmentant le “calcul au moment du test” - le temps qu’il faut pour vous répondre, plutôt que le temps qu’il faut pour entraîner le modèle originellement. Eh bien, nous avons travaille sur notre propre approche, et c’est… différent. Dans le bon sens !

Qu’est-ce Qui Rend DB-1 Special ?

Au lieu d’entraîner un modèle d’IA complètement nouveau de niveau frontiere (ce qui, soyons honnêtes, coute une fortune - le remarquable fine-tune de $450 de Sky-T1 mis à part), nous avons développé un framework qui peut envelopper les LLM existants comme un confortable pull de super-cerveau.

Nous avons construit des garde-fous architecturaux spécifiques et des prompts de raisonnement qui permettent aux modèles (existants !) d’aborder les problèmes de manière flexible. Cette approche permet aux LLM de reevaluer les hypotheses anterieures et de remettre en question les processus de raisonnement d’une manière un peu plus sophistiquee que de dire “réfléchissons étape par étape” (bien que cette astuce fonctionne toujours bien ! C’est connu sous le nom de chaîne de pensée, si vous n’en avez pas entendu parler - et si vous n’avez pas essayé de l’utiliser dans vos propres prompts, essayez, vous pourriez être surpris de son efficacité !).

La Sauce Secrete de DatBot (Enfin, Une Partie)

Bien que je ne vais pas expliquer exactement comment fonctionne DB-1, puisque c’est ma propre approche personnelle (Vous pouvez en avoir une idée juste en lisant la sortie - DatBot expose tout le processus de raisonnement), voici ce que je peux dire :

• C’est un framework, pas un modèle - ce qui signifie que je peux l’utiliser avec différents LLM - je l’ai teste avec quelques-uns, et il fonctionne mieux avec certains qu’avec d’autres.
• Utilise des techniques de prompting avancées (permettant aux modèles sans raisonnement de raisonner comme o1 où QwQ (sur lequel Sky-T1 est modèle - notez que nous avons à la fois QwQ et o1 disponibles dans DatBot pour que vous les essayiez).
• A des garde-fous architecturaux intégrés pour maintenir le raisonnement sur la bonne voie.
• Permet une sortie auto-cohérente beaucoup plus longue que n’importe quel autre modèle, y compris les réponses o1 et QwQ.
• Fonctionne bien pour les tâches créatives, contrairement aux modèles de raisonnement traditionnels, grace à la façon dont il gère le processus de raisonnement.
• Se perd encore occasionnellement dans ses pensées… et plante. Donc traitez-le un peu comme un reveur, et s’il vous plait ne soyez pas contrarie s’il consomme quelques credits de temps en temps - il est juste perdu dans ses pensées !
• attention - Si vous utilisez Sherlock comme ton avec lui… préparez-vous à des… résultats très longs. Excellente analyse, juste… longue. Très longue.

La Science Derriere Tout Ca

Nous ne sommes qu’un dans une longue lignee de chercheurs qui essaient différentes versions d’augmentation du calcul au moment du test. Des recherches de DeepMind, publiees ici, comme exemple, “Scaling LLM Test-Time Compute Optimally”, montrent que l’utilisation intelligente du calcul au moment du test (c’est-à-dire en vous repondant) peut en fait être plus efficace que d’entraîner un modèle plus grand. En fait, ils ont découvert que, optimisé, un modèle plus petit pouvait égaler les performances d’un modèle 14 fois sa taille !

Notre framework prend ce type d’insight et l’applique de manière pratique, (principalement) prête pour la production que nous pouvons ensuite vous exposer.

Pourquoi C’est Important

Écoutez, entraîner des modèles massifs est génial - nous ne serions pas la sans cela, mais tout le monde n’a pas accès à des dizaines de millions de dollars de budget de calcul (tristement, même pas nous). Nous voulions créer quelque chose qui pourrait democratiser les capacités de raisonnement avancées - quelque chose qui pourrait fonctionner avec les modèles auxquels vous avez déjà accès, et que nous pouvons améliorer en tandem avec les geants de l’industrie, pour faire en sorte que leur travail s’etende encore plus loin pour le reste d’entre nous.

Quelle Est la Suite ?

Nous ajustons encore DB-1, et nous aimerions avoir de vos nouvelles ! Comment l’utilisez-vous ?

Quels types de tâches lui avez-vous lances ? Ont-ils fonctionne ? Échoué lamentablement ? Envoyez vos pensées à [email protected] avec vos expériences ou questions.