Qu'est-ce qui entre dans le contexte envoyé à l'IA ?

Le contexte correspond aux donnees envoyees aux modeles de langage IA qui sont prises en compte lors de la generation de votre prochaine action dans Questsmith.

Le contexte dans Questsmith est compose de nombreux elements, et cet article explique comment ces elements sont combines a chaque appel IA.

Si vous n'avez pas assez de contexte dans votre aventure pour inclure tous vos Plot Essentials, Story Cards et autres entrees, certaines parties sont automatiquement coupees ou supprimees.

Le contexte comporte deux sections

Quand le contexte depasse la capacite disponible, Questsmith utilise deux sections : Required et Dynamic.

Les elements Required incluent Instructions, Plot Essentials, Story Summary, Author's Note, Front Memory for Scripts, ainsi que la derniere action effectuee, ou la derniere sortie IA si la derniere action etait une Continue action. En regle generale, nous essayons d'inclure la longueur complete de tous les elements Required lorsqu'ils sont presents.

Si le total des elements Required depasse 70 % de la taille du contexte, nous incluons d'abord les sections les plus importantes puis nous tronquons ou excluons le reste pour respecter la limite de 70 % des tokens. Front Memory et Last Action sont toujours inclus en entier. Jusqu'a ce que la limite soit atteinte, nous incluons, par ordre de priorite : Author's Note, Plot Essentials, AI Instructions, puis Story Summary. Si une section ne tient pas dans les tokens restants, nous en tronquons la fin pour qu'elle rentre. Les elements de priorite inferieure ne sont pas inclus.

Les elements Dynamic incluent Story Cards, Memory Bank et Story History, c'est-a-dire vos actions passees. Ces elements suivent des regles plus souples.

Les elements Dynamic remplissent les tokens restants apres les elements Required. Environ 25 % de ces tokens restants vont aux Story Cards correspondantes, environ 50 % vont a History, jusqu'a 75 % si Memory Bank est desactive, et environ 25 % vont a Memory Bank.

Les Story Cards sont incluses selon la recence et la frequence d'utilisation de leurs triggers. Nous les trions et les priorisons selon ces criteres, puis nous en incluons autant que possible dans l'espace disponible.

Comment le systeme priorise l'historique

Lors de l'evaluation des correspondances, nous prenons en compte au moins 4 actions pour rechercher les triggers. Cependant, si plus de 500 tokens sont disponibles pour les Story Cards, nous utilisons le nombre de tokens disponibles divise par 100. S'il y a 900 tokens disponibles, nous examinons 9 actions recentes pour rechercher des correspondances de triggers. Le nombre de Story Cards incluses depend de la pertinence des correspondances et de la longueur de chaque Story Card correspondante.

Nous essayons d'utiliser autant d'historique d'une aventure que possible. Nous commencons par l'action la plus recente, qui est toujours incluse, puis nous ajoutons chaque action precedente au contexte jusqu'a ce que l'espace disponible soit plein ou que l'historique complet soit inclus. En general, cela represente environ 50 % des tokens disponibles apres les elements Required, ou 75 % si Memory Bank est desactive.

Ensuite, Memory Bank utilise les tokens restants apres History, generalement environ 25 % des tokens restant apres inclusion des elements Required. Memory Bank recupere les souvenirs classes selon leur pertinence par rapport a l'action la plus recente. Nous ajoutons autant de souvenirs correspondants que possible dans la limite des tokens disponibles pour Memory Bank.