Tout sur les parametres du modele IA
A propos de l'IA
Model Settings est une fonctionnalite de Questsmith qui vous permet de personnaliser et de controler la facon dont les reponses de l'IA sont generees pendant le jeu. Ces options peuvent varier selon les modeles.
L'IA genere la partie suivante de votre aventure en creant une liste des tokens possibles et en estimant la probabilite de chacun comme prochain token. Elle selectionne ensuite des tokens dans cette liste avec un nombre aleatoire et quelques calculs. Les Advanced Settings vous permettent de modifier les nombres non aleatoires de ce calcul.
C'est complexe, il est donc fortement recommande d'experimenter avec chaque parametre ou de demander conseil sur notre Discord.
Vous pouvez aussi lire notre article plus avance sur la facon dont les reponses de l'IA sont generees, qui peut vous aider a comprendre comment ces parametres fonctionnent en coulisse.
Model Settings est maintenant accessible a tous les joueurs de Questsmith.
Context Length
Context Length determine le nombre maximum de tokens pouvant etre envoyes au modele IA a chaque tour. Il est generalement preferable de le regler aussi haut que possible afin que l'IA recoive autant de contexte que possible sur votre aventure.
Le contexte inclut les informations de Memory, les entrees Story Card declenchees, Author's Note, tout Memory, les instructions du modele, l'entree la plus recente du joueur et la sortie IA la plus recente. L'espace restant dans le Context Length choisi est rempli par le texte de l'aventure, donc maximiser le contexte peut aider l'IA a generer des reponses plus coherentes.
Le Context Length est finalement determine par votre niveau d'abonnement, mais tous les modeles ne prennent pas en charge des contextes plus grands.
Les joueurs abonnes peuvent aussi depenser 1 Credit par action pour augmenter temporairement la longueur de contexte sur certains modeles.
Response Length
Response Length determine le nombre maximum de tokens que l'IA produira a chaque tour. C'est surtout une question de preference personnelle. Vous pouvez vouloir des reponses courtes que vous lisez vite avant d'intervenir, ou des reponses longues avec lesquelles prendre votre temps. Faites ce qui correspond a votre style de jeu.
Temperature
Temperature controle l'aleatoire des reponses de l'IA. Une temperature plus elevee augmente l'imprevisibilite et produit des sorties plus variees et creatives, tandis qu'une temperature plus basse produit des reponses plus coherentes et previsibles. Regler Temperature vous permet d'affiner le niveau d'aleatoire que vous voulez pour votre experience.
La temperature par defaut est souvent de 0.8, mais vous pouvez essayer 0.6 si l'IA s'eloigne un peu trop d'une reponse raisonnable, ou 0.95 voire 1.2 si vous voulez voir un texte vraiment rare.
Attention, une Temperature trop elevee peut conduire a des tokens absurdes ou meme incomprehensibles.
Top-K
Top-K limite les choix de l'IA aux K tokens les plus probables de sa reponse. En reduisant les possibilites, Top-K aide a maintenir la pertinence et la coherence des reponses, ce qui est utile si vous voulez une progression plus stable et plus previsible.
Si Top-K est regle sur 20, l'IA n'aura que 20 tokens probables parmi lesquels choisir a chaque tour. Cela reduit l'aleatoire en excluant les options moins probables lors de la generation de nouvelles sorties.
Top-P
Top-P filtre les tokens moins probables pour garantir que la sortie de l'IA reste coherente et pertinente. Il fonctionne en definissant un seuil de probabilite, par exemple 90 %, puis en selectionnant les tokens les plus probables jusqu'a ce que leur probabilite combinee atteigne cette limite. Cela maintient les sorties centrees et sur le sujet en limitant l'IA a un ensemble de tokens plus pertinent.
Cela fonctionne comme un filet de securite lorsqu'il est combine avec Top-K. Top-K peut etre a 50, et il selectionnera toujours 50 tokens meme si certains sont extremement improbables et n'auraient pas beaucoup de sens s'ils etaient choisis. Top-P elimine ces tokens improbables, tout en vous laissant plus d'options lorsque les choix Top-K sont de toute facon probables. Il permet a l'IA d'etre sure quand elle l'est, et creative quand elle ne l'est pas.
Si Top-P est trop bas, les sorties peuvent devenir repetitives et peu interessantes. Si Top-P est trop eleve, les sorties peuvent devenir desordonnees, incoherentes, et meme grammaticalement incorrectes.
Un Top-P de 0.90 a 0.95 est ideal pour la plupart des joueurs, mais cela peut dependre de vos autres reglages. Si vous avez un Top-K eleve, vous pouvez preferer un Top-P plus bas, et inversement.
Presence Penalty
Presence Penalty applique une penalite de poids unique a tout mot deja apparu dans la reponse. Si le mot Dog est utilise une fois, Presence Penalty le penalise pour aider a eviter la repetition immediate, sauf si sa probabilite de base est suffisamment elevee pour compenser la penalite.
Cependant, pousser ce parametre trop haut peut parfois produire l'effet inverse de celui recherche et causer davantage de repetition. Si tous les mots sont penalises, alors plus rien ne l'est.
Frequency Penalty
Frequency Penalty ressemble a Presence Penalty, mais ses penalites sont cumulatives. Plus un mot a ete utilise, plus il sera penalise dans la reponse suivante. Cela peut sembler bien, mais rappelez-vous que les noms de personnages et les mots courants comme you, I, and et a seront fortement penalises, donc une valeur trop haute peut supprimer des tokens ordinaires au profit de tokens tres rares et meme devenir grammaticalement incoherente.
Frequency Penalty est generalement a zero par defaut, et meme si vous pouvez le regler tres haut, l'IA commencera a produire des sorties etranges si vous le poussez bien au-dela de 1.
Tips & Tricks
Il n'y a pas de regles pour ces parametres.
La meilleure facon de se faire une idee est d'experimenter, et il n'y a aucune penalite a le faire. Modifiez-les, ajustez-les, puis voyez ce qui se passe dans votre aventure. Vous pouvez les ajuster selon ce que vous pensez preferer personnellement, et vous aimerez peut-etre davantage, ou vous reviendrez en arriere. Certes, les reponses de l'IA peuvent devenir bizarres et extravagantes, mais cela fait partie du plaisir de jouer a Questsmith.
Il n'y a pas de vraies consequences a changer ces parametres.
Il n'y a aucune consequence a mettre Top-P, Temperature ou Repetition Penalty au maximum juste pour voir l'IA s'agiter comme un bonhomme gonflable. Il n'y a aucune consequence a tout mettre a zero et a regarder l'IA faire sa meilleure imitation d'un disque raye.
Apres tout, tout dans Questsmith est effacable et modifiable, donc si vous n'aimez pas la facon dont l'IA ecrit avec vos nouveaux parametres, effacez et recommencez.
Il n'existe pas de valeurs optimales unanimement reconnues pour ces parametres.
Les valeurs par defaut ont bien fonctionne dans nos tests, mais elles ne conviennent peut-etre pas a votre style de jeu, et ce n'est pas grave. Nous proposons ces parametres pour que vous puissiez personnaliser et controler votre experience Questsmith comme bon vous semble. Si vous aimez quelque chose que personne d'autre n'utilise, tant mieux. Au bout du compte, c'est votre aventure, votre jeu et votre experience, et vous pouvez faire ce qui vous rend heureux.
Happy Adventuring!