Tutto sulle impostazioni del modello AI

Model Settings e una funzione di Questsmith che ti permette di personalizzare e controllare come vengono generate le risposte dell'AI durante il gioco. Queste opzioni possono variare tra modelli diversi.

L'AI genera la parte successiva della tua avventura creando un elenco di possibili token e stimando quanto sia probabile che ciascuno venga dopo. Poi seleziona i token da quell'elenco con un numero casuale e un po' di matematica. Le Advanced Settings ti permettono di modificare i numeri di quel calcolo che non sono casuali.

Si tratta di qualcosa di complesso, quindi e altamente consigliato sperimentare ogni impostazione oppure chiedere consiglio nel nostro Discord.

Potresti anche trovare utile leggere il nostro articolo piu avanzato su come vengono generate le risposte dell'AI, che puo aiutarti a capire come funzionano queste impostazioni dietro le quinte.

Model Settings e ora disponibile per tutti i giocatori di Questsmith.

Context Length

Context Length determina il numero massimo di token che possono essere inviati al modello AI a ogni turno. Di solito e meglio impostarlo il piu in alto possibile, cosi l'AI riceve tutto il contesto possibile sulla tua avventura.

Il contesto include le informazioni in Memory, le voci Story Card attivate, Author's Note, eventuali Memories, le istruzioni del modello, l'input piu recente del giocatore e l'output piu recente dell'AI. Qualsiasi spazio rimanente nel Context Length scelto viene riempito con il testo dell'avventura, quindi massimizzare il contesto puo aiutare l'AI a generare risposte piu coerenti.

Il Context Length e determinato in ultima analisi dal tuo livello di abbonamento, ma non tutti i modelli supportano dimensioni di contesto maggiori.

I giocatori abbonati possono anche spendere 1 Credit per azione per aumentare temporaneamente il context length su alcuni modelli.

Response Length

Response Length determina il numero massimo di token che l'AI produrra ogni turno. Si tratta soprattutto di una questione di preferenza personale. Potresti volere risposte brevi da leggere rapidamente e decidere quando intervenire, oppure risposte lunghe con cui prenderti il tuo tempo. Usa cio che si adatta al tuo stile di gioco.

Temperature

Temperature controlla la casualita delle risposte dell'AI. Un valore piu alto aumenta l'imprevedibilita e produce output piu vari e creativi, mentre un valore piu basso produce risposte piu coerenti e prevedibili. Regolare Temperature ti permette di rifinire quanta casualita vuoi nell'esperienza.

La temperatura predefinita e spesso 0.8, anche se potresti provare 0.6 se l'AI si allontana troppo da una risposta ragionevole, oppure 0.95 o persino 1.2 se vuoi vedere un testo davvero insolito.

Attenzione: aumentare troppo Temperature puo portare a token stravaganti o persino senza senso.

Top-K

Top-K limita le scelte dell'AI ai K token piu probabili nella sua risposta. Riducendo le possibilita, Top-K aiuta a mantenere pertinenza e coerenza nelle risposte dell'AI, cosa utile quando vuoi una progressione della storia piu stabile e prevedibile.

Se Top-K e impostato su 20, l'AI avra solo 20 token probabili tra cui scegliere ogni turno. Questo riduce la casualita escludendo le opzioni meno probabili durante la generazione di nuovi output.

Top-P

Top-P filtra i token meno probabili per garantire che l'output dell'AI resti coerente e pertinente. Funziona impostando una soglia di probabilita, ad esempio 90%, e selezionando i token piu probabili fino a quando la loro probabilita combinata raggiunge quel limite. Questo mantiene gli output focalizzati e sul tema limitando l'AI a un insieme di token piu pertinente.

Questo funziona come rete di sicurezza quando e combinato con Top-K. Top-K puo essere 50 e selezionera sempre 50 token, anche se alcuni sono estremamente improbabili e non avrebbero molto senso se scelti. Top-P taglia quei token improbabili, ma ti lascia comunque piu opzioni quando le scelte di Top-K sono gia probabili. Fa in modo che l'AI sia certa quando e certa, e creativa quando non lo e.

Se Top-P e troppo basso, gli output possono diventare ripetitivi e poco interessanti. Se Top-P e troppo alto, gli output possono diventare sconnessi, incoerenti e persino grammaticalmente errati.

Un Top-P tra 0.90 e 0.95 e il migliore per la maggior parte dei giocatori, ma puo dipendere dagli altri tuoi settaggi. Se hai un Top-K alto, potresti preferire un Top-P piu basso, e viceversa.

Presence Penalty

Presence Penalty applica una penalita di peso una tantum a qualsiasi parola gia apparsa nella risposta. Se la parola Dog viene usata una volta, Presence Penalty la penalizzera per aiutare a prevenire la ripetizione immediata, a meno che la sua probabilita di base non sia abbastanza alta da superare la penalita.

Tuttavia, spingere troppo in alto questo parametro puo a volte produrre l'effetto opposto e causare piu ripetizione. Se tutte le parole vengono penalizzate, allora non resta nulla.

Frequency Penalty

Frequency Penalty e simile a Presence Penalty, ma le sue penalita sono cumulative. Piu una parola e stata usata, piu verra penalizzata nella risposta successiva. Questo puo sembrare positivo, ma ricorda che i nomi dei personaggi e le parole comuni come you, I, and e a verranno penalizzati molto, quindi impostare un valore troppo alto puo eliminare token ordinari a favore di token molto rari e persino diventare grammaticalmente incoerente.

Frequency Penalty di solito parte da zero, e anche se puoi impostarlo molto alto, l'AI iniziera a orientarsi verso output strani se lo spingi molto oltre 1.

Tips & Tricks

Non ci sono regole per queste impostazioni.

Il modo migliore per prenderci la mano e sperimentare, e non c'e alcuna penalita nel farlo. Modificale e regolale, poi guarda cosa succede nella tua avventura. Puoi modificarle in base a cio che pensi preferire personalmente, e potresti gradirle di piu oppure tornare indietro. Certo, le risposte dell'AI possono diventare strane e folli, ma fa parte del divertimento di giocare a Questsmith.

Non ci sono conseguenze reali nel cambiare queste impostazioni.

Non ci sono conseguenze nell'alzare Top-P, Temperature o Repetition Penalty al massimo solo per vedere l'AI agitarsi come un uomo gonfiabile. Non ci sono conseguenze nel portare tutto a zero e guardare l'AI fare la sua migliore imitazione di un disco rotto.

Dopotutto, tutto in Questsmith e cancellabile e modificabile, quindi se non ti piace come l'AI scrive con le nuove impostazioni, cancella e riprova.

Non esistono valori migliori universalmente concordati per queste impostazioni.

I valori predefiniti hanno funzionato bene nei nostri esperimenti, ma potrebbero non andare bene per il tuo stile di gioco, e va bene cosi. Abbiamo fornito queste impostazioni per permetterti di personalizzare e controllare la tua esperienza Questsmith nel modo che preferisci. Se ti piace qualcosa che nessun altro usa, fantastico. Alla fine, e la tua avventura, il tuo gioco e la tua esperienza, e puoi fare cio che ti rende felice.

Happy Adventuring!