Co trafia do kontekstu wysylanego do AI?

Kontekst to dane wysyłane do modeli językowych AI, które są brane pod uwagę podczas generowania Twojej następnej akcji w Questsmith.

Kontekst w Questsmith składa się z wielu elementów, a ten artykuł wyjaśnia, jak te elementy są łączone przy każdym wywołaniu AI.

Jeśli w Twojej przygodzie nie ma wystarczającej ilości kontekstu dla wszystkich Plot Essentials, Story Cards i innych danych wejściowych, część elementów zostanie automatycznie przycięta lub usunięta.

Kontekst ma dwie sekcje

Kiedy kontekst się przepełnia, Questsmith używa dwóch sekcji: Required i Dynamic.

Elementy Required obejmują Instructions, Plot Essentials, Story Summary, Author's Note, Front Memory for Scripts oraz ostatnio wykonaną akcję, albo ostatni wynik AI, jeśli ostatnią akcją była Continue action. Zasadniczo staramy się uwzględniać pełną długość wszystkich elementów Required, gdy są obecne.

Jeśli suma elementów Required przekracza 70 procent rozmiaru kontekstu, najpierw uwzględniamy najważniejsze sekcje, a resztę przycinamy lub pomijamy, aby zmieścić się w limicie 70 procent tokenów. Front Memory i Last Action są zawsze uwzględniane w całości. Dopóki limit nie zostanie zapełniony, uwzględniamy, w kolejności priorytetów: Author's Note, Plot Essentials, AI Instructions i Story Summary. Jeśli dana sekcja nie mieści się w pozostałych tokenach, przycinamy jej końcówkę, aby się zmieściła. Elementy o niższym priorytecie nie są uwzględniane.

Elementy Dynamic obejmują Story Cards, Memory Bank i Story History, czyli Twoje poprzednie akcje. Te elementy działają według bardziej elastycznych zasad.

Elementy Dynamic wypełniają tokeny pozostałe po elementach Required. Około 25 procent tych pozostałych tokenów trafia do pasujących Story Cards, około 50 procent trafia do History, do 75 procent jeśli Memory Bank jest wyłączony, a około 25 procent trafia do Memory Bank.

Story Cards są uwzględniane na podstawie tego, jak niedawno i jak często były używane ich triggery. Sortujemy je i priorytetyzujemy według tych kryteriów, a następnie uwzględniamy tyle, ile mieści się w dostępnej przestrzeni.

Jak system priorytetyzuje historię

Przy ocenie dopasowań bierzemy pod uwagę co najmniej 4 akcje podczas wyszukiwania triggerów. Jeśli jednak dla Story Cards dostępnych jest więcej niż 500 tokenów, używamy liczby dostępnych tokenów podzielonej przez 100. Jeśli dostępnych jest 900 tokenów, sprawdzamy 9 ostatnich akcji pod kątem dopasowania triggerów. Liczba uwzględnionych Story Cards zależy od trafności dopasowań i długości każdej pasującej Story Card.

Staramy się użyć jak największej części historii przygody. Zaczynamy od najnowszej akcji, która jest zawsze uwzględniana, i dodajemy każdą wcześniejszą akcję do kontekstu, aż dostępne miejsce się zapełni albo zostanie uwzględniona cała historia. Zwykle jest to około 50 procent tokenów dostępnych po elementach Required, albo 75 procent jeśli Memory Bank jest wyłączony.

Następnie Memory Bank wykorzystuje tokeny pozostałe po History, zwykle około 25 procent tokenów, które zostają po uwzględnieniu elementów Required. Memory Bank pobiera wspomnienia uporządkowane według trafności względem najnowszej akcji. Dodajemy tyle pasujących wspomnień, ile mieści się w tokenach dostępnych dla Memory Bank.