Czym sa tokeny i dlugosc kontekstu?

Modele AI nie czytaja slow tak jak ludzie; przetwarzaja informacje w postaci tokenow. Token moze byc pojedynczym znakiem, czescia slowa albo calym slowem. W Questsmith mozna przyjac, ze 1 token to mniej wiecej 4 znaki (czyli okolo 0,75 slowa).

1. Jak dzialaja tokeny

Tokeny mozna traktowac jak klocki jezyka. Gdy wysylasz prompt, AI rozbija go na takie klocki, analizuje wzorce i przewiduje, ktory klocek powinien pojawic sie dalej. Dlatego przy bardzo zlozonych lub wymyslonych slowach AI moze czasem miec trudnosc, bo probuje dobrac najlepsze dopasowanie tokenu.

2. Czym jest dlugosc kontekstu?

Dlugosc kontekstu to pamiec krotkotrwala AI. Oznacza maksymalna liczbe tokenow, ktore model moze widziec jednoczesnie podczas generowania odpowiedzi. Gdy twoja historia przekroczy ten limit, AI zaczyna zapominac najwczesniejsze fragmenty przygody, aby zrobic miejsce na nowe akcje.

Wskazowka: Aby utrzymac spojna historie nawet po osiagnieciu limitu kontekstu, korzystaj ze Story Cards i Memory. Te przypiete informacje sa zawsze wysylane do AI, dzieki czemu model pamieta cele wyprawy i imiona postaci, nawet jesli faktyczny tekst rozdzialu 1 wypadl juz z okna kontekstu.