Was sind Tokens und Kontextlaenge?

KI-Modelle lesen Woerter nicht wie Menschen. Sie verarbeiten Informationen in Tokens. Ein Token kann ein einzelnes Zeichen, ein Teil eines Wortes oder ein ganzes Wort sein. In Questsmith gilt als grobe Faustregel: 1 Token entspricht etwa 4 Zeichen (oder ungefaehr 0,75 Woertern).

1. Wie Tokens funktionieren

Stell dir Tokens als Bausteine der Sprache vor. Wenn du einen Prompt sendest, zerlegt die KI ihn in diese Bausteine, analysiert Muster und sagt voraus, welcher Baustein als naechstes kommen sollte. Darum kann die KI bei sehr komplexen oder erfundenen Woertern manchmal schwanken, weil sie den besten Token-Treffer finden muss.

2. Was ist Kontextlaenge?

Kontextlaenge ist das Kurzzeitgedaechtnis der KI. Sie gibt an, wie viele Tokens das Modell beim Generieren einer Antwort gleichzeitig sehen kann. Sobald deine Geschichte diese Grenze ueberschreitet, beginnt die KI die fruehesten Teile des Abenteuers zu vergessen, um Platz fuer neue Aktionen zu schaffen.

Profi-Tipp: Damit deine Geschichte auch am Kontextlimit kohaerent bleibt, nutze Story Cards und Memory. Diese verankerten Details werden immer an die KI gesendet, damit sie Questziele und Charakternamen behaelt, selbst wenn der eigentliche Text von Kapitel 1 bereits aus dem Kontextfenster herausgefallen ist.

Profi-Tipp: Wenn du deiner Abenteuer mehr als 5 Story Cards hinzufügst, empfehlen wir, die Kontextlänge auf mehr als 5.000 Tokens zu erhöhen. Dadurch hat die KI mehr Platz, um deine Story Cards zusammen mit dem laufenden Abenteuer zu verarbeiten, was eine bessere Story-Kontinuität und einen besseren Fluss unterstützt.