토큰과 컨텍스트 길이는 무엇인가요?

AI 모델은 사람이 읽는 방식처럼 단어를 그대로 읽지 않습니다. 대신 정보를 토큰 단위로 처리합니다. 토큰은 하나의 문자일 수도 있고, 단어의 일부(예: “ing”)일 수도 있으며, 전체 단어일 수도 있습니다. Questsmith에서는 일반적으로 토큰 1개가 약 4자(또는 대략 0.75단어)에 해당한다고 볼 수 있습니다.

1. 토큰이 작동하는 방식

토큰을 언어를 이루는 조각처럼 생각하면 됩니다. 프롬프트를 보내면 AI는 그것을 이런 조각들로 나누고, 패턴을 분석한 다음, 다음에 어떤 조각이 와야 할지 예측합니다. 그래서 매우 복잡하거나 새로 만든 단어를 사용할 때 AI가 가끔 어려움을 겪는 것처럼 보일 수 있습니다. 가장 알맞은 토큰 매칭을 찾으려 하기 때문입니다.

2. 컨텍스트 길이란 무엇인가요?

컨텍스트 길이는 AI의 “단기 기억”입니다. 응답을 생성할 때 모델이 한 번에 “볼 수 있는” 최대 토큰 수를 의미합니다. 이야기가 이 한도를 넘으면, AI는 새로운 행동을 위한 공간을 만들기 위해 모험의 가장 오래된 부분부터 “잊기” 시작합니다.

전문가 팁: 컨텍스트 한도에 도달해도 이야기를 일관되게 유지하려면 Story Cards와 Memory를 사용하세요. 이렇게 “고정된” 세부 정보는 항상 AI에 전달되므로, 1장의 실제 텍스트가 컨텍스트 창 밖으로 밀려났더라도 AI가 퀘스트 목표와 캐릭터 이름을 기억할 수 있습니다.