AI에 전송되는 컨텍스트에는 무엇이 포함되나요?

컨텍스트는 Questsmith에서 다음 행동을 생성할 때 고려되는 AI 언어 모델로 전송되는 데이터입니다.

Questsmith의 컨텍스트는 많은 요소로 구성되어 있으며, 이 문서는 각 AI 호출 시 해당 요소들이 어떻게 결합되는지 설명합니다.

모험에 줄거리 필수 요소, 스토리 카드 및 기타 입력사항을 위한 컨텍스트가 충분하지 않으면 일부 부분이 자동으로 잘리거나 제거됩니다.

컨텍스트에는 두 개의 섹션이 있습니다

컨텍스트가 가득 차면 Questsmith는 두 섹션을 사용합니다: 필수(Required)와 동적(Dynamic).

필수 요소에는 지침, 줄거리 필수 요소, 스토리 요약, 작가의 노트, 스크립트용 프런트 메모리, 그리고 마지막으로 취한 행동(또는 마지막 행동이 계속(Continue)이었던 경우 마지막 AI 출력)이 포함됩니다. 일반적으로 필수 요소가 존재하는 경우 그 전체 길이를 포함하려고 노력합니다.

필수 요소의 총합이 컨텍스트 크기의 70%를 초과하면, 가장 중요한 섹션을 먼저 포함하고 나머지는 70% 토큰 한도에 맞게 다듬거나 제외합니다. 프런트 메모리와 마지막 행동은 항상 전체가 포함됩니다. 한도가 채워질 때까지 우선순위에 따라 작가의 노트, 줄거리 필수 요소, AI 지침 및 스토리 요약을 포함합니다. 섹션이 남은 토큰에 맞지 않으면 끝부분을 다듬어 맞춥니다. 낮은 우선순위의 요소들은 포함되지 않습니다.

동적 요소에는 스토리 카드, 기억 뱅크 및 스토리 기록(과거 행동들)이 포함됩니다. 이것들은 더 유연한 규칙을 사용합니다.

동적 요소는 필수 요소 이후 남은 토큰을 채웁니다. 남은 토큰의 약 25%는 매칭된 스토리 카드에, 약 50%는 기록에(기억 뱅크가 비활성화된 경우 최대 75%), 그리고 약 25%는 기억 뱅크로 갑니다.

스토리 카드는 트리거가 얼마나 최근에 그리고 얼마나 자주 사용되었는지에 따라 포함됩니다. 해당 기준을 사용하여 우선순위를 정하고 정렬한 뒤, 사용 가능한 공간에 맞는 만큼 포함합니다.

시스템이 기록의 우선순위를 정하는 방식

트리거를 찾을 때 최소 4개의 행동을 고려합니다. 하지만 스토리 카드를 위해 500개 이상의 토큰을 사용할 수 있는 경우, 사용 가능한 토큰 수를 100으로 나눈 값을 사용합니다. 900개의 토큰을 사용할 수 있다면 트리거 매칭을 위해 최근 9개의 행동을 살펴봅니다. 포함되는 스토리 카드의 수는 매칭의 관련성과 각 매칭된 스토리 카드의 길이에 따라 달라집니다.

우리는 모험의 기록을 가능한 한 많이 사용하려고 노력합니다. 항상 포함되는 가장 최근 행동부터 시작하여, 사용 가능한 공간이 가득 차거나 전체 기록을 다 포함할 때까지 이전 행동들을 컨텍스트에 추가합니다. 일반적으로 이는 필수 요소 이후 사용 가능한 토큰의 약 50%, 기억 뱅크가 비활성화된 경우 75% 정도입니다.

기억 뱅크는 기록 이후 남은 토큰, 즉 필수 요소가 포함된 후 남은 토큰의 약 25%를 사용합니다. 기억 뱅크는 가장 최근 행동과 관련성이 높은 순으로 순위가 매겨진 기억들을 가져옵니다. 기억 뱅크용으로 사용 가능한 토큰 내에 맞는 만큼 매칭된 기억들을 추가합니다.