AI 모델 설정에 관한 모든 것
AI에 관하여
모델 설정(Model Settings)은 Questsmith에서 게임 플레이 중 AI 응답이 생성되는 방식을 사용자 정의하고 제어할 수 있는 기능입니다. 이 옵션들은 모델마다 다를 수 있습니다.
AI는 가능한 토큰 목록을 만들고 각 토큰이 다음에 올 가능성이 얼마나 되는지 추정하여 모험의 다음 부분을 생성합니다. 그런 다음 무작위 수와 수학적 계산을 통해 해당 목록에서 토큰을 선택합니다. 고급 설정을 사용하면 무작위가 아닌 계산 수치를 변경할 수 있습니다.
이것은 복잡하므로 각 설정을 실험해 보거나 Discord에서 조언을 구하는 것을 적극 권장합니다.
또한 AI 응답이 생성되는 방식에 대한 더 심화된 기사를 읽어보면 이 설정들이 내부에서 어떻게 작동하는지 이해하는 데 도움이 될 수 있습니다.
모델 설정은 현재 모든 Questsmith 플레이어에게 열려 있습니다.
컨텍스트 길이 (Context Length)
컨텍스트 길이는 매 턴마다 AI 모델에 보낼 수 있는 최대 토큰 수를 결정합니다. AI가 당신의 모험에 대해 가능한 한 많은 컨텍스트를 받을 수 있도록 이를 가능한 한 높게 설정하는 것이 좋습니다.
컨텍스트에는 기억(Memory), 트리거된 스토리 카드 항목, 작가의 노트(Author's Note), 모든 기억 조각, 모델 지침, 가장 최근의 플레이어 입력 및 가장 최신의 AI 출력이 포함됩니다. 선택한 컨텍스트 길이에서 남은 공간은 모험 텍스트로 채워지므로 컨텍스트를 최대화하면 AI가 더 일관성 있는 응답을 생성하는 데 도움이 됩니다.
컨텍스트 길이는 궁극적으로 멤버십 등급에 의해 결정되지만, 모든 모델이 큰 컨텍스트 크기를 지원하는 것은 아닙니다.
구독 중인 플레이어는 특정 모델에서 컨텍스트 길이를 일시적으로 늘리기 위해 행동당 1 크레딧을 사용할 수도 있습니다.
응답 길이 (Response Length)
응답 길이는 AI가 매 턴마다 출력할 최대 토큰 수를 결정합니다. 이것은 주로 개인적인 선호도의 문제입니다. 빠르게 읽고 언제 개입할지 결정할 수 있는 짧은 응답을 원할 수도 있고, 여유 있게 읽을 수 있는 긴 응답을 원할 수도 있습니다. 당신의 플레이 스타일에 맞는 것을 사용하세요.
온도 (Temperature)
온도는 AI 응답의 무작위성을 제어합니다. 온도가 높을수록 예측 불가능성이 증가하고 더 다양하고 창의적인 결과물이 나오며, 온도가 낮을수록 더 일관되고 예측 가능한 응답이 생성됩니다. 온도를 조정하여 게임이 얼마나 무작위로 느껴지길 원하는지 미세 조정할 수 있습니다.
기본 온도는 대개 0.8이지만, AI가 합리적인 응답에서 너무 멀어진다면 0.6 정도로 시도해 보거나, 정말 흔하지 않은 텍스트를 보고 싶다면 0.95 또는 1.2까지 높여볼 수 있습니다.
온도를 너무 높이면 엉뚱하거나 심지어 횡설수설하는 토큰이 나올 수 있으니 주의하세요.
Top-K
Top-K는 AI의 선택 범위를 응답에서 가장 가능성이 높은 K개의 토큰으로 제한합니다. 가능성을 좁힘으로써 Top-K는 AI 응답의 관련성과 일관성을 유지하는 데 도움을 주며, 이는 더 안정적이고 예측 가능한 스토리 진행을 원할 때 유용합니다.
Top-K가 20으로 설정되면 AI는 매 턴마다 선택할 수 있는 가장 가능성 높은 토큰이 20개뿐입니다. 이는 새로운 결과물을 생성할 때 덜 가능성 있는 옵션들을 제외함으로써 무작위성을 줄입니다.
Top-P
Top-P는 덜 가능성 있는 토큰들을 필터링하여 AI 결과물이 일관성과 관련성을 유지하도록 합니다. 이는 90%와 같은 확률 임계값을 설정하고 결합 확률이 해당 한계에 도달할 때까지 가장 가능성 높은 토큰들을 선택하는 방식으로 작동합니다. 이는 AI를 더 관련성 높은 토큰 세트로 제한하여 결과물이 주제에 집중되도록 유지합니다.
이것은 Top-K와 결합되었을 때 안전망 역할을 합니다. Top-K가 50일 때, 어떤 토큰이 매우 가능성이 낮아 의미가 없더라도 항상 50개의 토큰을 선택합니다. Top-P는 그러한 가능성 낮은 토큰들을 잘라내면서도, Top-K 선택지들이 모두 가능성이 높을 때는 더 많은 옵션을 가질 수 있게 해줍니다. AI가 확신할 때는 확신하게 하고, 그렇지 않을 때는 창의적일 수 있게 해줍니다.
Top-P가 너무 낮으면 결과물이 반복적이고 지루해질 수 있습니다. Top-P가 너무 높으면 결과물이 단절되고 일관성이 없으며 문법적으로 틀릴 수도 있습니다.
대부분의 플레이어에게 0.90에서 0.95의 Top-P가 가장 좋지만, 다른 설정에 따라 달라질 수 있습니다. 높은 Top-K를 가지고 있다면 낮은 Top-P를 원할 수 있고 그 반대도 마찬가지입니다.
존재감 페널티 (Presence Penalty)
존재감 페널티는 응답에 이미 등장한 단어에 대해 일회성 가중치 페널티를 적용합니다. 만약 '개'라는 단어가 한 번 사용되었다면, 존재감 페널티는 그 단어의 기본 확률이 페널티를 극복할 만큼 높지 않은 한 즉각적인 반복을 방지하기 위해 페널티를 줍니다.
하지만 이 설정을 너무 높이면 때때로 의도한 것과 반대 효과를 내어 더 많은 반복을 초래할 수 있습니다. 모든 단어에 페널티가 주어지면 아무것도 페널티를 받지 않는 것과 같기 때문입니다.
빈도 페널티 (Frequency Penalty)
빈도 페널티는 존재감 페널티와 비슷하지만 페널티가 누적됩니다. 단어가 더 많이 사용될수록 다음 응답에서 더 많은 페널티를 받게 됩니다. 이것이 좋게 들릴 수 있지만, 캐릭터 이름이나 '당신', '나', '그리고'와 같은 흔한 단어들이 심하게 페널티를 받을 수 있음을 기억하세요. 따라서 값을 너무 높게 설정하면 일반적인 토큰을 제외하고 매우 흔하지 않은 토큰을 선택하게 되어 문법적으로 일관성이 없어질 수도 있습니다.
빈도 페널티는 보통 0으로 기본 설정되어 있으며, 매우 높게 설정할 수 있지만 1 이상으로 올리면 AI가 이상한 결과물을 내기 시작할 것입니다.
팁 & 힌트
이 설정들에 정해진 규칙은 없습니다.
이를 익히는 가장 좋은 방법은 실험해보는 것이며, 실험에 따른 불이익은 없습니다. 변경하고 조정해본 뒤 모험에서 어떤 일이 일어나는지 확인하세요. 개인적으로 선호하는 방식에 따라 조금씩 조절해보면 더 마음에 들 수도 있고, 다시 원래대로 돌아갈 수도 있습니다. 물론 AI 응답이 이상하고 엉뚱해질 수도 있지만, 그것도 Questsmith를 플레이하는 재미의 일부입니다.
이 설정들을 변경한다고 해서 실제로 해로운 결과가 생기지는 않습니다.
AI가 튜브 맨처럼 허우적거리는 것을 보기 위해 Top-P, 온도 또는 반복 페널티를 최대로 올린다고 해서 문제가 되지 않습니다. 모든 것을 0으로 내리고 AI가 고장 난 레코드판처럼 구는 것을 지켜봐도 상관없습니다.
결국 Questsmith의 모든 것은 지우고 편집할 수 있으므로, 새로운 설정에서 AI가 쓰는 방식이 마음에 들지 않는다면 지우고 다시 시도하면 됩니다.
이 설정들에 대해 모두가 동의하는 '최선의 값'은 없습니다.
기본값들은 우리의 실험에서 좋은 결과를 보였지만, 당신의 게임 플레이 스타일에는 맞지 않을 수 있으며 그것도 괜찮습니다. 우리는 당신이 본인에게 가장 좋은 방식으로 Questsmith 경험을 맞춤 설정하고 제어할 수 있도록 이 설정들을 제공합니다. 다른 누구도 사용하지 않는 설정을 좋아한다면 그것으로 좋습니다. 결국 그것은 당신의 모험, 당신의 게임, 당신의 경험이며 당신을 행복하게 만드는 무엇이든 할 수 있습니다.
즐거운 모험 되세요!