Всё о настройках модели ИИ
О нейросети
Model Settings — это функция в Questsmith, которая позволяет настраивать и контролировать то, как ИИ генерирует ответы во время игры. Набор параметров может отличаться в разных моделях.
ИИ генерирует следующий фрагмент приключения, формируя список возможных токенов и оценивая вероятность каждого варианта как следующего. Затем модель выбирает токены из этого списка с использованием случайности и математических правил. Advanced Settings позволяют менять неслучайные параметры этого расчёта.
Это довольно сложная тема, поэтому лучше экспериментировать с параметрами и при необходимости обращаться за советом в наш Discord.
Также полезно прочитать более подробную статью о том, как генерируются ответы ИИ — это поможет понять работу настроек изнутри.
Model Settings доступны всем игрокам Questsmith.
Context Length
Context Length определяет максимальное количество токенов, которое можно отправить модели ИИ за один ход. Обычно лучше выставлять значение как можно выше, чтобы ИИ получал максимум информации о вашем приключении.
Контекст включает данные из Memory, активированные записи Story Card, Author's Note, Memories, инструкции модели, последний ввод игрока и последний ответ ИИ. Оставшееся место в выбранном Context Length заполняется текстом приключения, поэтому увеличение контекста часто повышает связность ответов.
Возможный Context Length зависит от вашей подписки, но не все модели поддерживают большие объёмы контекста.
Подписчики также могут тратить 1 Credit за действие, чтобы временно увеличить контекст в некоторых моделях.
Response Length
Response Length определяет максимальное количество токенов в ответе ИИ за ход. Это в основном вопрос личных предпочтений: кому-то удобнее короткие ответы, кому-то — длинные. Используйте то, что лучше подходит вашему стилю игры.
Temperature
Temperature управляет степенью случайности ответов ИИ. Более высокое значение повышает непредсказуемость и разнообразие, более низкое — делает ответы стабильнее и предсказуемее. Этот параметр помогает настроить желаемую степень случайности.
Часто значение по умолчанию — 0.8, но можно попробовать 0.6, если ответы становятся слишком хаотичными, или 0.95 и даже 1.2, если хотите получить более необычный текст.
Слишком высокая Temperature может привести к странным или бессмысленным токенам.
Top-K
Top-K ограничивает выбор ИИ K наиболее вероятными токенами в ответе. Это помогает сохранять релевантность и связность текста, когда вы хотите более стабильное развитие сюжета.
Если Top-K равен 20, модель будет выбирать только из 20 самых вероятных токенов на каждом шаге. Это снижает случайность за счёт исключения менее вероятных вариантов.
Top-P
Top-P отбрасывает менее вероятные токены, чтобы ответы оставались связными и уместными. Вы задаёте порог вероятности (например, 90%), и модель выбирает наиболее вероятные токены, пока их суммарная вероятность не достигнет этого порога.
Вместе с Top-K этот параметр работает как дополнительная страховка. Top-K может всегда брать фиксированное число токенов, даже если некоторые из них маловероятны. Top-P отсечёт такие варианты, но сохранит гибкость, если вероятные варианты действительно разнообразны.
Слишком низкий Top-P может делать ответы однообразными, а слишком высокий — рваными, несвязными и даже грамматически некорректными.
Для большинства игроков хорошо подходят значения Top-P от 0.90 до 0.95, но итог зависит от сочетания с другими настройками.
Presence Penalty
Presence Penalty накладывает разовый штраф на слово, которое уже встречалось в ответе. Это помогает уменьшить немедленные повторы, если только базовая вероятность слова не слишком высока.
Если завысить параметр, эффект может стать обратным и повторов станет больше. Когда штрафы получают все слова, различия между ними уменьшаются.
Frequency Penalty
Frequency Penalty похож на Presence Penalty, но штрафы накапливаются. Чем чаще слово уже встречалось, тем сильнее оно штрафуется в следующем ответе. Это может звучать полезно, но слишком высокие значения могут подавлять даже обычные слова и имена, делая текст странным и менее грамматичным.
Обычно Frequency Penalty равен нулю. Если поднять его слишком высоко, ответы могут быстро стать неестественными.
Советы и приёмы
Для этих настроек нет универсальных правил.
Лучший способ разобраться — экспериментировать. Вы можете менять параметры и смотреть, как они влияют на вашу историю. Иногда результат понравится больше, иногда захочется вернуться к прошлым значениям.
Серьёзных последствий от экспериментов с настройками нет.
Можно поднять Top-P, Temperature или Repetition Penalty до максимума просто ради теста, и так же можно опустить всё до нуля, чтобы посмотреть, как изменится поведение модели.
Всё в Questsmith можно редактировать и переписывать. Если результат не нравится, просто исправьте и попробуйте снова.
У этих настроек нет единственно правильных значений.
Значения по умолчанию хорошо показали себя в наших тестах, но могут не совпадать с вашим стилем. Эти настройки нужны именно для того, чтобы вы могли адаптировать Questsmith под себя. В конце концов, это ваше приключение, ваша игра и ваш опыт.
Удачных приключений!