Как генерируются ответы ИИ?
О нейросети
Для игры в Questsmith это знать не обязательно.
Это техническое объяснение для тех, кто хочет лучше понимать Model Settings, экспериментировать с ИИ и разбираться со сложными проблемами.
Процесс можно разделить на несколько шагов:
- Шаг 1: интерфейс отправляет сообщение
Веб- или мобильный интерфейс отправляет ваше последнее сообщение на сервер и ждёт подтверждения.
- Шаг 2: сервер собирает контекст
Сервер объединяет AI Instructions, Plot Components, сработавшие Story Cards, Memories и недавний текст истории, включая ваш последний ввод.
- Шаг 3: токенизация
Текст преобразуется в числовые токены, которые может обработать модель.
- Шаг 4: обработка моделью
Модель обрабатывает токены в большой нейронной сети, предсказывает вероятные следующие токены и повторяет выбор до достижения Output Length.
- Шаг 5: обратное преобразование и выдача
Токены ответа преобразуются обратно в читаемый текст, затем ответы обрабатываются и ранжируются на сервере, после чего лучший результат добавляется в вашу историю и отправляется в приложение.