Token ve Bağlam Uzunluğu Nedir?
AI Hakkında
AI modelleri kelimeleri insanların okuduğu gibi okumaz. Bilgiyi Tokenlar halinde işler. Bir token tek bir karakter, bir kelimenin parçası veya tüm bir kelime olabilir. Questsmith'te kabaca bir kural şudur: 1 token yaklaşık 4 karaktere eşittir (veya yaklaşık 0,75 kelime).
1. Tokenler Nasıl Çalışır
Tokenleri dilin yapı taşları olarak düşünün. Bir istem gönderdiğinizde, AI bunu bu yapı taşlarına ayırır, kalıpları analiz eder ve bir sonraki yapı taşının ne olması gerektiğini tahmin eder. Bu yüzden AI, en iyi token eşleşmesini bulması gerektiğinden, çok karmaşık veya uydurma kelimelerde bazen kararsız kalabilir.
2. Bağlam Uzunluğu Nedir?
Bağlam Uzunluğu, AI'nin kısa vadeli hafızasıdır. Modelin bir yanıt üretirken aynı anda kaç token görebileceğini belirler. Hikayeniz bu sınırı aştığında, AI yeni eylemler için yer açmak üzere maceranın en eski kısımlarını unutmaya başlar.
Profesyonel İpucu: Bağlam sınırında bile hikayenizi tutarlı tutmak için Hikaye Kartları ve Hafıza kullanın. Bu sabitlenmiş ayrıntılar her zaman AI'ye gönderilir, böylece 1. bölümün gerçek metni bağlam penceresinden çoktan düşmüş olsa bile, AI görev hedeflerini ve karakter isimlerini korur.