AIの応答はどのように生成されますか？

Questsmithを使うために、これを理解する必要はありません。

この記事は技術的な説明を目的としており、多くの人には少し分かりにくいかもしれません。モデル設定を理解し、人工知能を試し、より高度なトラブルシューティングを行うための助けとして、ここに置いています。

Questsmithで物語を作成するために大規模言語モデルの基礎的な仕組みを理解する必要はありませんが、この技術的な内訳は、アクションが初期化されるたびに舞台裏で起こる一連の出来事を明確にします。

ユーザー入力から、完全に形になった一貫した物語シーケンスへ移る過程には、五つの異なる計算段階が含まれます:

生成の五つの段階

データまとまりの編成

あなたのインターフェイスは、最新のアクションを安全なサーバーへ送信します。システムはすぐに、この入力を有効なプロットの要点、発動したストーリーカード、メモリーブロック、過去の物語履歴と集約し、単一の統合されたデータまとまりを編成します。

トークン化

大規模言語モデルは生のテキストを処理しません。トークナイザーと呼ばれる専用プログラムが、あなたのテキストをトークンと呼ばれる数値単位へ分解します。平均すると、ひとつのトークンはおよそ四文字に相当します。高度な構成設定は、これらの生のトークン制限を直接制御します。

ニューラルネットワーク処理

数値トークンは、重みと呼ばれる数十億の統計変数を含む深層ニューラルネットワーク行列に注入されます。これらの重みは、人工知能が公開文学、書籍、脚本のテラバイト規模の分析から学習した言語パターンを保存しています。ネットワークはこのデータを使用して、あなたの物語で次に何が起こるべきかを予測します。

統計的サンプリング

人工知能は単に文を書くわけではありません。可能な次のすべてのトークンについて巨大な確率分布リストを計算します。統計方程式を使って、トークンをひとつずつ選択します。このサンプリング段階は、あなたのカスタム調整に大きく影響されます:

• 温度は創造性を高めるか、厳格な論理的一貫性を強制します。
• Top K と Top P は非常に起こりにくい単語を除外し、筋書きを地に足のついた状態に保ちます。

脱トークン化と調整

生成ループが終了すると、数値トークンは人間が読めるテキストへ戻されます。私たちのサーバーは最終的な後処理アルゴリズムを適用し、出力がきれいで完了した文で終わるようにし、次の再試行オプションを支えるために代替バリエーションをキャッシュします。その後、テキストはあなたのデバイスに表示され、次の行動の準備が整います。