AI が忘れたり、内容を取り違えたりするのはなぜですか？

人工知能は人間の作者のように考えたり記憶したりするわけではありません。冒険全体の永続的な記憶を持つ代わりに、人工知能はコンテキストウィンドウと呼ばれる一時的な処理枠を使って動作します。

人工知能が特定の詳細を忘れたり、物語の要素を混同したりする主な理由はいくつかあります。

動くコンテキストウィンドウ

人工知能は一度に一定量のテキストしか読むことができず、その量はトークンと呼ばれる単位で測られます。物語が長くなり、何百もの行動を生成するにつれて、古いテキストは最新の入力のための空間を作るために、この有効なウィンドウの外へ自然に押し出されます。ある詳細がこのウィンドウの外に出ると、人工知能はそれを完全に見失い、創造的な推測で空白を埋めなければなりません。

実際の事実確認ではなくパターン照合

人工知能モデルは、学習中に得たパターンに基づいて、現在の入力に続く可能性が最も高い言葉を予測することで動作します。人工知能は、あなたの世界に関する事実のデータベースを実際に照合しているわけではありません。二人のキャラクターの名前が似て聞こえる場合や、場面の配置が非常に複雑な場合、人工知能は処理エンジン内でそれらのパターンが似て見えるため、誰が話しているのか、またはアイテムがどこにあるのかを簡単に混同することがあります。

コンテキストの過負荷

複雑なストーリーカードが何十枚もある場合や、非常に詳細なプロット要点がある場合など、記憶システムに大量のテキストを固定していると、有効なウィンドウが混雑することがあります。一度に多すぎる情報がコンテキストに押し込まれると、人工知能は競合する詳細によって混乱し、プロットの要点が混ざったり、矛盾した論理になったりすることがあります。

修正方法: プロット要点を短く具体的に保ち、古くなった記憶メモを削除し、人工知能が間違えたときにはすぐ編集ツールを使うことで、人工知能が誤った情報の上に話を続けないようにし、簡単に軌道を保てます。