AI는 왜 잊어버리거나 내용을 섞어버리나요?

인공지능은 인간 작가처럼 생각하거나 기억하지 않습니다. 모험 전체에 대한 영구적인 기억을 가지는 대신, 인공지능은 맥락 창이라고 부르는 임시 처리 창을 사용해 작동합니다.

인공지능이 특정 세부 사항을 잊거나 이야기 요소를 혼동할 수 있는 주요 이유는 몇 가지가 있습니다.

움직이는 맥락 창

인공지능은 한 번에 일정량의 텍스트만 읽을 수 있으며, 이는 토큰이라는 단위로 측정됩니다. 이야기가 길어지고 수백 개의 행동을 생성할수록, 오래된 텍스트는 가장 최근 입력을 위한 공간을 만들기 위해 이 활성 창 밖으로 자연스럽게 밀려납니다. 어떤 세부 사항이 이 창 밖으로 벗어나면, 인공지능은 그것을 완전히 놓치게 되고 창의적인 추측으로 빈칸을 채워야 합니다.

실제 사실 확인보다 패턴 일치

인공지능 모델은 훈련 중 학습한 패턴을 바탕으로 현재 입력 다음에 올 가능성이 가장 높은 단어를 예측하는 방식으로 작동합니다. 인공지능은 실제로 당신의 세계에 관한 사실 데이터베이스를 대조하지 않습니다. 두 캐릭터의 이름이 비슷하게 들리거나 장면 배치가 매우 복잡하면, 인공지능은 처리 엔진에서 그 패턴들이 비슷해 보이기 때문에 누가 말하고 있는지 또는 물건이 어디에 있는지 쉽게 혼동할 수 있습니다.

맥락 과부하

복잡한 이야기 카드 수십 개나 매우 자세한 줄거리 핵심 요소처럼 기억 시스템에 고정된 텍스트가 지나치게 많으면 활성 창이 붐빌 수 있습니다. 너무 많은 정보가 한꺼번에 맥락 안으로 들어가면, 인공지능은 서로 경쟁하는 세부 사항 때문에 혼란스러워질 수 있으며, 이로 인해 줄거리 지점이 뒤섞이거나 논리가 모순될 수 있습니다.

해결 방법: 줄거리 핵심 요소를 짧고 구체적으로 유지하고, 오래된 기억 메모를 정리하며, 인공지능이 실수했을 때 즉시 편집 도구를 사용하면 인공지능이 잘못된 정보를 바탕으로 계속 이어가지 않도록 쉽게 경로를 유지할 수 있습니다.