Questsmithにおけるコンテンツ安全性の管理

大規模なプラットフォーム更新の一環として、AI安全設定を全面的に見直しました。以前は、期待するほどの制御性がないという声が多くありました。

この課題に対応するため、専門パートナーである HiveAI と連携し、安全スコアと制御性を改善しました。

プレイヤーがAIとやり取りすると、出力は安全スコアリングされます。選択したしきい値を満たさない場合は、別の生成結果を返すか、問題があったことを通知します。これはシナリオ画像や一部のシナリオ内容にも適用されます。

プライバシー保護のため、API リクエストは暗号化され、処理後すぐ削除されます。送信データは保存・閲覧・学習利用されません。

AI安全設定は Safe、Moderate、Mature の3段階です。

Discover と Search も Everyone、Teen、Mature、Unrated で安全性を強化しました。

AI安全設定と検索フィルターは独立しており、私的にNSFWを作成しつつ閲覧では避けたいプレイヤーにも対応します。

初期値は AI安全が Safe、検索が Teen で、どちらも変更できます。

これらの設定は、柔軟性を保ちつつ、より高い安全性とカスタマイズ性を提供します。