Questsmith의 콘텐츠 안전 관리

주요 플랫폼 업데이트의 일환으로 AI 안전 설정을 대폭 개편했습니다. 이전에는 많은 플레이어들이 이전의 안전 제어 장치가 기대했던 수준의 제어를 제공하지 못한다고 느꼈으며 일부는 여전히 불편한 AI 결과물을 접하기도 했습니다.

이러한 피드백을 검토한 후 콘텐츠 안전이 어려운 과제임을 인식하고 전문 기술 파트너인 HiveAI와 함께 더 나은 안전 점수 산출 및 제어 방식을 개선했습니다.

플레이어가 AI와 상호작용할 때 모델 출력은 안전 점수 산출을 위해 전송됩니다. 출력이 플레이어가 선택한 임계값을 충족하지 못하면 대체 생성을 제공하거나 문제가 있음을 플레이어에게 알립니다. 이는 시나리오 이미지와 선택된 시나리오 콘텐츠에도 적용됩니다.

개인정보 보호와 보안을 위해 API 요청은 암호화되어 신속하게 처리 및 삭제됩니다. 안전 점수 산출을 위해 전송된 데이터는 저장, 검토되거나 파트너 모델 학습에 사용되지 않습니다. 오직 게임 플레이 안전 점수를 생성하는 데만 사용됩니다.

우리의 AI 안전 설정은 세 가지 수준이 있습니다: Safe(안전), Moderate(보통), Mature(성인). 이는 친숙한 영화 등급과 대략 일치합니다: Safe ~ PG, Moderate ~ PG-13, Mature ~ R/18+.

또한 콘텐츠 등급을 사용하여 발견(Discover) 및 검색 안전 제어 기능을 개선했습니다: Everyone(전체 이용가), Teen(13세 이용가), Mature(성인용), Unrated(등급 미지정 - 노골적인 콘텐츠).

일부 플레이어는 검색 시에는 선정적인 콘텐츠를 피하면서 비공개로 제작할 때는 그런 콘텐츠를 선호하기 때문에 AI 안전 설정과 검색 필터는 독립적으로 작동합니다.

기본값은 AI 안전의 경우 Safe, 검색 필터의 경우 Teen이며 플레이어는 언제든지 두 설정을 모두 변경할 수 있습니다.

이러한 제어 장치는 다양한 플레이 스타일에 대한 유연성을 유지하면서 플레이어에게 더 많은 개인화 및 안전 옵션을 제공하도록 설계되었습니다.