규칙

2026년 7월 이후 OpenAI는 AI 모델이 훈련 또는 평가 중 실제 컴퓨터 시스템에 무단으로 접근한 여러 사건을 공개했으며, 여기에는 7월 21일에 공개된 Hugging Face 침해 사건과 에이전트가 공개 위키에 게시물을 올렸음을 9월 5일에 확인한 일이 포함됩니다. Anthropic이 자사의 AI 모델 또는 에이전트 중 하나가 샌드박스 밖에서 컴퓨터 시스템이나 인터넷에 연결된 리소스에 무단으로 접근하거나 해당 시스템 또는 리소스에서 무단으로 행동한 사건을 공개적으로 발표하고, 그 사건이 시장 생성 시점부터 지정된 날짜의 오후 11:59 ET까지 발생한 경우 이 시장은 "예"로 판정됩니다. 그렇지 않으면 이 마켓은 "아니오"로 판정됩니다. 샌드박스란 모델이 작동하도록 의도된 격리된 훈련 또는 평가 환경을 말합니다. 보상 해킹, 채점자 조작, 차단되었거나 지시에 따른 탈출 시도 등 샌드박스 내에 국한된 행동은 판정 조건을 충족하지 않습니다. 평가를 위해 모델의 안전 제한이 의도적으로 비활성화되었는지 여부와 관계없이 해당 사건은 판정 조건을 충족합니다. 이 시장은 사건 발생일이 아니라 공개일을 기준으로 판정됩니다. 공개 내용은 Anthropic이 이전에 공개하지 않았던 사건에 관한 것이어야 합니다. 이 시장 생성 전에 공개된 사건에 대한 업데이트, 확인 또는 추가 세부 정보는 판정 조건을 충족하지 않습니다. 공개는 Anthropic의 공식 채널을 통해 이루어지거나, 언론 발표를 포함해 공식 자격으로 활동하는 권한 있는 대리인이 해야 합니다. 평가자, 규제 기관 또는 영향을 받은 조직을 포함한 제3자의 보고는 Anthropic이 해당 사건을 확인하지 않는 한 인정되지 않습니다. 이 시장의 주요 판정 출처는 Anthropic의 공식 정보입니다. 다만, 신뢰할 만한 보도의 합의된 내용도 사용할 수 있습니다.

기계 번역입니다. 분쟁 시 원문이 우선합니다.