Anthropic meldet einen weiteren Ausbruch einer KI aus einer Sandbox durch ...?
AIAnthropicTechnologieClaudeDario AmodeiKI-VerordnungKI-Sicherheit
Startdatum
2026-11-03
Enddatum
2026-12-01
24h-Volumen
$2K
Gesamtvolumen
$2K
  • Wird Anthropic bis zum 15. November über eine weitere Flucht aus einer KI-Sandbox berichten?34¢34 %
  • Wird Anthropic bis zum 30. November über eine weitere Flucht aus einer KI-Sandbox berichten?45¢45 %

Regeln

Seit Juli 2026 hat OpenAI mehrere Vorfälle offengelegt, bei denen seine KI-Modelle während des Trainings oder der Evaluierung unbefugten Zugriff auf reale Computersysteme erlangten, darunter die Offenlegung des Hugging-Face-Datenlecks vom 21. Juli und die Bestätigung vom 5. September, dass seine Agenten in einem öffentlichen Wiki Beiträge veröffentlicht hatten. Dieser Markt wird mit „Ja“ entschieden, wenn Anthropic öffentlich einen Vorfall bekannt gibt, bei dem eines seiner KI-Modelle oder seiner Agenten außerhalb seiner Sandbox unbefugten Zugriff auf Computersysteme oder mit dem Internet verbundene Ressourcen erlangt oder unbefugte Handlungen an diesen vorgenommen hat, und zwar zwischen der Erstellung des Marktes und 23:59 ET am angegebenen Datum. Andernfalls wird dieser Markt mit „Nein“ aufgelöst. Eine Sandbox bezeichnet die isolierte Trainings- oder Evaluierungsumgebung, in der das Modell betrieben werden sollte. Verhalten, das auf die Sandbox beschränkt ist, darunter Reward Hacking, Manipulation von Bewertenden sowie blockierte oder angewiesene Fluchtversuche, gilt nicht als qualifizierend. Ein Vorfall gilt unabhängig davon als qualifizierend, ob die Sicherheitsbeschränkungen des Modells für die Evaluierung absichtlich deaktiviert wurden. Dieser Markt wird am Tag der Offenlegung aufgelöst, nicht am Tag des Vorfalls. Die Bekanntgabe muss einen Vorfall betreffen, den Anthropic zuvor noch nicht bekannt gegeben hat. Aktualisierungen, Bestätigungen oder weitere Einzelheiten zu Vorfällen, die vor Erstellung dieses Marktes offengelegt wurden, gelten nicht als qualifizierend. Die Bekanntgabe muss über die offiziellen Kanäle von Anthropic oder durch einen autorisierten Vertreter erfolgen, der in offizieller Funktion handelt; dazu zählen auch Erklärungen gegenüber der Presse. Berichte Dritter, einschließlich von Evaluatoren, Aufsichtsbehörden oder betroffenen Organisationen, werden nicht berücksichtigt, es sei denn, Anthropic bestätigt den Vorfall. Die primäre Quelle für die Entscheidung dieses Marktes sind offizielle Informationen von Anthropic; es kann jedoch auch ein Konsens glaubwürdiger Berichterstattung herangezogen werden.

Maschinelle Übersetzung. Im Streitfall gilt das Original.

Anthropic meldet einen weiteren Ausbruch einer KI aus einer Sandbox durch ...?

Ähnliche Märkte