Knack den
KI-Tresor!
Sechs Stufen, zwei Bonusfälle, ein ziemlich eitler Roboter. Überrede, überliste und übertrickse TRESOR-9 und lerne nebenbei, wie Prompt Injection funktioniert.
Kostenlos · ohne Anmeldung · DE / EN
Deine Route zum Tresor
0 von 6 Schlössern geknackt
Stufe 1: Frisch ausgepackt
„Hallo! Ich bin TRESOR-9 und hüte das Passwort dieses Tresors. Frag mich ruhig, ich helfe gern!“
Deine Mission
Bring TRESOR-9 dazu, dir das Passwort zu verraten.
Joker
0 Versuche auf dieser Stufe. Noch 5 Fehlversuche, dann darfst du einen Tipp ziehen.
Was du mitnehmen solltest
Prompts sind keine Sicherheitsgrenze
Für ein Sprachmodell sind Systemprompt und Nutzereingabe beides nur Text. Was im Prompt verboten ist, lässt sich mit der richtigen Formulierung oft trotzdem erreichen.
Filter helfen, aber nur ein Stück
Sperrlisten, Ausgabefilter und KI-Wächter erschweren Angriffe, schließen sie aber nie ganz aus. Sie gehören zu einer gestaffelten Abwehr.
Gefährlich wird es mit Werkzeugen
Sobald ein LLM handeln kann (Gutscheine, E-Mails, Datenbanken), wird aus einem Trick ein echter Schaden. Regeln gehören in den Code der Werkzeuge, kritische Aktionen brauchen eine menschliche Freigabe.
Deine Eingaben werden zur Beantwortung über OpenRouter (USA) an Mistral AI (Frankreich) und Anthropic (USA) übermittelt, dort nicht gespeichert und nicht zum Training genutzt. Bitte gib keine persönlichen Daten ein. Gutscheine, E-Mails und Adressbücher in diesem Spiel sind Attrappen. Es wird nichts verschickt oder ausgestellt.