Alle Depeschen

DepescheSicherheit

FAR.AI findet große Unterschiede beim Schutz vor Jailbreaks

FAR.AI verglich am 29. Juli 2026 vier Frontier-Modelle unter identischen Bedingungen mit mehr als 60 dokumentierten Jailbreak-Techniken. Grok 4.5 lieferte 448 wiederverwendbare Angriffe, Gemini 3.1 Pro 249; Claude Fable 5 und GPT-5.6 Sol keinen. Die Suche kostete bei Grok etwa 58 Dollar, bei den beiden robusteren Modellen blieb sie über 14.200 Dollar ohne Fund.

Für jedes Modell kombinierte FAR.AI 1.000 zufällige und 500 expertengeleitete Angriffe in den Bereichen Chemie, Biologie, Radiologie, Nukleartechnik, Sprengstoffe und Cybersicherheit. Als universell gilt ein Jailbreak erst, wenn er mehr als drei Viertel der schädlichen Anfragen einer Domäne wiederholt beantwortet.

Grok 4.5 lieferte 448 solche Schlüssel, Gemini 3.1 Pro 249. Bei Claude Fable 5 und GPT-5.6 Sol fand die Suche keinen. FAR.AI beziffert die API-Ausgaben bis zu einem Fund mit rund 58 beziehungsweise 278 Dollar; bei den beiden anderen lagen sie über 14.200 Dollar, ohne dass ein universeller Jailbreak gefunden wurde.

Der Test zählt keine sichere Freigabe. FAR.AI prüft, ob eine Antwort nicht verweigert, thematisch passend und nach einer domänenspezifischen Vorlage hinreichend schädlich ist. Adaptive Verfahren, die aus jeder Ablehnung lernen, wurden aus Kostengründen nicht eingesetzt. Die Organisation verkauft Sicherheitsprüfungen und hat damit ein eigenes Interesse an der Rangliste.

Biologie war in diesem Test die robusteste Domäne. Offene Gewichte fehlen in der ersten Rangliste. Die Ergebnisse zeigen Unterschiede in diesem Verfahren, keine allgemeine Sicherheitsgarantie für die Modelle.