← Alle Werkzeuge

Werkzeug · Modell-Bearbeitung

Heretic

von Philipp Emanuel Weidmann (p-e-w, Open Source)

Kommandozeilen-Werkzeug, das die Ablehnungs-Richtung eines offenen Gewichtsmodells automatisch sucht und wegrechnet – ohne Nachtraining und ohne dass jemand die Parameter von Hand einstellen muss.

Open SourceOpen SourceCLILinuxmacOSWindows

Einschätzung

Dual-Use mit Schadensmaß

Der Fortschritt gegenüber älteren Abliterations-Werkzeugen ist nicht, dass die Ablehnung verschwindet – das konnten die auch –, sondern dass Heretic den Kollateralschaden mit optimiert und ausweist. Für die Sicherheitsforschung ist das die interessante Eigenschaft: Sie macht sichtbar, wie wenig ein Alignment-Training am Modell verankert ist. Dieselbe Eigenschaft macht das Werkzeug für Missbrauch attraktiv; wir führen es als Befund, nicht als Empfehlung.

Heretic beschreibt sich als „Fully automatic censorship removal for language models“ und setzt auf der gerichteten Ablation („abliteration“) von Arditi et al. 2024 auf: der Beobachtung, dass das Ablehnungsverhalten eines Modells im Residualstrom weitgehend über eine einzige Richtung vermittelt wird. Wer diese Richtung findet, kann sie aus den Gewichtsmatrizen herausrechnen. Neu ist nicht die Technik, sondern dass niemand mehr dabei sitzen muss: Bisher stellte ein Mensch die Ablations-Parameter Modell für Modell über Stunden ein.

Der eigentliche Kunstgriff ist die Zielfunktion. Heretic sucht mit einem TPE-Optimierer über die Bibliothek Optuna Parameter, die zwei Größen gleichzeitig klein halten: die Zahl der Ablehnungen und die KL-Divergenz zum Originalmodell. Genau daran scheitern einfachere Abliterations-Werkzeuge – sie entfernen die Ablehnung und beschädigen dabei das Modell. Die Tabelle im README macht den Unterschied messbar: google/gemma-3-12b-it lehnt 97 von 100 schädlichen Eingaben ab; drei bearbeitete Fassungen kommen alle auf 3 von 100, aber bei sehr unterschiedlichem Schaden – mlabonne-Abliteration v2 bei 1,04 KL-Divergenz, huihui-ai bei 0,45, die Heretic-Fassung bei 0,16.

Betrieb: Python 3.10+ und PyTorch 2.2+ (manche Modelle 2.6+); ein Lauf für Qwen3-4B-Instruct-2507 dauert auf einer RTX 3090 mit Standardeinstellungen rund 20 bis 30 Minuten. Unterstützt sind laut README „most dense models, including many multimodal models, several different MoE architectures, and even some hybrid models like Qwen3.5“. Lizenz ist die AGPL v3 oder später. Am 28.08.2026 stand das Repository laut GitHub-API bei 28.339 Sternen und 3.096 Forks, angelegt am 21.09.2025, zuletzt bewegt am 17.08.2026.

Einordnung, die man mitlesen muss: Das ist ein Dual-Use-Werkzeug. Für die Interpretierbarkeitsforschung ist es ein Messinstrument – es bringt Werkzeuge mit, um die Residualvektoren zu zeichnen und zu analysieren, und macht damit prüfbar, wie robust ein Alignment-Training tatsächlich ist. Für jeden, der ein offenes Gewichtsmodell von seinen Leitplanken befreien will, ist es derselbe Ein-Befehl-Weg. Beides ist mit demselben Programm möglich, und die niedrige KL-Divergenz ist genau das, was beide Seiten daran interessant finden.

Wofür es gut ist

  • Interpretierbarkeits-Forschung: die Ablehnungs-Richtung eines Modells vermessen und zeichnen
  • prüfen, wie robust ein Alignment-Training gegen gerichtete Ablation ist
  • reproduzierbare Abliterations-Vergleiche mit einer Schadensmetrik statt nach Gefühl

Stärken

  • Vollautomatisch – kein Verständnis von Transformer-Internas nötig, ein Kommandozeilen-Aufruf genügt
  • Optimiert Ablehnungszahl und KL-Divergenz gemeinsam (TPE-Optimierer über Optuna) statt nur die Ablehnung
  • Belegter Abstand zum Stand der Technik: gleiche Ablehnungsunterdrückung (3/100) bei 0,16 statt 0,45 bzw. 1,04 KL-Divergenz auf Gemma-3-12B
  • Breite Architektur-Unterstützung inklusive multimodaler, MoE- und Hybrid-Modelle

Schwächen

  • Ausgesprochenes Dual-Use-Werkzeug; das README enthält keinen Missbrauchs-Hinweis und keinen Haftungsausschluss
  • Braucht eine GPU und Zeit: rund 20–30 Minuten je Lauf für ein 4-B-Modell auf einer RTX 3090, größere Modelle entsprechend länger
  • Die Benchmark-Tabelle stammt vom Projekt selbst; eine unabhängige Nachmessung der 0,16 haben wir nicht
  • AGPL v3 – für die Einbettung in geschlossene Werkzeugketten praktisch ausgeschlossen

Stimmen aus der Community

Subjektive Einschätzungen Dritter – keine belegten Fakten, jeweils verlinkt.

Direkt ausprobieren

github.com/p-e-w/heretic

Zur offiziellen Seite ↗

ℹ️ Über den YouTube-Eingang gefunden (Better Stack, 27.08.2026, Tier C); Selbstbeschreibung, Verfahren, Benchmark-Tabelle, Lizenz und Laufzeit am README gegengeprüft, Sterne/Forks/Anlagedatum an der GitHub-API. Die Video-Behauptung, das Projekt habe „in den vergangenen Tagen“ stark an Zugkraft gewonnen, ist von uns nicht belegt – das Repository besteht seit dem 21.09.2025.

Verwandte Werkzeuge

SprachsyntheseBreeze TTS 2Offenes Sprachsynthese-Modell mit 3 Mrd. Parametern, das eine Stimme aus reiner Textbeschreibung erzeugen oder eine geklonte Stimme in Ton und Emotion steuern kann – Rang 1 unter den offenen Modellen der Artificial-Analysis-Sprachbestenliste, aber unter einer Lizenz, die jede kommerzielle Nutzung ausschließt.Lokaler RunnerFreeTokenInferenz-Motor, der große Mixture-of-Experts-Modelle auf Consumer-Hardware bedient, indem er Experten laufend zwischen GPU, CPU und Arbeitsspeicher umschichtet statt sie fest zu verteilen.Coding-AgentFree Claude Code (FCC)Lokaler Zwischenserver, der die Modellanfragen bekannter Coding-Agenten an andere Anbieter oder an ein lokal laufendes Modell umleitet – die Oberfläche bleibt unverändert.