← Alle Werkzeuge

Werkzeug · Agenten-Optimierung

SkillOpt

von Microsoft Research

Quelloffener Optimierer (Microsoft Research), der die Skill-Datei eines Agenten wie einen trainierbaren Parameter behandelt – ohne die Modellgewichte oder den Prompt von Hand anzufassen.

KostenlosOpen SourcePython

Einschätzung

Skills als trainierbare Parameter

Interessant überall dort, wo man einen Agenten über eine Skill-/Regel-Datei steuert und die Qualität bisher per Hand-Tuning verbessert hat: SkillOpt macht daraus eine messbare, validierungs-gesicherte Optimierung ohne GPU. Die Zahlen stammen aus Microsofts eigener Auswertung – die Richtung (validierungs-gegated, portabel) ist aber sauber belegt und der Code offen (MIT).

SkillOpt ist ein „Text-Space-Optimierer“ von Microsoft Research: Statt ein Modell nachzutrainieren oder einen Prompt von Hand zu tunen, behandelt es das Skill-Dokument (eine Markdown-Datei) als den trainierbaren externen Zustand eines eingefrorenen LLM-Agenten. Das Ziel-Modell bleibt unverändert – optimiert wird nur der Text.

Die Schleife ähnelt einem ML-Training: Der Agent arbeitet mit der aktuellen Skill-Datei eine Batch von Aufgaben ab und protokolliert jeden Schritt (Rollout). Ein separates Optimierer-Modell liest Erfolge und Fehlschläge, leitet wiederverwendbare Regeln ab (Reflection) und schlägt Edits an der Datei vor – hinzufügen, löschen, ersetzen unter einem festen Edit-Budget (einer „textuellen Lernrate“). Kein Edit wird übernommen, der nicht auf einem zurückgehaltenen Validierungs-Set strikt besser abschneidet; abgelehnte Edits landen in einem Puffer, damit der Optimierer denselben Irrweg nicht zweimal geht.

Ergebnis ist eine einzelne, portable `best_skill.md`. In Microsofts Auswertung landete SkillOpt in allen 52 getesteten Konstellationen (7 Modelle, 6 Benchmarks, 2 Harnesses: Codex und Claude Code) auf dem besten oder gleichbesten Platz; mit GPT-5.5 bis zu +23,5 Punkte über sechs Benchmarks. Die Skills sind übertragbar: eine in Codex trainierte Datei hob die skill-lose Basis in Claude Code von 22,1 auf 81,8 (+59,7), und ein auf einem großen Modell trainierter Skill funktionierte ohne Nachtraining auch auf einem kleineren.

Wofür es gut ist

  • Agenten-Skills (SKILL.md/CLAUDE.md-artige Regeln) systematisch statt per Hand verbessern
  • Aufgabenspezifische Skill-Dateien trainieren und zwischen Harnesses/Modellen übertragen
  • Leistungsgewinne ohne Fine-Tuning oder Modell-Zugriff auf die Gewichte

Stärken

  • Optimiert reinen Text (Skill-Datei) – kein Fine-Tuning, kein Gewichts-Zugriff, funktioniert mit eingefrorenen Modellen
  • Jeder Edit muss ein zurückgehaltenes Validierungs-Set schlagen (kein blindes Überschreiben funktionierender Regeln)
  • Ergebnis-Skill ist portabel: über Harnesses (Codex ↔ Claude Code) und Modellgrößen hinweg übertragbar
  • Quelloffen (MIT), lesbare/auditierbare Markdown-Artefakte

Schwächen

  • Die Bestwerte (52/52, +15–25 Punkte) stammen aus Microsofts eigener Auswertung – unabhängige Replikation steht aus
  • Braucht eine automatisierbare Aufgaben-/Bewertungs-Umgebung (Rollouts + Validierungs-Set) – kein Plug-and-play für unstrukturierte Arbeit
  • Forschungs-/Framework-Charakter, kein fertiges Produkt

Im Vergleich

Wofür dieses Werkzeug die bessere Wahl ist – und wann ein direkter Konkurrent.

  • Verwandt mit prompt-/Kontext-Engineering, aber automatisiert und validierungs-gegated statt Trial-and-Error von Hand – und im Gegensatz zu Fine-Tuning bleibt das Modell unangetastet, nur die Skill-Datei wird „trainiert“.

Stimmen aus der Community

Subjektive Einschätzungen Dritter – keine belegten Fakten, jeweils verlinkt.

Direkt ausprobieren

github.com/microsoft/SkillOpt

Zur offiziellen Seite ↗

ℹ️ Über den Vendor-/Dev-Kanal Better Stack (C58, Tier C) aufgekommen, Fakten aber am Microsoft-Research-Blog (Tier A) + GitHub `microsoft/SkillOpt` (Tier A) + arXiv 2605.23904 geprüft – nicht am Video. Veröffentlicht 30.06.2026, MIT-Lizenz. Kennzahlen (52/52, +23,5 Punkte mit GPT-5.5, SpreadsheetBench 41,8 → 80,7, Cross-Harness 22,1 → 81,8) sind Microsofts eigene Auswertung; unabhängige Replikation ausstehend.

Verwandte Werkzeuge