Alle Depeschen

DepescheForschung

Manipulierte Aufgaben verlängern Reasoning-Antworten bis 26-fach

Eine für ICML 2026 angenommene Studie beschreibt einen Denial-of-Service-Angriff auf Reasoning-Modelle. Ein hierarchischer genetischer Algorithmus erzeugt Aufgaben, die auf dem MATH-Benchmark bis zu 26,1-mal längere Ausgaben auslösen. Getestet wurden DeepSeek-R1, Qwen3-Thinking, o3 und Gemini 2.5 Flash.

Das Verfahren optimiert Eingaben darauf, möglichst lange Antworten und viele Zweifelmarker zu erzeugen, ohne eine verbotene Ausgabe zu verlangen. Entwickelt wurde es gegen ein kleines Proxy-Modell; laut Abstract überträgt sich der Angriff auch auf große kommerzielle Systeme.

Die Arbeit ist ein Preprint vom 13. Mai 2026 und misst eine ältere Modellgeneration. Ob aktuelle Modelle mit einstellbaren Anstrengungsstufen robuster sind, untersucht sie nicht; eine unabhängige Reproduktion liegt nicht vor.