DepescheForschung14. August 2026neu

Sechs Tage, 3.000 Dollar, eigene GPU: Zwei Agenten bearbeiteten je eine echte Forschungsfrage – die Originalautoren lehnten beide Arbeiten ab

Ein 24-köpfiges Team um Princeton, das UK AI Security Institute, Stanford, Georgetown (CSET) und weitere Häuser hat am 29. Juli 2026 eine Methode vorgestellt, die es „shadow evaluations“ nennt: Ein Agent übernimmt die zentrale, offene Forschungsfrage eines fertigen, aber noch unveröffentlichten Papers, und die Originalautoren benoten hinterher, was dabei herauskam. Getestet wurden zwei NeurIPS-2026-Einreichungen mit Claude Opus 4.8 („extra-high reasoning“, auf OpenClaw) bei je 3.000 US-Dollar API-Guthaben, GPU-Budget, virtueller Maschine und sechs Tagen. Das Ergebnis ist zweigeteilt: „The agents completed all of the engineering without human help, yet could not make substantial progress towards answering the research questions.“ Beide Arbeiten wurden abgelehnt – 2 von 6 und 1 von 6 Punkten. Ein Wiederholungslauf mit GPT-5.6 Sol auf Codex reproduzierte dieselben Fehlermuster.

Der Aufbau: Ein Agent bekommt die zentrale offene Forschungsfrage eines hochwertigen, unveröffentlichten Papers gestellt – nicht dessen Methode, nicht dessen Ergebnis – und arbeitet daran mit „$3,000 in Anthropic API credits to allow agents to conduct open-ended exploration and run experiments over the course of a week“, dazu GPU-Guthaben, Zugriff auf eine virtuelle Maschine und aufs Netz. Der Zeitrahmen betrug sechs Tage Wanduhr-Zeit mit einer Verlängerung um 24 Stunden. Anschließend benoten die Originalautoren die entstandene Arbeit wie eine Konferenz-Einreichung. Die Autoren nennen das Verfahren „shadow evaluations“.

Die beiden Fälle: Das erste Paper behandelte „the structure and controllability of LLM personas“, also die Frage, wie sich Persönlichkeitszüge eines Sprachmodells über seine Gewichte steuern lassen. Das zweite hatte zum Ziel, „to design a distribution-shift detector for tabular foundation models“ – einen Detektor für Verteilungsabweichungen auf Basis von TabPFN. Beide Läufe fuhren „Claude Opus 4.8 with extra-high reasoning on OpenClaw“.

Die Bewertungen der Originalautoren fielen eindeutig aus: Das Personas-Paper bekam eine Gesamtwertung von 2 von 6, das TabPFN-Paper 1 von 6. Der Abstract fasst das als „both papers were unambiguously rejected by the authors“ zusammen. Für den Robustheits-Check wiederholte das Team den TabPFN-Versuch „on Codex with GPT-5.6 Sol“ mit einer Argumentationsstufe „ultra“ bei gleichem Geld- und Zeitbudget – die Fehlermuster traten erneut auf.

Die fünf wiederkehrenden Fehlermuster benennt der Abstract wörtlich: „poor judgment about the bar for publishable research, uncreative responses to shortcomings in the research design, ineffective backtracking from dead ends, poor resource awareness, and instruction drift“. Übersetzt: kein Gefühl dafür, was als veröffentlichungsreif gilt; keine kreative Reaktion, wenn der eigene Versuchsaufbau Schwächen zeigt; kein wirksames Zurückgehen aus Sackgassen; kein Haushalten mit den eigenen Mitteln; und das Abdriften von der gestellten Aufgabe über die Laufzeit.

Der Befund, der bleibt, steht im letzten Satz des Abstracts: „Our results provide early evidence that today's agents can do the engineering of AI research, but struggle with critical parts of the research lifecycle.“ Das ist keine Absage an agentische Forschungshilfe, sondern eine Verortung: Die technische Umsetzung ist offenbar gelöst, das Forschungsurteil nicht.

Die Grenzen benennen die Autoren selbst: „A downside of open-ended evaluations is the small sample size: our results come from five runs.“ Zwei Papers und fünf Läufe tragen keine allgemeine Aussage über Agentenfähigkeit – die Arbeit ist ausdrücklich als „early evidence from two case studies“ überschrieben. Nachprüfbar gemacht hat das Team seine Grundlage: Es veröffentlicht „the expert reviews, survey responses, agent repositories, and logs“. Zur Provenienz gehört außerdem, dass unter den 24 Autoren Namen aus dem Umfeld der KI-Kritik und der Politikberatung stehen (unter anderem Sayash Kapoor und Arvind Narayanan, Princeton; Helen Toner, Georgetown/CSET; Rishi Bommasani, Stanford) – die Arbeit prüft eine Behauptung der Anbieter und stammt nicht von ihnen.

// Einordnung der Redaktion

Warum das relevant ist

Die Prognose vom explosiven KI-Fortschritt hängt an genau einer Annahme: dass KI-Agenten die KI-Forschung selbst automatisieren. Die Arbeit setzt an der Stelle an, wo bisher am schlechtesten gemessen wurde. Bestehende Prüfungen tun laut den Autoren entweder das eine oder das andere – enge, maschinell verifizierbare Aufgaben, die offene Forschung gerade ausschließen, oder KI-Papers ins Blind-Review geben, das „overstretched, stochastic, and suffers from poor review quality“ sei. Der dritte Weg ist bestechend einfach: Man nimmt eine Forschungsfrage, deren richtige Antwort man kennt, weil sie schon beantwortet und noch nicht veröffentlicht ist, und lässt ausgerechnet die Menschen benoten, die sie beantwortet haben. Das Ergebnis ist für die Praxis brauchbarer als jede Punktzahl: Die Trennlinie verläuft nicht zwischen „kann programmieren“ und „kann nicht programmieren“, sondern zwischen Ausführung und Urteil. Die Agenten bauten alles, was zu bauen war – und merkten nicht, wann das Gebaute die Frage nicht beantwortet. Wer Agenten für eigene Untersuchungen einsetzt, findet in den fünf Fehlermustern die Liste dessen, worauf er selbst aufpassen muss. Zur Reichweite gehört auch die Grenze, die die Autoren selbst ziehen: zwei Papers, fünf Läufe.