RECHERCHE-REPORT · AGENTIC CODING

Modell oder Harness?

Was echte Benchmark-Daten 2026 ueber LLM-Coding-Modelle und ihre Agent-Harnesses aussagen — und warum die meisten publizierten Zahlen nicht vergleichbar sind.

Stand
13. September 2026
Primaerquellen
Scale Labs (SEAL), Artificial Analysis, Anthropic, arXiv 2605.23950, arXiv 2510.11977
Datenbasis
2 vollstaendige Leaderboard-Tabellen, 1 kontrolliertes 3×3-Faktorial, 8 Harness-Delta-Messungen
Zahlenstatus
jede Zahl quellenbelegt; Widersprueche in §8 offengelegt statt geglaettet

Der Befund dieser Recherche in einem Satz: Bei vergleichbar starken Frontier-Modellen bewegt der Harness — also Kontextaufbau, Tool-Schnittstelle, Wiederholungs- und Verifikationslogik um das Modell herum — die Benchmark-Ergebnisse staerker als die Wahl des Modells.

Das ist keine Meinung, sondern in einem kontrollierten Experiment gemessen: In einem 3×3-Raster aus drei Frontier-Modellen und drei Harness-Konfigurationen ist die harness-induzierte Varianz das 7,80-fache der modell-induzierten Varianz. In 6 von 9 moeglichen Paarvergleichen kehrt sich die Rangfolge der Modelle um, wenn man nur den Harness wechselt.

Harness- zu Modellvarianz
7,80×
Rang-Umkehrungen im Faktorial
6/9
Spanne Top-6 bei fixem Harness
4,9pp
Groesster gemessener Harness-Effekt
48pp

1. Was die einzelnen Benchmarks ueberhaupt messen

Die vier meistzitierten Zahlen stammen aus vier verschiedenen Messungen mit verschiedenen Aufgabenmengen, Sprachen und Abbruchregeln. Sie sind nicht ineinander umrechenbar.

BenchmarkAufgabenSprachenWas es prueftKontaminationsrisiko
SWE-bench Verified500PythonPatch fuer ein GitHub-Issue; fail-to-pass + pass-to-passhoch
SWE-bench Pro (public)731Py, Go, TS, JSlange Aufgaben, im Schnitt 107,4 Zeilen ueber 4,1 Dateiengering (GPL-Copyleft)
SWE-bench Pro (private)276Py, Go, TS, JSdieselben Aufgabenarten in 18 proprietaeren Startup-Repossehr gering
Terminal-Bench 2.189Shell-nativreale Terminal-Arbeit: Build, Security, Sysadmin, Datenmittel
Terminal-Bench 4.066Shell-nativhaertere Variante, rekalibrierte Zeit- und Compute-Budgetsgering
Aider Polyglot2256 SprachenEdit-Format-Treue in Aiders eigener Edit-Schleifemittel

SWE-bench Pro umfasst insgesamt 1.865 Aufgaben aus 41 Repositories, aufgeteilt in public (731), private (276) und held-out (858). Quellen [1][2][5][6][9].

2. Modellranking bei kontrolliertem Harness

Scale Labs faehrt auf dem SEAL-Leaderboard jedes Modell durch dieselbe Gerueststruktur — 250-Turn-Limit, unbegrenztes Kostenbudget. Das ist der sauberste oeffentlich verfuegbare Modellvergleich fuer Coding-Agents. Die mit Stern markierten Eintraege liefen unter mini-swe-agent, die uebrigen unter dem SWE-Agent-Scaffold: auch innerhalb dieses Boards sind also zwei Harnesses im Spiel.

Abb. 1: SWE-bench Pro, oeffentlicher Satz (731 Aufgaben), Resolve Rate in Prozent. Fehlerbalken sind das 95-%-Konfidenzintervall. Quelle [1].
Rang (UB)ModellResolve Rate95-%-KIHarness
1Muse Spark 1.161,50 %±3,10mini-swe-agent
1gpt-5.4 (xHigh)59,10 %±3,56mini-swe-agent
3Muse Spark55,00 %±3,60mini-swe-agent
3claude-opus-4-6 (thinking)51,90 %±3,61mini-swe-agent
5gemini-3.1-pro (thinking)46,10 %±3,60mini-swe-agent
5claude-opus-4-545,89 %±3,60SWE-Agent
5claude-4-5-Sonnet43,60 %±3,60SWE-Agent
5gemini-3-pro-preview43,30 %±3,60SWE-Agent
5claude-4-Sonnet42,70 %±3,59SWE-Agent
10gpt-5 (High)41,78 %±3,49SWE-Agent
10gpt-5.2-codex41,04 %±3,57SWE-Agent
10claude-4-5-haiku39,45 %±3,55SWE-Agent
10qwen3-coder-480b-a35b38,70 %±3,55SWE-Agent
14minimax-2.136,81 %±3,55SWE-Agent
14gemini-3-flash34,63 %±3,55SWE-Agent
16gpt-5.229,94 %±2,15SWE-Agent
16kimi-k2-instruct27,67 %±3,25SWE-Agent
18qwen3-235b-a22b21,41 %±2,25SWE-Agent
19gpt-oss-120b16,20 %±2,67SWE-Agent
19deepseek-v3p215,56 %±2,63SWE-Agent
21gemma-3-27b-it11,38 %±2,15SWE-Agent
21llama3-1-405b-instruct11,18 %±2,15SWE-Agent
21glm-4.69,67 %±2,15SWE-Agent
24llama4-maverick-17b5,24 %±1,24SWE-Agent
25codestral-24051,51 %±1,51SWE-Agent

„Rang (UB)“ ist Scales eigene Definition: 1 plus die Anzahl der Modelle, deren untere KI-Grenze ueber der oberen KI-Grenze dieses Modells liegt. Gleiche Rangzahl heisst: statistisch nicht unterscheidbar. Quelle [1].

3. Oeffentlicher gegen privaten Aufgabensatz

Derselbe Harness, dieselben Modelle, aber proprietaere Codebasen statt Open Source. Die Rangfolge kippt: gpt-5.4 (xHigh) faellt von Platz 2 auf Platz 4, claude-opus-4-6 (thinking) steigt von Platz 4 auf Platz 2. Der Abstand zwischen den beiden dreht sich um 12,5 Prozentpunkte.

Abb. 2: SWE-bench Pro, oeffentlicher (731) gegen privaten Satz (276 Aufgaben). Quellen [1][2].
GROESSTER ABFALL

gpt-5.4 (xHigh): 59,10 % → 43,40 %. Minus 15,7 Prozentpunkte auf unbekanntem Code.

STABILSTER WERT

claude-opus-4-6 (thinking): 51,90 % → 47,10 %. Minus 4,8 Prozentpunkte — und damit auf dem privaten Satz vorn.

4. Der Harness-Effekt, gemessen

Ein Agent ist ein geschlossener Regelkreis. Das Modell ist die Strategie, die auf einen vom Harness gebauten Kontextausschnitt reagiert. Stabilitaet, Kontextdrift und Regelverzoegerung sind Eigenschaften des Reglers, nicht der Gewichte — sie verbessern sich nicht, wenn man das Modell tauscht.

HARNESS (Regler) Kontextaufbau Kompression, Retrieval LLM offene Strategie π Tools + Pruefung Schema, Retry, Verifikation Rueckfuehrung: Beobachtung, Fehler, Rollback c(s) Aktion
Abb. 3: Das Modell sieht nie den Zustand, nur die Projektion, die der Harness ihm zeigt. Nach arXiv 2605.23950, Abb. 1 [3].

4.1 Gemessene Harness-Deltas bei festgehaltenem Modell

Abb. 4: Veraenderung in Prozentpunkten, wenn ausschliesslich die Infrastruktur getauscht wird. Quelle [3], Tabelle 1, mit den dort angegebenen Primaerbelegen.
BenchmarkModell (fix)Aenderung am HarnessEffekt
SWE-bench Verified Minio4-miniSWE-Agent → HAL Generalistca. 48 pp
SWE-bench Verified MiniClaude Sonnet 4.5SWE-Agent → HAL Generalist68 % → 34 % (34 pp)
SWE-bench Verified MiniGPT-5 MediumSWE-Agent → HAL Generalist46 % → 12 % (34 pp)
SWE-bench VerifiedGrok 4SWE-agent → xAI-eigenes Scaffold58,6 % → 72–75 % (+14 bis +16 pp)
Terminal-Bench 2.0fixPrompt + Middleware + Verifikation52,8 % → 66,5 % (+13,7 pp)
SWE-bench ProClaude Opus 4.5SEAL → Claude Code45,9 % → 55,4 % (+9,5 pp)
Terminal-Bench 2GPT-5.4 (high)automatische Harness-Evolution (AHE)69,7 % → 77,0 % (+7,3 pp)
SWE-bench Promehrereein zusaetzlicher Such-Subagent+2,1 bis +2,2 pp
Agent-Aufgaben (Vercel)fix15 Tools → 2 Tools80 % → 100 %

Zum Vergleich: Die als bedeutsam publizierten Modellfortschritte liegen ueblicherweise bei 2 bis 4 Prozentpunkten. Quelle [3].

4.2 Das kontrollierte Faktorial

Drei Modelle, die auf dem Coding-Leaderboard dicht beieinander lagen (Kimi K2.6 45,4 / GLM-5.1 45,3 / GPT-5.4 44,6), wurden durch drei Harness-Konfigurationen gefahren: H1 minimal und offen, H2 mit komprimiertem Kontext, schlankem Tool-Schema und strukturiertem Retry, H3 zusaetzlich mit Selbstpruefung pro Schritt, Drift-Kontrolle, Anomalieerkennung und Checkpoint-Rollback. 100 stratifizierte SWE-bench-Verified-Aufgaben, je zwei Laeufe, identische Umgebung und API-Einstellungen.

Abb. 5: pass@1 in Prozent, Mittel aus zwei Laeufen. Der Sprung von H1 nach H3 ist fuer jedes Modell groesser als jeder Modellwechsel innerhalb einer Spalte. Quelle [3], Tabelle 2.
ModellH1 minimalH2 verbessertH3 vollSpanneHV (pp²)
GLM-5.152,556,565,5+13,0 pp29,56
GPT-5.455,058,563,5+8,5 pp12,17
Kimi K2.652,059,060,5+8,5 pp13,72
MV (pp²)1,721,174,222,5–5,0 pp—
  1. B1zentral
    Mittlere Harness-Varianz 18,48 pp² gegen 2,37 pp² Modellvarianz. Verhaeltnis 7,80. In beiden Einzellaeufen getrennt gerechnet: 8,72 und 6,76 — kein Mittelungsartefakt.
  2. B2Rangfolge
    Sechs von neun Modellpaar-/Harnesspaar-Vergleichen kehren die Rangfolge um. Wer ein Modell anhand eines Leaderboards auswaehlt, waehlt implizit dessen Harness mit.
  3. B3Mechanismus
    Der Gewinn von H1 nach H2 kommt laut Trajektorien-Analyse aus weniger Regelrauschen (weniger fehlerhafte Ausgaben, engerer Aktionspfad), der von H2 nach H3 aus geschlossener Verifikations- und Wiederherstellungsschleife. Nicht aus mehr Modellwissen.
  4. B4Gegenlaeufig
    Die Modellvarianz ist unter H2 am kleinsten (1,17 pp²) und unter H3 am groessten (4,22 pp²). Ein besserer Harness macht die Modellwahl also nicht generell irrelevant — Verifikationsmechanismen legen bestehende Modellunterschiede teilweise erst frei.

5. Harness-Modell-Paare auf Terminal-Bench

Terminal-Bench rankt explizit Paare aus Harness und Modell, nicht Modelle allein. Der Stand vom 30. April 2026 auf der 2.0-Tafel:

HarnessModellPass Rate
CodexGPT-5.582,0 %
ForgeCodeGPT-5.481,8 %
TongAgentsGemini 3.1 Pro80,2 %
ForgeCodeClaude Opus 4.679,8 %
SageAgentGPT-5.3-Codex78,4 %
ForgeCodeGemini 3.1 Pro78,4 %
DroidGPT-5.3-Codex77,3 %
Meta-HarnessClaude Opus 4.676,4 %
CapyClaude Opus 4.675,3 %
Simple CodexGPT-5.3-Codex75,1 %
Terminus-KIRAGemini 3.1 Pro74,8 %

Claude Opus 4.6 erscheint dreimal: 79,8 % unter ForgeCode, 76,4 % unter dem automatisch evolvierten Meta-Harness, 75,3 % unter Capy. Identische Gewichte, 4,5 Prozentpunkte Spanne. Quelle [4].

5.1 Selbst die Effort-Einstellung ist ein Harness-Parameter

Artificial Analysis faehrt Terminal-Bench unter einem festen Harness (Terminus 2, e2b-Sandbox, pass@1 gemittelt ueber drei Wiederholungen). Auf v2.1 belegt ein einziges Modell die ersten drei Plaetze — allein ueber die Reasoning-Effort-Stufe:

KonfigurationTerminal-Bench v2.1
Claude Fable 5.1 — Max Effort91,4 %
Claude Fable 5.1 — xHigh Effort91,0 %
Claude Fable 5.1 — High Effort89,9 %

Quelle [7]. Auf der haerteren v4.0 fuehrt GPT-6 Astra (xhigh) mit 59,6 %, vor GPT-6 Astra (max) 59,1 % und Claude Fable 5.1 (xHigh) 55,1 % — wieder dasselbe Muster. Quelle [8].

6. Saettigung und Kontamination

SWE-bench Verified ist als Rangliste praktisch ausgereizt: Die Spitzenwerte liegen bei 96,0 % (Claude Opus 5), 95,5 % (Mythos 5) und 95,0 % (Fable 5) — eine Spanne von einem Prozentpunkt ueber drei Modelle. Gleichzeitig ist es das Benchmark mit dem hoechsten Kontaminationsrisiko: alle Repositories sind oeffentlich, der Median liegt bei vier geaenderten Zeilen.

Wie stark Saettigung die Aussagekraft frisst, zeigte der Sprung von Terminal-Bench 2.1 auf 4.0 Ende August 2026. Die neue Version haertet Umgebungen, Verifier und Budgets nach und entfernt acht gesaettigte oder oeffentlich geloeste Aufgaben:

Abb. 5: Terminal-Bench 2.1 gegen 4.0, unabhaengiger Harness. Quellen [8][11].
GEMINI 3.8 FLASH

87,6 % auf TB 2.1, 19,7 % auf TB 4.0. Ein Einbruch um 68 Prozentpunkte bei identischem Modell.

SWE-BENCH PRO, ERSTE MESSUNG

Scales Ausgangsbefund: Modelle mit ueber 70 % auf Verified loesten anfangs nur 23,3 % (GPT-5) bzw. 23,1 % (Claude Opus 4.1) des Pro-Satzes.

7. Was das kostet

Die Kostenbuchhaltung des Faktorials ist der interessanteste Nebenbefund: Der schwaechste Harness ist nicht der billigste. H1 verbrennt bei GPT-5.4 das 1,9-Fache der Tokens von H2 und liefert 3,5 Prozentpunkte weniger.

ModellHarnessKosten (USD)TokensLaufzeitpass@1
GPT-5.4H1 minimal34,1918,9 M3,6 h55,0 %
GPT-5.4H2 verbessert22,199,7 M2,0 h58,5 %
GPT-5.4H3 voll23,0510,0 M2,4 h63,5 %
Kimi K2.6H1 minimal24,2960,4 M19,6 h52,0 %
Kimi K2.6H2 verbessert30,4543,7 M11,0 h59,0 %
Kimi K2.6H3 voll33,8347,7 M20,7 h60,5 %
GLM-5.1H1 minimal12,5429,7 M9,2 h52,5 %
GLM-5.1H2 verbessert13,8616,5 M7,1 h56,5 %
GLM-5.1H3 voll21,3924,5 M8,8 h65,5 %
Summe—215,79261,1 M84,4 h—

100 Aufgaben je Zelle, zwei Laeufe. Laufzeit sequenziell gerechnet, nicht Wanduhrzeit eines parallelen Laufs. Quelle [3], Tabelle 9.

8. Widersprueche in den Daten

Bei der Nachpruefung sind vier Stellen aufgefallen, an denen sich Quellen widersprechen. Ich glaette sie nicht, weil sie selbst zum Befund gehoeren.

  1. W1offen
    Claude Code mit Opus 4.5 auf SWE-bench Pro: arXiv 2605.23950 nennt 55,4 % (also +9,5 pp gegenueber SEAL) und beruft sich dabei auf Morph. Die von mir gelesene Morph-Tabelle listet Claude Code + Opus 4.5 bei 49,8 % (+3,9 pp), Cursor bei 50,2 % und Auggie bei 51,8 %. Wahrscheinlich zwei verschiedene Zeitstaende derselben Seite. Der Effekt bleibt in beiden Faellen positiv und im Bereich einer Modellgeneration, seine Groesse ist aber nicht gesichert.
  2. W2offen
    Terminal-Bench 4.0 hat mindestens drei kursierende Spitzenwerte: Artificial Analysis misst GPT-6 Astra (xhigh) mit 59,6 %, die offizielle tbench.ai-Tafel wird mit 58,18 % fuer GPT-6 Astra im Codex-Agenten zitiert, Anthropic meldet fuer Mythos 5.1 60,9 %. Drei Harnesses, drei Zahlen, ein Benchmarkname.
  3. W3Vorsicht
    Fuer Claude Opus 5 kursieren auf SWE-bench Verified 96,0 % (Anthropic-Startwert), 97,0 % (Vals-AI-Lauf) und vereinzelt 72,5 % bei Sekundaeranbietern. Der letzte Wert passt zu keiner belegten Messung und ist vermutlich ein Uebertragungsfehler. Aggregator-Zahlen ohne Harness-Angabe sind grundsaetzlich unbrauchbar.
  4. W4Methodik
    Anthropic weist in der Fussnote zum Opus-5-Start offen aus, dass die Frontier-Bench-Werte unter mini-swe-agent auf GKE entstanden, als Mittel ueber fuenf Versuche je Aufgabe, und dass Opus 4.8 bei Ablehnungen durch Sicherheitsklassifikatoren als Fallback einsprang. Vals AI berichtet fuer denselben Fallback-Mechanismus, dass das Zaehlen der neun betroffenen Terminal-Bench-Durchgaenge als Fehlschlag den Wert von 84,64 % auf 81,27 % senkt. Solche Offenlegung ist die Ausnahme, nicht die Regel.

9. Warum Modelle nicht portabel sind

Der technische Grund fuer den Harness-Effekt ist konkret und dokumentiert. Cursors Harness-Team beschreibt ihn so: OpenAI-Modelle sind darauf trainiert, Dateien ueber ein Patch-Format zu bearbeiten, Anthropic-Modelle ueber String-Ersetzung. Beide koennten beides bedienen, aber das jeweils fremde Werkzeug kostet zusaetzliche Reasoning-Tokens und erzeugt mehr Fehler. Cursor stattet deshalb jedes Modell mit dem Tool-Format aus, das es waehrend des Trainings hatte.

Dasselbe gilt fuer Zitat-Tags, Memory-Rituale, die Reihenfolge der System-Prompt-Abschnitte und die Namen der Kontextdateien. Ein Modell, das gelernt hat, unter einer bestimmten Ueberschrift nach Gedaechtnisinhalten zu suchen, findet sie unter einer anderen nicht. Cursor berichtet, das eigene Coding-Agent-System allein durch Harness-Aenderungen von Rang 30 auf Rang 5 der Terminal-Bench-2.0-Tafel gebracht zu haben — gleiches Modell, gleiches Benchmark.

10. Was daraus folgt

  1. E1Auswahl
    Modell und Harness als Paar bewerten. Eine Modellzahl ohne Harness-Angabe ist eine unvollstaendige Versuchsbeschreibung. Fuer den reinen Modellvergleich taugt allein ein Board mit fixiertem Harness — derzeit Scale SEAL und Artificial Analysis.
  2. E2Reihenfolge
    Praktische Lesereihenfolge fuer eine Kaufentscheidung: erst der private/kommerzielle Satz (naeher an eigenem Code), dann der standardisierte oeffentliche Satz, zuletzt Herstellerzahlen — und die nur als Obergrenze mit optimiertem Scaffold.
  3. E3Investition
    Wer 8 bis 13 Prozentpunkte sucht, findet sie eher in Kontextkompression, schlankerem Tool-Schema, strukturiertem Retry und Verifikation vor der Abgabe als im naechsten Modellwechsel. Die Vercel-Messung (15 Tools auf 2, 80 % auf 100 %) ist das billigste Beispiel dieser Klasse.
  4. E4Haltbarkeit
    Harness-Bausteine kodieren Annahmen darueber, was ein Modell nicht allein kann. Diese Annahmen veralten. Komponenten, die fuer eine Modellgeneration tragend waren, werden in der naechsten zu Ballast — das gehoert regelmaessig ueberprueft.
  5. E5Eigene Messung
    Die einzige Zahl, die eine Entscheidung wirklich traegt, ist eine eigene Messung auf dem eigenen Backlog bei festgehaltenem Harness. Minimaldesign: 2×2-Raster aus zwei Modellen und zwei Harnesses, identische Aufgabenreihenfolge, identische Abbruchregeln.

11. Quellen

  1. Scale Labs — SWE-Bench Pro Leaderboard (Public Dataset), vollstaendige Tabelle und Methodik. labs.scale.com/leaderboard/swe_bench_pro_public
  2. Scale Labs — SWE-Bench Pro Leaderboard (Private Dataset). labs.scale.com/leaderboard/swe_bench_pro_private
  3. Zhang, Wang, Ge, Xu, Hamm, Reddy: Stop Comparing LLM Agents Without Disclosing the Harness, arXiv:2605.23950 (7. Mai 2026). Tabellen 1, 2, 7 und 9. arxiv.org/pdf/2605.23950
  4. Nicolas Bustamante: Model-Harness-Fit (3. Mai 2026) — Terminal-Bench-2.0-Paartabelle vom 30. April 2026, Cursor- und LangChain-Zitate. nicolasbustamante.com/blog/model-harness-fit
  5. Kapoor, Stroebl, Kirgis et al.: Holistic Agent Leaderboard, arXiv:2510.11977 — 21.730 Rollouts, 9 Modelle, 9 Benchmarks, ca. 40.000 USD Evaluationskosten. arxiv.org/html/2510.11977v1
  6. Morph: SWE-Bench Pro Leaderboard (2026) — Agent-System-Tabelle mit selbstberichteten Scaffold-Werten. morphllm.com/swe-bench-pro
  7. Artificial Analysis — Terminal-Bench v2.1 Leaderboard, Terminus-2-Harness in e2b-Sandbox, pass@1 ueber 3 Wiederholungen. artificialanalysis.ai/evaluations/terminalbench-v2-1
  8. Artificial Analysis — Terminal-Bench v4.0 Leaderboard, 66 Aufgaben, pass@1 ueber 3 Wiederholungen. artificialanalysis.ai/evaluations/terminalbench-v4-0
  9. Merrill, Shaw, Carlini et al.: Terminal-Bench: Benchmarking Agents on Hard, Realistic Tasks in Command Line Interfaces, arXiv:2601.11868. arxiv.org/abs/2601.11868
  10. Anthropic: Introducing Claude Opus 5 (24. Juli 2026), inkl. Harness-Fussnote zu Frontier-Bench v0.1. anthropic.com/news/claude-opus-5
  11. Flowtivity: Terminal-Bench 4.0 Exposes Inflated AI Scores (September 2026) — TB-2.1-zu-4.0-Vergleichswerte. flowtivity.ai/blog/terminal-bench-4-score-crash/
  12. Artificial Analysis — Coding Agent Index (DeepSWE v1.1, Terminal-Bench 4.0, SWE-Atlas-QnA; je pass@1 aus 3 Versuchen, gleichgewichtet). artificialanalysis.ai/agents/coding-agents
  13. Codersera: Claude Opus 5 Benchmarks Explained — Vals-AI-Offenlegung zum Refusal-Fallback (84,64 % gegen 81,27 %). codersera.com/blog/claude-opus-5-benchmarks-explained-2026/
  14. Aider — Polyglot-Leaderboard und Benchmark-Beschreibung (225 Exercism-Aufgaben, sechs Sprachen). aider.chat/docs/leaderboards/

12. Pruefprotokoll

Jede Zahl in diesem Report wurde gegen ihre Quelle zurueckgelesen. Was dabei gemacht wurde: