MZP-Eval · LLM-Stufe · Teilmenge
LLM-Matrix 2026-10-06
Drei Aufgaben zu MZP-153/154/155, je ein frischer Agent ohne Vorwissen, Stand Commit 37fe5e6 auf Produktion. Sonnet 5 besteht 3 von 3, Haiku 4.5 nur 1 von 3. Je Zelle nur ein Lauf, die Matrix zeigt eine Tendenz, keine Streuung.
Sonnet 5
3 / 3
Haiku 4.5
1 / 3
Kosten gesamt
$0,61
Tokens gesamt
512 k
Matrix
Sonnet 5claude-sonnet-5
Haiku 4.5claude-haiku-4-5
dia-ascii-architectureDiagramm aus ASCII-Skizze
✓ bestanden
Zwei Aufrufe, Layout sauber.
Aufrufe2
Tokens63 k
Kosten$0,129
Zeit26,5 s
✓ bestanden
Zwei Aufrufe, Layout sauber.
Aufrufe2
Tokens66 k
Kosten$0,048
Zeit27 s
art-analog-tuscheTuschestrich im analog-Stil
✓ bestanden
Drei Aufrufe, Tuschestrich gesetzt, ohne Fehlversuch.
Aufrufe3
Tokens100 k
Kosten$0,158
Zeit27 s
✗ gescheitert
Vier Fehlversuche (INVALID_VARIANT, INVALID_NODE_TYPE ×2, INVALID_EDGE_STYLE): erst über das Diagramm-Werkzeug versucht. Die Seite kam trotzdem, aber ohne
az-tusche-kontur.Aufrufe4
Tokens91 k
Kosten$0,061
Zeit43 s
art-live-reportReport mit lebender Zahl
✓ bestanden
Fünf Aufrufe, Zahl wird beim Abruf gerechnet.
Aufrufe5
Tokens152 k
Kosten$0,167
Zeit28 s
✗ gescheitert
Ein einziger Aufruf. Es gibt keine lebende Datenquelle (
sources.stats.pages fehlt): die Zahl ist fest eingeschrieben oder fehlt.Aufrufe1
Tokens39 k
Kosten$0,049
Zeit35 s
bestandengescheitertLimits je Lauf: 15 Aufrufe, 300 s
Kosten je Lauf
Einordnung
- Haiku scheitert dort, wo der Weg nicht aus dem Aufgabentext folgt: beim Tuschestrich greift es zum Diagramm-Werkzeug statt zum Artefakt, beim Live-Report schreibt es die Zahl fest ein. Sonnet findet beide Wege.
- Preis pro bestandener Aufgabe: Sonnet $0,45 für 3 Treffer, Haiku $0,16 für 1 Treffer. Haiku ist je Lauf rund 3× billiger, aber nur bei der ASCII-Skizze brauchbar.
- Grenzen: ein Lauf je Zelle, daher kein Streumaß. Für eine belastbare Aussage zu MZP-153/154/155 braucht es mindestens 3 Wiederholungen (
--repeats 3, rund 20 Minuten). - Vergleichsbasis war
mzp-eval-2026-10-03. Rohdaten: results.json.