nucleus

Ein Pult für die drei Regler, mit denen ein Sprachmodell sein nächstes Wort wählt. Die Wörter sind so schwarz, wie sie wahrscheinlich sind.

Anfang wählen

Kandidaten für das nächste Wort, nach Wahrscheinlichkeit 0 von 0 überstehen den Schnitt
noch nichts gezogen

Was hier echt ist. Die Verteilung unter den Wörtern wird gerechnet, nicht gemalt: p = softmax(logits / T), der harte Schnitt nach k Kandidaten, die Nucleus-Grenze beim kumulativen p, und die Ziehung darauf neu normiert. Was hier gesetzt ist. Die Logits selbst. Sie stammen aus keinem Modell, sondern sind für vier bekannte Zeilen von Hand plausibel gemacht. Was hier Choreografie ist. Die Schichten hinter dem Text. Sie zeigen den Bau eines Transformers in richtiger Reihenfolge, aber sie rechnen nichts. Eine veröffentlichte Seite kommt an echte Aktivierungen nicht heran, und ein Kunstwerk darf inszenieren. Es darf nur nicht behaupten, gemessen zu haben, was es erfunden hat.