Temperatur (Sampling)
Regelt, wie kreativ oder vorhersagbar die KI-Antworten sind.
Erklärung
Die Temperatur steuert, wie „zufällig" die Textgenerierung ist. Niedrige Temperatur (0) = deterministisch und fokussiert. Hohe Temperatur (1+) = kreativer und variabler.
So funktioniert's
Bei jedem generierten Token wählt das Modell aus einer Wahrscheinlichkeitsverteilung. Temperatur 0 nimmt immer das wahrscheinlichste Wort, höhere Werte erhöhen die Chance für überraschende Alternativen.
Praxisbeispiel
Für eine Vertragsanalyse: niedrige Temperatur (präzise). Für kreative Marketingtexte: höhere Temperatur (mehr Variation).
Warum es wichtig ist
Die richtige Temperatur-Einstellung ist entscheidend – zu hoch führt zu Unsinn, zu niedrig zu starren Wiederholungen.
Welche Temperatur ist die richtige?
Für Aufgaben mit einer eindeutig richtigen Antwort, etwa Daten aus Rechnungen extrahieren, Texte klassifizieren oder Code erzeugen, sind niedrige Werte zwischen 0 und 0,3 sinnvoll. Für Zusammenfassungen und allgemeine Assistenz haben sich mittlere Werte bewährt. Für Brainstorming, Slogans oder kreative Varianten darf die Temperatur höher liegen.
Zwei Einschränkungen sind wichtig. Erstens garantiert auch Temperatur 0 nicht in jedem Fall identische Antworten, weil technische Details der Berechnung minimale Abweichungen erzeugen können. Zweitens lassen manche neueren Modelle, insbesondere Reasoning-Modelle, die Temperatur gar nicht oder nur eingeschränkt einstellen. Dann steuert man das Verhalten über den Prompt und Vorgaben zum Ausgabeformat.
Temperatur in Unternehmensanwendungen richtig einsetzen
In produktiven Anwendungen wird die Temperatur nicht spontan gewählt, sondern pro Aufgabe festgelegt, dokumentiert und mit einem Testset geprüft. Ändert sich die Einstellung, laufen die Evals erneut. Für Extraktionsaufgaben kombiniert man eine niedrige Temperatur mit einem festen Ausgabeformat, etwa einem JSON-Schema.
Wo Vielfalt gewünscht ist, etwa bei Betreffzeilen oder Produkttexten, hat sich ein zweistufiges Vorgehen bewährt: mehrere Varianten mit höherer Temperatur erzeugen und anschließend nach klaren Kriterien auswählen, automatisch oder durch einen Menschen.
Häufige Fragen
Was bedeutet Temperatur bei KI?
Die Temperatur ist ein Parameter, der steuert, wie stark ein Sprachmodell bei der Wortwahl vom wahrscheinlichsten Ergebnis abweicht. Niedrige Werte liefern vorhersehbare, höhere Werte abwechslungsreichere Antworten.
Macht Temperatur 0 die KI fehlerfrei?
Nein. Temperatur 0 macht Antworten konsistenter, aber nicht richtiger. Fehlt dem Modell Wissen, entsteht eine Halluzination dann eben reproduzierbar.
Was ist Top-p?
Top-p ist ein weiterer Sampling-Parameter. Er beschränkt die Auswahl auf die wahrscheinlichsten Tokens, deren Wahrscheinlichkeiten zusammen einen Schwellenwert erreichen. Meist wird entweder die Temperatur oder Top-p angepasst, nicht beides.