logo mit Text lexexakt.de Werbung:
Artikel Diskussion (0)
Parameter (AI)
(it.ai)
    

Ein Parameter ist im Kontext der Künstlichen Intelligenz (KI) und des maschinellen Lernens der Oberbegriff für die Werte aus denen ein neuronales Netz zusammengesetzt ist.

Parameter sind die mathematische Gewichte (Weights) und die Schwellenwerte (Biases) eine Neurons. Sie bestimmen, wie stark eingehende Informationen gewichtet, verknüpft und durch die einzelnen Schichten des Netzwerks weitergeleitet werden. In großen Sprachmodellen (LLMs) repräsentieren die Parameter das gesamte gelernte Wissen sowie die Fähigkeit zur Mustererkennung und Spracherzeugung.

Weights und Biases werden jeweils von einer Zahl repräsentiert die während des Trainingsprozesses vom Modell selbstständig erlernt und angepasst wurden. Für die Funktion von weights und biases im neuronalen Netz siehe unter neuronales Netz.

Die Anzahl der Parameter gilt als zentrales Maß für die Kapazität und Komplexität eines KI-Modells. Je mehr Parameter ein Modell besitzt, desto feingliedrigere Zusammenhänge kann es erfassen, was jedoch gleichzeitig den Rechenaufwand und den Speicherbedarf für das Training und den Betrieb (Inferenz) erhöht.

Beim Training lernt ein 14b-Modell 14 Milliarden Werte so einzustellen, dass es Zusammenhänge, Grammatik, Logik und Fakten aus Texten erkennt.

Werbung:

Auf diesen Artikel verweisen: keine Verweise