Systeme konfigurieren

Systeme konfigurieren

Deutsch | English

Ziel

Im Tab Systems richtest du bis zu 4 Benchmark-Slots ein.

Pro Slot setzen

• Plattform/API-Typ
• Base URL
• Optional API-Key
• Modell (nach Check Models)
• Hardware-Details (optional: CPU, GPU, RAM, Notes)
• LLM-Settings (optional: Temperature, Top-P, max_context)

Typischer Ablauf

1. Plattform wählen (z. B. Ollama oder OpenAI-kompatibel)
2. Host/Base-URL eintragen
3. Check Models ausführen
4. Zielmodell auswählen
5. Optional Hardware-/LLM-Felder ergänzen
6. Speichern

Was ist optional und was wirkt auf Messungen?

• CPU/GPU/RAM/Notes sind rein dokumentarisch und werden als Kontext in Detailansichten/Meta-Datensätzen angehängt.
• Diese Hardwarefelder verändern nicht die eigentliche Laufzeitmessung.
• Messungen basieren auf realen Request/Response-Daten (Zeit, Tokens, Status, Antwortinhalt).

Systemkonfiguration speichern

• Änderungen pro Slot werden gespeichert und beim nächsten Start wieder geladen.
• Zusätzlich kannst du Systemkonfigurationen exportieren/importieren, um Setups zu sichern oder auf andere Hosts zu übertragen.

Tipps

• Nutze pro Slot eindeutige Namen, damit die Analyse klar bleibt.
• Für faire Vergleiche möglichst gleiche Prompt-Sets und ähnliche Token-Limits verwenden.
• Bei instabiler erster Messung kann Warmup (Settings) helfen.
• Prüfe nach Modellwechsel immer einmal mit Check Models, bevor du Batchläufe startest.

Weitere Hilfe: FAQ (DE)