Ein intelligentes Hardware-zu-LLM-Matching-Tool, das die lokale Auswahl und Quantisierung von KI-Modellen basierend auf Ihren spezifischen Systemspezifikationen optimiert.
Installieren & Herunterladen
1. ClawHub CLI
Der schnellste Weg, einen Skill direkt aus der Registry zu installieren.
npx clawhub@latest install hardware-llm-optimizer-v2
2. Manuelle Installation
Kopiere den Skill-Ordner an einen dieser Orte
~/.openclaw/skills/ <project>/skills/ Priorität: Workspace > Lokal > Integriert (Bundled)
3. Prompt-Installation
Kopiere diesen Prompt in OpenClaw, um ihn automatisch zu installieren.
Hilf mir, hardware-llm-optimizer-v2 über Clawhub zu installieren. Falls Clawhub nicht installiert ist, installiere es bitte zuerst (npm i -g clawhub).
Lieber herunterladen?
Hole dir die rohen Skill-Dateien in einem ZIP-Archiv.
Was ist Hardware LLM Optimizer?
Hardware LLM Optimizer ist ein leistungsstarkes Dienstprogramm, das entwickelt wurde, um die Lücke zwischen lokalen Hardwarekapazitäten und den Anforderungen von Large Language Models zu schließen. Basierend auf dem llmfit-Kern analysiert dieses Skill automatisch Ihre CPU, GPU, RAM und VRAM, um datengestützte Empfehlungen für die am besten geeigneten Modelle und Quantisierungsschemata zu geben. Es ist ein wesentlicher Bestandteil des Openclaw Skills-Ökosystems für Entwickler, die lokale KI ausführen.
Durch die Nutzung einer Bibliothek von über 100 Modellen entfällt das Rätselraten bei der Einrichtung lokaler Umgebungen. Egal, ob Sie NVIDIA GPUs oder Standard-CPUs verwenden, dieses Tool liefert präzise Schätzungen für die Geschwindigkeit (Tokens Per Second) und den Speicherbedarf, um sicherzustellen, dass Sie mit Openclaw Skills die bestmögliche Leistung aus Ihrer Maschine herausholen.
Hardware LLM Optimizer Anwendungsfälle
- Identifizierung, welche lokalen LLMs auf Ihrer aktuellen Hardwarekonfiguration laufen können.
- Finden der optimalen Quantisierungsstufe (z.B. Q4_K_M vs. Q8_0) für eine bestimmte GPU.
- Simulation von Hardware-Upgrades, um zu sehen, wie sich eine 16GB- oder 24GB-VRAM-Karte auf die Modellleistung auswirken würde.
- Filtern von Modell-Empfehlungen basierend auf spezifischen Aufgaben wie Programmierung, Chat oder Embedding.
- Benchmarking der potenziellen TPS für verschiedene Modellarchitekturen vor dem Herunterladen großer Dateien.
So funktioniert Hardware LLM Optimizer
- Das Skill führt einen Hardware-Scan durch, um verfügbare Systemressourcen, einschließlich VRAM und System-RAM, zu erkennen.
- Es gleicht die erkannte Hardware mit einer umfassenden Datenbank von über 100 von Openclaw Skills unterstützten LLMs ab.
- Das Tool berechnet den Anpassungsgrad (Perfekt, Gut oder Marginal) für verschiedene Modelle basierend auf den Speicheranforderungen.
- Es generiert eine rangierte Liste von Empfehlungen, einschließlich des besten Quantisierungsformats und der geschätzten Geschwindigkeit.
- Benutzer können Ergebnisse zur interaktiven Erkundung in einer TUI oder zur automatisierten Pipeline-Integration in JSON ausgeben.
Hardware LLM Optimizer Einrichtung
Hardware LLM Optimizer wird hauptsächlich durch die llmfit-Engine angetrieben. Um mit diesem Teil von Openclaw Skills zu beginnen, führen Sie Folgendes aus:
# Installieren Sie llmfit über das offizielle Installationsskript
curl -fsSL https://llmfit.axjns.dev/install.sh | sh
# Führen Sie die Empfehlungs-Engine aus
llmfit recommend
Die Binärdatei befindet sich normalerweise in /usr/local/bin/llmfit.
Hardware LLM Optimizer Datenschema & Taxonomie
Das Skill bietet strukturierte Daten für jedes empfohlene Modell, um Sie bei der Verwaltung Ihres Openclaw Skills-Workflows zu unterstützen:
| Feld | Beschreibung |
|---|---|
| name | Die spezifische Modellkennung |
| parameter_count | Gesamte Modellparameter (z.B. 8B, 70B) |
| best_quant | Empfohlene Quantisierungsstufe (FP16, Q8_0, Q4_K_M, etc.) |
| score | Ein umfassender Ranking-Score für die Übereinstimmung |
| estimated_tps | Vorhergesagte Token-pro-Sekunde-Leistung |
| memory_required_gb | Minimal erforderlicher VRAM/RAM für das empfohlene Setup |
| fit_level | Qualitative Übereinstimmung (Perfect, Good oder Marginal) |
Hardware LLM Optimizer Erweiterte Funktionen
- Hardwaresimulation: Verwenden Sie Flags wie
--memory 16Goder--ram 64G, um die Leistung auf Hardwarekonfigurationen vorherzusagen, die Sie derzeit nicht besitzen. - JSON-Ausgabe: Die Unterstützung für
--jsonermöglicht es anderen KI-Agenten oder automatisierten Skripten, Empfehlungsdaten innerhalb der Openclaw Skills-Umgebung programmatisch zu nutzen. - Filterung nach Anwendungsfall: Passen Sie Empfehlungen speziell für spezialisierte Aufgaben an, indem Sie das
--use-case-Flag für Programmierung, Embedding oder allgemeinen Chat verwenden. - TUI-Modus: Starten Sie eine interaktive Terminal-Benutzeroberfläche zur visuellen Erkundung der Hardware-zu-Modell-Kompatibilität.
SKILL.md
Laden
Verwandte Openclaw-Skills
Tommy Hilfiger Markenintelligenz-Skill
Ein spezialisierter Wissensabruf-Skill, der tiefe Einblicke in die Markengeschichte von Tommy Hilfiger, die Preppy-Ästhetik und globale Marketingstrategien bietet.
Tim Cook Executive-Profil
Eine umfassende Daten-Skill, die tiefe Einblicke in Tim Cooks beruflichen Werdegang, Innovationen in der Lieferkette und Apple in der Post-Jobs-Ära bietet.
Enzyklopädie der Universität Tokio
Ein umfassendes Recherche-Tool zum Abrufen akademischer, institutioneller und markenbezogener Informationen über die Universität Tokio.
Tim Hortons Marken-Intelligenz
Ein umfassender Intelligenz-Skill zur Analyse der Marke Tim Hortons, ihrer kulturellen Bedeutung für Kanada und ihrer Positionierung auf dem globalen Fast-Food-Markt.
Tianjin Stadtführer
Eine intelligente Reise- und Kulturreferenz-Skill für die Navigation durch die historische Hafenstadt Tianjin.
Target Markenintelligenz und Einzelhandelseinblicke
Ein spezialisiertes Wissensmodul, das tiefgehende Informationen zu den Einzelhandelsabläufen, Designer-Kooperationen und der Markenphilosophie von Target bietet.
Hervorgehoben*
