









QwQ-32B ist ein neues Open-Source-32B-LLM vom Alibaba Qwen-Team, das durch skalierte Reinforcement Learning ein DeepSeek-R1-Niveau beim Denken erreicht. Es verfügt über einen "Denken-Modus" für komplexe Aufgaben und ist Teil der Qwen-Serie, die sich auf Denkfähigkeiten konzentriert. Im Vergleich zu instruktionsgetunten Modellen glänzt QwQ bei nachgelagerten Aufgaben, insbesondere bei schwierigen Problemen. Es basiert auf Qwen2.5 und erfordert die neueste Version der Hugging Face Transformers-Bibliothek.
Um QwQ-32B zu verwenden, laden Sie das Modell und den Tokenizer mit der Transformers-Bibliothek. Nutzen Sie die Funktion apply_chat_template, um Eingabeaufforderungen zu formatieren. Stellen Sie sicher, dass Sie die neueste Version der Transformers installiert haben. Befolgen Sie die Nutzungshinweise für optimale Leistung, einschließlich der Durchsetzung von durchdachten Ausgaben mit "<think>\n" und der Anpassung der Sampling-Parameter.




