









QwQ-32B, de l'équipe Alibaba Qwen, est un nouveau modèle de langage open-source de 32 milliards de paramètres atteignant un niveau de raisonnement DeepSeek-R1 grâce à l'apprentissage par renforcement à grande échelle. Il propose un mode "réflexion" pour les tâches complexes et fait partie de la série Qwen, axée sur les capacités de raisonnement. Comparé aux modèles affinés par instruction, QwQ excelle dans les tâches en aval, en particulier les problèmes difficiles. Il est basé sur Qwen2.5 et nécessite la dernière bibliothèque de transformateurs de Hugging Face.
Pour utiliser QwQ-32B, chargez le modèle et le tokenizer en utilisant la bibliothèque des transformateurs. Utilisez la fonction apply_chat_template pour formater les invites. Assurez-vous d'avoir la dernière version des transformateurs installée. Suivez les directives d'utilisation pour des performances optimales, y compris l'imposition d'une sortie réfléchie avec "<think>\n" et l'ajustement des paramètres d'échantillonnage.


