









QwQ-32Bは、Alibaba Qwenチームによる新しいオープンソースの32B LLMで、強化学習を通じてDeepSeek-R1レベルの推論を実現しています。複雑なタスクのための「思考モード」を特徴としており、推論能力に重点を置いたQwenシリーズの一部です。インストラクションチューニングモデルと比較して、QwQは特に難しい問題において下流タスクで優れています。これはQwen2.5に基づいており、最新のHugging Face transformersライブラリが必要です。
QwQ-32Bを使用するには、transformersライブラリを使用してモデルとトークナイザーをロードします。プロンプトをフォーマットするためにapply_chat_template関数を利用します。最新バージョンのtransformersがインストールされていることを確認してください。思慮深い出力を促すために「<think>\n」を使用し、サンプリングパラメータを調整するなど、最適なパフォーマンスのための使用ガイドラインに従ってください。

