









QwQ-32B는 Alibaba Qwen 팀에서 개발한 새로운 오픈 소스 32B 대형 언어 모델로, 스케일 강화 학습을 통해 DeepSeek-R1 수준의 추론을 달성합니다. 복잡한 작업을 위한 '사고 모드'가 특징이며, 사고 능력에 중점을 둔 Qwen 시리즈의 일부입니다. 지침 조정된 모델과 비교하여 QwQ는 특히 어려운 문제에서 다운스트림 작업에서 뛰어납니다. Qwen2.5를 기반으로 구축되었으며, 최신 Hugging Face 변환기 라이브러리가 필요합니다.
QwQ-32B를 사용하려면 변환기 라이브러리를 사용하여 모델과 토크나이저를 로드합니다. 프롬프트 형식을 지정하기 위해 apply_chat_template 함수를 사용하십시오. 최신 버전의 변환기를 설치하십시오. '사고' 출력을 보장하기 위해 '<think>\n'을 강제하고 샘플링 매개변수를 조정하는 등 최적의 성능을 위한 사용 지침을 따르세요.

