Unsloth Qwen3.8-27B GGUF 文件
阅读我们的如何运行 Qwen3.8-27B 指南!这个 GGUF 使用 Unsloth 动态 V3.0(预览)以实现尖端量化性能。开发者角色支持使 Qwen3.8 可以在 Codex 和其他代理工具中工作!现在可以在 Unsloth Desktop 中运行和微调 Qwen3.8。阅读我们的指南。工具调用改进:使解析嵌套对象以成功调用工具成为可能。请参阅下面在 Unsloth 中运行的 1 位 Qwen3.8:继 Qwen3.5 和 Qwen3.6 系列被广泛采用后,我们很高兴地推出 Qwen3.8,这是迄今为止 Qwen 开放模型家族中最强大的版本。基于 Qwen3.5 的架构基础,Qwen3.8 在编码、专业工作、研究和长期代理任务方面取得了显著的提升。Qwen3.8-27B 将这些进步带入一个紧凑、便于部署的密集模型:一个原生的视觉-语言模型,能够理解图像和视频,具有灵活的思维控制,旨在更可靠地完成复杂的多步骤任务。Qwen3.8 的亮点 Qwen3.8-27B 具有以下增强功能:核心能力:在编码、专业工作、研究和长期代理任务方面全面提升。代理执行:更强大的自主规划和更好的环境反馈处理,导致更可靠的端到端任务完成。下游兼容性:对流行的工具和开发工具有更广泛的支持,使其更容易集成到现有的堆栈中。灵活的思维控制:思维模式默认为开启,可以根据请求禁用;推理深度可以通过 reasoning_effort 进行调节,推理上下文通过 preserve_thinking 保留。视觉-语言理解:原生支持图像和视频理解,从 STEM 图示和文档到小时级视频。模型概述 类型:具有视觉编码器的因果语言模型 训练阶段:预训练和后训练 语言模型 参数数量:27B 隐藏维度:5120 令牌嵌入:248,320(填充) 层数:64 隐藏布局:16 ×(3 ×(门控 DeltaNet → FFN)→ 1 ×(门控注意力 → FFN)) 门控 DeltaNet: 线性注意力头数量: 对 V 为 48,对 QK 为 16 头部维度:128 门控注意力: 注意力头数量: 对 Q 为 24,对 KV 为 4 头部维度:256 旋转位置嵌入维度:64 前馈网络:中间维度:17,408 LM 输出:248,320(填充) MTP(多令牌预测):使用多步骤训练 上下文长度:262,144 原生支持并可扩展至 1,000,000 令牌。 最佳实践 为实现最佳性能,我们建议使用以下设置: 采样参数:我们建议使用以下采样参数集: 思维模式:temperature=1.0,top_p=0.95,top_k=20,min_p=0.0,presence_penalty=0.0,repetition_penalty=1.0 指令(或非思维)模式:temperature=0.7,top_p=0.80,top_k=20,min_p=0.0,presence_penalty=1.5,repetition_penalty=1.0 对于支持的框架,您可以将 presence_penalty 参数调整范围在 0 到 2 之间,以减少无尽的重复。然而,使用较高的值有时可能会导致语言混合和模型性能的轻微下降。 足够的输出长度:为了优化代理任务的性能,我们建议分配足够的输出长度,以便模型生成详细和全面的响应。对于支持内部推理和最终输出的不同令牌限制的框架,我们建议在 1M 上下文长度内配置:推理内容:将最大输出长度设置为 262,144 令牌。最终响应:将最大输出长度设置为 131,072 令牌。这些设置为复杂推理提供了必要的容量,同时确保为高质量的最终交付留出充足的空间。 处理超长文本:Qwen3.8-27B 原生支持最多 262,144 令牌的上下文长度。对于总长度(包括输入和输出)超过此限制的长期任务,我们建议使用 RoPE 缩放技术有效处理长文本,例如 YaRN。 长视频理解:为了优化纯文本和图像的推理效率,发布的 video_preprocessor_config.json 中的大小参数被保守配置。建议在 video_preprocessor_config 文件中将 longest_edge 参数设置为 469,762,048(对应于 224k 视频令牌),以启用更高帧率的采样,从而实现小时级视频的更优性能。例如,{ "longest_edge" : 469762048 , "shortest_edge" : 4096 } 引用 如果您发现我们的工作有所帮助,请随意引用我们。 @misc{qwen38, title = {{Qwen3.8-Max}: 编码与协作的新标杆}, url = {https://qwen.ai/blog?id=qwen3.8}, author = {{Qwen 团队}}, month = {八月}, year = {2026} }
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡