library_name: mlx
license: apache-2.0
pipeline_tag: image-text-to-text
tags:
- mlx
- omlx
- oq
- mixed-precision
- multimodal
- mtp
Qwen3.8-27B-TURBO-Uncensored-fp16-oQ4e-mtp
由 xohaohe（华哥）发布的 27B 级 MLX 多模态混合精度模型，开放下载。
发布者介绍
发布者说明：使用 oMLX 0.7.1 进行全面混合精度量化处理，保留视觉模块和 MTP。发布者个人评价为“目前最优秀的小模型”。本地综合测试成绩见下文。
技术信息
- 稠密 Qwen 架构，64 层语言网络，隐藏维度 5120。
- 默认 4-bit affine，group size 64；130 个模块配置为 5-bit、2 个为 6-bit。
- 权重含量化打包整数、FP16 和 FP32；视觉编码器权重保留 FP32。
- 保留 27 层视觉编码器、图片/视频模板和预处理配置；具体多模态支持依赖引擎。
- 保留 1 层 MTP；是否加速取决于引擎支持和预测接受率。
- 配置上下文：262,144 tokens（256K），未验证满长度质量。
- 4 个 Safetensors 分片，共 17.94 GB（16.71 GiB）。
- 校准报告：oqe_code_multilingual，128 个样本，每个 512 tokens。
本地综合测试成绩
27B 组历史并列最高成绩：1324 / 1600（82.75%），作者本地历史测试第 1 名。 16 项完整测试，总用时 4400.4 秒（约 73 分 20 秒）；编程三项合计 228 / 300（76%）。
数据由作者华哥提供，于 2026-10-13 发布。本次记录对应模型测试时的原名称：Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-oQ4e-fp16-mtp，现发布名称为本仓库名称。
排名限定于作者已测试的 27B 模型和本地评测体系，并非公开全量排行榜排名。各项按 100 分计；题目子集、样本量、数据集版本、评测脚本、提示词和采样设置尚未提供，不应直接等同于各公开基准的官方全量准确率。
最高分轮次：16 项完整数据
| 测试项目 | 得分 / 100 | 用时（秒） |
|---|---|---|
| HellaSwag | 94 | 133.2 |
| MMLU | 87 | 301.2 |
| MMLU-Pro | 69 | 134.5 |
| GSM8K | 97 | 582.2 |
| MBPP | 86 | 278.1 |
| HumanEval | 96 | 358.3 |
| BBQ | 93 | 92.2 |
| SafetyBench | 87 | 96.3 |
| Winogrande | 82 | 76.4 |
| TruthfulQA | 91 | 92.7 |
| MathQA | 56 | 99.7 |
| KMMLU | 69 | 119.5 |
| CMMLU | 86 | 97.2 |
| JMMLU | 90 | 100.1 |
| ARC-Challenge | 95 | 85.6 |
| LiveCodeBench | 46 | 1753.2 |
| 总计 | 1324 / 1600（82.75%） | 4400.4 |
编程专项
| 项目 | 得分 / 100 |
|---|---|
| HumanEval | 96 |
| MBPP | 86 |
| LiveCodeBench | 46 |
| 合计 | 228 / 300（76%） |
三轮完整测试
| 轮次 | 总分 / 1600 | 综合得分率 | 总用时（秒） |
|---|---|---|---|
| 第一轮（保留的最高分记录） | 1324 | 82.75% | 4400.4 |
| 第二轮（并列最高分） | 1324 | 82.75% | 4401.2 |
| 第三轮 | 1322 | 82.63% | 4972.2 |
第三轮仅 LiveCodeBench 从 46 分降至 44 分，其余 15 项得分不变。最终保留第一轮成绩，作为作者后续 27B 模型在相同评测条件下的综合能力对比基准。
量化作者
本量化版本的一手作者：xohaohe（华哥）。根据作者提供的制作信息，本版本使用 oMLX 0.7.1 进行全面混合精度量化，保留多模态视觉模块与 MTP 权重，面向 Apple Silicon 发布。
下载
hf download xohaohe/Qwen3.8-27B-TURBO-Uncensored-fp16-oQ4e-mtp --local-dir ./Qwen3.8-27B-TURBO-Uncensored-fp16-oQ4e-mtp
使用支持该架构的 MLX 多模态引擎加载完整目录。默认生成配置：temperature=1.0、top_p=0.95、top_k=20。