license: apache-2.0
base_model: Qwen/Qwen3.5-9B
pipeline_tag: text-generation
tags:
- abliterated
- uncensored
- qwen3.5
- gguf
- reasoning
- math
- benchmark
- xiaomi-mimo
🧠 Qwen3.5-9B-Abliterated-V2-GGUF (Q8_0 & BF16)
Colección cuantizada oficial para inferencia de alto rendimiento en GPUs de consumo local con Ollama v0.40.4 y llama.cpp v0.6.0 (commit b42b7e6d3).
📊 Benchmark Comparativo: Original vs Abliterado V2 vs Xiaomi MiMo
| Modelo | Cuantización | Precisión GSM8K | Tiempo Total (10 tareas) | Tiempo Medio / Tarea | Tokens por Razonamiento |
|---|---|---|---|---|---|
| Qwen3.5-9B Original | Q8_0 | 90.0% (9/10) | 528.5 s (~8.8 min) | 52.85 s | 1,800 – 3,500 tokens |
| Qwen3.5-9B Abliterado V2 | Q8_0 | 90.0% (9/10) | 586.2 s (~9.7 min) | 58.62 s | 2,000 – 4,000 tokens |
| Xiaomi MiMo-V2.6-Distill | Q8_0 | 90.0% (9/10) | ⚡ 74.6 s (~1.2 min) | ⚡ 7.46 s | 150 – 400 tokens |
💡 Hallazgo Clave
Xiaomi MiMo no es más inteligente que el Qwen 3.5 9B Original ni que el Abliterado V2. Con una ventana de salida de 16,384 tokens, los tres modelos empatan en un 90% de precisión matemática. La superioridad de MiMo no es de capacidad cognitiva, sino de eficiencia y velocidad operativa (7.4 veces más veloz) debido a que sus cadenas de pensamiento son sumamente condensadas.
⚙️ Especificaciones de la Prueba
- Motor:
llama.cppv0.6.0 (Ollama 0.40.4). - GPU: NVIDIA GeForce RTX 5080 Laptop GPU (16 GB VRAM).
- Ventana de Contexto: 18,000 tokens (
-c 18000). - Salida Máxima: 16,384 tokens (
-n 16384). - Inyección de Pensamiento:
<|im_start|>assistant\n<think>\n.