license: apache-2.0
base_model:
- huihui-ai/Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated
tags: - qwen
- qwen3
- coder
- text-generation
- GGUF
- abliterated
- uncensored
- moe
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-GGUF
Esta es la colección integral y completa de cuantizaciones en formato GGUF del modelo Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated, preparadas localmente para su uso con llama.cpp, Ollama, LM Studio o Text-Generation-WebUI.
Este modelo combina las avanzadas capacidades de programación y razonamiento lógico de la arquitectura Qwen3-Coder (MoE), pero procesada con técnicas de abliteration para remover de raíz los bloqueos y filtros de censura artificiales del sistema, respondiendo sin restricciones.
📋 Archivos Disponibles (Colección Completa sin Splits)
| Archivo | Tamaño Est. | BPW (Bits por Peso) | Perfil de Uso Recomendado |
|---|---|---|---|
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-F16.gguf |
~61.1 GB | 16.00 | Molde Base Completo. Fidelidad absoluta de los pesos en coma flotante. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q8_0.gguf |
~32.5 GB | 8.50 | Calidad idéntica al original, ideal para exprimir en entornos locales avanzados con GPUs de alta gama. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q6_K.gguf |
~25.1 GB | 6.59 | Altísima retención de la sintaxis de programación y lógica con un peso optimizado. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q5_K_M.gguf |
~21.7 GB | 5.69 | Punto Dulce Recomendado. Mantiene intacta la coherencia del código reduciendo el peso de forma crítica. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q5_K_S.gguf |
~21.1 GB | 5.54 | Variante de 5 bits compacta. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q4_K_M.gguf |
~18.6 GB | 4.85 | El más buscado. Balance óptimo para correr inferencias de desarrollo de software en setups hogareños. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q4_K_S.gguf |
~17.5 GB | 4.58 | Variante compacta de 4 bits para acelerar la velocidad de tokens por segundo. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q3_K_L.gguf |
~15.9 GB | 4.01 | Compresión media alta de 3 bits. Conserva la lógica de programación básica. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q3_K_M.gguf |
~14.7 GB | 3.66 | Variante de 3 bits intermedia. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q3_K_S.gguf |
~13.3 GB | 3.44 | Variante de 3 bits ligera. |
Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q2_K.gguf |
~11.3 GB | 2.90 | Compresión Extrema. Puede experimentar degradación en la estructura y sangrado de código complejo. Solo para desarrollo experimental. |
Nota: Los tamaños son estimaciones iniciales de referencia basadas en el peso nativo del modelo en safetensors (31B parámetros MoE); se recomienda verificar el tamaño final en disco tras la compilación local.
💡 Modo de Uso Destacado
Al ser un modelo optimizado para tareas de programación e instrucciones sin censura, puedes llamarlo directamente en tu terminal utilizando llama.cpp:
./llama-cli -m Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-Q4_K_M.gguf -n 2048 -p "Escribe un script en Python para realizar web scraping avanzado evitando bloqueos."
⚖️ Descargo de Responsabilidad
Este modelo es de acceso abierto y carece de filtros de seguridad artificiales (abliterated). Su alineación original ha sido modificada por motivos experimentales y de investigación. El contenido generado, ya sean respuestas de texto o código de software, es responsabilidad exclusiva de quien ejecute la inferencia local.