license: apache-2.0
base_model:
- mistralai/Mistral-Large-Instruct-2411
tags: - mistral
- mistral-large
- text-generation
- GGUF
- abliterated
- uncensored
- refusal-reduced
- ulre
Mistral-Large-Instruct-2411-ULRE-abliterated - GGUF
Esta es la colección definitiva, íntegra y completa de cuantizaciones en formato GGUF del modelo Mistral-Large-Instruct-2411-ULRE-abliterated, procesadas localmente en un solo bloque sólido de datos (archivos únicos, sin fragmentación/no splits) para su uso directo en llama.cpp, Ollama, LM Studio o Text-Generation-WebUI.
El modelo base de 123 mil millones de parámetros de Mistral AI fue modificado mediante la técnica avanzada ULRE (Unsupervised Layerwise Refusal Erasure). Este método desmantela de raíz los vectores de alineación y bloqueo de seguridad inyectados en las capas residuales, permitiendo al modelo responder con absoluta libertad lógica a cualquier prompt complejo sin alterar sus habilidades de programación o razonamiento multilingüe.
📋 Archivos Disponibles y Estimación de Tamaños
| Archivo | Tamaño Est. | BPW (Bits por Peso) | Perfil de Uso Recomendado |
|---|---|---|---|
Mistral-Large-Instruct-2411-ULRE-abliterated-F16.gguf |
~246.0 GB | 16.00 | Molde Base Original. Precisión matemática nativa completa para clusters avanzados. |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q8_0.gguf |
~131.0 GB | 8.50 | Máxima Fidelidad Local. Calidad idéntica al FP16 original. Diseñado para setups con GPUs masivas (ej. Nvidia CMP 170HX / A100). |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q6_K.gguf |
~102.0 GB | 6.59 | Gama Entusiasta. Retención de inteligencia de alto nivel optimizando un gran espacio en disco. |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q5_K_M.gguf |
~88.0 GB | 5.69 | El Punto Dulce (Recomendado). Mezcla optimizada de 5 y 6 bits. Retiene el 99% de las métricas lógicas base. |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q5_K_S.gguf |
~86.0 GB | 5.54 | Variante de 5 bits compacta. |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q4_K_M.gguf |
~76.0 GB | 4.85 | La más Popular. Balance óptimo para desplegar un coloso de 123B combinando RAM y VRAM local. |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q4_K_S.gguf |
~72.0 GB | 4.58 | Versión de 4 bits optimizada para mayor velocidad de tokens por segundo. |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q3_K_L.gguf |
~64.0 GB | 4.01 | La variante de 3 bits más estable antes de sufrir degradación severa. |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q3_K_M.gguf |
~59.0 GB | 3.66 | Cuantización intermedia de 3 bits para hardware restrictivo. |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q3_K_S.gguf |
~56.0 GB | 3.44 | Variante de 3 bits ligera orientada al ahorro físico. |
Mistral-Large-Instruct-2411-ULRE-abliterated-Q2_K.gguf |
~48.0 GB | 2.90 | Compresión Extrema. Propenso a pérdidas lógicas de sintaxis o coherencia. Solo uso experimental. |
Nota: Los tamaños son estimaciones iniciales de referencia basadas en el peso nativo del modelo en safetensors; se recomienda verificar el tamaño final en disco tras la compilación local.
🚀 Despliegue Rápido por Consola
./llama-cli -m Mistral-Large-Instruct-2411-ULRE-abliterated-Q4_K_M.gguf -n 1024 -p "Escribe un ensayo académico detallado sobre la teoría del caos."
⚖️ Descargo de Responsabilidad
Este modelo es de acceso abierto y carece de filtros de seguridad artificiales. El contenido generado es responsabilidad exclusiva de quien ejecute la inferencia local.