license: apache-2.0
base_model: Qwen/Qwen3.5-9B-Base
tags:
- qwen3.5
- 9b
- abliteration
- hsaq
- hsaqr
- uncensored
- spanish
- security
- fine-tuned
library_name: transformers
pipeline_tag: text-generation
model_type: qwen3_5_text
Qwen3.5-9B Abliterated-HSAQ (HSAQR fine-tune)
Modelo 9B derivado de Qwen/Qwen3.5-9B-Base, abliterado con HSAQ selectivo y
fine-tuneado con HSAQR (HyperSparse Adaptive Quantization Rewrite) sobre un dataset
de seguridad actualizado a 2026.
Versión original: texto puro (qwen3_5_text, arquitectura Qwen3_5ForCausalLM).
Pipeline
- Abliteración HSAQ desde
Qwen3.5-9B-Base:- En vez de borrar el vector de refusal completo (pierde inteligencia), HSAQ
enmascara solo los componentes ruidosos del vector (umbralkthvalue). - Capas 8–31 (24 capas), sparsity 0.1 (≈90% del vector retenido), ortogonalización
dedown_proj+o_proj(48 matrices). - Detalle:
HSAQ.mden el repo de la técnica (MethodWhite/HSAQ).
- En vez de borrar el vector de refusal completo (pierde inteligencia), HSAQ
- Fine-tune HSAQR (QLoRA 4-bit):
- Base:
qwen3.5-9b-abliterated-v2. - LoRA
r=32,alpha=64, dropout 0.05, sobre proyecciones attention + MLP. - Sparsity HSAQ en las activaciones (STE) durante el entrenamiento.
- Dataset: 7.547 ejemplos de seguridad ofensiva/defensiva 2026 (bug bounty, CTF,
red team, hardening) en español/inglés, con<think>conforme + respuesta útil.
- Base:
Resultados (A/B vs abliterated normal)
| Métrica | Abliterated normal | Este modelo |
|---|---|---|
| Refusal en prompts harmful (8) | 4/8 | 0/8 |
| Helpful en prompts harmful | 4/8 | 8/8 |
| Inteligencia conservada (razonamiento + facts, 12 prompts) | 12/12 | 12/12 |
La abliteración clásica elimina el bloqueo pero degrada capacidad; HSAQ/HSAQR retiene
la inteligencia mientras elimina el refusal.
Archivos
model.safetensors— pesos completos (bf16), un shard, 17.9G.Qwen3.5-9B-Abliterated-HSAQR.Q4_K_M.gguf— cuantización Q4_K_M (5.6G) parallama.cpp/llama-server(sin capa MTP,block_count = 32).
Uso (transformers)
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("MethodWhite/Qwen3.5-9B-Abliterated-HSAQ")
tok = AutoTokenizer.from_pretrained("MethodWhite/Qwen3.5-9B-Abliterated-HSAQ")
Uso (llama.cpp)
llama-server \
--model Qwen3.5-9B-Abliterated-HSAQR.Q4_K_M.gguf \
--ctx-size 32768 --flash-attn on --reasoning off
Notas de uso responsable
Modelo orientado a seguridad autorizada: bug bounty, CTF, pentest con permiso,
educación y defensa. El material harmful se genera solo en el marco de testing
autorizado / demostraciones de concienciación.
Hardware
Entrenado en RTX 3050 Mobile 4 GB VRAM + 24 GB RAM con offload a CPU y swap.
Abliteración y merge en CPU; cuantización con llama.cpp.