language:
- tr
- en
license: apache-2.0
tags: - gguf
- turkish
- abliterated
- gemma
- gemma-4
- kizagan
- llama.cpp
- lm-studio
- ollama
pipeline_tag: text-generation
base_model: canyrtcn/Gemma_E4B_Kizagan_Abliterated
library_name: llama.cpp
🔓 Gemma E4B Kızagan Abliterated — GGUF
canyrtcn/Gemma_E4B_Kizagan_Abliterated modelinin GGUF quantize edilmiş versiyonları.
📦 Bu repoda bulunan quant'lar
| Dosya | Quant | Boyut | Kalite | Önerilen |
|---|---|---|---|---|
Gemma_E4B_Kizagan_Abliterated-Q4_K_M.gguf |
Q4_K_M | ~5 GB | ⭐⭐⭐⭐ | 8GB VRAM, dengeli kullanım |
Gemma_E4B_Kizagan_Abliterated-F16.gguf |
F16 | ~15 GB | ⭐⭐⭐⭐⭐ | 16GB+ VRAM, maksimum kalite |
🚀 Kullanım
🦙 llama.cpp
# Q4_K_M
llama-cli -hf canyrtcn/Gemma_E4B_Kizagan_Abliterated-GGUF:Q4_K_M \
--chat-template gemma
# F16
llama-cli -hf canyrtcn/Gemma_E4B_Kizagan_Abliterated-GGUF:F16 \
--chat-template gemma
🐳 Ollama
ollama create kizagan-abliterated -f Modelfile
Modelfile:
FROM ./Gemma_E4B_Kizagan_Abliterated-Q4_K_M.gguf
PARAMETER temperature 0.3
PARAMETER top_p 0.95
PARAMETER top_k 20
PARAMETER repeat_penalty 1.05
TEMPLATE """{{ if .System }}<|turn>system
{{ .System }}<turn|>
{{ end }}<|turn>user
{{ .Prompt }}<turn|>
<|turn>model
"""
🖥️ LM Studio
Repoyu aratıp indirebilirsiniz.
📐 Model Hakkında
Bu GGUF'lar, canyrtcn/Gemma_E4B_Kizagan_Abliterated modelinden dönüştürülmüştür:
- Temel model: Gemma 4 E4B-it (Google DeepMind)
- Türkçe SFT: AlicanKiraz0/Kizagan-E4B-Turkish-Reasoning-Model (540K satır)
- Abliteration: Reddetme davranışı kaldırıldı
- Mimari: Gemma 4 (MoE-style PLE, 7.5B toplam / 4B efektif)
- Context: 131K token
⚙️ Önerilen Parametreler
| Parametre | Değer |
|---|---|
temperature |
0.3 |
top_p |
0.95 |
min_p |
0.05 |
top_k |
20 |
repeat_penalty |
1.05 |
⚠️ Uyarı
Bu modelin reddetme davranışı kaldırılmıştır (abliterated). Filtrelenmemiş içerik üretebilir. Kullanım sorumluluğu size aittir.
📜 Lisans
Apache 2.0. Google Gemma Terms of Use koşullarına tabidir.
🔗 Bağlantılar
- Ana model (safetensors): canyrtcn/Gemma_E4B_Kizagan_Abliterated
- Orijinal Kızagan: AlicanKiraz0/Kizagan-E4B
- Temel model: google/gemma-4-E4B-it