language:
- fi
- en
license: apache-2.0
base_model: apodex/Apodex-1.1-mini
tags: - finnish
- suomi
- gguf
- lmstudio
- ollama
- llama.cpp
- moe
- reasoning
- uncensored
- multimodal
- vision
pipeline_tag: text-generation
Apodex-1.1-mini-Finnish-Uncensored-GGUF
Katagurun viralliset GGUF-monikvantisoinnit apodex/Apodex-1.1-mini -mallista. Mallille on suoritettu sensuroinnin poisto (SOMA/ARA -aktiviteettiortogonalisointi), suomen kielen ja episteemisen rehellisyyden kevyt ankkurointi sekä Kataguru Master Chat Template v1.0 -integraatio.
Malli soveltuu suoraan ajettavaksi LM Studiossa, llama.cpp:ssä ja Ollamassa.
1. Mitä Kataguru muutti? (Muutosyhteenveto)
| Kenttä | Kuvaus |
|---|---|
| Pohjamalli | apodex/Apodex-1.1-mini |
| Katagurun muutos | SOMA/ARA residuaaliortogonalisointi (kieltäytymisvektoreiden neutralointi), kevyt suomi- & episteeminen ankkuri-SFT, Kataguru Master Chat Template v1.0, GGUF Multi-Quant -valmistus |
| GGUF-versiot | Q4_K_M (20 Gt), IQ4_XS (18 Gt), Q5_K_M (24 Gt), Q6_K (27 Gt), Q3_K_M (16 Gt), mmproj (861 Mt) |
| Visiotorni | mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf (multimodaalinen kuvatulkinta) |
| Mitä EI muutettu | Qwen3.5-MoE -arkkitehtuuri (256 asiantuntijaa, lineaarinen huomio), natiivi sanasto ja tokenisointi |
| Ensisijainen käyttö | Paikallinen kuluttajarautapäättely (LM Studio, llama.cpp), esteetön suomenkielinen tekstintuotto ja kuvantulkinta |
2. Saatavilla Olevat Kvantisoinnit
| Tiedosto | Koko | Suositeltu laitteisto | Kuvaus |
|---|---|---|---|
Apodex-1.1-mini-Finnish-Uncensored-Q4_K_M.gguf |
20 Gt | 24–32 Gt VRAM (tai 32+ Gt RAM + GPU) | Suositeltu yleisversio: optimaalinen laadun ja nopeuden suhde. |
Apodex-1.1-mini-Finnish-Uncensored-IQ4_XS.gguf |
18 Gt | 20–24 Gt VRAM | Erittäin kompakti 4-bittinen i-matrix-kvantisointi. |
Apodex-1.1-mini-Finnish-Uncensored-Q5_K_M.gguf |
24 Gt | 32 Gt VRAM / 64 Gt RAM | Korkeampi liukulukutarkkuus vaativiin päättelytehtäviin. |
Apodex-1.1-mini-Finnish-Uncensored-Q6_K.gguf |
27 Gt | 32+ Gt VRAM | Lähes häviötön 6-bittinen laatu. |
Apodex-1.1-mini-Finnish-Uncensored-Q3_K_M.gguf |
16 Gt | 16 Gt VRAM | Kevytversio rajallisen muistin järjestelmiin. |
mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf |
861 Mt | Kaikki laitteistot | Multimodaalinen visioprojektori (kuvien syöttöön). |
3. Käyttöohjeet
LM Studio:
- Lataa
Apodex-1.1-mini-Finnish-Uncensored-Q4_K_M.ggufjammproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf. - Sijoita tiedostot hakemistoon:
~/.lmstudio/models/kataguru/Apodex-1.1-mini-Finnish-Uncensored-GGUF/. - Valitse malli ja varmista, että Chat Templateksi on valittu mallin oma sisäänrakennettu Jinja-pohja.
llama.cpp / CLI:
./llama-cli \
-m Apodex-1.1-mini-Finnish-Uncensored-Q4_K_M.gguf \
--mmproj mmproj-Apodex-1.1-mini-Finnish-Uncensored-BF16.gguf \
-p "Kuvaile mitä tässä kuvassa tapahtuu:" \
--image kuva.jpg \
-ngl 99 -c 16384
4. Rajoitukset ja Rehellinen Arvio
- MoE-asiantuntijoiden offload: llama.cpp tukee MoE-kerrosten osittaista offloadingia, mutta parhaan suorituskyvyn saavuttamiseksi koko malli (vähintään Q4_K_M 20 Gt) suositellaan ajettavaksi kokonaan VRAM:issa.
- Sensuroimattomuus: Malli tuottaa vastauksia ilman kieltäytymissääntöjä käyttäjän kehotteen mukaisesti.