license: apache-2.0
base_model: huihui-ai/Huihui-Qwen3.5-4B-abliterated
tags:
- mlc-llm
- web-llm
- abliterated
- uncensored
language: - ja
- en
- zh
Huihui-Qwen3.5-4B-abliterated-q4f16_1-MLC
huihui-ai/Huihui-Qwen3.5-4B-abliterated を
MLC LLM / WebLLM 用に q4f16_1 量子化で変換したものです。
- ベース: Qwen/Qwen3.5-4B (abliterated版)
- 量子化: q4f16_1
- 設定: context_window_size=4096, prefill_chunk_size=1024 (ブラウザ向け省VRAM設定)
- モデルライブラリ (wasm): 公式 binary-mlc-llm-libs の
web-llm-models/v0_2_84/base/Qwen3.5-4B-q4f16_1_cs1k-webgpu.wasmを流用可能(同形状のため)
WebLLM での使用例
<HF名>/Huihui-Qwen3.5-4B-abliterated-q4f16_1-MLC@https://raw.githubusercontent.com/mlc-ai/binary-mlc-llm-libs/main/web-llm-models/v0_2_84/base/Qwen3.5-4B-q4f16_1_cs1k-webgpu.wasm
License
Apache 2.0 (元モデル・ベースモデルに準拠)