https://huggingface.co/soyaakinohara/qwe...
qwen3.8 27bの無検閲版で、日本語の精度をいい感じに残したまま11.7GBまで量子化したモデルを公開しました!!VRAM16GBカード単騎で動作するレベルの27Bとしてはかなり軽量高速で日本語がまともかと思います
5060Ti 16gb & 3070 8gbの環境で最高39tok/s
Sending doesn't need an account. Sign in if you want a private collection.
Preview another link
Works with X, Instagram, TikTok & YouTube.
Sending doesn't need an account. Sign in if you want a private collection.
Preview another link
Works with X, Instagram, TikTok & YouTube.





