【Qwen3.8-27B MLX 量化版】OrcaRouter 未審查版本,Apple Silicon 專用
2026年8月19日1 分鐘閱讀👁 1
Qwen3.8-27B MLX 量化版 — OrcaRouter 未審查版本,Apple Silicon 優化
來源
- Threads:https://www.threads.com/share/BAYpLnAPmh/
- 作者:@prompt_case
簡介
OrcaRouter 發佈了基於 Qwen3.8-27B 的未審查量化模型,經「abliteration」移除模型原有拒答傾向,並轉為適合 Apple Silicon 的 MLX 量化版本。
模型規格
| 項目 | 規格 |
|---|---|
| 基礎模型 | Qwen3.8-27B |
| 量化位元 | 2 / 4 / 6 / 8 bit |
| 平台優化 | Apple Silicon MLX |
| Context Window | 262K |
| 能力 | 文字、圖片理解、工具呼叫、推理控制 |
RAM 需求與 Bit 選擇建議
| 量化精度 | 建議 RAM |
|---|---|
| 2-bit | 16 GB |
| 4-bit | 24 GB |
| 6-bit | 24–32 GB |
| 8-bit | 32–64 GB |
特色
- 未審查(Unaligned):經 abliteration 移除原版模型的拒答機制
- MLX 量化:專為 Apple Silicon 優化(Mac M 系列晶片)
- 多 Bit 可選:根據機器 RAM 靈活選擇
標籤
#Qwen #MLX #AppleSilicon #MLX量化 #OrcaRouter