加密知识一站通
行情·工具·策略

PrismML把Qwen3.6压到4GB,27B模型塞进iPhone

动察 Beating 监测,加州理工学院数学家 Babak Hassibi 联合创立的 AI 实验室 PrismML 表示,已把阿里开源模型 Qwen3.6-27B 压缩后跑在 iPhone 17 Pro 上。

Qwen3.6-27B 是 270 亿参数稠密模型。推理时所有参数都会参与,不是只激活部分参数的 MoE 模型。

PrismML 称,模型大小从约 54GB 压到不到 4GB,性能没有明显下降。它可用于复杂对话、推理、Agent 和代码任务。

苹果已经和 PrismML 接触,讨论如何使用这项技术。苹果一直想把更多 AI 放到设备本地,但高级 Siri 仍依赖云端模型。

赞(0)
未经允许不得转载:币须知道 » PrismML把Qwen3.6压到4GB,27B模型塞进iPhone

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址