据动察 Beating 监测,加州理工学院数学家 Babak Hassibi 联合创立的 AI 实验室 PrismML 表示,已把阿里开源模型 Qwen3.6-27B 压缩后跑在 iPhone 17 Pro 上。
Qwen3.6-27B 是 270 亿参数稠密模型。推理时所有参数都会参与,不是只激活部分参数的 MoE 模型。
PrismML 称,模型大小从约 54GB 压到不到 4GB,性能没有明显下降。它可用于复杂对话、推理、Agent 和代码任务。
苹果已经和 PrismML 接触,讨论如何使用这项技术。苹果一直想把更多 AI 放到设备本地,但高级 Siri 仍依赖云端模型。
币须知道