据动察 Beating 监测,扎克伯格今天发布长文,公开为模型蒸馏辩护。他认为,模型向其他模型学习本来就是开源生态的一部分。美国想继续领跑开源 AI,就得放松对蒸馏和训练数据的限制。
他还直接反驳「蒸馏有害」的说法:能观察到的东西,就应该允许学习。美国如果先把自己绑住,只会让其他国家的开源模型追得更快。
这正好和 OpenAI、Anthropic 最近的动作反着来。两家公司都在严防竞争对手绕过限制、大规模抓取模型输出;扎克伯格则认为,不能因此把模型之间的学习一起限制掉。
Meta 今天刚放出的 Muse Glimmer,本身就是用 Muse Spark 蒸馏出来的。
币须知道