加密知识一站通
行情·工具·策略

Altman发布OpenAI五条原则,预告未来可能为安全限制模型能力

动察 Beating 监测,OpenAI CEO Sam Altman 以个人署名发布公司五条运营原则,分别是民主化、赋权、普遍繁荣、韧性和适应性。Altman 在「适应性」中预告,未来某些时期 OpenAI 可能为了安全而收紧用户可获取的模型能力,原话称可以想象「需要牺牲部分赋权来换取更强韧性」的时期。

「民主化」要求 AI 关键决策通过民主程序做出,不应只由 AI 实验室决定。「赋权」强调给用户尽可能大的使用自由,但在不确定时偏向谨慎。「普遍繁荣」为 OpenAI 近期大规模购买算力、全球建数据中心做辩护,Altman 称目标是把 AI 成本降到人人用得起,政府可能需要探索新经济模式来确保价值共享。「韧性」提到一个具体风险场景:极端强大的模型可能降低制造新型病原体的门槛,需要全社会层面应对。

Altman 回顾了当年对公开 GPT-2 权重的犹豫,称事后看是多虑了,但催生了 OpenAI 沿用至今的迭代部署策略。

赞(0)
未经允许不得转载:币须知道 » Altman发布OpenAI五条原则,预告未来可能为安全限制模型能力

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址