6 月 30 日,据 The Information 报道,OpenAI 工程师开发出一系列新的模型优化技术,使模型推理成本降低超过 50%,并减少了对英伟达 GPU 的需求。
报道称,OpenAI 未来可能将部分成本节约用于下调 API 服务价格,或提高 ChatGPT 等产品的用户查询额度。
6 月 30 日,据 The Information 报道,OpenAI 工程师开发出一系列新的模型优化技术,使模型推理成本降低超过 50%,并减少了对英伟达 GPU 的需求。
报道称,OpenAI 未来可能将部分成本节约用于下调 API 服务价格,或提高 ChatGPT 等产品的用户查询额度。