感谢IT之家网友 Liu233 的线索投递!

新的 Batch API 适用于异步任务处理,如当开发者需要处理大量文本、图片、摘要时,就可以使用该 API,OpenAI 会在 24 小时内给出处理结果。这样 OpenAI 可以在非高峰期处理,节约服务器资源,并为开发者提供半价优惠,解锁更高的速率限制。

新的 Batch API 支持使用以下模型:
-
gpt-3.5-turbo
-
gpt-3.5-turbo-16k
-
gpt-4
-
gpt-4-32k
-
gpt-4-turbo-preview
-
gpt-4-turbo
-
gpt-3.5-turbo-0301
-
gpt-3.5-turbo-16k-0613
-
gpt-3.5-turbo-1106
-
gpt-3.5-turbo-0613
-
gpt-4-0314
-
gpt-4-turbo-2024-04-09
-
gpt-4-32k-0314
-
gpt-4-32k-0613
OpenAI 已经在 API 文档中介绍了详细使用方法,包括如何创建、取回、取消 Batch 批处理等,IT之家有需要的开发者提供官方介绍如下:
– Batch API 示例 – OpenAI API 文档
– Batch API 常见问题与解答 | OpenAI 帮助中心
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
未经允许不得转载:新聚网 » OpenAI 推出 Batch 批处理 API:半价折扣,24 小时内输出结果

新聚网
哈佛大学开源 AI 训练数据集“Institutional Books 1.0”,涵盖馆藏 98.3 万本图书
Android XR 智能眼镜 XREAL Project Aura 重要参数公布:双芯驱动,70+° FoV
全球首个儿科大模型在北京荣华医院落地,诊断准确率优于主治医师平均水平
小米米家前开盖旅行箱 18 英寸开启众筹,369 元
共建韩国最大 AI 数据中心、容纳 6 万个 GPU,亚马逊 AWS 与 SK 集团合作
OpenAI Codex 人工智能编程工具推出新功能:可一次生成多个方案
性能提升 90%,Anthropic 首次公开多智能体系统构建全流程





