热搜: irobot佳士科技开云电竞官网下载app机器人机器人产业联盟ABB机械手发那科码垛机器人机器人展览

OpenAI 放宽 GPT-4 Turbo 束缚:解除每日限制,每分钟最高可处理 150 万个 tokens

日期:2024-02-20 来源:IT之家 评论:0
标签: AI 科技 创新
  IT之家2月19日消息,OpenAI在去年11月召开的DevDay活动中,推出了GPT-4 Turbo,最多支持12.8万个token:输入token价格是GPT-4的三分之一,输出token价格是其二分之一。
  OpenAI近日发布新闻稿,宣布GPT-4 Turbo速率上限翻番,每分钟最多可处理150万个token(TPM),而且完全取消了每日限制。
dae980bb-c561-489b-b9f5-f7aedc96830d
  OpenAI为了防止滥用、确保公平性和管理基础架构负载,限制企业访问API的速率。这种限制可以防止恶意超载 应用程序接口,确保所有用户都能公平访问,并通过节流指定时间内允许的请求数量,在高需求期间保持平稳的性能。
  IT之家注:OpenAI一共使用了5种速率限制:RPM(每分钟请求数)、RPD(每天请求数)、TPM(每分钟tokens数量)、TPD(每天tokens数量)和IPM(每分钟图像数量)。
  需要注意的是,速率限制是对组织级别实施的,对个体用户没啥影响。速率限制因所使用的模式而异,组织每月在API上的总支出也有"使用限制"。
声明:凡开云电子链接 来源注明为其他媒体来源的信息,均为转载自其他媒体,并不代表本网站赞同其观点,也不代表本网站对其真实性负责。您若对该文章内容有任何疑问或质疑,请立即与开云客户(www.www.wykobounce.com)联系,本网站将迅速给您回应并做处理。
电话:021-39553798-8007
更多> 相关开云电子链接
0 相关评论

推荐图文
推荐开云电子链接
点击排行
Baidu
map