本站创站本意即为开发者提供优质稳定的OpenAI相关的API兼容接口,方便开发者、科研工作者进行AI领域的研究工作。

# 平台主要优势

TIP

如果您经常大量使用 OpenAI 的 API 服务,您应该知道,其实当前 OpenAI 的接口非常不稳定,经常会返回 408, 429, 500 之类的错误,其根本原因就是因为GPU算力不足导致的。本站特意为开发者提供了 OpenAI 侧负载过高报错时,自动重试的能力,此项功能基于我们申请的企业级的全球多数据中心 OpenAI API接口实现,当某一个请求异常时,会自动更换不同的账户,甚至不同的数据中心来重试(每个数据中心的GPU负载是不一样的),最大程度保证接口请求成功,如果您调用频率很高,您会发现我们平台的平均接口错误率要比其他单纯做转发的小平台要低的多(比OpenAI官方还低),因为所有的错误我们都内部消化了。错误或超时重试有一定额外成本,这部分成本由平台垫付了,无需用户付费,属于平台提供的优化服务之一。

TIP

自动重试目前上限是3次,已经能覆盖99%的异常,极端情况下,仍然会有小概率经过3次自动重试还是会请求失败的情况,需要您自行处理。

TIP

违禁内容触发内容审查不支持重试

  • 全网独家支持 GPT-4 32K 模型,可以传入超长上下文,解决你的疑难杂症。
  • 基于全球多数据中心的错误自动重试能力,不收任何额外费用。
  • 非200的错误请求不扣费。
  • 得益于企业级的OpenAI API账户,我们平台接口在稳定性和生成速度上是非常快的。这一点尤其在非stream模式下生成速度的优势非常明显。
  • 支持通过OpenAI兼容接口自动查询余额。
  • 支持可以自主模型定价的子账户能力,可以快速二次分销。
  • GPT4模式下 prompt_token 和 completion_tokens 独立计费,不会按照最贵的completion_tokens统一计费。
  • 每个请求的超时时间长达30分钟,不用担心超时中断还被扣费。
  • 充值后的金额无过期时间,你的钱就是你的钱。
  • 定价清晰,直接在OpenAI官网价格上增加一个比例系数,所有模型定价逻辑一致,每个模型定价多少钱非常清晰,没有积分之类的乱七八糟的概念。
  • 完善的成本分析工具,拥有从整体概览到逐笔明细账的所有消费详情。
  • 支持text-davinci-003text-embedding-ada-002模型,对langchains等库使用友好。