logo

百度智能云千帆大模型平台使用指南及费用详解

作者:KAKAKA2023.08.31 16:38浏览量:5474

简介:本文介绍了百度智能云千帆大模型平台的使用流程,包括开通付费、QPS说明、数据服务、大模型训练、评估及服务的价格费用,以及私有和公共资源池的产品价格。同时,还详细说明了余额不足提醒与欠费处理流程。特别引入了千帆大模型平台的API调用内容,帮助用户更好地理解和使用平台。

在AI技术日益普及的今天,百度智能云推出了千帆大模型平台,这是一个高效推理服务平台,提供了丰富的大模型API接口,支持多场景应用。无论是数据服务、大模型训练、评估还是服务部署,千帆大模型平台都能为您提供强大的支持。了解更多关于推理服务API,请访问百度智能云千帆大模型平台

开通付费

进入操作台前,您需要在计费管理中开通付费。在智能云控制台概览页,您可以查看已开通付费的公有云服务及用量情况。

按量后付费

目前平台上的调用服务功能均采用按量后付费模式。系统会根据实际的输入及输出总和tokens数量,每小时对您的百度智能云账户进行扣费。

QPS说明

每项定制服务(除ERNIE-Bot家族)默认QPS为1,预计可支持4000日活,满足一般测试需求。如有QPS扩充需要,可通过购买托管资源进行扩展,详细操作可参考资源租赁使用说明。

ERNIE-Bot每16个算力单元支持约2.5QPS,预置服务开通时默认为5QPS;ERNIE-Bot-turbo每16个算力单元支持约6QPS,预置服务开通时默认为5QPS。

数据服务相关·产品价格

模块 服务类型 单价
在线标注·自动生成 自动生成 ERNIE-Bot-turbo大模型公有云在线调用服务 0.008元/千tokens

价格费用举例

tokens计算方式为服务输入与服务输出中的中文字与其他语种单词数乘以1.3后向下取整,标点符号不计。例如,输入“请给我念一首诗”,输出“春眠不觉晓…”,tokens总数为27,调用价格为0.008乘以27乘以0.001等于0.000216元。

大模型训练相关·产品价格

1693468689203.jpg

注意:强化学习字符转换token系数为1~2,其余模型训练字符转换token系数为0.5 ~0.8。

价格费用举例

以25800字符数的训练数据为例,ERNIE-Bot-turbo训练服务-SFT-全量更新的预估价格为2.58~4.128元;BLOOMZ-7B大模型公有云训练服务-强化学习的预估价格为5.16~10.32元。

大模型管理相关·评估价格

在模型评估任务中选择含“基于裁判员模型”的打分模式时,ERNIE-Bot裁判员模型调用单独计费。

1693468748154.jpg

预估费用计算公式为裁判员大模型token单价乘以待评估模型数乘以(打分Prompt模板与回答预估Token总数乘以评估数据集样本总数加评估数据集Token总数乘以预估系数)。

价格费用举例

评估数据集样本总数为500个,评估数据集Tokens总数为10000tokens,待评估模型数为1时,评估任务总价为2.58~2.76元。如待评估模型为n(1≤n≤5),则价格区间为(2.58~2.76元)乘以n。

大模型服务相关·产品价格

1693468815050.jpg

价格费用举例

tokens计算方式与数据服务相同。以ERNIE-Bot调优大模型调用服务为例,输入“请给我念一首诗”,输出“春眠不觉晓…”,tokens总数为27,调用价格为0.012乘以27乘以0.001等于0.000324元。

私有资源池相关·产品价格

您可通过购买托管资源进行服务QPS扩展。

1693468892815.jpg

价格费用举例

私有资源池租赁时间选择为5天,算力单元自定义设置为4时,租赁总价格为5天乘以4算力单元乘以250元/天/算力单元等于5000元。

公共资源池相关·产品价格

选择ERNIE-Bot-turbo-0704的Prompt Tuning训练方式并完成模型训练后,可以将模型部署至平台的公共资源池。

1693468952805.jpg

注意:模型发布服务后,调用仍需付费。调用价格可参考服务价格中ERNIE-Bot-turbo大模型公有云在线调用服务内容。

余额不足提醒与欠费处理

余额不足提醒

系统将在欠费前三天、两天、一天发送续费提醒短信。收到短信后,请及时前往控制台财务中心充值

欠费处理

北京时间整点检查账户余额是否足以支付本次账单费用。若不足以支付,即为欠费,系统将发送欠费通知。欠费后,您开通付费的产品将进入欠费状态,请求系统将不再响应。

相关文章推荐

发表评论