火山引擎CEO谭待谈应用卡顿:不一定是算力不够用

新浪科技讯 12月18日下午消息,火山引擎FORCE大会期间,火山引擎CEO谭待向新浪科技介绍了在算力相关层面的规划。

谭待向新浪科技表示,“我们自己在(算力)储备上还是很充足的。也正是因为这个原因,我们现在可以提供业界最大的TPM和RPM(注,TPM和RPM是衡量AI模型处理能力的两个关键指标,分别代表每分钟处理的Tokens数量和每分钟的请求数)。包括今天发布的新的模型之后,后面增速会更快。因为视觉理解会解锁更多的场景,从火山引擎的角度,算力部分我们的储备是足够的。”

此外,他还表示,“一个新的功能上线,在用户使用的时候出现了卡顿或者阻碍,不一定是算力不够的原因。因为你毕竟用的是一个应用,用的是一套系统,可能比如说你的前端,接入端,包括中间,哪怕是用户验证或什么环节出了问题也会影响到整个系统的流畅性,包括工程上面一些优化等方面。所以我觉得如果出现卡顿其实不只是简单的算力问题。”(罗宁)

免责声明:

1、本网站所展示的内容均转载自网络其他平台,主要用于个人学习、研究或者信息传播的目的;所提供的信息仅供参考,并不意味着本站赞同其观点或其内容的真实性已得到证实;阅读者务请自行核实信息的真实性,风险自负。

2、如因作品内容、版权和其他问题请与本站管理员联系,我们将在收到通知后的3个工作日内进行处理。