

最近相干数据平台涌现,中国AI大模子周调用量邻接三周稀薄好意思国。这背后的计量单元是一个科技圈流行的新词儿——“Token”!Token是啥?它和大模子、算力以致电力有啥关系?总台央视科技记者张春玲为您逐一领略。
Your browser is not supported
最近,科技圈流行起来一个新词儿——Token。3月24日,国度数据局在官方发布中初次提到Token的轨范汉文译名——“词元”。
简约来说,Token即是AI大模子管制信息的基本单元,咱们以字为单元来念书写字,关于大模子,这个输入输出的单元即是Token。在AI的眼里,一个Token可能是零点几个汉字、单词,也可能一个标点、数字或者象征。它就像AI期间手机的流量一样,每一个AI模子厂商齐会提供我方的Token,况且以它的滥用量为单元向用户收费。
以前的几个月里,跟着“龙虾”智能体的爆火,寰球的Token调用量迎来了新一轮的暴涨。而和之前很不一样的是,这一次中国AI大模子的Token调用量,配资门户网历史上初次全面稀薄好意思国。
为什么全宇宙齐在用中国的Token? 中枢原因那即是物好意思讨价廉。

咱们要知说念,Token并不是诬捏产生的,它是由高性能的GPU在滥用大批的电能,完成数千亿次的推理运算后产生的数字钞票。每生成一个Token齐对应着真实的推理经由,也对应着真实的电力滥用和算力滥用。
而中国大模子公司之是以好像把Token价钱作念得更低,主要原因:
第一是咱们的电力上风。中国领有更完善的电力基础措施和时刻体系,尤其是在西部地区丰富的新动力绿电,正在与数据中默算力、关节加速耦合,把电告成转变成AI期间的新式工作才调。 第二是时刻才调。比年来中国科技企业在推理芯片、模子架构和系统优化上合手续破损,这意味着面临相通一个问题,中国的大模子频频不错用更少的算力,更短的时延,更高的能效,就把谜底给算出来。有东说念主说Token将是AI期间新的动力单元,中国电力、中国算力正在以一种全新的神气参与着寰球的竞争。
辉煌优配更多热门速报、巨擘资讯、深度分析尽在北京日报App赢期管家
诚多网配资中航资本垒富配资万德资本华泰优配永隆资本提示:文章来自网络,不代表本站观点。