从卖机柜到卖Token,韶关正在重构AI时代的“算力生意”
大湾区
大湾区 > 正文

从卖机柜到卖Token,韶关正在重构AI时代的“算力生意”

6月12日,第五届粤港澳大湾区(广东)算力产业大会在韶关举行。大会现场,粤港澳大湾区“来数加工”跨境算力专区正式启用,粤港澳大湾区公共算力服务平台及Token工厂、丹霞智语大模型服务平台等一系列成果集中亮相。

图:大会现场

图:大会现场

相比新增多少服务器、建设多少机架,本届大会释放出的一个新信号是:人工智能产业正从“建设算力”转向“运营算力”。

这一变化,首先体现在企业需求的变化上。

香港法律科技企业智法数科目前正在参与韶关“来数加工”试点项目。智法数科首席运营官雷震介绍,公司主要为客户提供法律数字员工服务,需要持续调用大模型能力,因此对Token需求较大。

今年5月中下旬,公司在香港数码港部署试点设备,由韶关提供Token服务支持。虽然项目仍处于初期测试阶段,但企业已经感受到成本变化。

“预计Token成本可以下降20%左右。”雷震表示。

在人工智能应用快速普及的背景下,企业关注的重点已经不再只是拥有多少服务器,而是如何以更低成本、更高效率获取AI能力。

“去年大家更多是用AI做问答,今年是在用AI干活。”雷震说,随着智能体等应用兴起,Token消耗量正快速增长,对稳定算力供给提出更高要求。

也正是在这样的背景下,粤港澳大湾区公共算力服务平台及Token工厂正式发布。

软通集团副总裁武军将其比作AI时代的“电网”和“电厂”。

在传统模式下,企业部署人工智能服务往往需要采购GPU、建设算力环境、部署模型并投入大量技术资源。而Token工厂则通过模型接入、Token调度、用量计量等能力,将底层算力资源转化为标准化服务。

企业无需自建算力基础设施,只需根据实际需求按量调用服务。

“Token重新定义了一种新的度量衡。”武军表示,未来企业使用算力将像使用水电一样便捷,从而降低人工智能创新和应用成本。

这种变化背后,是韶关不断增长的算力基础。

图片

图:粤港澳大湾区国家枢纽节点韶关数据中心集群浈江片区 韶关融媒体中心供图

作为粤港澳大湾区国家枢纽节点唯一数据中心集群所在地,韶关目前已签约入驻智算中心项目20个,腾讯、阿里、万国数据以及三大运营商等企业持续布局。已建成4个万卡级智能算力集群,上架智能算力达到3万P。

与此同时,韶关持续完善网络基础设施。目前已建成13条连接大湾区城市的400G全光运力网络,到广州、深圳传输骨干机房单向时延分别降至1.3毫秒和1.66毫秒。大会期间,深广韶数据大通道项目正式启动,将进一步提升区域间数据传输效率。

在业内看来,随着人工智能产业从模型训练向推理应用加速转变,网络时延、服务能力和资源调度效率的重要性正在不断提升。

除了算力平台建设,本届大会发布的丹霞智语大模型服务平台也将目光投向具体应用场景。该平台由韶关市数据产业研究院联合合作伙伴打造,已形成公文大模型、教育智能体、智慧政务治理智能体等应用方向,探索推动人工智能在政务办公、教育科研等领域落地。

广东省人工智能与机器人产业联盟副理事长兼秘书长张崟认为,人工智能产业最终需要形成“需求—数据—模型—产品—场景”的完整闭环,算力价值最终要通过产业应用实现释放。

从“来数加工”打通跨境数据加工通道,到公共算力服务平台和Token工厂推动算力服务标准化,再到行业大模型探索场景落地,韶关正在构建覆盖数据、算力、模型和应用的产业链条,加速从算力承载地,向人工智能服务节点的转变。

文|郭妍

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载