您现在的位置是:热点 >>正文
标签: F5 TBLB Token经济 AI工厂
热点0243095人已围观
简介...
AI算力的军备竞赛正进入深水区,但一个逐渐清晰的共识是:堆算力不等于提生产力。
从英伟达的产品推出节奏就不难看出,GPU迭代周期已从过去的3-5年压缩至12-15个月,算力硬件的更新节奏远超企业资产折旧周期。企业面临的真正挑战,不再是“有没有算力”,而是“怎么把算力变成生产力”。
5月25日,F5在北京举办媒体发布会,在公司成立30周年之际,集中展标签示了应用交付与安全平台(ADSP)的全面进化、本地化基于词元(Token)的负载均衡解决方案(TBLB),并宣布成立F5 AI应用工程部。围绕AI时代的算力效率与经济转化,F5给出了自己的答案。
“AI工厂”
F5亚太区首席技术官Mohan Veloo在主题演讲中提出了一个直观的模型:将AI基础设施理解为“AI工厂”——以电力为输入,以算力为输出,而算力: 的“产出”可以用Token来衡量。

F5亚太区首席技术官Mohan Veloo
一句提问经过系统处理,可拆分为约13个输入Token、生成约27个输出Token。Token本质上是度量输入、输出及其对应成本的基本单位。随着全球每日Token生成量突破百万亿,它已从单纯的技术指标,演变为衡量成本与价值的经济单位。
围绕Token的优化,F5归纳了五个关键维度F5:
Token吞吐量(Tokens per Second):衡量系统处理能力与整体吞吐效率;
首Token响应时间(Time to First Token):直接影响用户体验;
单Token成本(Cost per Token):决定业务的盈利空间;
端到端延迟(End-to-End Latency):体现应用整体响应效率;
每瓦Token数(Tokens per Watt):反映能源 T利用效率与能耗约束。
Mohan Veloo指出,能源正逐步成为最核心的约束因素。如果缺乏有效优化,不仅会造成资源浪费,还将直接侵蚀企业的利润空间。
企业困局
F5中国区产品及解决方案总经理陈亮在演讲中拆解了中国市场的三个核心痛点。“当前中国企业面临的核心挑战是异构算力和快速迭代。”陈亮表示。
首先是算力异构。企业在不同时间采购的GPU性能存在差异,不同BL厂商之间也存在性能差距。国际芯片与国产芯片共同构成的混合算力体系,使底层算力能力不均衡,构建算力集群时难以统一调度。
其次是模型与算力适配问题。不同模型与不同算力架构之间并非天然匹配,在异构芯片上部署推理引擎可能因兼容性不足造成性能损耗。
第三是推理请求分配的效率问题。传统负载均衡机制虽具备横向扩展能力,但调度时并不感知后端算力的实时状态,仅进行简单分发,容B 易导致算力使用不均,加剧资源浪费。陈亮指出,不同类型的推理请求——代码重构、视频生成、图像生成、文档总结——对后端算力的消耗差异显著。如果前端调度仍采用传统的粗粒度方式,当部分节点已接近饱和而其他节点仅处于低利用率时,系统仍会出现响应延迟。这不仅导致用户侧体验下降,也造成企业侧算力资源的实际浪费。
破局路径
针对上述问题,F5中国在SolutionTo Day上正式推出了基于词元(Token)的负载均衡解决方案(TBLB)。
该方案的核心逻辑是从“按请求分发”升级为“按Token成本调度”。在推理请求进入时,系统实时感知其对后端算力的影响,结合Token感知与GPU动态压力自适应机制,动态调整后续请求的分配策略,实现对不同节点算力状态的精细化调度。
F5的负载均衡技术可兼容AMD、英伟达及各类国产GPU的ke多品牌、多版本硬件环境,最大化盘活存量算力资源。实测数据印证了这一路径的有效性。
在某汽车行业客户场景中,算力资源由6块NVIDIA A40与8块L20构成,在未增加额外算力成本的前提下,通过TBLB优化调度,Token生成速度提升30.3%,端到端响应速度提升48%。
在某运营商场景中,客户采用华为Ascend 910B算力资源,引入F5能力后,并发用户n经数提升至少75%,Token生成速度提升达99%。
在金融行业客户场景中,算力集群由阿里平头哥PPU与NVIDIA H20混合构建,优化后Token生成速度提升42%,数据传输流畅度提升7.1%。
据了解,TBLB支持跨品牌、跨代际GPU的统一调度与协同使用,在保证高效性的同时最大化现有资产价值。F5北亚区区域副总裁张振伦补充称:“TBLB方案能显著提济 升业务部署弹性,实测可将GPU利用率提升60%。”对于单台采购成本高昂的高端GPU而言,利用率的提升意味着企业可以大幅减少硬件采购支出。
安全
“无安全则无可持续的AI落地应用。”F5北亚区总裁黄彦文在发布会上强调。
安全是Token经济的底线,也是AI规模化落地的前提。AI时代出现了新型攻击形态,比如在数字人带货平台中,用户输入特定提示词可能“劫持”模型行为AI,导致系统持续输出无关内容;在文档处理环节,以人眼不可见方式嵌入的恶意指令,可能在模型解析时被执行,触发数据泄露风险。
这类攻击不再依赖固定代码特征,而是基于语义和上下文动态生成,传统基于特征码的安全机制难以覆盖。
F5的应对思路是以AI对抗AI。通过AI红队主动挖掘模型漏洞,通过AI护栏在模型前端对输入与输出进行实时语义分析与拦截,F5每月可生成约工厂1万个新的AI特征码,并构建了全球规模领先的AI攻击数据集之一。通过“发现—防护—修复”的闭环体系,安全策略能够随攻击演进动态更新,无需依赖人工介入。此外,Mohan Veloo在演讲中提及“量子末日”议题——当前全球多家机构已开始批量收集各类加密数据,待量子计算技术成熟后即可快速完成解密。F5已搭建专属的加密参数管理体系,可在加密体系受到冲击时快速完成标签参数迭代。
漏洞修复的效率同样成为安全防护的核心。“过去企业每周仅需修复百余项漏洞,如今每周可达上万项,漏洞快速修复已从可选工作变为企业刚需。”Mohan Veloo表示。这要求企业从静态防御转向动态运行时防御,在漏洞曝光前提前做好防护预案。
结语
Token经济的本质不是算力竞赛,而是效率与治理能力的竞争。
Mohan Veloo将AI工作流程归纳为三个关键控: 制点:统一入口、编排调度、模型推理。企业对软件体系的精细化管理能力,将决定其在智能经济中的竞争位势。
从算力投入到Token产出,从粗放调度到精细化治理——AI推理时代的经济学命题,答案或许不在更多的硬件里,而在对每一个控制点的精准掌控中。
Tags:
上一篇:蟋蟀又称什么名字
相关文章
甲骨文第三财季营收101亿美元 云服务和授权支持业务营收占72%
热点3月11日消息,据国外媒体报道,当地时间周三,甲骨文公布了2021财年第三财季财报。财报显示,第三财季,该公司的总营收为101亿美元,同比增长3%。其中,云服务和授权支持业务营收为73亿美元,同比增长...
【热点】
阅读更多亚马逊拟尝试实体零售新业态:2800平方米综合百货商店
热点新浪科技讯 北京时间8月20早间消息,据报道,美国电子商务巨头正准备开设大规模的实体综合零售业态,类似于传统的百货商店。这是该公司在实体零售领域的最新尝试。 约为2800平方米 该媒体引述了解亚马逊计...
【热点】
阅读更多云计算环境中的容量管理
热点Greene表示,就像许多人一样,自己在冠状病毒疫情期间只能在家远程工作。其带领的IT团队在融合的VMware环境中进行数据库云容量管理。他表示,公共云提供商面临的容量管理问题与Greeneideas...
【热点】
阅读更多
热门文章
最新文章
友情链接
- 标签: 康师傅
- https://www.klatreverden.no/search?q=谷歌霸屏推广业务【tg:seogoogle987】,uYr
- https://www.valuecolleges.com/?action=QUERY&s=谷歌霸屏推广业务【tg:seogoogle987】,UmR
- https://www.impactpool.org/search/?type=79&q=谷歌霸屏推广业务【tg:seogoogle987】PHN
- https://www.temu.com/search_result.html?search_key=谷歌霸屏推广业务【tg:seogoogle987】qZ5
- https://www.sportbiketracktime.com/index.php?route=product/search&tag=谷歌霸屏推广业务【tg:seogoogle987】,4Ej
- https://www.writingforward.com/?action=SEARCH&s=谷歌霸屏推广业务【tg:seogoogle987】,PZe
- https://www.rookwinkel.nl/catalogsearch/result/index/?q=谷歌霸屏推广业务【tg:seogoogle987】,uwu
- https://www.pierreherme.com/catalogsearch/result/?q=谷歌霸屏推广业务【tg:seogoogle987】,yL7
- https://www.swecobelgium.be/?page=9&s=谷歌霸屏推广业务【tg:seogoogle987】,o0Y
- https://www.shacknews.com/editorial-search?q=谷歌霸屏推广业务【tg:seogoogle987】,xo1
- https://www.skicheck.at/en/?action=CHECK&s=谷歌霸屏推广业务【tg:seogoogle987】,Svj
- https://www.qwant.com/?q=谷歌霸屏推广业务【tg:seogoogle987】,FPL
- https://www.reallywildbirdfood.co.uk/store/search?q=谷歌霸屏推广业务【tg:seogoogle987】,vO2
- https://www.zutari.com/search/谷歌霸屏推广业务【tg:seogoogle987】,O7P
- https://www.yr.no/en/search?q=谷歌霸屏推广业务【tg:seogoogle987】,JK3
- https://www.dba.dk/soeg/?soeg=谷歌霸屏推广业务【tg:seogoogle987】y42
- https://www.unclefossil.com/search/谷歌霸屏推广业务【tg:seogoogle987】,fuj
- https://www.lyrics.com/lyrics/谷歌霸屏推广业务【tg:seogoogle987】,Oa3
- https://www.navymwr.org/search/?query=谷歌霸屏推广业务【tg:seogoogle987】,Eyq
- https://www.realsporting.com/buscador?buscar=谷歌霸屏推广业务【tg:seogoogle987】,rnZ
- https://5gaa.org/?token=6e2l7hjt2i26gzgctgwdrv7v0j6nxorq&s=谷歌霸屏推广业务【tg:seogoogle987】WuZ
- https://www.teamlab.art/?submit=谷歌霸屏推广业务【tg:seogoogle987】,lqA
- https://www.tiktok.com/tag/谷歌霸屏推广业务【tg:seogoogle987】,SB4
- https://www.vivaraise.fr/catalogsearch/result/?q=谷歌霸屏推广业务【tg:seogoogle987】,GwA
- https://www.kissthekangaroo.com.au/index.php?route=product/search&tag=谷歌霸屏推广业务【tg:seogoogle987】,F12
- https://www.sic-info.org/?s=谷歌霸屏推广业务【tg:seogoogle987】,t7W
- https://www.pearlstonecenter.org/search/谷歌霸屏推广业务【tg:seogoogle987】,g13
- https://www.tycoonstory.com/?s=谷歌霸屏推广业务【tg:seogoogle987】,hLS
- https://www.zisha.com/shop/list.shtml?wap_keyword=谷歌霸屏推广业务【tg:seogoogle987】,u3K
- https://m.shoppinghow.kakao.com/m/search/q/谷歌霸屏推广业务【tg:seogoogle987】Pd6
- https://www.openstreetmap.org/search?query=谷歌霸屏推广业务【tg:seogoogle987】,j7h
- https://www.krisinformation.se/en/search?q=谷歌霸屏推广业务【tg:seogoogle987】,biw
- https://www.miamiopenmri.com/?action=CHECK&s=谷歌霸屏推广业务【tg:seogoogle987】,RJp
- https://www.selfsufficientish.com/main/?s=谷歌霸屏推广业务【tg:seogoogle987】,g28
- https://www.vet-direct.com/search?cat=72&term=谷歌霸屏推广业务【tg:seogoogle987】,5ko
- https://www.zalora.sg/catalog/?cat=112&q=谷歌霸屏推广业务【tg:seogoogle987】,7R0
- https://www.ntv.co.jp/3min/search/?action=QUERY&q=谷歌霸屏推广业务【tg:seogoogle987】,Ss1
- https://yscc1986.net/search/谷歌霸屏推广业务【tg:seogoogle987】TaJ
- https://www.xvideos.com/tags/谷歌霸屏推广业务【tg:seogoogle987】,JbV
- https://www.ng-slo.si/si/iskanje?cat=114&q=谷歌霸屏推广业务【tg:seogoogle987】,PT4
- https://www.roberthalf.com/us/en/jobs/all/谷歌霸屏推广业务【tg:seogoogle987】xXJ
- https://www.teacherspayteachers.com/Browse/Price-Range/Free/Search:谷歌霸屏推广业务【tg:seogoogle987】,B6x
- https://www.kaskus.co.id/search?q=谷歌霸屏推广业务【tg:seogoogle987】,V0K
- https://www.flickr.com/photos/tags/谷歌霸屏推广业务【tg:seogoogle987】C5V
- https://www.therapeuticassociates.com/?cat=5&s=谷歌霸屏推广业务【tg:seogoogle987】,v3x
- https://www.wou.edu.my/?s=谷歌霸屏推广业务【tg:seogoogle987】,9XO
- https://yokohama-oht.com/?action=CHECK&s=谷歌霸屏推广业务【tg:seogoogle987】,f0S
- https://www.unclefossil.com/search/谷歌霸屏推广业务【tg:seogoogle987】gad_source=1&gclid=Cj0KCQjw_-GxBhC1ARIsADGgDjsNKplUXa2F6YGlHBK2sHDQ88cgsJBb05DyO99TV9jNq_cT0kGMqyQaAgHQEALw_wcB
- https://www.teacherspayteachers.com/Browse/Search:谷歌霸屏推广业务【tg:seogoogle987】,9iA
- https://www.soccerbible.com/search?q=谷歌霸屏推广业务【tg:seogoogle987】,Wno