AI 正暴露传统网络架构的极限
持续推理、智能体通信与实时数据流正催生不可预测的始终在线流量,而传统静态网络无法支撑毫秒级延迟要求。AI从试点走向核心运营,使网络成为性能、可靠性与成本的关键控制层,倒逼企业重构基础设施范式。

持续推理、智能体间通信以及实时数据管道正在生成不可预测的、始终在线的流量,而传统架构从未设计用于支持此类流量。随着人工智能从试点项目演变为运营骨干,网络正日益成为决定性能、可靠性与成本的关键控制层。
这一转变正迫使各组织质疑已延续数十年的固有假设。传统系统静态且僵化,缺乏高效或动态管理网络需求的能力;而面向人工智能的网络则需实时自适应。一项由 思科(Cisco) 开展的研究指出,80%的高管认为其公司的竞争生存能力将取决于智能体式人工智能(agentic AI),而消费者对人工智能的使用已普遍存在且正加速增长。这正推动流量生成、分发与体验方式的根本性转变,并对负责管理大规模网络的服务提供商及企业产生深远影响。
这一基础设施缺口已成为全球性关切。塔塔通信(Tata Communications)委托彭博社(Bloomberg)近期开展的一项研究《面向未来的型企业(The Future-Ready Enterprise)》发现,尽管四分之三的领导者将人工智能视为董事会级优先事项,但近三分之二(65%)的企业仍在过渡性或传统基础设施上运行。这种雄心与现实之间的脱节,是实现人工智能投资价值的主要障碍。
性能基准也已提升一个数量级。传统业务应用可容忍100至500毫秒的延迟,而关键任务型人工智能工作负载如今要求延迟低于10毫秒。
塔塔通信全球网络服务副总裁卡皮尔(Kapil)表示:“这绝非渐进式改进,而是一种截然不同的性能范式,它打破了传统网络设计的基本假设——在传统设计中,如此极端的低延迟从未被作为首要考量因素。”
网络性能如何影响人工智能的可靠性与成本
传统基础设施所能提供的能力与人工智能所提出的需求之间存在的这一差距,使网络性能直接成为人工智能可靠性与成本的驱动因素。若将网络仅视作尽力而为(best-effort)的传输层,则会引入风险,而许多组织往往直至部署在生产环境中表现欠佳时才意识到该风险。一个专为实时欺诈检测或供应链优化构建的模型,一旦因网络拥塞导致其依赖的数据延迟送达,便立即失去价值;卡皮尔指出,此类延迟的每一毫秒都可能带来直接的财务或运营成本。
卡皮尔表示:“依赖‘尽力而为’的网络,将数百万美元的人工智能技术栈投资变成一场高风险赌博,其性能完全听凭运气。”
他补充道,企业常常低估将公共互联网用作全球企业网络的复杂性。单个国家内部的性能表现或许尚可接受,但一旦数据开始跨境传输或连接至国际云平台,端到端控制的缺失便会成为运营障碍。
跨云、边缘与企业环境的分布式人工智能加剧了复杂性
随着人工智能组件扩散至云、边缘与企业环境,其复杂性进一步加剧。组织通常聚焦于计算能力与数据基础设施,却忽视了连接这些组件的网络架构。这一盲点往往体现为GPU之间高频东西向(east-west)流量所造成的性能瓶颈。
分布式架构同时也扩大了企业需要防护的攻击面。应用程序、用户及合作伙伴生态系统如今分散于云、软件即服务(SaaS)、边缘及设备环境中;卡皮尔指出,由人工智能驱动的恶意机器人约占在线流量的37%,致使区分合法用户与自动化威胁愈发困难。许多企业对此的应对措施是叠加彼此孤立的工具,结果反而造成碎片化、安全策略不一致以及缺乏统一可视性,而非形成连贯的防御体系。
卡皮尔表示:“安全访问服务边缘(SASE)通过将网络与安全融合为统一的、基于云交付的架构,有助于缓解上述风险。这种融合可在云、本地及边缘环境中实现一致的策略执行,同时提供保障实时人工智能驱动交互所需的大规模扩展能力与地理邻近性。”
网络必须从被动传输层演进为智能层
弥合这一差距,要求组织大幅增强对人工智能流量在分布式环境中流动方式的可见性,并具备据此定向调度工作负载的能力。卡皮尔表示,这要求采用一种截然不同的网络管理方法。
他表示:“领导者必须认识到,网络已不再是被动的‘管道’,而必须作为整个人工智能技术栈的基础性主动智能平台加以管理。该平台需具备对人工智能流量流向及路径的实时可观测性,并辅以控制能力,以在可用的最高效、最安全路径上编排工作负载。”
这区别在于:不仅是简单连接系统,而是解锁全新能力——例如在销售高峰期提供无缝购物体验,或在全球体育赛事直播中实现无缓冲流媒体传输。
这种智能性亦改变了基础设施团队的日常工作方式。网络本身如今已转变为软件定义、API驱动的架构,而非由硬件配置固定;卡皮尔指出,这促使基础设施团队的工作重心从应对故障转向设计可预防故障的系统。
卡皮尔表示:“团队不再需要在故障发生时手动重路由流量,而应为智能网络架构明确定义规则、策略及业务成果。网络自身随后将自动、自主地执行这些策略。”
塔塔通信正将这一原则付诸实践,推出了其近期发布的 IZO数据中心动态连接(IZO Data Centre Dynamic Connectivity)平台。该软件定义平台利用确定性多路径路由,在中断发生时于数秒内自动重路由流量,从而构建起一个‘自愈式、智能化网络’。
该公司表示,该平台将韧性从一种被动响应流程转变为一种自主能力,为关键任务型人工智能应用提供可预测、低延迟的性能,同时将运营成本降低高达30%。
实时人工智能需要可预测、低延迟的连接
在实践中落实这种智能性,意味着为关键任务型工作负载分配专用容量,而非使其与其他流量竞争该容量。实现这一层级的一致性,还要求企业比以往更精确地定义性能指标。这标志着从‘高性能’等模糊目标,转向确定性性能标准——例如,组织承诺对特定工作负载保证服务水平,即99.999%的时间内延迟不超过10毫秒。
同样对于可预测性的需求也延伸到了容量规划领域。随着AI工作负载变得更大、更动态,网络基础设施必须能够吸收需求的快速变化,同时不牺牲性能或效率。
‘如果没有动态可扩展性,企业将被迫做出一种错误选择:要么冒着导致性能严重下降的拥塞风险,要么为网络进行大规模、低效的过度配置——仅仅为了‘以防万一’。这种做法成本极高且不可持续,’卡皮尔(Kapil)表示。
为全球要求最严苛的AI工作负载构建这一基础的工作已在进行中。例如,塔塔通信公司(Tata Communications)正与亚马逊云科技(Amazon Web Services, AWS)合作,建设印度规模最大的AI就绪型网络。这一高容量、高韧性的网络将连接AWS在孟买、海得拉巴和金奈的主要基础设施所在地,提供超低延迟骨干网,以加速生成式AI在全国范围内的采用以及云创新。
他指出,基于用量的模式——即通过软件实现带宽及网络功能随需求即时扩展——是一种可行的运营替代方案,因为它使组织仅需为其实际使用量付费,同时仍能在流量激增期间保障性能。
首席信息官(CIO)应将网络视为一项战略性投资
首席信息官(CIO)及基础设施负责人需要重新定义网络的角色,不应将其视作成本中心,而应视作对组织整体AI投资组合的一种保险政策。智能网络可通过三种方式降低这些投资的风险:
实现动态可扩展性,从而消除过度配置的必要性
通过提供必要的可见性来强化安全与治理,从而保护数据和模型
提供灵活、可编程的基础架构,使其能够吸纳未来计算需求,而无需进行全面的架构重构。
实现这一目标并不需要企业从零开始。
选择一家拥有成熟业绩记录的合作伙伴至关重要。塔塔通信公司(Tata Communications)最近连续第13年被Gartner评为 全球广域网(WAN)服务魔力象限领导者 ,这反映了其愿景完整性与执行能力。该认可体现了该公司持续在多个领域加大投入,例如面向AI驱动安全的SASE(安全访问服务边缘)能力,以及专为AI规模基础设施设计的高容量800G服务。
‘我们建议采取分阶段方法,首先评估当前网络状况并识别低效环节,然后优先升级AI就绪型技术、无缝数据交换以及先进安全解决方案等领域,’卡皮尔(Kapil)表示,‘将网络视为业务赋能者而非运营开销,可为组织提供AI经济将持续要求的、具备可扩展性、安全性与韧性的基础设施。’
JOTO 企业落地观察
- 对企业部署而言,文章指出65%企业仍在传统基础设施上运行AI,导致性能脱节——关键AI工作负载需<10ms延迟,而传统应用容忍100–500ms,这要求CIO将网络视为战略性保险政策,而非成本中心,否则AI投资将因网络瓶颈失效。
- 对智能体工程而言,高频东西向GPU流量与跨云/边缘/企业环境的分布式智能体通信已成瓶颈,且AI驱动的恶意机器人占在线流量37%,意味着智能体间通信设计必须内嵌网络可观测性与策略编排能力,而非仅依赖底层‘尽力而为’传输。
- 对AI安全治理而言,分散于云、SaaS、边缘的AI生态扩大攻击面,孤立安全工具导致策略碎片化;文中强调SASE融合网络与安全,在统一云交付架构中实现跨环境一致策略执行,是保障实时AI交互可信性的必要基础,而非可选增强。
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询
想把这些做法用到你的业务里?
留下你的场景和痛点,我们帮你判断从哪一步开始。
联系我们


