企业管控能力滞后于AI代理权限扩张

企业正以快于构建必要系统来追踪和管控其行为的速度，赋予AI代理更多权限。

随着企业从对AI代理的试验阶段转向允许其在企业系统中实际执行操作，这一差距正变得愈发明显。挑战不仅在于确定AI代理被允许执行哪些操作；企业首先需要知道哪些代理正在运行、它们可访问哪些资源，以及当出现问题时能否及时中止其运行。

对某些企业而言，甚至连这一基础性清单管理仍十分困难。安全负责人本周向 Computer Weekly 表示，企业正难以追踪日益增多的AI代理。而当这些代理开始接入公司数据与应用程序，并从仅提供信息转向主动执行操作时，该问题将变得更加棘手。

最新 IBM研究 指出类似差距：随着AI代理从回答问题转向做出决策并采取行动，企业在治理与问责机制方面正难以跟上其能力的快速提升。

InformationWeek报道称，身份认证是解决这一普遍性问题的部分答案，但仅覆盖其中一部分。企业或许知晓正在运行的是哪个代理及其所用身份，但这未必能说明该代理试图执行的操作是否恰当。

随着代理自主性增强，这一区分至关重要。传统身份与访问管理系统主要设计用于判定用户或应用程序是否应被授予系统访问权限；而代理则在获得访问权限后，进一步引入了决策与一系列后续操作的新层级。

因此，企业不仅需要验证代理身份的方式，还需具备对其运行位置、具体行为及所持权限的可见性；同时亦需配备控制机制，以便在其行为超出企业预期范围时予以限制或中止。

潜在安全后果则带来另一重担忧。一份 Workato报告 发现，36%的领导者倾向于悄然处理由AI代理引发的安全事件，而非公开披露，这表明企业可能已在监督实践完全建立之前就已面临代理相关事件。

企业AI代理采用的下一阶段，或将更少取决于企业可部署代理的数量，而更多取决于其能否切实管理好已部署的代理。

赋予AI代理权限相对容易；但一旦代理开始行使该权限，对其进行追踪则可能困难得多。

本周AI领域其他新闻还包括：

人形机器人瓶颈在美国与中国紧张关系中浮现：人形机器人产量上升正给供应商带来压力，地缘政治紧张局势则使西方制造商更难获取中国零部件的替代品。

众议院提案拟明确AI代理责任规则：一项拟议的众议院法案将规定，当AI代理实施的行为若由人类实施即属违法，并由此对第三方造成损害时，开发者须承担相应责任。

企业正扩大AI应用——但证明其收益却更为困难：包括桑坦德银行（Santander）、安盛集团（Axa）及荷兰银行（ABN Amro）在内的多家公司，正努力应对AI部署规模扩大背景下如何展现可衡量商业价值的难题。

微软借Azure Maia 300推进定制AI芯片战略：这家科技巨头发布了第三代Maia AI芯片，以拓展其定制硅芯片战略，并已启用Maia 200为Copilot提供算力支持。

DeepSeek事件及企业应从AI代理漏洞中汲取的教训：另一起失控AI模型案例再次凸显：随着模型与代理自主性增强，企业亟需为其提供明确指令并加强监督。

Anthropic称机器人可承担三分之一的体力工作——但尚不具备成本效益：这家生成式AI厂商估计，机器人在技术上已可胜任此类工作，但经济性仍是大规模部署的主要障碍。

面向AI数据中心与加密货币矿机的可靠性标准正趋近采纳：针对50兆瓦或更大规模计算负载的拟议可靠性规则，正朝着可能获北美电力可靠性公司（North American Electric Reliability Corporation）及联邦监管机构批准的方向推进。