Microsoft 在班加罗尔举行的云与 AI 创新日（Cloud and AI Innovation Day）上展示了以智能体为中心的 AI 技术栈，推出了其所谓的 Microsoft IQ、Fabric IQ、Ontology 层以及 Agent 365 治理框架。此举将重心从独立的聊天机器人转向了在公司云服务中穿梭的自主“智能体”（agents），迫使企业重新思考如何构建、运行和监管 AI。

为什么这一转变在当下至关重要

大多数公司在概念验证（PoC）到全面部署之间停滞不前。瓶颈不在于模型，而在于“管道”——即确保智能体可靠且合规的治理、身份识别和可观测性。Microsoft 的新技术栈填补了这些“管道”空白，提供了一个可复用的智能层，可以运行在任何数据平台和任何大语言模型（LLM）之上。

Microsoft 推出的构建模块

  • Microsoft IQ – 一个运行在客户租户中的智能层，让客户能够直接控制提示词（prompts）、记忆和策略。
  • Fabric IQ – 将相同的功能内置于 Microsoft 的数据织网（data-fabric）产品中，使分析与 AI 共享统一的上下文。
  • Ontology – 一个关于业务流程、实体和关系的实时、机器可读模型，让智能体无需硬编码规则即可理解“谁在做什么”。
  • Agent 365 – 一个治理框架，为每个 AI 智能体附加身份、基于角色的访问控制和审计追踪，使智能体可以像人力资源或安全系统中的员工一样被对待。

这些组件共同将“聊天机器人”转变为“数字同事”，使其能够在组织边界内获取数据、触发工作流并做出决策。

从业者今日可以借鉴的经验

  1. 定义智能体的职位描述 – 将每个 AI 助手视为一个具有明确技能、指令和唯一身份的角色。当智能体表现异常时，首先检查其定义的职责，而不仅仅是触发它的提示词。
  2. 实现模型的可互换性 – 通过将 LLM 与周围的基础设施解耦，公司可以在不重建整个技术栈的情况下，将 GPT 替换为 Claude、Llama 或任何未来的模型。投资将留在编排层，而不是模型本身。
  3. 封装而非推倒重来（Wrap, don't rip） – 遗留系统可以通过适配器接入 AI。Kotak Mahindra 通过在其现有的电话系统中叠加 Azure Voice Live 展示了这一点，证明无需进行全面的系统改造。
  4. 将微调视为一个持续的过程 – 微调需要一个包含准备数据、训练、评估和监控性能的闭环。如果没有评估流水线，任何微调工作都是盲目的。
  5. 从干净的数据开始 – 一位参与者透露，他们的报告中有四分之一从未被使用过。将混乱的数据喂给智能体只会让混乱自动化。数据质量计划和报告合理化应先于大规模 AI 的部署。

企业级技术栈的具体构想

  • 构建统一的可观测性仪表板，用于跟踪 AI 相关成本、延迟和流水线的健康状况。
  • 使用 MCP 协议向智能体开放内部数据仓库，确保数据移动的安全性和可审计性。
  • 创建语义模型，将成本管理查询转换为自然语言，让财务团队能够立即得到“我们上季度的云支出是多少？”之类的回答。
  • 在开发团队中试点 GitHub Copilot，以实现代码审查自动化，并衡量速度提升和缺陷减少的情况。