微软近期在官方文档中透露，尽管 Windows 11 上的新一代 AI 代理存在潜在风险，但依然将其视为未来操作系统的重要组成部分。这些 AI 代理被设计为能够模拟人类的操作，包括点击界面、操作应用和文件，以帮助用户完成多步任务。然而，微软也警告用户，这些代理可能会出现 “幻觉” 现象，或者受到恶意提示的欺骗，甚至可能成为黑客攻击的新入口。


自 2025 年 10 月起，微软计划将每一台 Windows 11 电脑转变为 AI PC，用户可通过自然语言与系统进行交互。新的任务栏搜索框也将选用 “Ask Copilot”，允许用户一键呼出 AI 代理进行后台任务管理。尽管大部分功能目前仍是可选的，但微软已经将 “代理计算” 视为 Windows 的下一代核心架构。


为了应对 AI 代理的安全风险，微软推出了 “Agent Workspace”，为 AI 代理提供一个独立的运行环境。与传统的虚拟机不同，代理工作区将拥有独立账户和权限，旨在将潜在的破坏限制在可控范围内。每个 AI 代理都将与一个受限的用户账户绑定，确保其活动受监控。


然而，AI 代理仍然拥有对 “已知文件夹” 的读写权限，这使得用户对隐私和安全的担忧加剧。微软强调，所有代理功能需由用户主动开启，并提供了一套 “Model Context Protocol” 来规范代理与应用之间的交互。这一协议限制了代理对系统的直接访问，并集中管理认证、授权和日志记录。


尽管微软在 AI 代理的安全设计上进行了诸多努力，但用户对其的信任依然是个重要问题。当前，Windows 11 因体验不佳和隐私问题受到用户质疑，微软必须通过透明、可选的功能以及实际价值来逐步重建信任。


划重点：

🌟 微软计划在 Windows 11 中推进 AI 代理，尽管存在潜在风险。

🔒 推出 “Agent Workspace” 以增强 AI 代理的安全性，限制其操作权限。

💡 用户需主动开启 AI 功能，微软努力通过透明设计重建信任。