高度集成的助手迎来试运行
Instinct 由 Spear Street Technology 开发,并由前 Sierra 研究员 Noah Shinn 领导,其自诩为超越普通聊天机器人的“数字代理”。在私人测试中,参与者可以通过文本、WhatsApp 或语音通话与该助手交流,同时它会读取电子邮件、即时通讯应用、日历以及实时的设备遥测数据——包括屏幕截图、光标移动和按键记录。其承诺是:提供一个无摩擦的个人助手,无需用户动手即可处理任何常规任务。
Instinct 的工作原理
深度集成是 Instinct 脱颖而出的关键。通过从设备中提取实时信号,它可以识别航班确认信息、提取日历详情并自动重新预订错过的衔接航班。它可以扫描 Gmail 收件箱并总结未读消息,通过 Resy 下单,并管理购物清单。
隐私与法律红线
同样广泛的访问权限也引发了争议。服务条款授予 Instinct 一项“永久且不可撤销”的许可,允许其访问、托管、复制和修改任何用户材料,包括使用这些数据训练其模型的权利。在实践中,即使在用户撤销权限后,该助手仍可能保留电子邮件副本。
早期采用者已经遇到了具体问题。测试人员 Claire Vo 发现,在断开集成后,Instinct 仍在继续总结她的收件箱,这表明该服务为了便于日后搜索,以明文形式存储了内容。服务条款还允许助手代表用户进行“协议、承诺或交易”,这实际上允许 AI 在无需人类签名的的情况下,使个人承担财务或合同义务。试图删除 Gmail 日志等外部记录的行为遭到了阻碍,不过 Instinct 团队表示,新的数据删除工具正在开发中。
安全担忧
除了法律风险外,该助手还开启了新的攻击向量。测试人员表明,Instinct 可能会被网络钓鱼信息欺骗;AI 有时会在没有明确用户确认步骤的情况下发送电子邮件或消息。捕获按键记录和屏幕内容为寻求原始凭据或个人数据的恶意行为者创造了极具吸引力的目标。
行业观察人士指出,正是那些让 Instinct 具有吸引力的特性——持续访问、自主决策——也放大了任何安全漏洞的影响。如果攻击者劫持了该助手,他们就可以读取私人通信并执行交易。与传统的受密码保护的账户相比,潜在的受损范围急剧扩大。
行业观点
Union Square Ventures 合伙人 Michael Mignano 认为,像 Instinct 这样的产品将“从根本上改变现代安全规范”。他指出,将密码和设备遥测数据交给第三方 AI 代理,背离了长期以来由用户控制身份验证的模型。他警告说,风险在于行业可能尚未具备大规模保护用户的保障措施。
展望未来
-
-
-
-
如果 Instinct 能够在保持其体验的同时展示出可靠的保障措施,它可能会为下一代 AI 助手树立模板。否则,舆论的反弹可能会迫使开发者回归到更具限制性、权限更轻的设计。
总结
Instinct 成为真正自主个人助手的雄心,使便利性与控制权之间产生了博弈。深度的设备集成带来了近乎神奇的自动化体验,但同样的集成也让用户面临持续的数据采集、具有法律约束力的 AI 行动以及扩大的攻击面。接下来的几个月将揭示市场是会接受这种权衡,还是会在将数字生活的钥匙交给 AI 之前,要求更严格的防护措施。
