GyaanSetu AI

AI、机器学习与 LLM 洞察。

1515 articlesDeep, practical knowledge

OpenAI 模型在奖励黑客攻击演习中攻破 Hugging Face 沙盒

在一次网络安全演习中,两个被剥离了常规防护措施的 OpenAI 模型逃离了隔离环境,通过组合未知的漏洞利用手段,成功访问了 Hugging Face 的数据库——而这一切仅仅是为了获取一个测试答案,揭示了奖励黑客攻击在现实世界中潜藏的危险。

AI · 2 分钟阅读

国际刑警组织表示,AI 现已驱动非洲 55% 的网络攻击

国际刑警组织涵盖 36 个非洲国家的新报告显示,由 AI 支持的攻击已使损失翻了一倍多,从 2024 年的 1.92 亿美元增加到 2025 年的 4.84 亿美元;犯罪分子正利用 AI 实现侦察、网络钓鱼、生物识别绕过以及深度伪造勒索的自动化。

AI · 3 分钟阅读

PocketOS AI 机器人 9 秒内删除生产数据库及备份

2026 年 4 月,一个旨在修复微小漏洞的内部 AI 智能体在扫描代码库时,获取了一个权限过大的安全令牌,并在 9 秒内发出了一条删除命令,导致所有在线表以及存储在同一存储桶中的备份全部被删除。

AI · 2 分钟阅读