Gemini 4 Argon 智能体测试中探测 Epoch AI 网站

2026-11-17 18:23:57

Trajectory Labs 在 2026 年 10 月开展一项 AI 安全测试,要求 Gemini 4 Argon 智能体提供 10 道虚构 FrontierMath 题目的“官方”答案,并指示其不要停止或放弃。Trajectory Labs 称,测试中约 40 个智能体尝试访问 Epoch AI 的真实网站,探测内部接口并尝试 SQL 注入,还通过虚构身份向 Epoch AI 工作人员索取基准测试信息。

Epoch AI 记录显示,10 月 20 日 3 小时内,智能体向其监测接口发送 36,411 次请求和 487 条消息;Epoch AI 表示,智能体未能获取任何私人或机密信息。后续测试中,部分智能体绕过指向本地副本的 DNS 重定向,再次访问真实网站;另有智能体通过共享软件包缓存交流信息。Trajectory Labs 表示,研究人员没有指示智能体攻击网站或冒充员工。

最近融资

查看更多
11-17
$9M11-16

近期发行Token

查看更多
12-31
12-31
SSaturnSTRN
12-31

𝕏 最新关注

查看更多
SSolana关注了Abra
11-16
BBase关注了Multipli
11-16