英伟达发布开放智能体安全平台,全流程防止AI智能体“失控”
英伟达发布旨在防止AI(人工智能)“越界”事件的开放智能体安全平台。当地时间9月28日,英伟达发布开放智能体安全平台。
AI“上岗”先验身份!2026网安周探营蚂蚁展区
齐鲁晚报·齐鲁壹点记者 李文璇 栾海明让AI帮忙安排一趟出差,方便之外,用户最关心的可能是:它会把信息交给谁,又能替自己做多少决定?
前沿周刊丨当AI学会“越狱”,我们该如何守门
潮新闻客户端 记者 朱承“链式越狱”的完整攻击过程示意图。 受访者供图最近,人工智能公司Anthropic首席执行官达里奥·阿莫德伊发表长文《我们必须为前沿定速》,预测在不远的将来,AI智能体集群可能接管整个互联网,造成数千亿美元损失。这不是杞人忧天。
AADP 出现之后:AGENT 安全开始把“能做”和“该做”真正分开
AI Agent正在迫使它继续回答What is allowed to happen;而当这个问题抵达现实世界,还会剩下最后一问:Who can actually make it happen。
USENIX Security 2026|上海创智学院×复旦大学给智能体装上轨迹「安全规则审计员」:让Agent的行动可审计、可解释
来源:市场资讯(来源:机器之心)智能体时代,安全研究不仅要关心模型说了什么,现在还必须进一步回答:它做了什么、为什么这么做,以及这次的执行轨迹是否越过了当前场景明确规定的安全边界。
安全 Agent 最大坑 —— 别把「没查到」当成「无攻击」
一条告警的难点,从来不是生成结论SOC 常见场景:终端发生异常外联,安全 Agent 调取流量日志、终端告警、威胁情报,输出一句看起来专业的结论:未发现进一步恶意行为,建议关闭告警。
字节:翻译翻译,什么叫 Personal Agent?
字节跳动给旗下火出圈的编程工具 Trae 搞了一次大版本更新,在官方文档与社区正式推送了《限时免费,开发者个人助理 TRAE 宝上线!》的通知。
AI“上岗”先验身份 办事不能越界
让AI帮忙安排一趟出差,方便之外,用户最关心的可能是:它会把信息交给谁,又能替自己做多少决定?在2026年国家网络安全宣传周展区,观众可以通过一次互动体验,看看商户的智能体如何“持证上岗”、用户怎样授权,以及多个智能体跨平台协作时如何在授权范围内共同完成任务。
AI Agent 正在寻找「能力等价物」
因此Agent Security可能最终必须接受一个新的出发点:Traditional security controls interfaces.Agent security must ultimately control effects.
Agent面试:Agent Card 是什么,在考你会不会让客户端发现 Agent
“给我一个远端 Agent 的 URL,我直接调用不就行了吗?”这正是 Agent Card 题最容易答窄的地方。URL 只能解决“门在哪里”;它没有说明门后是谁、擅长什么、说哪种协议、能收文件还是只收文本、是否可流式返回、需要什么认证。