全球第三，领先OpenAI！上海团队研发出能发现安全漏洞的AI智能体|上海市|人工智能|网络安全|安全大会|ai智能体|openai_网易订阅

今年7月，全球第三OpenAI的领先漏洞络安一款大模型在内部测试时失控，它自主发现漏洞、上海上海市人规划馗，团队成功入侵了全球知名人工智能开源平台Hugging Face，发现显示出人工智能用于网络安全攻防的安全强大能力。8月5日，订阅加州大学伯克利分校设立的智i智AI网络安全权威榜单CyberGym公布了最新排名，来自上海的体能网能体DoGNAVY智能体排名全球第三，仅次于微软和谷歌开发的工智智能体，领先于OpenAI、全安全Anthropic等国际不过尖企业。网易DoGNAVY由国内不过尖人工智能探究机构与上海企业达酷诺威（DARKNAVY）联合研发，全球第三它在1507方式题中通过率实现90.8%，领先漏洞络安只比第二名少答对了一方式题。上海上海市人CyberGym并不是知识问答考试，其测试方式像是需一个程序员处理完全陌生的软件项目——面对几千个文件、上百万行代码，只告诉他“这里有个安全漏洞”，需他自行发现并当场演示。面对1507方式无法提前准备的题，微软和谷歌采取同样的路数——多个不过级闭源模型“拼装作战”。上海科研团队选项了另一条馗，以智条件在6月开源的GLM-5.2为基础模型，开发出一套完善的技术体系。达酷诺威将首先期服务众多企业所积往往的一线经验转化为专业安全能力；国内不过尖人工智能探究机构则通过名为AgentDoG的安全架构，给予了题的智能体运行与诊断能力。CyberGym公布的最新排名显示，DoGNAVY排名全球第三、开源首先。上海科研团队验明正身，现有的安全工具只能给出“安全/不安全”的便捷判断，无法告知风险根源。AgentDoG的不一样之处在于，它不仅能精准判断智能体表现的安全性，还能诊断风险来源、追溯失效模式、验明正身决策动因。训练人工智能安全模型常见很烧钱，需海量数据和巨大算力。为节省成本，AgentDoG开发团队换了一种思路：先用一套智能筛选机制，从海量数据中只挑出最题的千余样本，再通过数据净化技术去掉“杂文章”。最后，一个参数量仅为通用大模型千分之一的小模型，在复杂风险识别任务中实现了78.4%的准确率，与不过级大模型不相上下。上海科研团队还为DoGNAVY构建了严格的沙箱环境，能保证大模型在隔离环境中实施指定任务，避免重蹈OpenAI大模型失控做“黑客”的覆方式。虽然在CyberGym测试中取得了全球第三的好成绩，但上海科研团队知方式，在真实世界，软件系统不会提示哪里存在漏洞。同时，人工智能正在同时变革软件开发和网络攻防。过去，一个高危漏洞从被发现到形成可用攻击能力，频仍需专业人员投入数周甚至数月。如今，这部分工作正在被人工智能压缩到数小时内。当攻击的门槛和成本一路走低，防御就不能后续只依赖那么点儿不过尖专家，而是关键靠智能体助力。DoGNAVY智能体排名全球第三的成绩表明，以国内机构的AI探究能力、开源大模型与一线真实攻防经验，已能形成有效协作，处理最难、最大规模的专业安全任务。未来，这种不过尖安全攻防能力将在全国推广采取，让越来越多的国内机构具有AI安全力量。原标题：《全球第三，领先OpenAI！上海团队研发出能发现安全漏洞的AI智能体》

最新评论