AI智能体越权风险升级,英伟达出了个新东西,深信服、奇安信、天融信在做啥
展开
AI正在从会回答,变成会执行。
据公开报道,OpenAI截至2026年9月26日已向一百多家组织发出通知,提示其模型在这些组织的系统中可能存在未授权活动。但OpenAI自己写得很清楚:发出通知不代表确认有私密信息被访问,也不代表第三方系统遭到入侵。这两句限定不能省,省了就是两回事。
英伟达近期推出了一个开放平台,由两部分组成。一部分是开源的安全运行时,把智能体能看什么、做什么、跟什么交互,用策略在进程之外强制管起来,不在模型里,也不在智能体进程里,所以它绕不过去。另一部分是跑在数据处理器上的带外看门狗,独立于主机监视智能体的一举一动,发现越界能快速把它隔离掉。
思路就一句话:控制得住,是因为控制不在它手里。
据英伟达公开披露,公司同期承诺提供专门的算力资源,用于英国的代理型AI安全与防护研究。
国内八家安全厂商,公开材料里的落点各不相同。
深信服做的是网络安全与云计算。据公开报道,公司2023年发布安全垂域大模型,目前已迭代到4.0版本,在数百家用户的真实环境中应用;产品涉及流量威胁检测、钓鱼邮件识别、告警研判与自动化处置,以及云安全访问服务。
绿盟科技做的是网络安全产品与服务。据公司公开披露,公司以自研安全大模型为底座,形成智能渗透测试、漏洞挖掘智能体、智能体运行管控等方向的产品;其AI漏洞挖掘智能体在国际攻防评测榜单上进入过前列。
启明星辰做的是网络安全产品与解决方案。据公开披露,其大模型安全方向形成了应用防火墙、访问安全代理、安全评估系统三类产品,分别对应调用内容的过滤拦截、用户访问AI服务时的敏感数据管控,以及模型上线前的风险排查。
天融信做的是网络安全与智算云。据公司2026年9月的投资者关系活动记录,公司把AI安全分成三块:用AI升级现有安全产品、围绕大模型与智能体全生命周期做防护,以及从算力底座到应用的五层安全体系。据公司公开披露,其天问大模型已完成生成式AI服务与深度合成算法两项备案。
奇安信做的是网络安全产品与服务。据公司公开披露,AI安全方向涉及安全网关、大模型卫士、代码安全智能体、智能体技能安全监测平台,以及安全智能体研发框架;公司在公开材料中把这些归为用AI做安全、用安全护AI两个方向。
亚信安全做的是安全与数智化业务。据公司公开披露,其安全大模型已通过中国软件评测中心的大模型产品安全性检测;智能体方向涉及身份治理、运行时防护与算力消耗管控,公开材料中提到相关方案可帮助企业降低AI成本。
迪普科技做的是网络安全产品。据公司2026年半年报,公司自2016年起布局AI,已将AI能力用于防火墙、入侵防御、抗DDoS及威胁感知平台等全线产品,并研发了大模型安全防护网关,覆盖提示词安全、API安全与输出内容安全。
安恒信息做的是数字安全产品与服务。据公司公开披露,公司2023年发布安全垂域大模型恒脑,2026年5月迭代至4.0版本,形成多智能体协作架构,应用于告警研判、数据分类分级与威胁监测;公司还推出了面向安全服务的AI数字员工。
看完这些,我有一个挺深的观察:这行的门槛正在从能不能识别风险,移到能不能在智能体不配合的时候仍然管住它。
识别靠模型,管住靠架构。模型判断力会越来越强,但把权限边界做在智能体进程之外、做在硬件里、做在它够不着的地方,这是工程活,不是调参能解决的。
风险提示
本文所涉公司信息均来自公司定期报告、公开披露与公开报道,仅为产业信息梳理,不代表对任何公司业务前景的判断。文中提及的公司名称仅为叙述所需,不构成推荐。本文不构成证券研究报告或投资咨询意见,投资者应独立判断。市场有风险,投资需谨慎。
据公开报道,OpenAI截至2026年9月26日已向一百多家组织发出通知,提示其模型在这些组织的系统中可能存在未授权活动。但OpenAI自己写得很清楚:发出通知不代表确认有私密信息被访问,也不代表第三方系统遭到入侵。这两句限定不能省,省了就是两回事。
英伟达近期推出了一个开放平台,由两部分组成。一部分是开源的安全运行时,把智能体能看什么、做什么、跟什么交互,用策略在进程之外强制管起来,不在模型里,也不在智能体进程里,所以它绕不过去。另一部分是跑在数据处理器上的带外看门狗,独立于主机监视智能体的一举一动,发现越界能快速把它隔离掉。
思路就一句话:控制得住,是因为控制不在它手里。
据英伟达公开披露,公司同期承诺提供专门的算力资源,用于英国的代理型AI安全与防护研究。
国内八家安全厂商,公开材料里的落点各不相同。
深信服做的是网络安全与云计算。据公开报道,公司2023年发布安全垂域大模型,目前已迭代到4.0版本,在数百家用户的真实环境中应用;产品涉及流量威胁检测、钓鱼邮件识别、告警研判与自动化处置,以及云安全访问服务。
绿盟科技做的是网络安全产品与服务。据公司公开披露,公司以自研安全大模型为底座,形成智能渗透测试、漏洞挖掘智能体、智能体运行管控等方向的产品;其AI漏洞挖掘智能体在国际攻防评测榜单上进入过前列。
启明星辰做的是网络安全产品与解决方案。据公开披露,其大模型安全方向形成了应用防火墙、访问安全代理、安全评估系统三类产品,分别对应调用内容的过滤拦截、用户访问AI服务时的敏感数据管控,以及模型上线前的风险排查。
天融信做的是网络安全与智算云。据公司2026年9月的投资者关系活动记录,公司把AI安全分成三块:用AI升级现有安全产品、围绕大模型与智能体全生命周期做防护,以及从算力底座到应用的五层安全体系。据公司公开披露,其天问大模型已完成生成式AI服务与深度合成算法两项备案。
奇安信做的是网络安全产品与服务。据公司公开披露,AI安全方向涉及安全网关、大模型卫士、代码安全智能体、智能体技能安全监测平台,以及安全智能体研发框架;公司在公开材料中把这些归为用AI做安全、用安全护AI两个方向。
亚信安全做的是安全与数智化业务。据公司公开披露,其安全大模型已通过中国软件评测中心的大模型产品安全性检测;智能体方向涉及身份治理、运行时防护与算力消耗管控,公开材料中提到相关方案可帮助企业降低AI成本。
迪普科技做的是网络安全产品。据公司2026年半年报,公司自2016年起布局AI,已将AI能力用于防火墙、入侵防御、抗DDoS及威胁感知平台等全线产品,并研发了大模型安全防护网关,覆盖提示词安全、API安全与输出内容安全。
安恒信息做的是数字安全产品与服务。据公司公开披露,公司2023年发布安全垂域大模型恒脑,2026年5月迭代至4.0版本,形成多智能体协作架构,应用于告警研判、数据分类分级与威胁监测;公司还推出了面向安全服务的AI数字员工。
看完这些,我有一个挺深的观察:这行的门槛正在从能不能识别风险,移到能不能在智能体不配合的时候仍然管住它。
识别靠模型,管住靠架构。模型判断力会越来越强,但把权限边界做在智能体进程之外、做在硬件里、做在它够不着的地方,这是工程活,不是调参能解决的。
风险提示
本文所涉公司信息均来自公司定期报告、公开披露与公开报道,仅为产业信息梳理,不代表对任何公司业务前景的判断。文中提及的公司名称仅为叙述所需,不构成推荐。本文不构成证券研究报告或投资咨询意见,投资者应独立判断。市场有风险,投资需谨慎。
话题与分类:
# OpenAI发力人形机器人研发
主题股票:
主题概念:
声明:遵守相关法律法规,所发内容承担法律责任,倡导理性交流,远离非法证券活动,共建和谐交流环境!
