[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"content-doc-dciod921ad8c":3},{"user":4,"document":8,"mainDocument":27,"columnUrl":29,"subscription":30,"footer":42,"text":80},{"isAuthenticated":5,"isAdmin":5,"displayName":6,"avatarUrl":6,"nid":6,"groupLevel":7},false,"",-10,{"id":9,"fullTitle":10,"subTitle":6,"url":11,"columnId":12,"columnName":13,"columnUrl":14,"summary":6,"contentHtml":15,"mainContentHtml":6,"posterUrl":16,"createDate":17,"displayDate":18,"displayDateSlash":19,"pageviews":20,"tags":21,"hidden":5,"isSubContent":5,"replyDocOrTargetId":6,"contentType":23,"videoId":6,"liveVideoUrl":6,"useContentVideo":5,"duration":24,"price":24,"priceText":25,"priceBadgeText":25,"priceBadgeClass":26,"freeForMinGroupLevel":24,"redirectUrl":6,"readyToStream":5},"dciod921ad8c","安全争议升温之际英伟达(NVDA)祭出工程化应对！双层AI安全平台直击智能体权限及异常行为","\u002Fdoc\u002Fdciod921ad8c","col18178739ee","美股资讯","\u002Fcol\u002Fcol18178739ee","\u003Cp> \u003C\u002Fp>\n\u003Cp>\u003Cspan>美股投资网获悉，在近期围绕人工智能(AI)行业安全风险的争论愈演愈烈之际，英伟达(NVDA)选择用工程手段予以回应。周一，英伟达发布了名为“开放智能体安全平台”的双层AI安全平台，通过应用层、运行时和基础设施三层架构，为AI智能体提供持续监控、实时策略执行和安全治理。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>据悉，该系统包含两款开源软件工具OpenShell与Nvidia Sentry。其中，开源软件OpenShell可在沙箱环境中运行AI智能体，将用户指令转化为可验证的安全策略，并限制智能体对文件、网络、工具、进程和凭证的访问。Nvidia Sentry则将监控和安全控制延伸至BlueField数据处理单元，通过英伟达DOCA关联智能体交互、策略决策及工具和数据访问记录，用于识别异常行为并在必要时进行干预。换而言之，OpenShell负责控制AI代理可访问的资源和执行权限，Nvidia Sentry则负责监控代理行为并识别潜在威胁。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>英伟达表示，AI智能体可能因工具、运行时间、指令歧义等因素偏离既定任务，因此需要独立于智能体本身的安全控制。该系统针对英伟达Vera CPU和BlueField DPU系统优化，并兼容其他硬件系统。英伟达称，该公司正与Arm(ARM)和英特尔(INTC)合作，以确保该系统同样能够运行在这两家公司的CPU上。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>英伟达AI软件高级总监Ali Golshan表示，英伟达的这些工具利用数学公式来检测AI智能体是否试图采用变通方法，例如某个智能体可能试图“生成”多个“子智能体”，以绕过针对主智能体的阻拦措施。他表示“我们真正讨论的是智能体化行为，也就是由大量智能体组成的集群，以及它们如何协同运行。”\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>英伟达还表示，该系统能够在毫秒级隔离异常代理，并称如果相关实验室此前已部署这套技术，今年7月OpenAI模型攻击Hugging Face的事件本可被阻止。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>英伟达企业计算部门副总裁兼总经理Justin Boitano表示“根据我们目前掌握的信息，如果这套全新的安全平台在早期模型评估阶段就被用于前沿AI实验室，那么它本可以阻止此次入侵。”他补充称“我们正在以开放的方式推进这项工作，也希望与所有人展开合作，共同参与其中。”\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>英伟达发布这一最新AI安全系统的的背景，正值AI智能体相关安全事件持续引发行业关注，尤其是7月的OpenAI模型失控入侵全球知名人工智能开源平台Hugging Face事件。自Hugging Face遭入侵事件后，又有多起与OpenAI相关AI智能体有关的事件被曝光。包括9月有报道称，OpenAI的AI智能体今年春天接管了一个长期无人维护的德国维基网站。此外，OpenAI本月中旬在一篇博客文章中表示，该公司在过去六个月里发现了6起“意外或令人担忧的模型行为”。这6起新公布的AI安全事件涉及多种类型的异常模型行为，包括隐瞒错误、寻求未经授权的凭证、将文件上传至公共网站，以及在原本应保持隔离的训练环境之间进行通信等行为，其中最早的一起克追溯至去年10月。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>随着过去一段时间AI安全事件频发，AI企业正面临越来越大的压力，被要求更认真地对待安全风险。Anthropic首席执行官达里奥·阿莫迪在9月12日发布的一篇警告性文章中就呼吁放缓前沿AI模型开发速度。而这番呼吁迅速得到了马斯克和奥尔特曼这两位关键人物的响应。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>不过，在AI行业巨头罕见地齐声呼吁“踩刹车”之际，英伟达首席执行官黄仁勋态度坚定地对以Anthropic为主的“AI放缓”主张表示反对。黄仁勋反对的并不是AI安全本身，而是从尚未得到证实的灾难性预测，直接推导出整个行业应该暂停或者减速。相比之下，黄仁勋更愿意把AI安全看成一个工程问题。如果一家前沿实验室发生事故，首先应该做的是根因分析到底发生了什么，哪些环节失效了，本来可以采取哪些措施，接下来又该建立什么新的技术和流程。再通过沙箱、持续监控、验证和评测，把同样的问题尽可能挡在下一次发布之前。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>在黄仁勋的判断里，今天最前沿的实验室之所以更容易暴露风险，很大程度上正是因为它们拥有最多的算力，也在处理最困难的问题。随着这些公司从研究机构逐渐变成真正的工程组织，它们也需要建立与之匹配的测试和控制体系。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>从此次发布AI安全系统的举动来看，英伟达正尝试将AI安全能力进一步嵌入模型运行和代理执行的基础设施，通过权限控制和异常隔离降低AI智能体的安全风险。这似乎也意味着，英伟达的业务触角正从AI芯片进一步延伸至软件及安全基础设施领域。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>最专业的美股资讯,推荐美股大数据 \u003Ca href=\"https:\u002F\u002FStockwe.com\u002F\">https:\u002F\u002FStockwe.com\u002F\u003C\u002Fa>\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>如何识别美股市场异常波动？美国机构主力资金买卖情况，出货和吸筹，使用美股投资网VIP会员，2008年成立于美国硅谷，由前纽约证券交易所分析师Ken创立，联合多位摩根斯坦利分析师，谷歌 Meta工程师利用AI和大数据，配合十多年美股实战经验和业内量化模型，建立了一个股市数据库 \u003Ca href=\"https:\u002F\u002FStockWe.com\u002F\">https:\u002F\u002FStockWe.com\u002F\u003C\u002Fa> 每天处理千万级股票数据：捕捉期权大单，实时主力资金流向、机构持仓变化、川普突发新闻，精准交易信号第一时间发到您手机APP！\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp> \u003C\u002Fp>","https:\u002F\u002Fwww.tradesmax.com\u002Fimages\u002Fa_Stock\u002FN\u002FNVDA\u002FNVDA.jpg","2026-09-28T17:45:15","2026.09.28","2026\u002F09\u002F28",45404,[22],"NVDA","Article",0,"免费","success",{"id":9,"fullTitle":10,"subTitle":6,"url":11,"columnId":12,"columnName":13,"columnUrl":14,"summary":6,"contentHtml":15,"mainContentHtml":6,"posterUrl":16,"createDate":17,"displayDate":18,"displayDateSlash":19,"pageviews":20,"tags":28,"hidden":5,"isSubContent":5,"replyDocOrTargetId":6,"contentType":23,"videoId":6,"liveVideoUrl":6,"useContentVideo":5,"duration":24,"price":24,"priceText":25,"priceBadgeText":25,"priceBadgeClass":26,"freeForMinGroupLevel":24,"redirectUrl":6,"readyToStream":5},[22],"\u002Fcol\u002Fstocknews",{"visible":5,"marketingHtml":31,"services":32,"recentDocuments":41},"\u003Cfigure class=\"image\">\u003Ca href=\"https:\u002F\u002Fstockwe.com\u002Fdoc\u002Fdcio537efad5\" rel=\"noopener noreferrer\">\u003Cimg src=\"\u002Fimg\u002Fstockwewebfiles\u002Fweb-202408-stk\u002F1586109431mceclip0.jpg\">\u003C\u002Fa>\u003C\u002Ffigure>\u003Cdiv class=\"text-center\">\u003Ch2 class=\"card-title mx-auto\">\u003Cbr>\u003Ca rel=\"noopener noreferrer\" href=\"https:\u002F\u002Fstockwe.com\u002Fdoc\u002Fdcio537efad5\">案例介绍：英伟达深度研究报告\u003C\u002Fa>\u003C\u002Fh2>\u003C\u002Fdiv>",[33,37],{"productId":34,"serviceName":35,"priceText":36},"prod_PPxdDdK87QaiLv","月付","$12.95美元",{"productId":38,"serviceName":39,"priceText":40},"prod_PPxeMs3bix1da5","年付","$149.00美元",[],{"links":43,"images":71,"summaryHtml":76,"aboutTitle":77,"aboutHtml":78,"copyrightHtml":79},[44,47,50,53,56,59,62,65,68],{"label":45,"url":46},"深度报告","\u002Fcol\u002FdepthReport",{"label":48,"url":49},"VIP会员","\u002Fvip",{"label":51,"url":52},"期权推荐","\u002FOption",{"label":54,"url":55},"低价暴涨股","\u002FPenny",{"label":57,"url":58},"AI智能体","\u002FAiAgent",{"label":60,"url":61},"常见问题","https:\u002F\u002Fstockwe.com\u002FFAQ",{"label":63,"url":64},"美股课程","\u002Fcol\u002Fvideos",{"label":66,"url":67},"免责声明","\u002Fdisclaimer",{"label":69,"url":70},"联系我们","\u002FContactUs",[72,73,74,75],"\u002Fimg\u002Fstockwebsiteblob\u002Fweb-202509-stk\u002FUploaderzic2tuwsol2_2025_09_11_18_21_07.gif","\u002Fimg\u002Fstockwebsiteblob\u002Fweb-202509-stk\u002FUploadercakzdvydksw_2025_09_03_09_00_56.png","\u002Fimg\u002Fstockwebsiteblob\u002Fweb-202509-stk\u002FUploadergtjyagwvoyk_2025_09_14_08_32_05.png","\u002Fimg\u002Fstockwebsiteblob\u002Fweb-202509-stk\u002FUploader3u0tt4jhlqh_2025_09_23_22_30_48.png","邮箱: buy@TradesMax.com 美国电话 626-378-3637","公司介绍","\u003Cp class=\"MsoNormal\">美股大数据 \u003Ca href=\"https:\u002F\u002Fstockwe.com\" rel=\"noopener\">StockWe.com\u003C\u002Fa> 是一个美国领先的金融和美股信息大数据提供商，紧盯华尔街金融市场和行情，2008年成立于美国硅谷，创始人是前纽约证券交易所资深分析师Ken，联合多位摩根斯坦利分析师，谷歌 Meta工程师利用AI和大数据，配合十多年美股实战经验和业内量化交易模型，每天处理海量股票数据：挖掘潜力大牛股，捕捉期权异动大单，实时主力资金流向、机构持仓变化、川普突发新闻，美股买卖信号第一时间发到您手机APP。\u003C\u002Fp>","专业美股投资者都在这里",{"loading":81,"search":82,"searchPlaceholder":82,"hotContent":83,"draft":84,"noData":85,"searchNoData":86,"courseContent":87,"more":88,"buyNow":89,"subscribeNow":90,"encoding":91,"paidContent":92},"Loading...","搜索","热门内容","草稿","目前没有任何内容公布","当前检索内容没有数据","课程内容","更多","立即购买后观看","- 立即订阅 -","视频编码中...","付费内容"]