OpenAI详解AI代理如何应对提示注入攻击
创始人
2026-01-31 11:07:58
0次
AIPress.com.cn报道
1月31日消息，OpenAI 在一篇官方博客中介绍了其 AI 代理在访问网页时，如何降低恶意链接与提示注入（Prompt Injection）带来的潜在威胁。
OpenAI 指出，AI 代理在代表用户执行任务时，往往需要直接控制浏览器并与大量外部网站交互，而互联网中存在的钓鱼网站、恶意页面及数据窃取风险，使代理系统必须具备基础的安全判断能力。
在设计上，OpenAI 并未采用仅允许访问“白名单网站”的方式。公司认为，这种做法虽然安全性较高，但会显著限制代理的可用性与灵活性。作为替代方案，OpenAI 构建了一套独立的网络索引系统，用于记录已经公开存在于互联网上的 URL 地址，该索引不依赖任何用户数据。
根据这一机制，当 AI 代理尝试访问的链接已被记录在独立索引中时，系统将允许其正常打开；若该链接未出现在索引内，用户则会收到提示，需明确授权后才能继续访问。OpenAI 表示，这一设计将安全判断从“是否信任某个网站”转化为“该具体地址是否以公开方式出现在开放网络中”。
OpenAI 还提到，网页可能通过“提示注入”等方式对 AI 模型进行隐蔽操控，诱导其执行非预期操作，例如请求敏感信息或破坏系统安全。公司在此前发布的研究论文中，对此类攻击方式及其防范手段进行了更为技术化的说明。
OpenAI 强调，上述机制只是多层防护体系中的一环，并不能保证所有网页内容都是安全的。部分网站仍可能包含社会工程手段或其他恶意设计，AI 代理在当前阶段未必能够完全识别。（AI普瑞斯编译）
相关内容
热门资讯
消息称百度旗下昆仑芯瞄准500...
6 月 29 日消息，据《The Information》昨日援引知情人士消息，百度旗下 AI 芯片...
打造夏日消费新场景 第35届北...
北京商报讯（记者 翟枫瑞）6月29日消息，第35届北京国际燕京啤酒文化节新闻发布会在京举行。本届啤酒...
社保基金持仓数据出炉，一季度增...
最近各大上市公司一季度财报都公开了，咱们国家社保基金的持仓数据也全部曝光。目前社保拿着比亚迪价值44...
36氪首发 | 海思、中兴团队...
作者 | 乔钰杰 编辑 | 袁斯来 硬氪获悉，广州宸思通讯科技有限公司（以下简称“宸思科技”）近日完...
两天蒸发47亿市值！一纸税务通...
一纸税务通知书，能让一家百亿龙头两天蒸发47亿市值。 6月22日，北大荒（600598.SH）公告称...
SK海力士将投资1100万亿韩...
SK集团会长崔泰源6月29日在韩国“三大重大计划”发布会上宣布，公司将投资1100万亿韩元扩大半导体...
两只A股，终止上市！
两家A股公司，即将摘牌。 6月29日，退市沪科(600608.SH)公告称，上海证券交易所将在202...
原创 M...
一家成立近十年的自动驾驶公司，在IPO时吸引了14家基石投资者认购近一半的发行股份，其中不乏奔驰、比...
基金忠言｜国寿安保滤镜碎，三年...
图片来源：视觉中国 蓝鲸新闻6月29日讯（记者 祁和忠）保险系基金公司国寿安保总经理换人了。 6月2...
三星电机计划加码玻璃基板！相关...
6月29日，玻璃基板概念股午后有所回升， 华工科技（000988.SZ）逼近涨停， 彩虹股份（600...
拉萨海关持续壮大外贸经营主体 ...
新华网拉萨6月28日电（记者蒋梦辰）近日，记者从拉萨海关获悉，今年前5个月，西藏有进出口实绩的外...
机构：二季报临近，医药生物板块...
6月29日，华源证券发布了一篇医药生物行业的研究报告，报告指出，业绩期临近，产业链景气度有望再次迎来...
每日收评科创50放量涨超4.5...
财联社6月29日讯，三大指数全线收红，创业板指探底回升，科创50指数大涨4.61%。沪深两市成交额3...
6月多地土拍结构性升温：深圳单...
进入2026年6月，不少城市核心区地块集中诞生高溢价宗地，热度突出的城市包含深圳、杭州、长沙。 其中...
业绩炸裂！盛达资源半年预盈3....
6月29日，贵金属矿山龙头盛达资源（000603.SZ）发布 2026 年半年度业绩预告，上半年业绩...
A股午后拉升三大股指收涨：半导...
A股三大股指6月29日开盘涨跌互现。早盘沪强深弱，创指一度跌超2%。半导体午后拉升，带动两市上涨，沪...
原创 空...
前言 大家好，我是老金。 这几天，两幅极度割裂的画面放在一起，把我看笑了。 一边是在持续的热浪下，欧...
澳大利亚审慎监管局拟放宽银行风...
澳大利亚审慎监管局（APRA）6月29日就修改 银行信用风险资本设定公开征求意见，旨在加大信贷投放以...
全民炒股，急踩刹车！韩国股市突...
屈红燕/证券时报网 全民狂欢、交易高度拥挤、杠杆资金猛增、新入市投资者表现激进、大型IPO吸金等现象...