OpenAI详解AI代理如何应对提示注入攻击
创始人
2026-01-31 11:07:58
0次
AIPress.com.cn报道
1月31日消息，OpenAI 在一篇官方博客中介绍了其 AI 代理在访问网页时，如何降低恶意链接与提示注入（Prompt Injection）带来的潜在威胁。
OpenAI 指出，AI 代理在代表用户执行任务时，往往需要直接控制浏览器并与大量外部网站交互，而互联网中存在的钓鱼网站、恶意页面及数据窃取风险，使代理系统必须具备基础的安全判断能力。
在设计上，OpenAI 并未采用仅允许访问“白名单网站”的方式。公司认为，这种做法虽然安全性较高，但会显著限制代理的可用性与灵活性。作为替代方案，OpenAI 构建了一套独立的网络索引系统，用于记录已经公开存在于互联网上的 URL 地址，该索引不依赖任何用户数据。
根据这一机制，当 AI 代理尝试访问的链接已被记录在独立索引中时，系统将允许其正常打开；若该链接未出现在索引内，用户则会收到提示，需明确授权后才能继续访问。OpenAI 表示，这一设计将安全判断从“是否信任某个网站”转化为“该具体地址是否以公开方式出现在开放网络中”。
OpenAI 还提到，网页可能通过“提示注入”等方式对 AI 模型进行隐蔽操控，诱导其执行非预期操作，例如请求敏感信息或破坏系统安全。公司在此前发布的研究论文中，对此类攻击方式及其防范手段进行了更为技术化的说明。
OpenAI 强调，上述机制只是多层防护体系中的一环，并不能保证所有网页内容都是安全的。部分网站仍可能包含社会工程手段或其他恶意设计，AI 代理在当前阶段未必能够完全识别。（AI普瑞斯编译）
相关内容
热门资讯
原创 4...
写在文章前的声明：在本文之前的说明：本文中所列的投资信息，只是一个对基金资产净值进行排行的客观描述，...
胜宏科技港股大涨49% 做完英...
记者 陈月芹 4月21日，全球AI算力板龙头胜宏科技（02476.HK）登陆港交所，上市首日股价大涨...
永赢基金：聚焦“科技新锐”，科...
数据来源：Wind，时间统计区间为2025/1/1-2026/4/21，指数过往表现不预示未来，不构...
五大阅读趋势显现！当当网发布2...
在第31个世界读书日即将来临之际及首个全民阅读活动周期间，当当网正式发布2026国民阅读洞察报告。 ...
业绩逐季回暖 老百姓大药房一季...
上证报中国证券网讯（记者 夏子航）4月22日晚，老百姓大药房发布2025年年报和2026年一季报。今...
中国20强城市大洗牌：苏州接近...
中国的城市经济竞争格局一直在变化，每年发布的GDP数据都会对城市经济实力进行重新排列。2025年榜又...
直击金宏气体股东会：预期年内氦...
《科创板日报》4月22日讯（记者 郭辉）金宏气体日前举行2025年度股东大会。会上该公司审议了公司年...
5月1日起，俄据悉将叫停哈萨克...
据行业消息人士透露，俄罗斯将于5月1日起停止经友谊管道转运哈萨克斯坦输往德国的石油，相关调整计划已送...
深化具身智能生态布局 京东携手...
4 月 22 日，京东与国内消费级人形机器人头部企业松延动力正式达成三年期战略合作。双方将围绕产品研...
原创 帮...
先问你一个问题，美伊停火今晚到期，按常理避险情绪该升温，黄金应该涨吧？结果恰恰相反——原油涨了，黄金...
300295、600889，将...
三六五网、南京化纤，将被*ST。 公司股票自4月23日开市起停牌一天，于4月24日开市起复牌并实施退...
能源大变天！外媒：羡慕中国的石...
这一次油价突破 110 美元的能源危机，着实魔幻。如果放在十年前，没人会相信中国能在这场风波中获利，...
黄金涨跌两难，现在还能上车吗？
中新网4月22日电(记者 左雨晴) 四月以来，美伊局势反复拉扯，美联储降息预期一变再变。黄金价格在4...
“我身体健康”，库克现身员工大...
当地时间4月21日，受苹果官宣CEO换届影响，公司股价盘中下探超2%，总市值失守4万亿美元关口，收盘...
库克留下一个悬念
工程师能否拯救创新节奏？ 听筒Tech（ID:tingtongtech）原创 文 | 赵 森 ...
探索消费信贷与社交支付深度融合...
腾讯这一金融产品再添新功能，4月19日，北京商报记者注意到，微信分付灰度测试转账功能引发热议，在向微...
土耳其主要银行股指早盘下跌2%
每经AI快讯，4月20日，土耳其主要银行股指早盘下跌2%。 每日经济新闻
好用的OTA代运营源头厂家
在如今竞争激烈的酒旅行业中，OTA代运营服务成为了众多酒店、民宿提升竞争力的关键。但市场上的代运营厂...
成都五一出游全国热门第三
“五一”假期临近，同程旅行最新发布的《2026“五一”旅行趋势报告》显示，今年“五一”期间成都同时位...